数据量过大时数据库操作的处理[6]

[入库:2005年8月18日] [更新:2007年3月24日]

本文简介:选择自 cuijian_ok 的 blog

 

从上表中,我们可以看出,三种存储过程在执行100页以下的分页命令时,都是可以信任的,速度都很好。但第一种方案在执行分页1000页以上后,速度就降了下来。第二种方案大约是在执行分页1万页以上后速度开始降了下来。而第三种方案却始终没有大的降势,后劲仍然很足。

在确定了第三种分页方案后,我们可以据此写一个存储过程。大家知道sql server的存储过程是事先编译好的sql语句,它的执行效率要比通过web页面传来的sql语句的执行效率要高。下面的存储过程不仅含有分页方案,还会根据页面传来的参数来确定是否进行数据总数统计。

-- 获取指定页的数据

create procedure pagination3

@tblname   varchar(255),       -- 表名

@strgetfields varchar(1000) = '*',  -- 需要返回的列

@fldname varchar(255)='',      -- 排序的字段名

@pagesize   int = 10,          -- 页尺寸

@pageindex  int = 1,           -- 页码

@docount  bit = 0,   -- 返回记录总数, 非 0 值则返回

@ordertype bit = 0,  -- 设置排序类型, 非 0 值则降序

@strwhere  varchar(1500) = ''  -- 查询条件 (注意: 不要加 where)

as

declare @strsql   varchar(5000)       -- 主语句

declare @strtmp   varchar(110)        -- 临时变量

declare @strorder varchar(400)        -- 排序类型

 

if @docount != 0

  begin

    if @strwhere !=''

    set @strsql = "select count(*) as total from [" + @tblname + "] where "+@strwhere

    else

    set @strsql = "select count(*) as total from [" + @tblname + "]"

end 

--以上代码的意思是如果@docount传递过来的不是0,就执行总数统计。以下的所有代码都是@docount为0的情况

else

begin

 

if @ordertype != 0

begin

    set @strtmp = "<(select min"

set @strorder = " order by [" + @fldname +"] desc"

--如果@ordertype不是0,就执行降序,这句很重要!

end

else

begin

    set @strtmp = ">(select max"

    set @strorder = " order by [" + @fldname +"] asc"

end

 

if @pageindex = 1

begin

    if @strwhere != ''  

    set @strsql = "select top " + str(@pagesize) +" "+@strgetfields+ "  from [" + @tblname + "] where " + @strwhere + " " + @strorder

     else

     set @strsql = "select top " + str(@pagesize) +" "+@strgetfields+ "  from ["+ @tblname + "] "+ @strorder

--如果是第一页就执行以上代码,这样会加快执行速度

end

else

begin

--以下代码赋予了@strsql以真正执行的sql代码

set @strsql = "select top " + str(@pagesize) +" "+@strgetfields+ "  from ["

    + @tblname + "] where [" + @fldname + "]" + @strtmp + "(["+ @fldname + "]) from (select top " + str((@pageindex-1)*@pagesize) + " ["+ @fldname + "] from [" + @tblname + "]" + @strorder + ") as tbltmp)"+ @strorder

 

if @strwhere != ''

    set @strsql = "select top " + str(@pagesize) +" "+@strgetfields+ "  from ["

        + @tblname + "] where [" + @fldname + "]" + @strtmp + "(["

        + @fldname + "]) from (select top " + str((@pageindex-1)*@pagesize) + " ["

        + @fldname + "] from [" + @tblname + "] where " + @strwhere + " "

        + @strorder + ") as tbltmp) and " + @strwhere + " " + @strorder

end

end  

exec (@strsql)

go

上面的这个存储过程是一个通用的存储过程,其注释已写在其中了。

在大数据量的情况下,特别是在查询最后几页的时候,查询时间一般不会超过9秒;而用其他存储过程,在实践中就会导致超时,所以这个存储过程非常适用于大容量数据库的查询。

笔者希望能够通过对以上存储过程的解析,能给大家带来一定的启示,并给工作带来一定的效率提升,同时希望同行提出更优秀的实时数据分页算法。

 

四、聚集索引的重要性和如何选择聚集索引

在上一节的标题中,笔者写的是:实现小数据量和海量数据的通用分页显示存储过程。这是因为在将本存储过程应用于“办公自动化”系统的实践中时,笔者发现这第三种存储过程在小数据量的情况下,有如下现象:

1、分页速度一般维持在1秒和3秒之间。

2、在查询最后一页时,速度一般为5秒至8秒,哪怕分页总数只有3页或30万页。

虽然在超大容量情况下,这个分页的实现过程是很快的,但在分前几页时,这个1-3秒的速度比起第一种甚至没有经过优化的分页方法速度还要慢,借用户的话说就是“还没有access数据库速度快”,这个认识足以导致用户放弃使用您开发的系统。

笔者就此分析了一下,原来产生这种现象的症结是如此的简单,但又如此的重要:排序的字段不是聚集索引!

本篇文章的题目是:“查询优化及分页算法方案”。笔者只所以把“查询优化”和“分页算法”这两个联系不是很大的论题放在一起,就是因为二者都需要一个非常重要的东西╠╠聚集索引。

在前面的讨论中我们已经提到了,聚集索引有两个最大的优势:

1、以最快的速度缩小查询范围。

2、以最快的速度进行字段排序。

第1条多用在查询优化时,而第2条多用在进行分页时的数据排序。

而聚集索引在每个表内又只能建立一个,这使得聚集索引显得更加的重要。聚集索引的挑选可以说是实现“查询优化”和“高效分页”的最关键因素。

本文关键:数据量过大时数据库操作的处理
  相关方案
Google
 

本站最佳浏览方式为 分辨率 1024x768 IE 6.0(或更高版本的 IE浏览器)

go top