通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍

时间:2022-09-26 14:27:45

通过非聚集索引,可以显著提升count(*)查询的性能。

有的人可能会说,这个count(*)能用上索引吗,这个count(*)应该是通过表扫描来一个一个的统计,索引有用吗?


不错,一般的查询,如果用索引查找,也就是用Index Seek了,查询就会很快。

 

之所以快,是由于查询所需要访问的数据只占整个表的很小一部分,如果访问的数据多了,那反而不如通过表扫描来的更快,因为扫描用的是顺序IO,效率更高,比运用随机IO访问大量数据的效率高很多。

 

相应的,如果只需要访问少量数据,那么索引查找的效率远高于表扫描,因为通过随机IO来访问少量数据的效率远高于通过顺序IO来访问少量数据,之所以扫描的效率较低是由于扫描访问了很多不需要的数据。

 

那么,通过非聚集索引,提升select count(*) from 的查询速度的本质在于,非聚集索引所占空间的大小往往,远小于聚集索引或堆表所占用的空间大小;

同样的,表中占用较少字节的字段的非聚集索引,对于速度的提升效果,也要远大于,占用较多字节的字段的非聚集索引,因为占用字节少,那么索引占用的空间也少,同样是扫描,只需要更少的时间,对硬盘的访问次数也更少,那么速度就会更快了。


下面通过一个实验,来说明非聚集索引为什么能提高count(*)的查询速度。


1、建表,插入数据

[sql]  view plain copy 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍
  1. if OBJECT_ID('test'is not null  
  2.    drop table test  
  3. go  
  4.   
  5. create table test  
  6. (  
  7. id int identity(1,1),  
  8. vid int ,  
  9. varchar(600),  
  10. constraint pk_test_id primary key (id)  
  11. )  
  12. go  
  13.   
  14.   
  15.   
  16. insert into test(vid,v)  
  17. select 1,REPLICATE('a',600) union all  
  18. select 2,REPLICATE('b',600) union all  
  19. select 3,REPLICATE('c',600) union all  
  20. select 4,REPLICATE('d',600) union all  
  21. select 5,REPLICATE('e',600) union all  
  22. select 6,REPLICATE('f',600) union all  
  23. select 7,REPLICATE('g',600) union all  
  24. select 8,REPLICATE('h',600) union all  
  25. select 9,REPLICATE('i',600) union all  
  26. select 10,REPLICATE('j',600)  
  27. go  
  28.   
  29.   
  30. --select POWER(2,18) * 10  
  31. --2621440条数据  
  32. begin tran  
  33.     insert into test(vid,v)  
  34.     select vid,v  
  35.     from test  
  36. commit  
  37. go 18  
  38.   
  39.   
  40. --建立非聚集索引  
  41. create index idx_test_vid on test(vid)  


2、查看采用聚集索引和非聚集索引后,查询的资源消耗

[sql]  view plain copy 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍
  1. --输出详细的IO和时间(cpu、流逝的时间)上的开销信息  
  2. set statistics io on  
  3. set statistics time on  
  4.   
  5.   
  6. /* 采用聚集索引  
  7.   
  8. SQL Server 分析和编译时间:   
  9.    CPU 时间 = 0 毫秒,占用时间 = 0 毫秒。  
  10.   
  11. (1 行受影响)  
  12. 表 'test'。扫描计数 5,逻辑读取 206147 次,物理读取 0 次,预读 0 次,lob 逻辑读取 0 次,lob 物理读取 0 次,lob 预读 0 次。  
  13.   
  14.  SQL Server 执行时间:  
  15.    CPU 时间 = 921 毫秒,占用时间 = 277 毫秒。  
  16. */  
  17. select COUNT(*)  
  18. from test with(index (pk_test_id))  
  19.   
  20.   
  21.   
  22. /*采用非聚集索引  
  23.   
  24. SQL Server 分析和编译时间:   
  25.    CPU 时间 = 0 毫秒,占用时间 = 1 毫秒。  
  26.   
  27. (1 行受影响)  
  28. 表 'test'。扫描计数 5,逻辑读取 4608 次,物理读取 0 次,预读 0 次,lob 逻辑读取 0 次,lob 物理读取 0 次,lob 预读 0 次。  
  29.   
  30.  SQL Server 执行时间:  
  31.    CPU 时间 = 327 毫秒,占用时间 = 137 毫秒。  
  32. */  
  33. select count(*)  
  34. from test with(index (idx_test_vid))  


另外,下图的两个语句一起执行时的执行计划:

通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍


那么如果表没有聚集索引,也没有非聚集索引,效率又会怎么样呢?
[sql]  view plain copy 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍
  1. --删除主键,也就删除了聚集索引  
  2. alter table test  
  3. drop constraint pk_test_id  
  4.   
  5.   
  6. --删除非聚集索引  
  7. drop index idx_test_vid on test  
  8.   
  9.   
  10. /* 表扫描  
  11.   
  12. SQL Server 分析和编译时间:   
  13.    CPU 时间 = 0 毫秒,占用时间 = 0 毫秒。  
  14.   
  15.  SQL Server 执行时间:  
  16.    CPU 时间 = 0 毫秒,占用时间 = 0 毫秒。  
  17. SQL Server 分析和编译时间:   
  18.    CPU 时间 = 0 毫秒,占用时间 = 1 毫秒。  
  19.   
  20. (1 行受影响)  
  21. 表 'test'。扫描计数 5,逻辑读取 201650 次,物理读取 0 次,预读 0 次,lob 逻辑读取 0 次,lob 物理读取 0 次,lob 预读 0 次。  
  22.   
  23. (1 行受影响)  
  24.   
  25.  SQL Server 执行时间:  
  26.    CPU 时间 = 765 毫秒,占用时间 = 233 毫秒。  
  27. SQL Server 分析和编译时间:   
  28.    CPU 时间 = 0 毫秒,占用时间 = 0 毫秒。  
  29.   
  30.  SQL Server 执行时间:  
  31.    CPU 时间 = 0 毫秒,占用时间 = 0 毫秒。  
  32. */  
  33. select count(*)  
  34. from test  

通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍


3、从上面的开销可以看出:

a、通过聚集索引来查询count(*)时,逻辑读取次数206147次,执行时间和占用时间分别是921毫秒和277毫秒,从执行计划中看出,其查询开销是96%。

b、非聚集索引的逻辑读取次数是4608次,而执行时间和占用时间是327毫秒和137毫秒,查询开销是4%。

c、表扫描的逻辑读取次数是201650次,执行时间和占用时间是765毫秒和233毫秒。


这里需要注意的是,由于两个执行计划都采用了并行计划,导致了执行时间远大于占用时间,这主要是因为执行时间算的是多个cpu时间的总和,我的笔记本电脑有4个cpu,那么921/4 大概就是230毫秒左右,也就是每个cpu花在执行上的时间大概是230毫秒左右,和277毫秒就差不多了。


从这些开销信息可以看出,非聚集索引的逻辑读取次数是聚集索引的50分之一,执行时间是聚集索引的2-3分之一左右,查询开销上是聚集索引的24分之一。


很有意思的是,表扫描的逻辑读取次数要比聚集索引的要少4497次,这个逻辑读取次数201650,是可以查到,看下面的代码:

[sql]  view plain copy 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍
  1. use master  
  2. go  
  3.   
  4. --下面的数据库名称是wcc,需要改成你自己的数据库名称  
  5. select index_id,  
  6.        index_type_desc,  
  7.        alloc_unit_type_desc,  
  8.        page_count              --页数为:201650  
  9. from sys.dm_db_index_physical_stats  
  10. (  
  11. db_id('wcc'),object_id('wcc.dbo.test'),0,null,'detailed'  
  12. )d  
  13.   
  14. /*  
  15. index_id    index_type_desc alloc_unit_type_desc    page_count  
  16. 0           HEAP            IN_ROW_DATA             201650  
  17. */  


之所以能查到,是因为全表扫描,无非就是把表中所有的页,都扫描一遍,所以扫描的次数正好是表中的页数201650.


4、那为什么非聚集索引来查询count(*) 的效率是最高的呢?

其实上面分别提到了,通过聚集索引、非聚集索引、表扫描,3种方式来查询,从执行计划可以看出来,3种方式都是扫描,那为什么非聚集索引效率最高?

其实,很简单,谁扫描的次数少,也就是扫描的页数少,那谁的效率当然就高了。


看下面的代码,就明白了:

[sql]  view plain copy 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍 通过非聚集索引让select count(*) from 的查询速度提高几十倍、甚至千倍
  1. use master  
  2. go  
  3.   
  4. --index_id为1表示聚集索引  
  5. select index_id,  
  6.        index_type_desc,  
  7.        alloc_unit_type_desc,  
  8.        page_count                --201650  
  9. from sys.dm_db_index_physical_stats  
  10. (  
  11. db_id('wcc'),object_id('wcc.dbo.test'),1,null,'detailed'  
  12. )d  
  13. where index_level = 0  --只取level为0的,也就是页子级别  
  14.   
  15. /*  
  16. index_id    index_type_desc     alloc_unit_type_desc   page_count  
  17. 1           CLUSTERED INDEX     IN_ROW_DATA            201650  
  18. */  
  19.   
  20.   
  21.   
  22. --index_id为2的,表示非聚集索引  
  23. select index_id,  
  24.        index_type_desc,  
  25.        alloc_unit_type_desc,  
  26.        page_count               --4538  
  27. from sys.dm_db_index_physical_stats  
  28. (  
  29. db_id('wcc'),object_id('wcc.dbo.test'),2,null,'detailed'  
  30. )d  
  31. where index_level = 0  
  32.   
  33. /*  
  34. index_id    index_type_desc     alloc_unit_type_desc    page_count  
  35. 2           NONCLUSTERED INDEX  IN_ROW_DATA             4538  
  36. */  

聚集索引的叶子节点的页数是201650,而非聚集索引的 叶子节点的页数是4538,差了近50倍,而在没有索引的时候,采用表扫描时,叶子节点的页数是201650,与聚集索引一样。


效率的差异不仅在与逻辑读取次数,因为逻辑读取效率本身是很高的,是直接在内存中读取的,但SQL Server的代码需要扫描内存中的数据201650次,也就是循环201650次,可想而知,cpu的使用率会暴涨,会严重影响SQL Server处理正常的请求。


假设这些要读取的页面不在内存中,那问题就大了,需要把硬盘上的数据读到内存,关键是要读201650页,而通过索引只需要读取4538次,效率的差距就会更大。


另外,实验中只是200多万条数据,如果实际生产环境中有2亿条记录呢?到时候,效率的差距会从几十倍上升到几百倍、几千倍。

 

5、那是不是只要是非聚集索引,都能提高select count(*) from查询的效率吗?

这个问题是由下面的网友提出的问题,而想到的一个问题。

如果按照v列来建索引,而v列的数据类型是varchar(600),所以这个新建的索引,占用的页数肯定是非常多的,应该仅次于聚集索引的201650页,那么完成索引扫描的开销肯定大于,按vid列建立的非聚集索引,而vid的数据类型是int。

所以,不是只要是非聚集索引,就能提高查询效率的。

 

总结一下:

执行select count(*) from查询的时候,要进行扫描,有人可能会说,扫描性能很差呀,还能提高性能?那么,难道用索引查找吗?这样性能只会更差。

这里想说的是,没有最好的技术,只有最适合的技术,要想提高这种select count(*) from查询的性能,那就只能用扫描。

这里,要提高效率的关键,就是减少要扫描的页数,而按照占用字节数少的字段,来建立非聚集索引,那么这个非聚集索引所占用的页数,远远少于聚集索引、按占用字节数较多的列建立的非聚集索引,所占用的页数,这样就能提高性能了。


最后,有两个关于索引的帖子,不错:


两个问题:1,(聚集或者非聚集的)索引页会不会出现也拆分;2,非聚集索引存储时又没排序:

http://bbs.csdn.net/topics/390594730


继续:非聚集索引行在存储索引键时确实是排序了的,用事实说话,理论+实践:

http://bbs.csdn.net/topics/390595949