[轉帖]深入淺出理解索引結構
主 ????? 題 : 轉:(一)
作 ????? 者 : freedk ( 書生 )
正文內容 :
(一)深入淺出理解索引結構
實際上,您可以把索引理解為一種特殊的目錄。微軟的
SQL SERVER
提供了兩種索引:聚集索引(
clustered index
,也稱聚類索引、簇集索引)和非聚集索引(
nonclustered index
,也稱非聚類索引、非簇集索引)。下面,我們舉例來說明一下聚集索引和非聚集索引的區別:
其實,我們的漢語字典的正文本身就是一個聚集索引。比如,我們要查“安”字,就會很自然地翻開字典的前幾頁,因為“安”的拼音是“
an”
,而按照拼音排序漢字的字典是以英文字母“
a”
開頭并以“
z”
結尾的,那么“安”字就自然地排在字典的前部。如果您翻完了所有以“
a”
開頭的部分仍然找不到這個字,那么就說明您的字典中沒有這個字;同樣的,如果查“張”字,那您也會將您的字典翻到最后部分,因為“張”的拼音是“
zhang”
。也就是說,字典的正文部分本身就是一個目錄,您不需要再去查其他目錄來找到您需要找的內容。
我們把這種正文內容本身就是一種按照一定規則排列的目錄稱為“聚集索引”。
如果您認識某個字,您可以快速地從自動中查到這個字。但您也可能會遇到您不認識的字,不知道它的發音,這時候,您就不能按照剛才的方法找到您要查的字,而需要去根據“偏旁部首”查到您要找的字,然后根據這個字后的頁碼直接翻到某頁來找到您要找的字。但您結合“部首目錄”和“檢字表”而查到的字的排序并不是真正的正文的排序方法,比如您查“張”字,我們可以看到在查部首之后的檢字表中“張”的頁碼是
672
頁,檢字表中“張”的上面是“馳”字,但頁碼卻是
63
頁,“張”的下面是“弩”字,頁面是
390
頁。很顯然,這些字并不是真正的分別位于“張”字的上下方,現在您看到的連續的“馳、張、弩”三字實際上就是他們在非聚集索引中的排序,是字典正文中的字在非聚集索引中的映射。我們可以通過這種方式來找到您所需要的字,但它需要兩個過程,先找到目錄中的結果,然后再翻到您所需要的頁碼。
我們把這種目錄純粹是目錄,正文純粹是正文的排序方式稱為“非聚集索引”。
通過以上例子,我們可以理解到什么是“聚集索引”和“非聚集索引”。
進一步引申一下,我們可以很容易的理解:每個表只能有一個聚集索引,因為目錄只能按照一種方法進行排序。
(二)何時使用聚集索引或非聚集索引
下面的表總結了何時使用聚集索引或非聚集索引(很重要)。
動作描述
|
使用聚集索引
|
使用非聚集索引
|
列經常被分組排序
|
應
|
應
|
返回某范圍內的數據
|
應
|
不應
|
一個或極少不同值
|
不應
|
不應
|
小數目的不同值
|
應
|
不應
|
大數目的不同值
|
不應
|
應
|
頻繁更新的列
|
不應
|
應
|
外鍵列
|
應
|
應
|
主鍵列
|
應
|
應
|
頻繁修改索引列
|
不應
|
應
|
事實上,我們可以通過前面聚集索引和非聚集索引的定義的例子來理解上表。如:返回某范圍內的數據一項。比如您的某個表有一個時間列,恰好您把聚合索引建立在了該列,這時您查詢
2004
年
1
月
1
日至
2004
年
10
月
1
日之間的全部數據時,這個速度就將是很快的,因為您的這本字典正文是按日期進行排序的,聚類索引只需要找到要檢索的所有數據中的開頭和結尾數據即可;而不像非聚集索引,必須先查到目錄中查到每一項數據對應的頁碼,然后再根據頁碼查到具體內容。
(三)結合實際,談索引使用的誤區
理論的目的是應用。雖然我們剛才列出了何時應使用聚集索引或非聚集索引,但在實踐中以上規則卻很容易被忽視或不能根據實際情況進行綜合分析。下面我們將根據在實踐中遇到的實際問題來談一下索引使用的誤區,以便于大家掌握索引建立的方法。
1
、主鍵就是聚集索引
這種想法筆者認為是極端錯誤的,是對聚集索引的一種浪費。雖然
SQL SERVER
默認是在主鍵上建立聚集索引的。
通常,我們會在每個表中都建立一個
ID
列,以區分每條數據,并且這個
ID
列是自動增大的,步長一般為
1
。我們的這個辦公自動化的實例中的列
Gid
就是如此。此時,如果我們將這個列設為主鍵,
SQL SERVER
會將此列默認為聚集索引。這樣做有好處,就是可以讓您的數據在數據庫中按照
ID
進行物理排序,但筆者認為這樣做意義不大。
顯而易見,聚集索引的優勢是很明顯的,而每個表中只能有一個聚集索引的規則,這使得聚集索引變得更加珍貴。
從我們前面談到的聚集索引的定義我們可以看出,使用聚集索引的最大好處就是能夠根據查詢要求,迅速縮小查詢范圍,避免全表掃描。在實際應用中,因為
ID
號是自動生成的,我們并不知道每條記錄的
ID
號,所以我們很難在實踐中用
ID
號來進行查詢。這就使讓
ID
號這個主鍵作為聚集索引成為一種資源浪費。其次,讓每個
ID
號都不同的字段作為聚集索引也不符合“大數目的不同值情況下不應建立聚合索引”規則;當然,這種情況只是針對用戶經常修改記錄內容,特別是索引項的時候會負作用,但對于查詢速度并沒有影響。
在辦公自動化系統中,無論是系統首頁顯示的需要用戶簽收的文件、會議還是用戶進行文件查詢等任何情況下進行數據查詢都離不開字段的是“日期”還有用戶本身的“用戶名”。
通常,辦公自動化的首頁會顯示每個用戶尚未簽收的文件或會議。雖然我們的
where
語句可以僅僅限制當前用戶尚未簽收的情況,但如果您的系統已建立了很長時間,并且數據量很大,那么,每次每個用戶打開首頁的時候都進行一次全表掃描,這樣做意義是不大的,絕大多數的用戶
1
個月前的文件都已經瀏覽過了,這樣做只能徒增數據庫的開銷而已。事實上,我們完全可以讓用戶打開系統首頁時,數據庫僅僅查詢這個用戶近
3
個月來未閱覽的文件,通過“日期”這個字段來限制表掃描,提高查詢速度。如果您的辦公自動化系統已經建立的
2
年,那么您的首頁顯示速度理論上將是原來速度
8
倍,甚至更快。
在這里之所以提到“理論上”三字,是因為如果您的聚集索引還是盲目地建在
ID
這個主鍵上時,您的查詢速度是沒有這么高的,即使您在“日期”這個字段上建立的索引(非聚合索引)。下面我們就來看一下在
1000
萬條數據量的情況下各種查詢的速度表現(
3
個月內的數據為
25
萬條):
(
1
)僅在主鍵上建立聚集索引,并且不劃分時間段:
Select gid,fariqi,neibuyonghu,title from tgongwen
用時:
128470
毫秒(即:
128
秒)
(
2
)在主鍵上建立聚集索引,在
fariq
上建立非聚集索引:
select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi> dateadd(day,-90,getdate())?
用時:
53763
毫秒(
54
秒)
(
3
)將聚合索引建立在日期列(
fariqi
)上:
select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi> dateadd(day,-90,getdate())
用時:
2423
毫秒(
2
秒)
雖然每條語句提取出來的都是
25
萬條數據,各種情況的差異卻是巨大的,特別是將聚集索引建立在日期列時的差異。事實上,如果您的數據庫真的有
1000
萬容量的話,把主鍵建立在
ID
列上,就像以上的第
1
、
2
種情況,在網頁上的表現就是超時,根本就無法顯示。這也是我摒棄
ID
列作為聚集索引的一個最重要的因素。
得出以上速度的方法是:在各個 select 語句前加: declare @d datetime set @d=getdate()
并在
select
語句后加:
select [ 語句執行花費時間 ( 毫秒 )]=datediff(ms,@d,getdate())
2
、只要建立索引就能顯著提高查詢速度
事實上,我們可以發現上面的例子中,第
2
、
3
條語句完全相同,且建立索引的字段也相同;不同的僅是前者在
fariqi
字段上建立的是非聚合索引,后者在此字段上建立的是聚合索引,但查詢速度卻有著天壤之別。所以,并非是在任何字段上簡單地建立索引就能提高查詢速度。
從建表的語句中,我們可以看到這個有著
1000
萬數據的表中
fariqi
字段有
5003
個不同記錄。在此字段上建立聚合索引是再合適不過了。在現實中,我們每天都會發幾個文件,這幾個文件的發文日期就相同,這完全符合建立聚集索引要求的:“既不能絕大多數都相同,又不能只有極少數相同”的規則。由此看來,我們建立“適當”的聚合索引對于我們提高查詢速度是非常重要的。
3
、把所有需要提高查詢速度的字段都加進聚集索引,以提高查詢速度
上面已經談到:在進行數據查詢時都離不開字段的是“日期”還有用戶本身的“用戶名”。既然這兩個字段都是如此的重要,我們可以把他們合并起來,建立一個復合索引(
compound index
)。
很多人認為只要把任何字段加進聚集索引,就能提高查詢速度,也有人感到迷惑:如果把復合的聚集索引字段分開查詢,那么查詢速度會減慢嗎?帶著這個問題,我們來看一下以下的查詢速度(結果集都是
25
萬條數據):(日期列
fariqi
首先排在復合聚集索引的起始列,用戶名
neibuyonghu
排在后列)
(
1
)
select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>'2004-5-5'?
查詢速度:
2513
毫秒
(
2
)
select gid,fariqi,neibuyonghu,title from Tgongwen where fariqi>'2004-5-5' and neibuyonghu='
辦公室
'?
查詢速度:
2516
毫秒
(
3
)
select gid,fariqi,neibuyonghu,title from Tgongwen where neibuyonghu='
辦公室
'?
查詢速度:
60280
毫秒
從以上試驗中,我們可以看到如果僅用聚集索引的起始列作為查詢條件和同時用到復合聚集索引的全部列的查詢速度是幾乎一樣的,甚至比用上全部的復合索引列還要略快(在查詢結果集數目一樣的情況下);而如果僅用復合聚集索引的非起始列作為查詢條件的話,這個索引是不起任何作用的。當然,語句
1
、
2
的查詢速度一樣是因為查詢的條目數一樣,如果復合索引的所有列都用上,而且查詢結果少的話,這樣就會形成“索引覆蓋”,因而性能可以達到最優。同時,請記住:無論您是否經常使用聚合索引的其他列,但其前導列一定要是使用最頻繁的列。
(四)其他書上沒有的索引使用經驗總結
1
、用聚合索引比用不是聚合索引的主鍵速度快
下面是實例語句:(都是提取
25
萬條數據)
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
使用時間:
3326
毫秒
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where gid<=250000
使用時間:
4470
毫秒
這里,用聚合索引比用不是聚合索引的主鍵速度快了近
1/4
。
2
、用聚合索引比用一般的主鍵作
order by
時速度快,特別是在小數據量情況下
select gid,fariqi,neibuyonghu,reader,title from Tgongwen order by fariqi 用時: 12936
select gid,fariqi,neibuyonghu,reader,title from Tgongwen order by gid? 用時: 18843
這里,用聚合索引比用一般的主鍵作
order by
時,速度快了
3/10
。事實上,如果數據量很小的話,用聚集索引作為排序列要比使用非聚集索引速度快得明顯的多;而數據量如果很大的話,如
10
萬以上,則二者的速度差別不明顯。
3
、使用聚合索引內的時間段,搜索時間會按數據占整個數據表的百分比成比例減少,而無論聚合索引使用了多少個
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1'
用時:
6343
毫秒(提取
100
萬條)
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-6-6'
用時:
3170
毫秒(提取
50
萬條)
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
用時:
3326
毫秒(和上句的結果一模一樣。如果采集的數量一樣,那么用大于號和等于號是一樣的)
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1' and fariqi<'2004-6-6'
用時:
3280
毫秒
4
、日期列不會因為有分秒的輸入而減慢查詢速度
下面的例子中,共有
100
萬條數據,
2004
年
1
月
1
日以后的數據有
50
萬條,但只有兩個不同的日期,日期精確到日;之前有數據
50
萬條,有
5000
個不同的日期,日期精確到秒。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi>'2004-1-1' order by fariqi
用時:
6390
毫秒
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi<'2004-1-1' order by fariqi
用時:
6453
毫秒
(五)其他注意事項
“水可載舟,亦可覆舟”,索引也一樣。索引有助于提高檢索性能,但過多或不當的索引也會導致系統低效。因為用戶在表中每加進一個索引,數據庫就要做更多的工作。過多的索引甚至會導致索引碎片。
所以說,我們要建立一個“適當”的索引體系,特別是對聚合索引的創建,更應精益求精,以使您的數據庫能得到高性能的發揮。
當然,在實踐中,作為一個盡職的數據庫管理員,您還要多測試一些方案,找出哪種方案效率最高、最為有效。
二、改善
SQL
語句
很多人不知道
SQL
語句在
SQL SERVER
中是如何執行的,他們擔心自己所寫的
SQL
語句會被
SQL SERVER
誤解。比如:
select * from table1 where name='zhangsan' and tID > 10000 和執行 : select * from table1 where tID > 10000 and name='zhangsan'
一些人不知道以上兩條語句的執行效率是否一樣,因為如果簡單的從語句先后上看,這兩個語句的確是不一樣,如果
tID
是一個聚合索引,那么后一句僅僅從表的
10000
條以后的記錄中查找就行了;而前一句則要先從全表中查找看有幾個
name='zhangsan'
的,而后再根據限制條件條件
tID>10000
來提出查詢結果。
事實上,這樣的擔心是不必要的。
SQL SERVER
中有一個“查詢分析優化器”,它可以計算出
where
子句中的搜索條件并確定哪個索引能縮小表掃描的搜索空間,也就是說,它能實現自動優化。
雖然查詢優化器可以根據
where
子句自動的進行查詢優化,但大家仍然有必要了解一下“查詢優化器”的工作原理,如非這樣,有時查詢優化器就會不按照您的本意進行快速查詢。
在查詢分析階段,查詢優化器查看查詢的每個階段并決定限制需要掃描的數據量是否有用。如果一個階段可以被用作一個掃描參數(
SARG
),那么就稱之為可優化的,并且可以利用索引快速獲得所需數據。
SARG
的定義:用于限制搜索的一個操作,因為它通常是指一個特定的匹配,一個值得范圍內的匹配或者兩個以上條件的
AND
連接。形式如下:
列名
操作符
<
常數
或
變量
>
或
<
常數
或
變量
>
操作符列名
列名可以出現在操作符的一邊,而常數或變量出現在操作符的另一邊。如:
Name=’
張三’
價格 >5000
5000<
價格
Name=’ 張三’ and 價格 >5000
如果一個表達式不能滿足
SARG
的形式,那它就無法限制搜索的范圍了,也就是
SQL SERVER
必須對每一行都判斷它是否滿足
WHERE
子句中的所有條件。所以一個索引對于不滿足
SARG
形式的表達式來說是無用的。
介紹完
SARG
后,我們來總結一下使用
SARG
以及在實踐中遇到的和某些資料上結論不同的經驗:
1
、
Like
語句是否屬于
SARG
取決于所使用的通配符的類型
如: name like ‘ 張 %’ ,這就屬于 SARG
而:
name like ‘%
張’
,
就不屬于
SARG
。
原因是通配符
%
在字符串的開通使得索引無法使用。
2
、
or
會引起全表掃描
Name=’
張三’
and
價格
>5000
符號
SARG
,而:
Name=’
張三’
or
價格
>5000
則不符合
SARG
。使用
or
會引起全表掃描。
3
、非操作符、函數引起的不滿足
SARG
形式的語句
不滿足
SARG
形式的語句最典型的情況就是包括非操作符的語句,如:
NOT
、
!=
、
<>
、
!<
、
!>
、
NOT EXISTS
、
NOT IN
、
NOT LIKE
等,另外還有函數。
下面就是幾個不滿足
SARG
形式的例子:
ABS( 價格 )<5000
Name like
‘
%
三’
有些表達式,如:
WHERE 價格 *2>5000
SQL SERVER
也會認為是
SARG
,
SQL SERVER
會將此式轉化為:
WHERE 價格 >2500/2
但我們不推薦這樣使用,因為有時
SQL SERVER
不能保證這種轉化與原始表達式是完全等價的。
4 、 IN 的作用相當與 OR
語句:
Select * from table1 where tid in (2,3) 和 Select * from table1 where tid=2 or tid=3
是一樣的,都會引起全表掃描,如果
tid
上有索引,其索引也會失效。
5 、盡量少用 NOT
6
、
exists
和
in
的執行效率是一樣的
很多資料上都顯示說,
exists
要比
in
的執行效率要高,同時應盡可能的用
not exists
來代替
not in
。
但事實上,我試驗了一下,發現二者無論是前面帶不帶
not
,二者之間的執行效率都是一樣的。因為涉及子查詢,我們試驗這次用
SQL SERVER
自帶的
pubs
數據庫。運行前我們可以把
SQL SERVER
的
statistics I/O
狀態打開。
(1)????????
select title,price from titles where title_id in (select title_id from sales where qty>30)
(2)????????
該句的執行結果為:
表
'sales'
。掃描計數
18
,邏輯讀
56
次,物理讀
0
次,預讀
0
次。
表
'titles'
。掃描計數
1
,邏輯讀
2
次,物理讀
0
次,預讀
0
次。
( 2 ) select title,price from titles where exists (select * from sales where sales.title_id=titles.title_id and qty>30)
第二句的執行結果為:
表
'sales'
。掃描計數
18
,邏輯讀
56
次,物理讀
0
次,預讀
0
次。
表
'titles'
。掃描計數
1
,邏輯讀
2
次,物理讀
0
次,預讀
0
次。
我們從此可以看到用
exists
和用
in
的執行效率是一樣的。
7
、用函數
charindex()
和前面加通配符
%
的
LIKE
執行效率一樣
前面,我們談到,如果在
LIKE
前面加上通配符
%
,那么將會引起全表掃描,所以其執行效率是低下的。但有的資料介紹說,用函數
charindex()
來代替
LIKE
速度會有大的提升,經我試驗,發現這種說明也是錯誤的:
select gid,title,fariqi,reader from tgongwen where charindex(' 刑偵支隊 ',reader)>0 and fariqi>'2004-5-5'
用時:
7
秒,另外:掃描計數
4
,邏輯讀
7155
次,物理讀
0
次,預讀
0
次。
select gid,title,fariqi,reader from tgongwen where reader like '%' + ' 刑偵支隊 ' + '%' and fariqi>'2004-5-5'
用時:
7
秒,另外:掃描計數
4
,邏輯讀
7155
次,物理讀
0
次,預讀
0
次。
8
、
union
并不絕對比
or
的執行效率高
我們前面已經談到了在
where
子句中使用
or
會引起全表掃描,一般的,我所見過的資料都是推薦這里用
union
來代替
or
。事實證明,這種說法對于大部分都是適用的。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or gid>9990000
用時:
68
秒。掃描計數
1
,邏輯讀
404008
次,物理讀
283
次,預讀
392163
次。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
union
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where gid>9990000
用時:
9
秒。掃描計數
8
,邏輯讀
67489
次,物理讀
216
次,預讀
7499
次。
看來,用
union
在通常情況下比用
or
的效率要高的多。
但經過試驗,筆者發現如果
or
兩邊的查詢列是一樣的話,那么用
union
則反倒和用
or
的執行速度差很多,雖然這里
union
掃描的是索引,而
or
掃描的是全表。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16' or fariqi='2004-2-5'
用時:
6423
毫秒。掃描計數
2
,邏輯讀
14726
次,物理讀
1
次,預讀
7176
次。
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where fariqi='2004-9-16'
union
select gid,fariqi,neibuyonghu,reader,title from Tgongwen where? fariqi='2004-2-5'
用時:
11640
毫秒。掃描計數
8
,邏輯讀
14806
次,物理讀
108
次,預讀
1144
次。
9 、字段提取要按照“需多少、提多少”的原則,避免“ select *”
我們來做一個試驗:
select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc
用時:
4673
毫秒
select top 10000 gid,fariqi,title from tgongwen order by gid desc
用時:
1376
毫秒
select top 10000 gid,fariqi from tgongwen order by gid desc
用時:
80
毫秒
由此看來,我們每少提取一個字段,數據的提取速度就會有相應的提升。提升的速度還要看您舍棄的字段的大小來判斷。
10
、
count(*)
不比
count(
字段
)
慢
某些資料上說:用
*
會統計所有列,顯然要比一個世界的列名效率低。這種說法其實是沒有根據的。我們來看:
select count(*) from Tgongwen
用時:
1500
毫秒
select count(gid) from Tgongwen 用時:1483毫秒
select count(fariqi) from Tgongwen
用時:
3140
毫秒
select count(title) from Tgongwen?
?
用時:
52050
毫秒
從以上可以看出,如果用
count(*)
和用
count(
主鍵
)
的速度是相當的,而
count(*)
卻比其他任何除主鍵以外的字段匯總速度要快,而且字段越長,匯總的速度就越慢。
我想,如果用
count(*)
,
SQL SERVER
可能會自動查找最小字段來匯總的。當然,如果您直接寫
count(
主鍵
)
將會來的更直接些。
11
、
order by
按聚集索引列排序效率最高
我們來看:(
gid
是主鍵,
fariqi
是聚合索引列)
select top 10000 gid,fariqi,reader,title from tgongwen
用時:
196
毫秒。
掃描計數
1
,邏輯讀
289
次,物理讀
1
次,預讀
1527
次。
select top 10000 gid,fariqi,reader,title from tgongwen order by gid asc
用時:
4720
毫秒。
掃描計數
1
,邏輯讀
41956
次,物理讀
0
次,預讀
1287
次。
select top 10000 gid,fariqi,reader,title from tgongwen order by gid desc
用時:
4736
毫秒。
掃描計數
1
,邏輯讀
55350
次,物理讀
10
次,預讀
775
次。
select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi asc
用時:
173
毫秒。
掃描計數
1
,邏輯讀
290
次,物理讀
0
次,預讀
0
次。
select top 10000 gid,fariqi,reader,title from tgongwen order by fariqi desc
用時:
156
毫秒。
掃描計數
1
,邏輯讀
289
次,物理讀
0
次,預讀
0
次。
從以上我們可以看出,不排序的速度以及邏輯讀次數都是和“
order by
聚集索引列”
的速度是相當的,但這些都比“
order by
非聚集索引列”的查詢速度是快得多的。
同時,按照某個字段進行排序的時候,無論是正序還是倒序,速度是基本相當的。
posted on 2006-08-24 11:10 freebird 閱讀(254) 評論(0) 編輯 收藏 所屬分類: 數據庫