當前位置:首頁 > 公眾號精選 > 小林coding
[導讀]昨天,有個女孩子問我提高數(shù)據(jù)庫查詢性能有什么立竿見影的好方法?這簡直是一道送分題,我自豪且略帶鄙夷的說,當然是加「索引」了。她又不緊不慢的問,索引為什么就能提高查詢性能。這還用問,索引就像一本書的目錄,用目錄查當然很快。她失望地搖了搖頭,你說的只是一個類比,可為什么通過目錄就能提高查詢速度呢。


前言

昨天,有個女孩子問我提高數(shù)據(jù)庫查詢性能有什么立竿見影的好方法?

這簡直是一道送分題,我自豪且略帶鄙夷的說,當然是加「索引」了。

她又不緊不慢的問,索引為什么就能提高查詢性能。

這還用問,索引就像一本書的目錄,用目錄查當然很快。

她失望地搖了搖頭,你說的只是一個類比,可為什么通過目錄就能提高查詢速度呢

唉,對啊,通過書目可以快速查詢,這只是一個現(xiàn)象,真正原因到底是什么呢。

那女孩看著詫異且表情僵硬的我,滿意而又意味深長的笑笑:原來你這個男程序員也不會,看來我還得靠自己研究了。

哎,熬夜又要憔悴了我這該死的美貌。

來自同行的羞辱,是可忍孰不可忍?!

于是,我踏上了數(shù)據(jù)庫索引學習的不歸路,原來數(shù)據(jù)庫索引使用了一種叫 B+ 樹的古老數(shù)據(jù)結構,當然也有 Hash 等類型,暫且不說,可 B+ 樹 這是個什么妖魔鬼怪呢?

下面就來淺嘗輒止的扒一扒樹的前世今生。


正文

二叉樹

由 n( n > 0)個有限節(jié)點組成一個具有層次關系的集合,看起來就像一個倒掛的樹,因此稱這樣的數(shù)據(jù)結構為樹。

一個節(jié)點的子節(jié)點個數(shù)叫做度,通俗的講就是樹叉的個數(shù)。樹中最大的度叫做樹的度,也叫做階。一個 2 階樹最多有 2 個子節(jié)點即最多有 2 叉,因此這樣的樹稱為二叉樹,二叉樹是樹家族中最簡單的樹。

兩個叉的樹就是二叉樹,可這除了用來按一定結構存放數(shù)據(jù)外,跟查詢性能好像也沒關系,不會又是一個沒用的噱頭吧。


二分查找

聽說二叉樹的原始威力來源于一種叫做二分查找的算法。

相傳在鸚鵡的原始社會,存在著森嚴的等級制度,每只鳥必須按高矮順序分出等級和尊卑。

那么問題來了,如下圖,怎樣才能找出最高、最矮、中等高的那些鸚鵡呢、以及指定高度的那只呢?

第一種方法: 掃描法

一個一個依次測量,完畢后所有的問題都迎刃而解。

這種一個一個依次全部測量的方法叫做掃描,他的缺點很明顯,最高和最矮,需要全部測量完畢才能知曉。

而對于指定高度,最好的情況是第一次就找到;最壞的情況是最后一次才找到,時間復雜度為 n,也就是說從 13 個鸚鵡中找到指定身高的那只,最壞的情況是查 13 次。

第二種方法:二分法

13 個鸚鵡全部聽令,按從矮到高列隊,向左看齊,報數(shù)。

報數(shù)字 1 的就是最矮的,報數(shù)字 13 的就是最高的,報數(shù)字 7 的就是中等身高的那只。

最好和最壞的情況都是一次找到。而查詢性能一下子提高 13 倍,我的個乖乖,無論多個只鸚鵡,時間復雜度都是 1,好可怕。

問題:我不服,你這是偷換概念,有本事對比一個查找指定高度鸚鵡的性能。

因為鸚鵡們已經(jīng)按高矮排好了隊,所以指定高度的鸚鵡,要么是站中間那個只,要么就是在它的左邊或右邊的那群里。

如果是中間那個,一次就找到,如果不是只需要從中間左邊或右邊那一半中找,再在這一半中找中間那只,對比身高。

以此類推,每次都把查詢的范圍減半,時間復雜度log2(n)。

那么 log2(13) 就是 4,最壞的情況也才 4 次,時間復雜度確實不是 1 了,但好像也不糟,簡化如下:

問題:如果按高矮排隊,仍然需要一個一個比較,跟掃描有什么區(qū)別,那還不如直接掃描呢?

事實確實如此,單純的一次查詢,先排序,再二分查找,不見得比掃描快,甚至還不如。

但是,在數(shù)據(jù)的世界,大部分數(shù)據(jù)一生會被查詢無數(shù)次,如果只在數(shù)據(jù)降生的時候排一次序,往后余生,是不是就可以直接用二分查找,這似乎就是傳說的讀多寫少,以及對應的復用。

優(yōu)點

  • 查找快

缺點:

  • 必須有序,需要提前排序

  • 每次查找都需要不斷計算中間位置


二分查找樹

如果一組數(shù)據(jù)不會或不常變更,那么他們的位置也基本不變??墒敲看尾樵兌夹枰匦掠嬎阒虚g位置是一種浪費,而浪費可恥。

我們能不能把所有中間節(jié)點組織起來,每次使用時,直接取中間節(jié)點?

請看下圖,找到所有單次二分查找的中間節(jié)點,把他們連起來,并用手提起最中間的那個節(jié)點,就是一棵二分查找樹。

優(yōu)點:二分查找樹就是通過數(shù)據(jù)結構的方式實現(xiàn)了二分查找算法,通過存儲中間節(jié)點的數(shù)據(jù),彌補了二分查找每次都要計算中間位置的缺點。


平衡二叉樹:

如果二分查找樹不斷進行修改,比如刪除某些節(jié)點,經(jīng)過一段時間后,最早那個中間節(jié)點的數(shù)據(jù)(根),很可能就不在中間了。

中間位置就像一個天平的支點,如果他不在中間了,那么整個天平就會失衡,失衡的世界就會坍塌成不倫不類的瘸樹,甚至是降維成一個鏈表或者數(shù)組。

二分查找算法的關鍵在于有序和中間節(jié)點,而二分查找樹的關鍵是中間節(jié)點的維護,如果維護的節(jié)點已經(jīng)不在中間了,那么它就失去了意義。

所以必須保證「二分查找樹」是一個正確的樹,一個根節(jié)點在中心的樹,一個左右子樹層級(高度)基本相等(高度相差不超過1)的樹,一個平衡的樹。

平衡二叉樹中最常見的就是紅黑樹:

紅黑樹規(guī)定了一系列節(jié)點顏色規(guī)則,以及對應的左旋和右旋操作來保證顏色規(guī)則,從而達到樹的平衡性。

看到這花里胡哨的顏色以及復雜的規(guī)則,讓人第一眼就望而卻步,但所有的這些,也不過是為了保證二叉樹的平衡性,由于維持平衡的操作太過麻煩,無法用一句話簡單概括,只好用一堆人鬼難分的規(guī)則和步驟來實現(xiàn),只要按著這些步驟就一定能實現(xiàn)二叉樹的平衡。

平衡二叉樹 ?= ?二分查找樹 + 平衡(左右高度相差不超過 1 )

平衡二叉樹并未提高二分查找樹的性能,它只是保正樹不會被二向箔(多次增刪改)打擊降維成鏈表或不對稱的殘缺樹,永遠維持平衡。

另外,不僅僅是二叉樹,其他種類的樹,也是需要有序和平衡,才能發(fā)揮最大的威力。


多叉樹之 B-tree

兩個叉的樹就能折半查詢,理論可以提高一倍性能,那么多個叉是不是能提高更多倍性能?

如下圖的 3 階(叉)樹(所有數(shù)據(jù)僅用于演示,非真實分布)

每個節(jié)點維護兩個數(shù)據(jù),并指向最多 3 個子節(jié)點。如圖 3 個子節(jié)點的數(shù)據(jù)分別為:小于 17, 17 ~ 35 ,大于 35。

假設,從上圖中查找 10 這個數(shù),步驟如下:

  1. 找到根節(jié)點,對比 10 與 17 和 35 的大小,發(fā)現(xiàn) 10 < 17 在左子節(jié)點,也就是第 2 層節(jié)點;

  2. 從根節(jié)點的指針,找到左子節(jié)點,對比 10 與 8 和 12 的大小,發(fā)現(xiàn) 8 < 10 < 12,數(shù)據(jù)在當前節(jié)點的中間子節(jié)點,也就是第 3 層節(jié)點;

  3. 通過上步節(jié)點的指針,找到中間子節(jié)點(第 3 層節(jié)點),對比 10 與 9 和 10 的大小,發(fā)現(xiàn) 9 < 10 == 10,因此找到當前節(jié)點的第二數(shù)即為結果。

加上忽略的 12 個數(shù)據(jù),從 26 個數(shù)據(jù)中查找一個數(shù)字 10,僅僅用了?log3(26) 3 次,而如果用平衡二叉樹,則需要 log2(26) 5 次,事實證明,多叉樹確實可以再次提高查找性能。

多叉樹是在二分查找樹的基礎上,增加單個節(jié)點的數(shù)據(jù)存儲數(shù)量,同時增加了樹的子節(jié)點數(shù),一次計算可以把查找范圍縮小更多。

優(yōu)點:二叉平衡樹的基礎上,使加載一次節(jié)點,可以加載更多路徑數(shù)據(jù),同時把查詢范圍縮減到更小。

復雜節(jié)點:
至此,我們列舉的數(shù)據(jù)都是孤零零的單個數(shù)字。試想,你手里已經(jīng)有一個數(shù)據(jù) 10,為什么還要費力吧唧的再從一堆數(shù)據(jù)中找到這個 10,自己找自己?這不是有病嗎?

單個數(shù)字只能活在演示中,現(xiàn)實的世界要復雜的多,我們來看一個接近真實場景的案例。

現(xiàn)有一個以年齡為索引的 3 階樹,存儲了一批用戶信息,如下圖:

數(shù)字為用戶的年齡,其它為與樹排序查找無關的業(yè)務數(shù)據(jù),像這種索引數(shù)據(jù)與樹排序查找無關的業(yè)務一起維護在節(jié)點的平衡多叉(階)樹稱為 B- 樹( B 樹)。

缺點:業(yè)務數(shù)據(jù)的大小可能遠遠超過了索引數(shù)據(jù)的大小,每次為了查找對比計算,需要把數(shù)據(jù)加載到內(nèi)存以及 CPU 高速緩存中時,都要把索引數(shù)據(jù)和無關的業(yè)務數(shù)據(jù)全部查出來。本來一次就可以把所有索引數(shù)據(jù)加載進來,現(xiàn)在卻要多次才能加載完。如果所對比的節(jié)點不是所查的數(shù)據(jù),那么這些加載進內(nèi)存的業(yè)務數(shù)據(jù)就毫無用處,全部拋棄。


磁盤I/O

計算機的功能主要為:計算、存儲和網(wǎng)絡。而用于計算的數(shù)據(jù)以及計算后的結果很大一部分都需要存儲起來,以備后續(xù)再次使用。向磁盤中存儲和讀取的過程叫磁盤 I/O。磁盤的讀取方式和速度會嚴重影響到整個業(yè)務的計算性能。

下面我們簡單了解一下磁盤是如何工作的。

磁盤大概長這個樣子:

磁盤主要由磁盤盤片、傳動手臂、讀寫磁頭和馬達組成。

為了存儲容量,主軸像穿糖葫蘆一樣把多個磁盤片組成一個陣列。通過馬達驅動主軸轉動以及傳動手臂移動,使讀寫磁頭在磁盤片上讀寫數(shù)據(jù)。大概如下:

磁盤片由很多半徑不等的同心圓組成,這些圓被稱為磁道,數(shù)據(jù)就是寫在這些磁道上。

每個磁道又劃分成塊稱為扇區(qū)。

如果磁盤是一記事本,那么一張磁盤片就是本子的一頁紙,而主軸就是本子的裝訂線;磁道就是紙頁的行,而扇區(qū)可以看作是很寬的列。

如果在磁盤中存儲一首詩,想象中大概這個樣子。

磁盤的讀 I/O 操作,需要找到數(shù)據(jù)所在的磁盤片,以及對應的磁道和扇區(qū)。這些操作類似于從一本書中找到數(shù)據(jù)所在的頁,行,列。

因為每個磁盤片都對應一個磁頭,所以性能的關鍵就在于找行和列,即尋道和磁盤旋轉。尋道即通過磁頭找到數(shù)據(jù)所在的磁道,相當于換行到數(shù)據(jù)所在行。由于磁頭只能水平移動,即只能換行尋道,無法在指定磁道上移動,因此需要磁盤高速旋轉移動到指定扇區(qū),類似寫春聯(lián)時,筆不動,紙動。

綜上所述,磁盤的讀寫是通過機械運動來定位數(shù)據(jù)所在位置,而 cpu 是通過電信號進行數(shù)字運算。粗略的認為,機械查詢數(shù)據(jù),與光速處理數(shù)據(jù)的性能完全不是在一個量級,總之一句話就是磁盤處理太慢太慢了

雖然磁盤處理數(shù)據(jù)太慢了,但是它是目前相對廉價且穩(wěn)定的存儲設備,所以又不能舍棄不用,但大致可以通過以下方法進行優(yōu)化。

  • 盡量減少 I/O 次數(shù),比如可以使用緩存;

  • 每次 I/O 盡量獲取更多的數(shù)據(jù);

  • 每次 I/O 盡量獲取有用的數(shù)據(jù),當然相應的也間接減少總 I/O 次數(shù);


多叉樹之 B+tree

做為數(shù)據(jù)庫的索引,無論用什么樣的數(shù)據(jù)結構維護,這些數(shù)據(jù)最終都會存儲到磁盤中。

鑒于磁盤 ?I/O 的性能問題,以及每次 I/O 獲取數(shù)據(jù)量上限所限,提高索引本身 I/O 的方法最好是,減少 I/O 次數(shù)和每次獲取有用的數(shù)據(jù)。

B-tree 已經(jīng)大大改進了樹家族的性能,它把多個數(shù)據(jù)集中存儲在一個節(jié)點中,本身就可能減少了 I/O 次數(shù)或者尋道次數(shù)。

但是仍然有一個致命的缺陷,那就是它的索引數(shù)據(jù)與業(yè)務綁定在一塊,而業(yè)務數(shù)據(jù)的大小很有可能遠遠超過了索引數(shù)據(jù),這會大大減小一次 I/O 有用數(shù)據(jù)的獲取,間接的增加 I/O 次數(shù)去獲取有用的索引數(shù)據(jù)。

因為業(yè)務數(shù)據(jù)才是我們查詢最終的目的,但是它又是在「二分」查找中途過程無用的數(shù)據(jù),因此,如果只把業(yè)務數(shù)據(jù)存儲在最終查詢到的那個節(jié)點是不是就可以了?

理想很豐滿,現(xiàn)實很骨瘦如柴,誰知道哪個節(jié)點就是最終要查詢的節(jié)點呢?

B+tree 橫空出世,B+ 樹就是為了拆分索引數(shù)據(jù)與業(yè)務數(shù)據(jù)的平衡多叉樹。

B+ 樹中,非葉子節(jié)點只保存索引數(shù)據(jù),葉子節(jié)點保存索引數(shù)據(jù)與業(yè)務數(shù)據(jù)。這樣即保證了葉子節(jié)點的簡約干凈,數(shù)據(jù)量大大減小,又保證了最終能查到對應的業(yè)務數(shù)。既提高了單次 I/O 數(shù)據(jù)的有效性,又減少了 I/O 次數(shù),還實現(xiàn)了業(yè)務。

但是,在數(shù)據(jù)中索引與數(shù)據(jù)是分離的,不像示例那樣的?

如圖:我們只需要把真實的業(yè)務數(shù)據(jù),換成數(shù)據(jù)所在地址就可以了,此時,業(yè)務數(shù)據(jù)所在的地址在 B+ 樹中充當業(yè)務數(shù)據(jù)。


總結

  • 數(shù)據(jù)存儲在磁盤( SSD 跟 CPU 性能也不在一個量級),而磁盤處理數(shù)據(jù)很慢;

  • 提高磁盤性能主要通過減少 I/O 次數(shù),以及單次 I/O 有效數(shù)據(jù)量;

  • 索引通過多階(一個節(jié)點保存多個數(shù)據(jù),指向多個子節(jié)點)使樹的結構更矮胖,從而減少 I/O 次數(shù);

  • 索引通過 B+ 樹,把業(yè)務數(shù)據(jù)與索引數(shù)據(jù)分離,來提高單次 I/O 有效數(shù)據(jù)量,從而減少 I/O 次數(shù);

  • 索引通過樹數(shù)據(jù)的有序和「二分查找」(多階樹可以假設為多分查找),大大縮小查詢范圍;

  • 索引針對的是單個字段或部分字段,數(shù)據(jù)量本身比一條記錄的數(shù)據(jù)量要少的多,這樣即使通過掃描的方式查詢索引也比掃描數(shù)據(jù)庫表本身快的多;


知識擴展

樹的結構最大的優(yōu)點就是查詢性能高,因此所有需要提高查詢性能的都可以考慮樹。

而現(xiàn)實中也確實有這樣的例子,比如:

  • HashMap 中的數(shù)據(jù)沖突時,鏈表轉化成紅黑樹;

  • 數(shù)據(jù)庫索引使用的 B+ 樹;

  • 搜索引擎倒排索引使用的字典樹;

以上只是淺嘗輒止、點到為止的描述了數(shù)據(jù)庫使用 B+ 樹索引為什么能提高查詢性能原因及簡單過程。

并沒有深入各種數(shù)據(jù)結構的細節(jié),也未提及其它索引類型和索引的具體存儲格式,目的僅僅是,為了讓大家對索引有一個感性的認識。


好文推薦

鍵入網(wǎng)址到顯示,期間發(fā)生了什么…

涼了!張三同學沒答好「進程間通信」,被面試官掛了….


哈嘍,我是小林,就愛圖解計算機基礎,如果覺得文章對你有幫助,歡迎分享給你的朋友,也給小林點個「在看」,這對小林非常重要,謝謝你們,給各位小姐姐小哥哥們抱拳了,我們下次見!

免責聲明:本文內(nèi)容由21ic獲得授權后發(fā)布,版權歸原作者所有,本平臺僅提供信息存儲服務。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關機構授權發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或將催生出更大的獨角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉型技術解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關鍵字: 汽車 人工智能 智能驅動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統(tǒng)復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...

關鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質量流程IT總裁陶景文發(fā)表了演講。

關鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權最終是由生態(tài)的繁榮決定的。

關鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領增長 以科技創(chuàng)新為引領,提升企業(yè)核心競爭力 堅持高質量發(fā)展策略,塑強核心競爭優(yōu)勢...

關鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術學會聯(lián)合牽頭組建的NVI技術創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術創(chuàng)新聯(lián)...

關鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關鍵字: BSP 信息技術
關閉
關閉