當(dāng)前位置:首頁(yè) > 公眾號(hào)精選 > 架構(gòu)師社區(qū)
[導(dǎo)讀]線(xiàn)上數(shù)據(jù)庫(kù)服務(wù)器的 CPU 被打滿(mǎn),同時(shí)觸發(fā)了生產(chǎn)數(shù)據(jù)庫(kù)只讀延遲的限定時(shí)間并且發(fā)出告警,而且告警的過(guò)程持續(xù)了半個(gè)小時(shí)。

來(lái)源:鄙人薛某  作者:很懶的程序員

上周四午休時(shí)分,我正在工位上小憩,睡夢(mèng)中仿佛看到了自己拿著李白在榮耀峽谷里大殺四方的情景,就在我剛拿完五殺準(zhǔn)備帶領(lǐng)隊(duì)友推對(duì)面水晶的時(shí)候,一句慌亂急促的“糟了”把我從睡夢(mèng)中驚醒......

▍反常的 SQL 語(yǔ)句

我瞇開(kāi)朦朧的雙眼,才發(fā)現(xiàn)剛才的發(fā)聲來(lái)源于我的組長(zhǎng)莊哥,看到他在緊張的點(diǎn)開(kāi)日志系統(tǒng)查看日志,我預(yù)感到有什么不妙的事情發(fā)生。

仔細(xì)一問(wèn)才知道,原來(lái)就在我瞇眼的期間,線(xiàn)上數(shù)據(jù)庫(kù)服務(wù)器的 CPU 被打滿(mǎn),同時(shí)觸發(fā)了生產(chǎn)數(shù)據(jù)庫(kù)只讀延遲的限定時(shí)間并且發(fā)出告警,而且告警的過(guò)程持續(xù)了半個(gè)小時(shí)。

這讓我倒吸了一口涼氣,因?yàn)槲覀兘M做的系統(tǒng)很多都用的是同一個(gè)數(shù)據(jù)庫(kù)服務(wù)器,日用戶(hù)活躍量有好幾十萬(wàn),如果服務(wù)器崩潰了將會(huì)使所有的系統(tǒng)服務(wù)都不可用。

于是我們趕緊通過(guò) SQL 日志進(jìn)行問(wèn)題查找,最后排查出來(lái)是因?yàn)橐粡?SQL 的高量查詢(xún)沒(méi)有走索引導(dǎo)致。

日志列表顯示,這條 SQL 語(yǔ)句的掃描行數(shù)達(dá)到了上百萬(wàn),基本就是全表掃描的情況,而且半個(gè)小時(shí)的時(shí)間查詢(xún)了達(dá)上萬(wàn)次,每條 SQL 查詢(xún)的耗時(shí)都在 3000ms 以上。

我的天啊,難怪服務(wù)器會(huì) CPU 打滿(mǎn),這么一條耗時(shí)的 SQL 語(yǔ)句查詢(xún)量這么大,數(shù)據(jù)庫(kù)的資源當(dāng)然是直接就崩潰了。
這是當(dāng)時(shí)那條 SQL 的查詢(xún)情況:

因?yàn)橐粭lSQL,程序員差點(diǎn)被祭天......

▍臨時(shí)處理

看了這條語(yǔ)句,我又倒吸一口涼氣,這不就是我寫(xiě)的系統(tǒng)調(diào)用的 SQL 語(yǔ)句嗎?完了,這回逃不掉了,真是人在睡夢(mèng)里,鍋從天上來(lái)。


因?yàn)橐粭lSQL,程序員差點(diǎn)被祭天......

當(dāng)然,因?yàn)槭俏易约簩?xiě)的 SQL,所以我一看就知道這條語(yǔ)句是有問(wèn)題的。

根據(jù)我的代碼處理,這條 SQL 的調(diào)用還少了個(gè)重要的參數(shù) user_fruit_id,這個(gè)參數(shù)沒(méi)有傳的話(huà)是不應(yīng)該走這條 SQL 查詢(xún)的。
在我的設(shè)計(jì)里,該參數(shù)是數(shù)據(jù)表里一個(gè)聯(lián)合索引的最左側(cè)字段,如果該字段沒(méi)有傳值的話(huà),那么索引就不會(huì)生效了。

KEY `idx_userfruitid_type` (`user_fruit_id`,`task_type`,`receive_start_time`,`receive_end_time`) USING BTREE

雖然定位到了 SQL 語(yǔ)句,但是線(xiàn)上的問(wèn)題刻不容緩,總不可能找出 Bug 改完再上線(xiàn)吧。

所以,我們只能做了一個(gè)臨時(shí)處理,就是在原來(lái)的表上多加了一個(gè)聯(lián)合索引,其實(shí)就是去掉了 user_fruit_id 字段,讓這些高量的查詢(xún)都能走新的索引。

就像下面這樣:

KEY `idx_task_type_receive_start_time` (`task_type`,`receive_start_time`,`receive_end_time`,`created_time`) USING BTREE

加上索引后,SQL 的掃描行數(shù)就大幅度的降低了,重啟實(shí)例后就又能正常運(yùn)行了。

▍最左匹配原則

那么為什么最左側(cè)的字段沒(méi)傳索引就不生效了,這是因?yàn)?MySQL 的聯(lián)合索引是基于“最左匹配原則”匹配的。

我們都知道,索引的底層是 B+ 樹(shù)結(jié)構(gòu),聯(lián)合索引的結(jié)構(gòu)也是 B+ 樹(shù),只不過(guò)鍵值數(shù)量不是一個(gè),而是多個(gè),構(gòu)建一顆 B+ 樹(shù)只能根據(jù)一個(gè)值來(lái)構(gòu)建,因此數(shù)據(jù)庫(kù)依據(jù)聯(lián)合索引最左的字段來(lái)構(gòu)建 B+ 樹(shù)。
例如我們用兩個(gè)字段(name,age)這個(gè)聯(lián)合索引來(lái)分析:

因?yàn)橐粭lSQL,程序員差點(diǎn)被祭天......

圖片來(lái)源于林曉斌老師的《MySQL 實(shí)戰(zhàn) 45 講》課程

當(dāng)我們?cè)?where 條件中查找 name 為“張三”的所有記錄的時(shí)候,可以快速定位到 ID4,并且查出所有包含“張三”的記錄。

而如果要找“張三,10”這一條特定的數(shù)據(jù),就可以用 name = "張三" and age = 10 獲取。

因?yàn)槁?lián)合索引的鍵值對(duì)是兩個(gè),所以只要前面的 name 確定的情況下就可以進(jìn)一步定位到具體的 age 記錄。

但是如果你的查詢(xún)條件只有 age 的話(huà),那么索引就不會(huì)生效,因?yàn)闆](méi)有匹配最左邊的字段,后面所有的索引字段都不會(huì)生效。

所以我之前寫(xiě)的 SQL 語(yǔ)句才會(huì)因?yàn)樯倭俗钭筮叺?user_fruit_id 字段而走了全表掃描的查詢(xún)方式。

正常來(lái)說(shuō),假設(shè)一個(gè)聯(lián)合索引設(shè)計(jì)成(a,b)這樣的結(jié)構(gòu)的話(huà),那么用 a and b 作為條件,或者 a 單獨(dú)作為查詢(xún)條件都會(huì)走索引,這種情況下我們就不要再為 a 字段單獨(dú)設(shè)計(jì)索引了。

但如果查詢(xún)條件里面只有 b 的語(yǔ)句,是無(wú)法使用(a,b)這個(gè)聯(lián)合索引的,這時(shí)候你不得不維護(hù)另外一個(gè)索引,也就是說(shuō)你需要同時(shí)維護(hù)(a,b)、(b) 這兩個(gè)索引。

▍找出 Bug

雖然臨時(shí)做了處理,但問(wèn)題并不算解決,很明顯是系統(tǒng)出現(xiàn)了 Bug 才會(huì)有走這樣的查詢(xún)條件。

因?yàn)槭俏易约簩?xiě)的代碼,所以知道是哪條 SQL 后我就馬上定位到了代碼里的具體方法,后來(lái)才發(fā)現(xiàn)是因?yàn)槲覍?duì) user_fruit_id 字段的判空處理不生效所致。

因?yàn)樵撟侄问菑恼{(diào)用方傳過(guò)來(lái)的,所以我在方法參數(shù)里對(duì)該字段做了非空限制的注解,也就是 javax 包下的 @NotNull:
public class GardenUserTaskListReq implements Serializable { private static final long serialVersionUID = -9161295541482297498L; @ApiModelProperty(notes = "水果id") @NotNull(message = "水果id不能為空") private Long userFruitId; /**以下省略*/ .....................
}

雖然加上該注解來(lái)做非空校驗(yàn),但我卻沒(méi)有在參數(shù)加上另一個(gè)注解 @Validated。
該注解如果沒(méi)加上的話(huà),那么調(diào)用 javax 包下的校驗(yàn)規(guī)則就都不生效,正確的寫(xiě)法是在 controller 層方法的參數(shù)前面加上注解:

因?yàn)橐粭lSQL,程序員差點(diǎn)被祭天......

除此之外,因?yàn)?user_fruit_id 這個(gè)字段是另一張表的主鍵,我在代碼里也沒(méi)有對(duì)這張表是否存在這個(gè) id 做查詢(xún)判斷。
這樣一來(lái),無(wú)論調(diào)用方傳什么值過(guò)來(lái)都會(huì)直接觸發(fā) SQL 查詢(xún),并且在不跑索引的情況下直接走全表掃描。

因?yàn)橐粭lSQL,程序員差點(diǎn)被祭天......

不得不說(shuō),這真是個(gè)低級(jí)錯(cuò)誤,說(shuō)真的,我對(duì)這個(gè)原因真是感到嘀笑皆非,再怎么說(shuō)也工作幾年了,怎么還犯一些新手級(jí)別的錯(cuò)誤呢,這臉打得真是讓我相當(dāng)慚愧。

▍總結(jié)

雖然是低級(jí)錯(cuò)誤,但造成的后果也算挺嚴(yán)重了,這次事件也讓我更加的警醒,在以后的開(kāi)發(fā)工作中必須要遵守該有的原則,大概有這么幾點(diǎn):

①不能相信調(diào)用端。重要的參數(shù)都要先做驗(yàn)證,即使是非空值也需要做驗(yàn)證,不符合條件的就要直接返回或拋異常,不能參與業(yè)務(wù) SQL 的查詢(xún),否則頻繁的訪(fǎng)問(wèn)也會(huì)對(duì)服務(wù)造成負(fù)擔(dān)。

②SQL 語(yǔ)句要先做性能查詢(xún)。對(duì)于數(shù)據(jù)量大的表,建好索引后,所有的 SQL 查詢(xún)語(yǔ)句要用 explain 檢測(cè)性能,并且根據(jù)結(jié)果來(lái)進(jìn)一步優(yōu)化索引。

③代碼必須要 Review。之前我沒(méi)有放太大的精力在代碼的 Review 上,雖說(shuō)跟迭代排期的緊湊也有關(guān)系,但不管怎么說(shuō),Bug 確實(shí)是我的疏忽造成的,尤其是像空值這種細(xì)小的錯(cuò)誤在 Java 里可以說(shuō)家常便飯。

千里之堤毀于蟻穴,有時(shí)一個(gè)小 Bug 很容易就引發(fā)整個(gè)系統(tǒng)的崩盤(pán),這一次的問(wèn)題也讓我更加深刻的認(rèn)識(shí)到了 Review 代碼的重要性,不管業(yè)務(wù)開(kāi)發(fā)的工作量有多麻煩,這一步操作絕對(duì)不能忽視。


免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。文章僅代表作者個(gè)人觀(guān)點(diǎn),不代表本平臺(tái)立場(chǎng),如有問(wèn)題,請(qǐng)聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀(guān)點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專(zhuān)欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車(chē)的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

倫敦2024年8月29日 /美通社/ -- 英國(guó)汽車(chē)技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車(chē)工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車(chē)。 SODA V工具的開(kāi)發(fā)耗時(shí)1.5...

關(guān)鍵字: 汽車(chē) 人工智能 智能驅(qū)動(dòng) BSP

北京2024年8月28日 /美通社/ -- 越來(lái)越多用戶(hù)希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時(shí)企業(yè)卻面臨越來(lái)越多業(yè)務(wù)中斷的風(fēng)險(xiǎn),如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報(bào)道,騰訊和網(wǎng)易近期正在縮減他們對(duì)日本游戲市場(chǎng)的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)開(kāi)幕式在貴陽(yáng)舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱(chēng),數(shù)字世界的話(huà)語(yǔ)權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對(duì)環(huán)境變化,經(jīng)營(yíng)業(yè)績(jī)穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤(rùn)率延續(xù)升勢(shì) 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長(zhǎng) 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競(jìng)爭(zhēng)力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競(jìng)爭(zhēng)優(yōu)勢(shì)...

關(guān)鍵字: 通信 BSP 電信運(yùn)營(yíng)商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺(tái)與中國(guó)電影電視技術(shù)學(xué)會(huì)聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會(huì)上宣布正式成立。 活動(dòng)現(xiàn)場(chǎng) NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長(zhǎng)三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會(huì)上,軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司(以下簡(jiǎn)稱(chēng)"軟通動(dòng)力")與長(zhǎng)三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉