當(dāng)前位置:首頁 > 公眾號精選 > 架構(gòu)師社區(qū)
[導(dǎo)讀]-???前言??-大家都知道,計算機(jī)的瓶頸之一就是IO,為了解決內(nèi)存與磁盤速度不匹配的問題,產(chǎn)生了緩存,將一些熱點(diǎn)數(shù)據(jù)放在內(nèi)存中,隨用隨取,降低連接到數(shù)據(jù)庫的請求鏈接,避免數(shù)據(jù)庫掛掉。需要注意的是,無論是擊穿還是后面談到的穿透與雪崩,都是在高并發(fā)前提下,比如當(dāng)緩存中某一個熱點(diǎn)ke...




-     前言 -




大家都知道,計算機(jī)的瓶頸之一就是IO,為了解決內(nèi)存與磁盤速度不匹配的問題,產(chǎn)生了緩存,將一些熱點(diǎn)數(shù)據(jù)放在內(nèi)存中,隨用隨取,降低連接到數(shù)據(jù)庫的請求鏈接,避免數(shù)據(jù)庫掛掉。需要注意的是,無論是擊穿還是后面談到的穿透與雪崩,都是在高并發(fā)前提下,比如當(dāng)緩存中某一個熱點(diǎn)key失效。


-     問題起因 -




有兩個主要原因:1、Key過期;
2、Key被頁面置換淘汰。



對于第一個原因是因?yàn)樵赗edis中,Key有過期時間如果某一個時刻(假如商城做活動,零點(diǎn)開始)key失效,那么零點(diǎn)之后對某一個商品查詢請求將全都壓到數(shù)據(jù)庫上導(dǎo)致數(shù)據(jù)庫崩。
對于第二個原因,因?yàn)閮?nèi)存是有限的,要時時刻刻緩存新的數(shù)據(jù),淘汰舊的數(shù)據(jù),所以在一定的頁面置換策略(常見頁面置換算法圖解)中,淘汰數(shù)據(jù),如果某些商品做活動之前無人問津,勢必會被淘汰。


-     應(yīng)對擊穿的處理思路 -



正常的處理請求如圖:
由于key過期在所難免,高流量來到Redis時,根據(jù)Redis的單線程特性,可以認(rèn)為任務(wù)是在隊列里依次執(zhí)行的,當(dāng)請求到達(dá)Redis發(fā)現(xiàn)Key過期時,進(jìn)行一個操作:設(shè)置鎖。
這個流程大概如下:
  1. 請求到達(dá)Redis,發(fā)現(xiàn)Redis Key過期,查看有沒有鎖,沒有鎖的話回到隊列后面排隊
  2. 設(shè)置鎖,注意,這兒應(yīng)該是setnx(),而不是set(),因?yàn)榭赡苡衅渌€程已經(jīng)設(shè)置鎖了
  3. 獲取鎖,拿到鎖了就去數(shù)據(jù)庫取數(shù)據(jù),請求返回后釋放鎖。
但是引出了一個新的問題,如果拿到鎖去拿數(shù)據(jù)的請求然后掛了怎么辦?也就是鎖沒有釋放,其他進(jìn)程都在等鎖,解決辦法是:
對鎖設(shè)置一個過期時間,如果到達(dá)了過期時間還沒釋放就自動釋放,問題又來了,鎖掛了好說,但是如果是鎖超時呢?也就是在設(shè)定的時間里數(shù)據(jù)沒有取出來,但是鎖由過期了,常見的思路是,鎖過期時間值遞增,但是想想不靠譜,因?yàn)榈谝粋€請求可能超時,如果后面的也超時呢,接連多次超時之后,鎖過期時間值勢必特別大了,這樣做弊端太多。
另外一個思路是,再開啟一個線程,進(jìn)行監(jiān)控,如果取數(shù)據(jù)的線程沒有掛的話,就適當(dāng)延遲鎖的過期時間。


-     穿透 -




穿透主要原因是很多請求都在訪問數(shù)據(jù)庫不存在的數(shù)據(jù),例如一個賣書的商城一直被請求查詢茶葉產(chǎn)品,由于Redis緩存主要是用來緩存熱點(diǎn)數(shù)據(jù),對于數(shù)據(jù)庫都不存在的數(shù)據(jù),是沒法緩存的,這種異常流量就會直接到達(dá)數(shù)據(jù)庫并且返回"沒有"的查詢結(jié)果。
應(yīng)對這種請求,處理辦法是對訪問請求加一層過濾器,例如布隆過濾器、增強(qiáng)版布隆過濾器、布谷鳥過濾器,詳情見:Redis布隆過濾器與布谷鳥過濾器。除了布隆過濾器,可以增加一些參數(shù)檢驗(yàn),例如數(shù)據(jù)庫數(shù)據(jù)id一般都是遞增的,如果請求 id = -10 這種參數(shù),勢必繞過Redis,避免這種情況,可以對用戶真實(shí)性檢驗(yàn)等操作。


-     雪崩 -



雪崩,和擊穿類似,不同的是擊穿是一個熱點(diǎn)Key某時刻失效,而雪崩是大量的熱點(diǎn)Key在一瞬間失效,網(wǎng)絡(luò)上很多博客都在強(qiáng)調(diào)解決雪崩的策略是隨機(jī)過期時間,這個非常不準(zhǔn)確,舉個例子,銀行做活動,之前這個利息系數(shù)為2%,過了零點(diǎn)系數(shù)改為3%,這種情況能將用戶的對應(yīng)的key改為隨機(jī)過期嗎?如果用的過去的數(shù)據(jù)叫臟數(shù)據(jù)。
明顯不可以,同樣存錢,你存到年底利息300萬,隔壁才200萬,這不得打架啊,開玩笑~
正確的思路是,首先要看看這個Key過期是不是時點(diǎn)性有關(guān),時點(diǎn)性無關(guān)的話,可以隨機(jī)過期時間解決。
如果是時點(diǎn)性有關(guān),例如剛剛說的銀行某一天改變某系數(shù),那么就要利用強(qiáng)依賴擊穿方案,策略是先過去的線程更新一下所有key。在后臺更新熱點(diǎn)key的同時,業(yè)務(wù)層將進(jìn)來的請求延時一下,例如短暫的睡幾毫秒或者秒,給后面的更新熱點(diǎn)key分散壓力。
:等不到的口琴





本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
關(guān)閉
關(guān)閉