熔斷的意義和適用場景,你真的清楚嗎?
作者簡介:曾任職于阿里巴巴,每日優(yōu)鮮等互聯(lián)網(wǎng)公司,任技術(shù)總監(jiān),15年電商互聯(lián)網(wǎng)經(jīng)歷。
關(guān)于熔斷,網(wǎng)上的文章很多,但是真正講明白的文章寥寥無幾。很多作者互相抄襲,缺乏自己的認(rèn)知和理解。
分享熔斷之前,咱們先說說大家更熟悉的Timeout。Timeout和熔斷有關(guān)系嗎?別急,往下看就清楚啦!
我們?cè)诳缦到y(tǒng)調(diào)用、跨服務(wù)調(diào)用以及調(diào)用第三方接口時(shí),一般會(huì)設(shè)置超時(shí)時(shí)間。有兩個(gè)作用:其一,出于用戶體驗(yàn)考慮,啥結(jié)果也不返回,一直讓人等下去,確實(shí)受不了。其二,出于系統(tǒng)性能問題的考慮,并發(fā)不高時(shí)timeout可以避免線程阻塞帶來的性能問題,但是并發(fā)高時(shí)timeout就不能解決問題啦。
現(xiàn)在輪到熔斷大顯身手了。
熔斷是什么?
一種降級(jí)手段。當(dāng)服務(wù)不可用時(shí),用來避免連鎖故障,雪崩效應(yīng)。發(fā)生在服務(wù)調(diào)用的時(shí)候,在調(diào)用方做熔斷處理。
熔斷的意義是什么?
我們使用熔斷前要先弄清楚熔斷的真正意義,避免用錯(cuò)給系統(tǒng)帶來麻煩。實(shí)際上,用一句話就可以描述熔斷的意義:上游服務(wù)快速失?。‵ail Fast),并保護(hù)下游服務(wù)。
詳細(xì)解釋一下,假設(shè)上游服務(wù)是A,下游服務(wù)是B,A調(diào)用B,B發(fā)生故障,開啟熔斷:
-
對(duì)于上游服務(wù)A:請(qǐng)求到A后直接快速返回(返回值可以是默認(rèn)值,或者通過一種后背(Fallback)方案獲取的值),快速失敗,不再發(fā)送到B。 避免因?yàn)?/span>B故障,導(dǎo)致請(qǐng)求線程持續(xù)等待,進(jìn)而導(dǎo)致線程池線程和CPU資源耗盡,進(jìn)而導(dǎo)致A無響應(yīng)甚至整條調(diào)用鏈故障。
-
對(duì)于下游服務(wù)B:熔斷后,請(qǐng)求被A攔截,不再發(fā)送到B,B壓力得到緩解,避免了仍舊存活的B被壓垮,B得到了保護(hù)。
熔斷狀態(tài)流轉(zhuǎn)過程:
假設(shè)上游服務(wù)是A,下游服務(wù)是B,A調(diào)用B。
熔斷生命周期包括三個(gè)狀態(tài):關(guān)閉,半開啟,開啟。
關(guān)閉狀態(tài)->開啟狀態(tài),A調(diào)用B請(qǐng)求失敗次數(shù)在設(shè)定時(shí)間內(nèi)達(dá)到閾值,開啟熔斷
開啟狀態(tài)->半開啟狀態(tài),熔斷開啟后,熔斷器根據(jù)設(shè)定時(shí)間間隔定期自動(dòng)進(jìn)入半開啟狀態(tài)
半開啟狀態(tài)->關(guān)閉狀態(tài)(或開啟狀態(tài)),半開啟狀態(tài)下會(huì)從A發(fā)送少量請(qǐng)求到B來試探B服務(wù)是否能正常提供服務(wù),如果請(qǐng)求成功率達(dá)到閾值就關(guān)閉熔斷,否則就回到熔斷開啟狀態(tài)
熔斷適用場景
出于系統(tǒng)性能問題的考慮,并發(fā)不高時(shí)timeout可以避免線程阻塞帶來的性能問題,但是并發(fā)高時(shí)timeout就不能解決問題啦。這時(shí)可以用熔斷。
只要是服務(wù)之間的調(diào)用,并且能設(shè)計(jì)合理的獲取返回值的方案(返回值可以是默認(rèn)值,或者通過一種后備(Fallback)方案獲取的值),一般業(yè)務(wù)場景都可以做熔斷處理。比如電商行業(yè),在sku不是很多的場景下,我們可以在訂單服務(wù)冗余庫存數(shù)據(jù)(注意控制合理的安全庫存,防超賣)。下單減庫存時(shí),如果庫存服務(wù)掛了,開啟熔斷后,我們可以直接從訂單服務(wù)取庫存,訂單服務(wù)取不到庫存,按扣減庫存失敗處理。這個(gè)可以做為后備(Fallback)方案。
有哪些開源實(shí)現(xiàn)
Hystrix,Resilience4j等
免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。文章僅代表作者個(gè)人觀點(diǎn),不代表本平臺(tái)立場,如有問題,請(qǐng)聯(lián)系我們,謝謝!