軟件系統(tǒng)對(duì)運(yùn)行在不同進(jìn)程或者網(wǎng)路中不同的機(jī)器的軟件進(jìn)行遠(yuǎn)程調(diào)用是很常見的。內(nèi)存中調(diào)用和遠(yuǎn)程調(diào)用之間的一個(gè)主要區(qū)別是，遠(yuǎn)程調(diào)用可能會(huì)失敗，或者在達(dá)到某個(gè)超時(shí)限制之前掛起而沒有響應(yīng)。更糟糕的是，如果一個(gè)響應(yīng)延遲的服務(wù)提供方上有許多調(diào)用者，那么您可能會(huì)耗盡關(guān)鍵資源，導(dǎo)致跨多個(gè)系統(tǒng)的連鎖故障。michael nygard在他的優(yōu)秀著作《發(fā)布》中推廣了斷路器模式，以防止這種災(zāi)難性的連鎖故障。
斷路器的基本原理很簡(jiǎn)單。您將一個(gè)受保護(hù)的函數(shù)調(diào)用封裝在一個(gè)斷路器對(duì)象中，該斷路器對(duì)象監(jiān)視故障。一旦故障達(dá)到某個(gè)閾值，斷路器就會(huì)跳閘，所有對(duì)斷路器的繼續(xù)調(diào)用都會(huì)返回一個(gè)錯(cuò)誤，受保護(hù)的調(diào)用也不會(huì)繼續(xù)。如果斷路器跳閘，您通常還需要通過(guò)監(jiān)視器進(jìn)行警報(bào)。
下面是ruby寫的一個(gè)簡(jiǎn)單示例，用于防止超時(shí)。
我使用block （lambda）設(shè)置了斷路器，它是受保護(hù)的調(diào)用。
cb ＝ circuitbreaker．new ｛｜arg｜ ＠supplier．func arg｝
斷路器存儲(chǔ)block，初始化各種參數(shù)（閾值、超時(shí)和監(jiān)視功能），并將斷路器重置為關(guān)閉狀態(tài)。
class circuitbreaker．．．
attr＿accessor ：invocation＿timeout， ：failure＿threshold， ：monitor
def initialize ＆block
＠circuit ＝ block
＠invocation＿timeout ＝ 0．01
＠failure＿threshold ＝ 5
＠m(xù)onitor ＝ acquire＿monitor
reset
end
如果線路關(guān)閉，則調(diào)用斷路器將調(diào)用底層block，如果打開則返回錯(cuò)誤
＃ client code
acircuitbreaker．call（5）
class circuitbreaker．．．
def call args
case state
when ：closed
begin
do＿call args
rescue timeout：：error
record＿failure
raise ＄！
end
when ：open then raise circuitbreaker：：open
else raise ＂unreachable code＂
end
end
def do＿call args
result ＝ timeout：：timeout（＠invocation＿timeout） do
＠circuit．call args
end
reset
return result
end
如果我們調(diào)用超時(shí)，我們故障計(jì)數(shù)器計(jì)數(shù)增加，調(diào)用成功則將其重置為零。
class circuitbreaker．．．
def record＿failure
＠failure＿count ＋＝ 1
＠m(xù)onitor．a(chǎn)lert（：open＿circuit） if ：open ＝＝ state
end
def reset
＠failure＿count ＝ 0
＠m(xù)onitor．a(chǎn)lert ：reset＿circuit
end
將故障失敗數(shù)與閾值進(jìn)行比較，確定斷路器的狀態(tài)
class circuitbreaker．．．
def state
（＠failure＿count ＞＝ ＠failure＿threshold） ？ ：open ： ：closed
end
這個(gè)簡(jiǎn)單的斷路器避免了在電路打開時(shí)進(jìn)行調(diào)用，但是當(dāng)一切恢復(fù)正常時(shí)需要外部干預(yù)來(lái)重置它。對(duì)于建筑物中的斷路器，這是一種合理的方法，但是對(duì)于軟件中斷路器，我們可以讓斷路器本身檢測(cè)底層調(diào)用是否可以繼續(xù)。我們可以通過(guò)在適當(dāng)?shù)拈g隔之后再次嘗試被保護(hù)調(diào)用來(lái)實(shí)現(xiàn)這種自重置行為，成功時(shí)則重置斷路器。
創(chuàng)建這種斷路器意味著需要為重置嘗試添加一個(gè)閾值，并設(shè)置一個(gè)變量來(lái)保存上次錯(cuò)誤時(shí)間。
class resetcircuitbreaker．．．
def initialize ＆block
＠circuit ＝ block
＠invocation＿timeout ＝ 0．01
＠failure＿threshold ＝ 5
＠m(xù)onitor ＝ breakermonitor．new
＠reset＿timeout ＝ 0．1
reset
end
def reset
＠failure＿count ＝ 0
＠last＿failure＿time ＝ nil
＠m(xù)onitor．a(chǎn)lert ：reset＿circuit
end
現(xiàn)在出現(xiàn)了第三種狀態(tài)—半開放狀態(tài)—這意味著線路已經(jīng)準(zhǔn)備好進(jìn)行試驗(yàn)性的真實(shí)調(diào)用，看看問(wèn)題是否已經(jīng)修復(fù)。
class resetcircuitbreaker．．．
def state
case
when （＠failure＿count ＞＝ ＠failure＿threshold） ＆＆
（time．now － ＠last＿failure＿time） ＞ ＠reset＿timeout
：half＿open
when （＠failure＿count ＞＝ ＠failure＿threshold）
：open
else
：closed
end
end
在半打開狀態(tài)下的試驗(yàn)性調(diào)用，如果成功，將重置斷路器；如果失敗，將重啟超時(shí)設(shè)置。
class resetcircuitbreaker．．．
def call args
case state
when ：closed， ：half＿open
begin
do＿call args
rescue timeout：：error
record＿failure
raise ＄！
end
when ：open
raise circuitbreaker：：open
else
raise ＂unreachable＂
end
end
def record＿failure
＠failure＿count ＋＝ 1
＠last＿failure＿time ＝ time．now
＠m(xù)onitor．a(chǎn)lert（：open＿circuit） if ：open ＝＝ state
end
這個(gè)例子很簡(jiǎn)單，在實(shí)踐中斷路器提供了更多的特性和參數(shù)化設(shè)置。它們通常會(huì)防止受保護(hù)調(diào)用可能引發(fā)的一系列錯(cuò)誤，比如網(wǎng)絡(luò)連接失敗。并不是所有的錯(cuò)誤都應(yīng)該跳閘，有些是反映正常的故障，需要作為常規(guī)邏輯的一部分進(jìn)行處理。
由于流量很大，您可能會(huì)遇到大量調(diào)用等待超時(shí)的問(wèn)題。由于遠(yuǎn)程調(diào)用通常很慢，所以最好將每個(gè)調(diào)用放在不同的線程上，使用future或promise來(lái)處理返回的結(jié)果。從線程池中提取這些線程，在線程池耗盡時(shí)安排線路斷開。
這個(gè)例子展示了一種簡(jiǎn)單的方法來(lái)跳閘—在成功調(diào)用時(shí)重置計(jì)數(shù)。一種更復(fù)雜的方法可能是查看錯(cuò)誤的頻率，比如，一旦達(dá)到50％的失敗率，就會(huì)跳閘。您還可以為不同的錯(cuò)誤設(shè)置不同的閾值，例如超時(shí)閾值為10，連接失敗閾值為3。
我所展示的示例是用于同步調(diào)用的斷路器，但是斷路器對(duì)于異步通信也很有用。這里的一種常見技術(shù)是將所有請(qǐng)求放在一個(gè)隊(duì)列中，服務(wù)提供者以一定速度消費(fèi)該隊(duì)列—這是一種避免服務(wù)器過(guò)載的有用技術(shù)。在這種情況下，當(dāng)隊(duì)列被填滿時(shí)，線路就會(huì)斷開。
就其本身而言，斷路器有助于減少在可能失敗的操作中占用資源。您可以避免客戶端的超時(shí)等待，而斷開的線路也可以避免給處于困境的服務(wù)器增加負(fù)載。我在這里討論的是遠(yuǎn)程調(diào)用，這是使用斷路器的常見情況，但是它們可以用于任何需要保護(hù)系統(tǒng)部件免受其他部件故障影響的情況。
斷路器是一個(gè)有價(jià)值的監(jiān)測(cè)點(diǎn)。斷路器中狀態(tài)的任何更改都應(yīng)該被記錄，斷路器應(yīng)該顯示其狀態(tài)的詳細(xì)信息，以便進(jìn)行更深入的監(jiān)控。斷路器的行為通常是一個(gè)很好的來(lái)源，來(lái)警告環(huán)境中更深層次的問(wèn)題。操作人員應(yīng)該能夠跳閘或復(fù)位斷路器。
斷路器本身是有價(jià)值的，但使用斷路器的客戶端需要對(duì)斷路器故障做出反應(yīng)。與任何遠(yuǎn)程調(diào)用一樣，您需要考慮在發(fā)生故障時(shí)應(yīng)該做什么。它是否會(huì)使你正在進(jìn)行的操作失敗，或者是否還有其他的解決辦法？比如信用卡授權(quán)可以放在隊(duì)列中稍后處理；通過(guò)顯示一些可以接受的舊數(shù)據(jù)來(lái)緩解無(wú)法獲取某些數(shù)據(jù)的問(wèn)題。
致謝
pavel shpak在示例代碼中發(fā)現(xiàn)報(bào)告了一個(gè)bug
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“機(jī)電號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of JDZJ Hao, which is a social media platform and only provides information storage services.
