源于一種基于消息的存儲一致模型
傳統(tǒng)上,多處理器系統(tǒng)中的存儲器一致性都是通過總線偵聽實現(xiàn)的,每個內核都與一個通用多層總線連接,能夠偵聽同級處理器的存儲器存取流量,以調節(jié)每個高速緩沖器行的一致狀態(tài)。這樣,每個內核都在本地保持了L1高速緩沖器行的一致狀態(tài),并通過通用總線將狀態(tài)的改變通知同級處理器。
SoC不斷增加的面積和復雜性導致了多層總線基本哲學的改變,以利于采用集中流量路由的本地點對點連接。由于負載的減少和段長的縮短,這將有助于顯著加速和推動現(xiàn)在的本地化總線段的改善。同時,也可以緩解總線爭用問題,同時增加了本地化數(shù)據交換吞吐量。為了滿足這一系統(tǒng)架構趨勢,出現(xiàn)了OCP(開放內核協(xié)議)標準,進一步鞏固了這一設計哲學。另外,IP供應商業(yè)務模式的出現(xiàn)催化了IP互連和設計方法的標準化,有利于在一個開放標準基礎上實現(xiàn)設計的復用。
然而,與通過OCP互連段操控一樣,本地化總線執(zhí)行將整個多核集群上的處理器分拆開。一致方案不能直接基于總線偵聽和依賴總線仲裁來確保存取排序,需要不同的通信方法來確保數(shù)據存取的一致性。在爭用L1行數(shù)據請求排序的過程中,其他挑戰(zhàn)也浮現(xiàn)出來。應對這些挑戰(zhàn)的一種方法是給每個處理單元增加一致消息通信,如圖1所示。這些消息提供了偵聽型緩沖器一致的方法。
圖 1 一致處理系統(tǒng)
一致消息包含了OCP協(xié)議中的一個新命令。處理器系統(tǒng)中的成員向一個集中一致管理器發(fā)送一致消息。該管理器提供存取排序(順序化)和消息路由,為同級成員提供偵聽型存取。這些同級成員將以其單獨的L1行狀態(tài)進行響應,并發(fā)出一個消息響應。根據這些響應,一致管理器發(fā)起對內核間一致數(shù)據的數(shù)據移動,將存取集中在更高級別的存儲器層,如L2和L3高速緩沖器。I/O一致單元還可提供一種方式逐漸采用/逐漸淘汰數(shù)據進/出一致地址空間的數(shù)據,它是一致消息交換的一部分。
除了OCP協(xié)議中的新消息類命令外,還需要具體的處理器響應一致狀態(tài)請求,因此它們不只是總線處理的發(fā)動者(主控)。一致處理系統(tǒng)滿足這一要求的方法可能是通過提供一個OCP從端口來接收和響應一致管理器發(fā)送的消息。處理器的一致請求將利用OCP主端口。在處理集群內,內核間和一致管理器之間的一致消息交換被稱為“干預”。處理器的OCP從端口接收干預,因此稱為“干預端口”。
如圖1所示,1004K系統(tǒng)的每個獨立處理器都是基于我們多線程處理器架構的,可以在單標量、9級流水線范圍內提供兩個獨立線程并處理上下文。復制的1級數(shù)據高速緩沖器標記陣列可同時用于存取CPU操作和干預查尋。一致處理系統(tǒng)可支持MESI型高速緩沖器行一致性。
處理系統(tǒng)一致管理器通過其請求單元—OCP從端口,在每個CPU和I/O一致單元的推動下,接收進入的消息并對其進行串化。串化的消息按照其地址空間和上下文,或使用“存儲器接口單元”發(fā)送到更高級別的高速緩沖器層,或使用“偵聽代理”發(fā)送至同級處理器和I/O一致單元。偵聽代理發(fā)起OCP主處理(干預)來查尋每個處理器的一致L1高速緩沖器行狀態(tài)。干預返回到消息發(fā)起者,稱為自我干預,有助于發(fā)起者提供存取排序。對 CPU 發(fā)起的一致消息響應和數(shù)據響應是在“響應單元”內確立的,并發(fā)送到每個 CPU。
一致OCP命令
在1004K CPS中使用的OCP命令可以分成三類。
第一類是保持MESI型高速緩沖器行狀態(tài)的一致消息。它們是CPU負載/存儲操作的結果,能夠發(fā)起CPU和/或存儲器子系統(tǒng)之間的數(shù)據移動。CPS(一致處理系統(tǒng))的所有同級CPU將接收由一個發(fā)起者發(fā)送的一致消息,并根據它們的高速緩沖器行一致狀態(tài)做出響應。一致管理器將根據需要發(fā)起數(shù)據移動。
一致高速緩沖器操作指令用于一致地址空間內高速緩沖器行的維護。I/O流量將新的一致行帶入該域,或將一致上下文從高速緩沖器行中移除。另外,還要進行存儲器層的同步化操作。
第三類是非一致命令,在一致地址空間外的存儲區(qū)中執(zhí)行OCP主端口處理。它們代表了OCP讀寫命令。
一致消息
一致處理系統(tǒng)可能執(zhí)行四個一致消息,這四個消息是由CPU負載/存儲活動產生的L1高速緩沖器行狀態(tài)變化導致的。發(fā)起的CPU將這個消息以OCP主端口命令發(fā)送。系統(tǒng)的同級CPU接收基于該行狀態(tài)變化的干預,并以其本地高速緩沖器行狀態(tài)進行響應。
第一種消息類型是CohReadOwn,表示在嘗試修改高速緩沖器行時發(fā)生的高速緩沖器的不命中。同級內核遇到處于“修改”狀態(tài)的該行時,會強制回寫到存儲器子系統(tǒng)中,并執(zhí)行本地失效。作為優(yōu)化,本地遇到的行數(shù)據將被轉發(fā)到請求方 CPU,以降低存取延遲。請求方CPU將使該行作為“專有”行,并執(zhí)行行修改指令。然后,高速緩沖器行狀態(tài)將變成“修改過的”。在等待行重新填滿的時候,請求方CPU將繼續(xù)另一個線程的執(zhí)行。
一致讀取共享(CohReadShared)消息表明在讀行操作過程中發(fā)生的高速緩沖器不命中。不需要行修改。遇到“已修改”狀態(tài)的該行的同級內核將強制回寫到存儲器子系統(tǒng)。命中的同級行將轉換到“共享”狀態(tài)。命中數(shù)據將被轉發(fā)到請求方內核,并以“共享”狀態(tài)安裝。然后執(zhí)行讀行操作。在等待行重新填滿的時候,請求方CPU將繼續(xù)另外一個線程的執(zhí)行。
一致升級(CohUpgrade)消息表明遇到命中“共享”行的一個高速緩沖器行修改指令。同級內核將收到通知取消命中行。在修改指令執(zhí)行完以后,“共享”行會隨之升級為“修改”行。
最終,一致回寫(CohWriteBack)消息表示驅逐了一個一致高速緩沖器行。一致管理器將通過干預端口發(fā)起數(shù)據移動,并將數(shù)據轉發(fā)到存儲器子系統(tǒng)。被驅逐的高速緩沖器行隨后便由一個新的—可能是一致的—地址取代。在這種情況下,CohReadOwn或CohReadShared導致了這個驅逐。
一致高速緩沖器操作指令
為了響應高速緩沖器操作,需要發(fā)起一致消息,并發(fā)送到同級內核。
CohCopyBack—將一致高速緩沖器行回寫到存儲子系統(tǒng)。
CohInvalidate—清除一致高速緩沖器行,而不是將其內容回寫到存儲子系統(tǒng)。
CohWriteInvalidate—I/O一致單元在一個新的高速緩沖器行注入一致域。
CohReadInvalidate — I/O一致單元通知系統(tǒng),高速緩沖器行將離開一致域。
CohCompletionSync—無數(shù)據的命令可以保持排序。
非一致命令
傳統(tǒng)的OCP命令,如“讀取”和“寫入”命令是由整個一致處理系統(tǒng)支持的,以處理非一致存儲器存取的數(shù)據存取。當高速緩存的、非一致地址內的命中失敗,或者非高速緩存存取引發(fā)存儲子系統(tǒng)內的讀取操作時,就會發(fā)出讀命令。如果響應數(shù)據是作為非一致高速緩存安裝的話,那么非高速緩存數(shù)據就會直接被消耗掉。提取和負載/存儲活動可導致讀取處理。當高速緩存的、非一致逐出數(shù)據或非高速緩存地址范圍存儲被寫入存儲子系統(tǒng)時,即發(fā)出寫入命令。內核的 OCP 主端口執(zhí)行命令和數(shù)據階段的處理。
實例—一致讀取共享消息
CPU0 在一致高速緩存行上遇到負載不命中,并發(fā)起 cohReadShared 消息(無修改意圖)。一致管理器將干預消息發(fā)送到所有內核,在此內核 1 將響應“修改”的命中。一致管理器現(xiàn)在發(fā)起了一個修改行回寫,將行數(shù)據從內核 1 中的干預端口移動到存儲子系統(tǒng)。命中的內核 1 高速緩存行轉移到“共享”狀態(tài)(見圖2)。行數(shù)據移動也會轉發(fā)到內核 0,在此它可在“共享”狀態(tài)下安裝。
圖2 一致讀取共享消息
結語
OCP互連有助于支持基于消息的一致方案。集中的一致管理器可以串化從單獨內核發(fā)出的一致消息,并詢問同級內核的一致狀態(tài)。內核之間的數(shù)據轉發(fā)可減少存取延遲和對更高級別的存儲器層的流量。單個內核支持OCP主端口發(fā)起數(shù)據存取和OCP從端口接收來自一致管理器的詢問。
參考文獻:
1.OCP規(guī)范2.2,2006 OCP-IP協(xié)會,版權所有
2.OCP一致擴展,第二部分:信號和解碼(未發(fā)表、初稿)
3.MIPS32 1004K一致處理系統(tǒng)用戶手冊,MIPS科技公司