當(dāng)前位置:首頁 > 芯聞號 > 動態(tài)速遞
[導(dǎo)讀]隨著人工智能(AI)模型變得越來越復(fù)雜,數(shù)據(jù)量不斷攀升,數(shù)據(jù)中心正在通過改變系統(tǒng)架構(gòu),來實現(xiàn)更快、更高效的處理。

面向可擴展AI計算的連接創(chuàng)新

隨著人工智能(AI)模型變得越來越復(fù)雜,數(shù)據(jù)量不斷攀升,數(shù)據(jù)中心正在通過改變系統(tǒng)架構(gòu),來實現(xiàn)更快、更高效的處理。

基于AI模型產(chǎn)生的業(yè)務(wù)洞察提高了各行各業(yè)的生產(chǎn)力。從為金融機構(gòu)提供全天候客戶支持的AI聊天機器人;到可以實時分析患者數(shù)據(jù),預(yù)測潛在并發(fā)癥,從而實現(xiàn)更早干預(yù)的醫(yī)療保健平臺,數(shù)據(jù)驅(qū)動型計算系統(tǒng)的應(yīng)用正在持續(xù)擴展。隨著這些模型變得越來越復(fù)雜,它們所需的數(shù)據(jù)量也會不斷增加。這還沒考慮到生成式AI的發(fā)展,生成式AI的結(jié)果輸出則會更依賴持續(xù)擴充的語言模型,和不斷升級的算力。

為了支持這些應(yīng)用,數(shù)據(jù)中心必須具備更高效的大數(shù)據(jù)處理能力。這一趨勢正在改變數(shù)據(jù)中心所使用的設(shè)備,同時也在改變相應(yīng)的互連技術(shù)。

開發(fā)可擴展的數(shù)據(jù)中心架構(gòu)

更高帶寬、更低延遲的系統(tǒng),對有效支持AI工作負(fù)載非常關(guān)鍵。處理密集型工作負(fù)載已經(jīng)從標(biāo)準(zhǔn)中央處理單元(CPU),轉(zhuǎn)向更強大的圖形處理單元(GPU)- 它們的設(shè)計初衷是通過同時執(zhí)行大量相對簡單的計算來呈現(xiàn)復(fù)雜的圖像。針對需要在短時間內(nèi)完成多項計算任務(wù)的應(yīng)用,GPU已成為首選引擎。與此同時,隨著張量處理單元芯片(GPU)的出現(xiàn),將進一步加速AI的學(xué)習(xí)工作負(fù)載。

單個處理器可以完成的任務(wù)畢竟是有限的。通過將處理器集群連接在一起,數(shù)據(jù)中心的算力可以大幅躍升。而如何將這些集群高效連接在一起是需要攻克的技術(shù)挑戰(zhàn)。

面向可擴展AI計算的連接創(chuàng)新

連接器是實現(xiàn)可擴展性的關(guān)鍵

在多個組件之間實現(xiàn)大量數(shù)據(jù)快速、可靠地傳輸需要一系列不同的連接器。承擔(dān)繁重工作的GPU,以及在整個過程中協(xié)調(diào)工作負(fù)載管理的CPU主要依靠插座和疊板連接器將它們連接到印刷電路板。高速線纜組件和線纜盒將服務(wù)器背板上的電氣連接件連接到服務(wù)器上的電路板和其他組件。其他輸入/輸出(I/O)連接器將數(shù)據(jù)從一臺服務(wù)器傳輸?shù)搅硪慌_服務(wù)器,并跨多個服務(wù)器連接集群。

為了高效地運行,這些連接器的設(shè)計必須滿足外形因數(shù)規(guī)范,同時最大限度地提高數(shù)據(jù)傳輸速度。目前最快的AI解決方案的傳輸速率是56千兆比特/秒。在部署的系統(tǒng)中,這一數(shù)字將在未來一到兩年內(nèi)增長到112千兆比特/秒,并有望在兩到三年后達到224千兆比特/秒。

隨著數(shù)據(jù)速率的逐步提高,確保系統(tǒng)可靠性能的信號誤差范圍也在縮小。通過銅纜連接以224千兆比特/秒的速率穩(wěn)定傳輸數(shù)據(jù),意味著(系統(tǒng))需要在極限物理條件下工作。除了這些嚴(yán)格的性能規(guī)格,工程連接器還必須具有足夠的機械方面和散熱方面的可靠性,以便能夠在嚴(yán)苛的操作環(huán)境中使用。

為此,TE設(shè)計并生產(chǎn)出各種具有適配功能的連接器,能同時兼顧性能、成本、可靠性和耐用性。這其中包括將加速計算處理單元安裝到不同電路板上的連接器接口,以及用于安裝中央處理器的插座。為了快速連接這些組件,TE還開發(fā)出一系列用于高速板級連接的內(nèi)部電纜組件、電纜背板組件,以及線纜盒及高速連接器,簡化系統(tǒng)集成過程,并支持系統(tǒng)構(gòu)建和擴展這些系統(tǒng)的模塊化方法,最大程度上實現(xiàn)最高速度和最低延遲的可行性。

賦能AI計算

將數(shù)據(jù)傳輸?shù)剿栉恢脙H僅只是完成了一半的工作。構(gòu)成AI集群的組件也需要電力來完成它們的工作。一般來說,更強的算力往往需要更高的電力來驅(qū)動。供應(yīng)這些電力需要更高效的連接器,以支持最高級別的系統(tǒng)性能。

為了支持計算密集型應(yīng)用,這些組件必須堅固耐用,以確保它們能夠可靠地支持連續(xù)運行的需求。為了確保不斷發(fā)展的架構(gòu)能持續(xù)滿足這些嚴(yán)苛的規(guī)格需求,組件制造商需要提供各種結(jié)構(gòu)形態(tài)的電源線纜組件和連接器。

運行復(fù)雜的AI計算組件需要更高的電力,更高的電力會產(chǎn)生更多熱量。這讓散熱成為非常關(guān)鍵的一環(huán)。AI系統(tǒng)前面板上的連接通常是最大的發(fā)熱源之一,也讓該區(qū)域成為需要提高效率的重點區(qū)域。TE的I/O產(chǎn)品具有內(nèi)置散熱功能,可將熱能從這些模塊傳導(dǎo)出去,以保持較低的運行溫度,從而提高系統(tǒng)的整體效率和可靠性。

在早期開展協(xié)作

為了支持日益復(fù)雜的AI應(yīng)用,數(shù)據(jù)中心對更快速度、更高帶寬的需求基本上是沒有盡頭的。即使在部署用于當(dāng)下的解決方案時,我們的客戶也在積極思考如何為數(shù)據(jù)中心的下一步發(fā)展設(shè)計更快、更高效的架構(gòu)。

有時,連接器功能的選擇可能會改變系統(tǒng)架構(gòu)的方法。例如,當(dāng)我們與一位客戶在其系統(tǒng)的早期設(shè)計階段緊密合作時,經(jīng)過深入的探索,我們最終將從基于板對板連接器的系統(tǒng)改為使用基于線纜背板的系統(tǒng),從而使系統(tǒng)變得更加靈活和高效。

這樣的創(chuàng)新之所以能成功,是因為我們在早期就與客戶保持密切溝通,了解他們當(dāng)前的需求,及其未來的愿景。隨著AI發(fā)展加速數(shù)據(jù)中心的轉(zhuǎn)型,這種協(xié)作對于持續(xù)推動行業(yè)快速發(fā)展,以滿足激增的對越來越強大的算力的需求至關(guān)重要。

(本文作者:TE Connectivity數(shù)據(jù)與終端設(shè)備事業(yè)部高級副總裁兼總經(jīng)理Sudhakar Sabada)

本站聲明: 本文章由作者或相關(guān)機構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內(nèi)容真實性等。需要轉(zhuǎn)載請聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請及時聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫毥谦F公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數(shù)字化轉(zhuǎn)型技術(shù)解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關(guān)鍵字: AWS AN BSP 數(shù)字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險,如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報道,騰訊和網(wǎng)易近期正在縮減他們對日本游戲市場的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國國際大數(shù)據(jù)產(chǎn)業(yè)博覽會上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...

關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術(shù)學(xué)會聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現(xiàn)場 NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會上,軟通動力信息技術(shù)(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉