Hot Interconnects 2024 | 互連技術(shù)能否跟上AI的步伐？系統(tǒng)級(jí)視角

逍遙設(shè)計(jì)自動(dòng)化

引言
隨著人工智能（AI）技術(shù)迅速發(fā)展，對(duì)更強(qiáng)大、更高效計(jì)算系統(tǒng)的需求呈指數(shù)級(jí)增長(zhǎng)。滿足這一需求的主要挑戰(zhàn)之一是確�；ミB技術(shù)能夠跟上AI加速器（也稱為XPU，極限處理單元）性能的提升步伐。互連是使系統(tǒng)不同部分之間能夠通信的組件。本文探討了AI系統(tǒng)中互連技術(shù)的現(xiàn)狀和未來(lái)發(fā)展趨勢(shì)，重點(diǎn)關(guān)注擴(kuò)展性、功耗和潛在解決方案面臨的挑戰(zhàn)[1]。

5 r+ n0 o+ S( S5 m' C2 tXPU性能和I/O帶寬的擴(kuò)展
預(yù)計(jì)未來(lái)幾年XPU的性能將顯著提升，這主要得益于芯片架構(gòu)、工藝技術(shù)和散熱解決方案的進(jìn)步。根據(jù)作者預(yù)測(cè)，到2030年，XPU性能有望比2022年提高100倍[1]。
' }" b6 w+ P1 [2 U% o8 V
* _  c! B% X% p' {  H  O圖1：展示了從2022年到2028年XPU性能的預(yù)期增長(zhǎng)，顯示由于芯片架構(gòu)、工藝和基板技術(shù)的進(jìn)步，性能將提高50倍。
: x9 g* y, ]* j( p
7 W5 R# N) Z% d& O# X( n. x' z這種計(jì)算能力的顯著增長(zhǎng)需要相應(yīng)提高I/O帶寬，以確保數(shù)據(jù)能在XPU和內(nèi)存之間高效傳輸。作者提供了AI互連帶寬需求的預(yù)測(cè)：

圖2：顯示了從2022年到2028年AI互連帶寬的預(yù)期增長(zhǎng)，以及相應(yīng)的1600G端口數(shù)量和功耗。


! }/ a1 ?9 c1 A% g互連擴(kuò)展面臨的挑戰(zhàn)
在追求更高帶寬的過(guò)程中，出現(xiàn)了幾個(gè)挑戰(zhàn)：

功耗：帶寬增加通常會(huì)導(dǎo)致功耗增加。但即使帶寬增加，SERDES（串行器/解串器）I/O功耗仍然只占XPU總功耗的一小部分。

密度：隨著XPU性能的提升，需要更高密度的互連以支持單個(gè)系統(tǒng)中不斷增加的處理器數(shù)量。

成本：互連技術(shù)的擴(kuò)展通常會(huì)增加成本，特別是在向光互連等新技術(shù)過(guò)渡時(shí)。
[/ol]
解決方案和新興技術(shù)
( e" i! A+ V0 ?& S8 Z/ V0 i為應(yīng)對(duì)這些挑戰(zhàn)，業(yè)界正在探索幾種解決方案：
1. 高速SERDES
高速SERDES仍然是互連最實(shí)用和通用的電氣接口。SERDES技術(shù)路線圖顯示，每通道速率將從112G發(fā)展到224G，最終達(dá)到448G。
( N$ x% X# E6 q5 ?+ Q
圖3：列出了高速SERDES的優(yōu)勢(shì)，包括通用電氣接口性質(zhì)和對(duì)各種媒體類型的支持。
, p( u$ p2 Y) W
2. 銅纜與光互連
對(duì)于短距離，特別是在機(jī)架或機(jī)箱內(nèi)，銅纜互連仍然是最具成本效益和能效的解決方案。但隨著距離增加和帶寬需求增長(zhǎng)，光互連變得必要。

$ ^5 G% w( _2 P( ^圖4：討論了在機(jī)箱或機(jī)架內(nèi)使用無(wú)源銅纜互連的優(yōu)勢(shì)，突出了低成本、低功耗和高可靠性。

3. 線性光學(xué)
作者強(qiáng)烈倡導(dǎo)在AI集群中采用線性光學(xué)技術(shù)以解決功耗問(wèn)題。討論了三種主要的線性光學(xué)方法：
% h* i7 M8 h$ i7 t$ N# o& n* V0 e8 o

線性可插拔光學(xué)（LPO）

近封裝光學(xué)（NPO）

光電共封裝（CPO）
0 K) d, t4 e5 @  W6 F4 B8 i8 u[/ol]
, b# U# P; ^6 Y  B5 |3 m
- \+ X+ T& A. `+ M
圖5：展示了線性接口光學(xué)的演進(jìn)，顯示了從線性可插拔光學(xué)（LPO）到近封裝光學(xué)（NPO）和光電共封裝（CPO）的發(fā)展過(guò)程。
- l2 |( w# I0 t" h& N+ S/ j  ]
9 Y6 J- g  M) B& S在這些選項(xiàng)中，LPO被認(rèn)為是最有前途的解決方案，可以顯著節(jié)省功耗，同時(shí)避免了CPO和NPO在制造和維護(hù)方面的問(wèn)題。

4. LPO多源協(xié)議（MSA）
為加速LPO技術(shù)的采用，十二家行業(yè)領(lǐng)導(dǎo)者成立了LPO多源協(xié)議，以定義線性可插拔光學(xué)的規(guī)范。
, T) d& p6 P. {# `& z
圖6：列出了LPO多源協(xié)議的創(chuàng)始成員，包括AMD、Arista、Broadcom、Cisco、Intel和NVIDIA等行業(yè)主要參與者。
* r: @( `1 G$ I6 k( u5 j
5. 調(diào)制技術(shù)的進(jìn)展
隨著業(yè)界向每通道448G發(fā)展，正在討論最合適的調(diào)制技術(shù)：

銅纜互連采用448G-PAM6

光互連采用448G-PAM4

每種選項(xiàng)在信號(hào)完整性和所需帶寬方面都有優(yōu)勢(shì)和挑戰(zhàn)。
2 h9 q" q* ]. Y" D
6. 新興技術(shù)
4 t* s+ r' g- \; ^2 X作者提到了一些潛在的未來(lái)技術(shù)，如：

基于微型LED的光學(xué)技術(shù)

微環(huán)諧振器
[/ol]
# ?( D6 ?7 d  ^1 B; m
  X9 ?& E& r$ w! {, G) a
! M' |3 T  x! j1 y! [/ Y圖7：展示了使用4G微型LED的1600G-OSFP模塊圖，說(shuō)明了未來(lái)光互連可能實(shí)現(xiàn)的低功耗。

, f! }# a, d% P4 ]; l
7 y& g% ~: a& H1 D圖8：展示了一個(gè)使用32G-NRZ微環(huán)的1600G-OSFP模塊圖，這是另一種潛在的未來(lái)光互連技術(shù)。
; X( m. J3 f  @. {( l& z; D
- K& j0 d' h, t7 O$ R采用新技術(shù)面臨的挑戰(zhàn)
新的互連技術(shù)提供了潛在優(yōu)勢(shì)，但在采用過(guò)程中面臨幾個(gè)障礙：

上市時(shí)間壓力：XPU制造商無(wú)法承擔(dān)等待新I/O技術(shù)成熟而延遲產(chǎn)品的風(fēng)險(xiǎn)。

批量生產(chǎn)：新技術(shù)需要達(dá)到高容量制造（HVM）狀態(tài)，才能被認(rèn)真考慮集成到XPU中。

風(fēng)險(xiǎn)管理：將未經(jīng)驗(yàn)證的I/O技術(shù)集成到XPU設(shè)計(jì)中帶來(lái)顯著的財(cái)務(wù)風(fēng)險(xiǎn)。
( T( F0 L3 s0 Z0 D; S[/ol]
( o$ j7 f! n; I

圖9：討論了采用新I/O技術(shù)時(shí)的先有雞還是先有蛋問(wèn)題，強(qiáng)調(diào)了在沒(méi)有重大設(shè)計(jì)勝利的情況下開(kāi)發(fā)和擴(kuò)大新技術(shù)規(guī)模的挑戰(zhàn)。

未來(lái)互連發(fā)展策略
) G$ f* B; o- d為應(yīng)對(duì)這些挑戰(zhàn)，提出了幾種策略：

風(fēng)險(xiǎn)分離：使用可插拔光學(xué)模塊，將XPU和新互連技術(shù)的開(kāi)發(fā)時(shí)間表分開(kāi)。

專注于高速SERDES：繼續(xù)改進(jìn)SERDES技術(shù)，作為支持銅纜和光互連的低風(fēng)險(xiǎn)選項(xiàng)。

漸進(jìn)式采用：通過(guò)可插拔模塊逐步引入新技術(shù)，便于升級(jí)和降低風(fēng)險(xiǎn)。
  X! K9 D& G2 o! K% f! |[/ol]


圖10：強(qiáng)調(diào)了XPU上市時(shí)間的重要性，以及等待新I/O技術(shù)帶來(lái)的風(fēng)險(xiǎn)。
) O( b6 x; |, {" T' ]
# ?3 G8 ~8 ?2 a結(jié)論
# T7 C. u+ C. w' I1 X7 p% bAI系統(tǒng)中互連技術(shù)的未來(lái)既充滿機(jī)遇，也面臨重大挑戰(zhàn)。隨著XPU性能的快速提升，業(yè)界必須找到提高互連帶寬和效率的方法，同時(shí)管理功耗、成本和可制造性等問(wèn)題。
: R  D9 T+ o, ~. B7 V$ r
線性光學(xué)技術(shù)，特別是線性可插拔光學(xué)（LPO），成為解決許多這些挑戰(zhàn)的有希望的解決方案。然而，前進(jìn)的道路需要在技術(shù)創(chuàng)新與上市時(shí)間壓力和風(fēng)險(xiǎn)管理等實(shí)際考慮因素之間謹(jǐn)慎平衡。

隨著向每通道224G和448G的互連發(fā)展，像LPO多源協(xié)議這樣的行業(yè)領(lǐng)導(dǎo)者之間的持續(xù)合作將在定義標(biāo)準(zhǔn)和推動(dòng)新技術(shù)采用方面發(fā)揮關(guān)鍵作用。
$ A) j& y5 m- k5 G2 C2 ^8 w1 f8 C
9 j5 ^7 `3 b9 c, l7 X. F+ D( M
參考文獻(xiàn)
[1] Bechtolsheim, "Can Interconnects Keep up with AI? A System-Level Perspective," Presented at Hot Interconnects 2024, 2024.


- END -
# {, o, |: P+ H! j) g- w
! p, e/ N0 X$ ~2 v# E軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
8 ~9 T6 M! S/ g' B/ m( V點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)

歡迎轉(zhuǎn)載

轉(zhuǎn)載請(qǐng)注明出處，請(qǐng)勿修改內(nèi)容和刪除作者信息！

7 Q3 W- L* |: g* r
' i3 n. t( a9 q& t( W
" u" R5 c) }6 p

4 P2 G, A" @: _- V+ ?: X" _關(guān)注我們

$ {2 v: |5 d5 `+ Y

3 e* f& {* X% u4 F* k

2 ~7 @: {" _7 P, g4 {+ d$ ]4 K

4 [% u, N, t' P ! ]& Q( k3 @# g; |: @$ \0 s) u' J

                     


1 f4 ?  t+ n) }+ [; k5 ]& m
關(guān)于我們：
0 T' o: S- D6 Z# g4 |深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
/ A$ I' e2 M& t+ c5 u$ y! m$ y) h
http://www.latitudeda.com/
（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）