Hot Interconnects 2024 | 互連技術(shù)能否跟上AI的步伐？系統(tǒng)級(jí)視角

逍遙設(shè)計(jì)自動(dòng)化

引言
1 g* B  M. j: h# Y8 [隨著人工智能（AI）技術(shù)迅速發(fā)展，對(duì)更強(qiáng)大、更高效計(jì)算系統(tǒng)的需求呈指數(shù)級(jí)增長(zhǎng)。滿足這一需求的主要挑戰(zhàn)之一是確�；ミB技術(shù)能夠跟上AI加速器（也稱(chēng)為XPU，極限處理單元）性能的提升步伐�；ミB是使系統(tǒng)不同部分之間能夠通信的組件。本文探討了AI系統(tǒng)中互連技術(shù)的現(xiàn)狀和未來(lái)發(fā)展趨勢(shì)，重點(diǎn)關(guān)注擴(kuò)展性、功耗和潛在解決方案面臨的挑戰(zhàn)[1]。

, E! U0 l4 a0 lXPU性能和I/O帶寬的擴(kuò)展
預(yù)計(jì)未來(lái)幾年XPU的性能將顯著提升，這主要得益于芯片架構(gòu)、工藝技術(shù)和散熱解決方案的進(jìn)步。根據(jù)作者預(yù)測(cè)，到2030年，XPU性能有望比2022年提高100倍[1]。

圖1：展示了從2022年到2028年XPU性能的預(yù)期增長(zhǎng)，顯示由于芯片架構(gòu)、工藝和基板技術(shù)的進(jìn)步，性能將提高50倍。

( E* y1 P1 y  l! a( w這種計(jì)算能力的顯著增長(zhǎng)需要相應(yīng)提高I/O帶寬，以確保數(shù)據(jù)能在XPU和內(nèi)存之間高效傳輸。作者提供了AI互連帶寬需求的預(yù)測(cè)：

; S" x: F& F4 l( l1 c4 }圖2：顯示了從2022年到2028年AI互連帶寬的預(yù)期增長(zhǎng)，以及相應(yīng)的1600G端口數(shù)量和功耗。
3 W( I6 w3 @4 a

互連擴(kuò)展面臨的挑戰(zhàn)
! h1 f# \% z4 a) Q在追求更高帶寬的過(guò)程中，出現(xiàn)了幾個(gè)挑戰(zhàn)：

功耗：帶寬增加通常會(huì)導(dǎo)致功耗增加。但即使帶寬增加，SERDES（串行器/解串器）I/O功耗仍然只占XPU總功耗的一小部分。

密度：隨著XPU性能的提升，需要更高密度的互連以支持單個(gè)系統(tǒng)中不斷增加的處理器數(shù)量。

成本：互連技術(shù)的擴(kuò)展通常會(huì)增加成本，特別是在向光互連等新技術(shù)過(guò)渡時(shí)。
) A+ z3 r/ l) c9 I8 ?8 w[/ol]
解決方案和新興技術(shù)
$ a3 |: F( D; L4 y" R; E1 E" P為應(yīng)對(duì)這些挑戰(zhàn)，業(yè)界正在探索幾種解決方案：
1. 高速SERDES
% W, `- l& ?" s8 Z- \: s8 \) [0 \高速SERDES仍然是互連最實(shí)用和通用的電氣接口。SERDES技術(shù)路線圖顯示，每通道速率將從112G發(fā)展到224G，最終達(dá)到448G。
0 P! O1 d0 F6 d
' {( z% ?  W4 E0 P+ ^1 [; D圖3：列出了高速SERDES的優(yōu)勢(shì)，包括通用電氣接口性質(zhì)和對(duì)各種媒體類(lèi)型的支持。

4 L8 T8 e" y7 D! N0 i2. 銅纜與光互連
4 b& b7 S6 A5 {" n" {對(duì)于短距離，特別是在機(jī)架或機(jī)箱內(nèi)，銅纜互連仍然是最具成本效益和能效的解決方案。但隨著距離增加和帶寬需求增長(zhǎng)，光互連變得必要。
8 C4 @- ~5 ]' X6 v2 h8 @
7 F8 A4 e* w/ A+ M4 @" [圖4：討論了在機(jī)箱或機(jī)架內(nèi)使用無(wú)源銅纜互連的優(yōu)勢(shì)，突出了低成本、低功耗和高可靠性。

, d  f" N$ p2 [. J1 |# M; B6 A3. 線性光學(xué)
* M5 g1 k( I* T! u4 F5 \作者強(qiáng)烈倡導(dǎo)在AI集群中采用線性光學(xué)技術(shù)以解決功耗問(wèn)題。討論了三種主要的線性光學(xué)方法：

線性可插拔光學(xué)（LPO）

近封裝光學(xué)（NPO）

光電共封裝（CPO）
- l3 K% i2 B' ?& d9 E" \[/ol]
  M" d  s% ~7 ^6 w( u

圖5：展示了線性接口光學(xué)的演進(jìn)，顯示了從線性可插拔光學(xué)（LPO）到近封裝光學(xué)（NPO）和光電共封裝（CPO）的發(fā)展過(guò)程。

在這些選項(xiàng)中，LPO被認(rèn)為是最有前途的解決方案，可以顯著節(jié)省功耗，同時(shí)避免了CPO和NPO在制造和維護(hù)方面的問(wèn)題。
: N5 Y3 v- n. ]- `# l
/ P6 u& u+ g& |7 s  ]2 t; `4. LPO多源協(xié)議（MSA）
為加速LPO技術(shù)的采用，十二家行業(yè)領(lǐng)導(dǎo)者成立了LPO多源協(xié)議，以定義線性可插拔光學(xué)的規(guī)范。

# o  g" v, I; b& e7 I圖6：列出了LPO多源協(xié)議的創(chuàng)始成員，包括AMD、Arista、Broadcom、Cisco、Intel和NVIDIA等行業(yè)主要參與者。
, ?7 O6 L# N; {& k
1 v& p% N, v- g, m# C& x5. 調(diào)制技術(shù)的進(jìn)展
隨著業(yè)界向每通道448G發(fā)展，正在討論最合適的調(diào)制技術(shù)：

銅纜互連采用448G-PAM6

光互連采用448G-PAM4
( a" _* w8 c, O
1 {  v* y% A9 V9 A. U每種選項(xiàng)在信號(hào)完整性和所需帶寬方面都有優(yōu)勢(shì)和挑戰(zhàn)。

) M5 U9 `- w# e# d7 y6. 新興技術(shù)
" m8 |: d9 ^+ O( p4 \$ P: Q作者提到了一些潛在的未來(lái)技術(shù)，如：

基于微型LED的光學(xué)技術(shù)

微環(huán)諧振器
[/ol]

7 j! [8 r2 I0 q8 H( H
圖7：展示了使用4G微型LED的1600G-OSFP模塊圖，說(shuō)明了未來(lái)光互連可能實(shí)現(xiàn)的低功耗。
. B$ [! F4 H, L; k& K# R
% J4 i& H$ u" b, F" }2 D: Y- M% \
圖8：展示了一個(gè)使用32G-NRZ微環(huán)的1600G-OSFP模塊圖，這是另一種潛在的未來(lái)光互連技術(shù)。

采用新技術(shù)面臨的挑戰(zhàn)
4 l! I. |  w* d新的互連技術(shù)提供了潛在優(yōu)勢(shì)，但在采用過(guò)程中面臨幾個(gè)障礙：

上市時(shí)間壓力：XPU制造商無(wú)法承擔(dān)等待新I/O技術(shù)成熟而延遲產(chǎn)品的風(fēng)險(xiǎn)。

批量生產(chǎn)：新技術(shù)需要達(dá)到高容量制造（HVM）狀態(tài)，才能被認(rèn)真考慮集成到XPU中。

風(fēng)險(xiǎn)管理：將未經(jīng)驗(yàn)證的I/O技術(shù)集成到XPU設(shè)計(jì)中帶來(lái)顯著的財(cái)務(wù)風(fēng)險(xiǎn)。
[/ol]
1 `% F  ~- x4 t; O) I# C
. O0 J2 C/ D' F3 w0 E
; l6 h& Q4 a8 Q# E. k圖9：討論了采用新I/O技術(shù)時(shí)的先有雞還是先有蛋問(wèn)題，強(qiáng)調(diào)了在沒(méi)有重大設(shè)計(jì)勝利的情況下開(kāi)發(fā)和擴(kuò)大新技術(shù)規(guī)模的挑戰(zhàn)。

未來(lái)互連發(fā)展策略
為應(yīng)對(duì)這些挑戰(zhàn)，提出了幾種策略：

風(fēng)險(xiǎn)分離：使用可插拔光學(xué)模塊，將XPU和新互連技術(shù)的開(kāi)發(fā)時(shí)間表分開(kāi)。

專(zhuān)注于高速SERDES：繼續(xù)改進(jìn)SERDES技術(shù)，作為支持銅纜和光互連的低風(fēng)險(xiǎn)選項(xiàng)。

漸進(jìn)式采用：通過(guò)可插拔模塊逐步引入新技術(shù)，便于升級(jí)和降低風(fēng)險(xiǎn)。
[/ol]
% ~8 M! u* S7 O9 J1 o$ N8 F; o

圖10：強(qiáng)調(diào)了XPU上市時(shí)間的重要性，以及等待新I/O技術(shù)帶來(lái)的風(fēng)險(xiǎn)。
* O) S2 q1 @& V" V' s
結(jié)論
, A& M% f" D& ~6 |: nAI系統(tǒng)中互連技術(shù)的未來(lái)既充滿機(jī)遇，也面臨重大挑戰(zhàn)。隨著XPU性能的快速提升，業(yè)界必須找到提高互連帶寬和效率的方法，同時(shí)管理功耗、成本和可制造性等問(wèn)題。
1 n7 \) p2 r$ d( I) ]! y  p. L2 p1 E
8 y, D4 P2 ^1 z# c/ b線性光學(xué)技術(shù)，特別是線性可插拔光學(xué)（LPO），成為解決許多這些挑戰(zhàn)的有希望的解決方案。然而，前進(jìn)的道路需要在技術(shù)創(chuàng)新與上市時(shí)間壓力和風(fēng)險(xiǎn)管理等實(shí)際考慮因素之間謹(jǐn)慎平衡。

7 Y# X" B, T: G& T: \, U, i隨著向每通道224G和448G的互連發(fā)展，像LPO多源協(xié)議這樣的行業(yè)領(lǐng)導(dǎo)者之間的持續(xù)合作將在定義標(biāo)準(zhǔn)和推動(dòng)新技術(shù)采用方面發(fā)揮關(guān)鍵作用。


. G/ ?. u3 u. A參考文獻(xiàn)
! c5 `& F# e% K- l! [7 F[1] Bechtolsheim, "Can Interconnects Keep up with AI? A System-Level Perspective," Presented at Hot Interconnects 2024, 2024.
( F# _( F. w8 F  w- _+ i

% D* |) T, G8 I1 S8 _- END -

. t! L  [2 i/ I1 m) }軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)

3 z* k$ o, b: M2 y; s歡迎轉(zhuǎn)載

* E9 C( J0 w% d, K2 B, f0 x8 ]轉(zhuǎn)載請(qǐng)注明出處，請(qǐng)勿修改內(nèi)容和刪除作者信息！
4 p% b' i/ c- k7 j& n  V
$ m7 K. \/ D5 }
. J# @2 `# s4 R0 |  }  [: ?


( ^9 F$ C+ O# |4 C關(guān)注我們

: u( ?. J/ Q8 I; k 5 T8 g. |% h8 A. c

# r5 G7 }9 ^# d$ R! l

                     
/ }, F  t( y2 ^" ~/ }7 X

; n/ G: M+ M4 F7 k7 R9 r
關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專(zhuān)注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。

http://www.latitudeda.com/
5 D& }, g3 q- z1 k# K" F) e; ^（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）