|
引言
9 K1 j9 g1 P" A- T" m2 R, h4 `人工智能(AI)的快速發(fā)展正在重塑網(wǎng)絡(luò)技術(shù)的格局,特別是在光互連領(lǐng)域。隨著我們步入新的計(jì)算時(shí)代,了解AI的發(fā)展將如何影響傳輸網(wǎng)絡(luò)以及如何為這種即將到來的轉(zhuǎn)變做好準(zhǔn)備非常重要。本文將探討AI時(shí)代傳輸網(wǎng)絡(luò)未來規(guī)劃的挑戰(zhàn)和解決方案[1]。
$ y: I6 B/ d( M' P5 r
r3qsegaqztn64013915130.png (73.67 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
r3qsegaqztn64013915130.png
2024-11-24 01:19 上傳
% ~: G3 M, ?3 ] \# ^
* _+ g1 [' ~7 P/ i4 B+ B' g6 g; ~AI的興起及其對(duì)光網(wǎng)絡(luò)的影響0 ?9 K2 E. C- L
生成式AI應(yīng)用的激增使光學(xué)行業(yè)處于技術(shù)演進(jìn)的前沿。改進(jìn)的光互連對(duì)于緩解AI集群內(nèi)的帶寬限制變得越來越重要。這一趨勢(shì)在2024年OFC大會(huì)上成為熱門話題,行業(yè)預(yù)測(cè)AI集群應(yīng)用的光收發(fā)器市場(chǎng)將出現(xiàn)顯著增長(zhǎng)。# s' n, `8 C! V r' p, z7 [
w4scmw1vkkl64013915230.png (50.5 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
w4scmw1vkkl64013915230.png
2024-11-24 01:19 上傳
( i- o4 }0 M, `/ R. W3 ~: s8 t
圖1:AI集群以太網(wǎng)光收發(fā)器銷售預(yù)測(cè)* ~& Z$ H6 [/ ~( M' Y2 `4 L% t8 {' y2 e
# P+ \" M/ H( G, i如圖1所示,未來五年內(nèi)AI集群光收發(fā)器的銷售預(yù)計(jì)將達(dá)到約520億美元。這一預(yù)測(cè)強(qiáng)調(diào)了光技術(shù)在支持AI基礎(chǔ)設(shè)施方面將發(fā)揮的重要作用。
& @5 [* ~( G4 J# F4 u; W% A8 A# H' M! j% h! W$ t/ m0 ?
雖然大多數(shù)注意力集中在AI集群內(nèi)的短距離互連上,但考慮對(duì)AI數(shù)據(jù)中心環(huán)境之外的更廣泛傳輸網(wǎng)絡(luò)的影響也很重要。問題是:AI流量將如何影響大都市、長(zhǎng)途和更長(zhǎng)距離應(yīng)用中的光傳輸,這些應(yīng)用廣泛使用相干傳輸技術(shù)?# H8 {+ ^; I$ M8 E: b, Y
- i f1 s V0 N" k0 g; ~( w
從過去吸取經(jīng)驗(yàn):應(yīng)用對(duì)傳輸網(wǎng)絡(luò)的影響
: H" m3 O, ~6 z/ r6 _為了理解AI對(duì)傳輸網(wǎng)絡(luò)的潛在影響,回顧以前的帶寬密集型應(yīng)用如何塑造網(wǎng)絡(luò)流量模式會(huì)有所幫助。讓我們考慮幾個(gè)例子:搜索應(yīng)用:AI訓(xùn)練過程類似于搜索引擎爬蟲收集數(shù)據(jù)進(jìn)行索引,而AI推理類似于用戶查詢搜索引擎。雖然單個(gè)搜索相關(guān)流量可能很小,但累積效應(yīng)對(duì)整體傳輸流量貢獻(xiàn)顯著。視頻內(nèi)容分發(fā):視頻流媒體的增長(zhǎng)導(dǎo)致網(wǎng)絡(luò)負(fù)擔(dān)增加,特別是高分辨率內(nèi)容。這個(gè)挑戰(zhàn)通過內(nèi)容緩存得到解決,將熱門內(nèi)容放置在更靠近終端用戶的位置,以減少整體網(wǎng)絡(luò)流量和延遲。云計(jì)算:云服務(wù)的興起導(dǎo)致數(shù)據(jù)中心內(nèi)部和數(shù)據(jù)中心之間的流量(東西向流量)增加,因?yàn)楣ぷ髫?fù)載跨越多個(gè)站點(diǎn)。AI應(yīng)用可能遵循類似的模式,訓(xùn)練數(shù)據(jù)和推理模型分布在物理上不同的位置。
0 [$ U2 \, p% {' M+ i- c: `[/ol]
s u1 N5 y0 [這些例子說明了AI應(yīng)用的增長(zhǎng)可能如何導(dǎo)致網(wǎng)絡(luò)運(yùn)營(yíng)商需要擴(kuò)展數(shù)據(jù)中心互連、大都市、區(qū)域甚至長(zhǎng)途和海底網(wǎng)絡(luò)的容量。9 H* ?2 y% c0 K# |5 i
. M- O" k$ ]; _8 R$ w# w+ o n% z4 AAI網(wǎng)絡(luò)中的功耗-延遲平衡
% W9 q9 x/ |8 Z: _( OAI基礎(chǔ)設(shè)施發(fā)展的關(guān)鍵因素是AI集群和數(shù)據(jù)中心的巨大功耗需求。這個(gè)挑戰(zhàn)讓人想起云服務(wù)增長(zhǎng)時(shí)期,當(dāng)時(shí)獲取便宜的電力資源推動(dòng)了大型數(shù)據(jù)中心的選址。然而,電力設(shè)施限制導(dǎo)致采用物理分布式架構(gòu),依賴高容量傳輸互連來維持所需的網(wǎng)絡(luò)拓?fù)洹?font class="jammer">2 p: L# |+ R, B6 @
sxxzku3h4ds64013915330.png (35.5 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
sxxzku3h4ds64013915330.png
2024-11-24 01:19 上傳
' ]6 {' |8 |5 ~" s. `圖2:由于設(shè)施功耗限制導(dǎo)致網(wǎng)絡(luò)Fabric物理擴(kuò)展的場(chǎng)景1 C% q' Q7 T. ?' T; o3 Q- R$ f
$ C* }, w% Q2 u# p3 K( g, u* O
圖2說明了功耗限制如何導(dǎo)致網(wǎng)絡(luò)Fabric的物理擴(kuò)展,需要高容量光互連。這種AI應(yīng)用的分布式網(wǎng)絡(luò)方法由于訓(xùn)練和推理過程的特定計(jì)算和延遲要求而帶來獨(dú)特的挑戰(zhàn)。
* R! `* P$ }+ ~6 ~0 F! v; d y- d L* B. A. ~
AI網(wǎng)絡(luò)中的延遲考慮
) e. y& ~. S% `8 `& E: s0 t在設(shè)計(jì)針對(duì)AI優(yōu)化的傳輸網(wǎng)絡(luò)時(shí),了解延遲要求非常重要。在AI訓(xùn)練階段,AI集群內(nèi)需要極低的延遲來高效處理傳入的數(shù)據(jù)集。然而,收集這些數(shù)據(jù)集的過程可能對(duì)延遲不太敏感。
7 ~1 o$ t" X4 V8 u' ^' d& V/ H
15hhzh2z3qq64013915430.png (61.6 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
15hhzh2z3qq64013915430.png
2024-11-24 01:19 上傳
5 e9 y' @$ x$ |8 \
圖3:訓(xùn)練模式下AI集群內(nèi)需要極低延遲
! J3 x8 h: H5 s" z' z
& k9 s7 j0 x. C/ e6 Q圖3展示了訓(xùn)練模式下AI集群內(nèi)的延遲要求。雖然AI訓(xùn)練的地理分布并不理想,但功耗限制可能需要采用分布式AI訓(xùn)練技術(shù)來嘗試緩解引入的延遲影響。
: r) r: b: A5 d9 \6 }! a5 B8 `" k% l( z( z$ h' j, W. y: s6 X
對(duì)于AI推理,目標(biāo)是最小化用戶查詢和傳輸結(jié)果之間的延遲。這種延遲受查詢復(fù)雜性和推理模型與用戶之間的"跳數(shù)"影響。% T7 F2 R& R) q% n; i9 U
la5vblzbqmd64013915530.jpg (98.11 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
la5vblzbqmd64013915530.jpg
2024-11-24 01:19 上傳
0 A1 U0 [: ?' U) }圖4:最小化AI推理的延遲
* s: {7 z4 ~+ t/ }, S! X B( @1 E& [% z
圖4強(qiáng)調(diào)了最小化AI推理延遲的重要性。業(yè)界正在積極討論如何在訪問推理模型時(shí)減少延遲,以及如何有效地將訓(xùn)練和推理功能分布到集中式架構(gòu)之外,以解決單站點(diǎn)功耗限制的方法。 r) x; `6 Z* l- u
7 `+ W$ W+ J6 V' o傳輸網(wǎng)絡(luò)未來規(guī)劃策略
, \% V! D! E9 p6 X' c# r; ?5 e# E1 u為了準(zhǔn)備網(wǎng)絡(luò)的AI驅(qū)動(dòng)未來,可以采用幾種策略來未來規(guī)劃傳輸網(wǎng)絡(luò):投資高容量相干傳輸:AI網(wǎng)絡(luò)架構(gòu)的擴(kuò)展可能會(huì)遵循類似于云架構(gòu)的模式,高容量相干傳輸使物理擴(kuò)展成為可能,緩解了電源限制。相干光互連已經(jīng)提供每波長(zhǎng)1.2T的性能優(yōu)化轉(zhuǎn)發(fā)器解決方案和400G路由器到路由器波長(zhǎng),并正在向使用MSA可插拔模塊的800G發(fā)展。規(guī)劃分布式架構(gòu):考慮到功耗限制和延遲因素,網(wǎng)絡(luò)設(shè)計(jì)師應(yīng)該預(yù)料到分布式AI訓(xùn)練和推理能力的需求。這種方法將需要在物理分離的站點(diǎn)之間建立強(qiáng)大的高容量互連。優(yōu)化靈活擴(kuò)展:隨著AI應(yīng)用的發(fā)展,傳輸網(wǎng)絡(luò)必須設(shè)計(jì)成能夠靈活擴(kuò)展帶寬并適應(yīng)不斷變化的流量模式。這可能涉及實(shí)施軟件定義網(wǎng)絡(luò)(SDN)和網(wǎng)絡(luò)功能虛擬化(NFV)技術(shù),以實(shí)現(xiàn)動(dòng)態(tài)資源分配。優(yōu)先考慮能源效率:考慮到AI基礎(chǔ)設(shè)施的巨大功耗需求,專注于節(jié)能網(wǎng)絡(luò)技術(shù)將非常重要。這不僅包括AI集群本身,還包括傳輸網(wǎng)絡(luò)組件。增強(qiáng)邊緣計(jì)算能力:為了解決AI推理的延遲問題,考慮加強(qiáng)邊緣計(jì)算基礎(chǔ)設(shè)施。這可能涉及將推理模型部署在更靠近終端用戶的位置,并確保邊緣站點(diǎn)與中央AI資源之間的高容量、低延遲連接。監(jiān)控和分析流量模式:實(shí)施強(qiáng)大的網(wǎng)絡(luò)監(jiān)控和分析工具,以了解AI相關(guān)流量如何影響網(wǎng)絡(luò)的不同部分。這些數(shù)據(jù)對(duì)于做出關(guān)于網(wǎng)絡(luò)升級(jí)和擴(kuò)展的明智決策將非常寶貴。
: Q3 W. n' R' H: V; ?' ~* Q[/ol]4 W, F$ ^( U+ N
結(jié)論/ e4 k6 x& `3 O7 _
AI應(yīng)用的興起為傳輸網(wǎng)絡(luò)帶來了挑戰(zhàn)和機(jī)遇。通過從帶寬密集型應(yīng)用的過去經(jīng)驗(yàn)中學(xué)習(xí),并仔細(xì)考慮AI工作負(fù)載的獨(dú)特需求,網(wǎng)絡(luò)運(yùn)營(yíng)商和設(shè)計(jì)師可以為AI時(shí)代的基礎(chǔ)設(shè)施做好未來規(guī)劃。關(guān)鍵在于通過創(chuàng)新的網(wǎng)絡(luò)架構(gòu)和先進(jìn)的光技術(shù),平衡功耗限制、延遲要求和帶寬需求。隨著繼續(xù)關(guān)注不斷發(fā)展的AI領(lǐng)域,高容量相干傳輸將在塑造網(wǎng)絡(luò)未來方面發(fā)揮關(guān)鍵作用,使AI基礎(chǔ)設(shè)施能夠在大都市、長(zhǎng)途和全球網(wǎng)絡(luò)中實(shí)現(xiàn)物理擴(kuò)展和優(yōu)化。1 b$ }3 M5 p4 S' Z
" N Z/ q$ M6 ~參考文獻(xiàn)
8 Y3 b6 ~0 q, |! l) B& e[1] E. Park, "Future Proofing Transport Networks for AI," Acacia Communications, Sep. 10, 2024. [Online]. Available: https://acacia-inc.com/blog/future-proofing-transport-networks-for-ai/
! c! ^! [3 u; G9 }# K) R7 B
h: j# J# K! l& x- IEND" D% C: P, d- r5 |5 t! i
8 n0 R. I5 r: y; x/ Q ]' F$ F$ [# a, z4 E+ @
軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
8 q4 b' {2 `* M, C4 {點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
" a. `' O# K, b" Y7 F3 n
8 Y+ E" a2 a: c2 T$ a; ~1 ~; d歡迎轉(zhuǎn)載
/ G S; \. z8 d9 l0 C B6 s
5 Y/ A! ~6 d4 Z轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!8 @& }0 X9 M" ?
# \ x; N1 r! R+ D+ L. M# n9 ?7 p& F* I/ J% {* j- H
7 M2 |5 J: K; X0 T! q. @
naczugh53dt64013915630.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
naczugh53dt64013915630.gif
2024-11-24 01:19 上傳
7 ]% l, s2 G' c4 P% C. c: p0 ^2 x, p; x {9 e
關(guān)注我們
# v4 Y( _3 T6 F% g: W' m
2 i& @8 }9 X# _, y0 b" w4 W" S! |2 s) n
1f3lozyzcax64013915730.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
1f3lozyzcax64013915730.png
2024-11-24 01:19 上傳
% r4 D& u& [1 U
|
9 I+ S4 {, O3 B/ S% E s
iwjcc3g1jqy64013915831.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
iwjcc3g1jqy64013915831.png
2024-11-24 01:19 上傳
& d/ K0 a$ `& i
| 0 K! Z/ N x9 z$ a1 r$ h9 Y
2glz32gqj4w64013915931.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
2glz32gqj4w64013915931.png
2024-11-24 01:19 上傳
! y; Y& \& j' \8 y3 z5 g |
0 A" f' {# y" i
. @& \4 e z: B2 m- Z+ l, p- i+ G% H' g' n
' q2 v6 g' v' D3 q: T1 Q關(guān)于我們:
5 {8 u7 v4 X8 K( v4 P2 E2 s! @深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。% q; T$ ?# e1 b( S
5 p1 E. E7 `& O0 }$ s
http://www.latitudeda.com/
1 L3 e1 P0 E2 k# ~+ I0 e% I(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|