|
引言) [, {( |* k! x0 Z7 A
人工智能(AI)的快速發(fā)展正在重塑網(wǎng)絡(luò)技術(shù)的格局,特別是在光互連領(lǐng)域。隨著我們步入新的計(jì)算時(shí)代,了解AI的發(fā)展將如何影響傳輸網(wǎng)絡(luò)以及如何為這種即將到來(lái)的轉(zhuǎn)變做好準(zhǔn)備非常重要。本文將探討AI時(shí)代傳輸網(wǎng)絡(luò)未來(lái)規(guī)劃的挑戰(zhàn)和解決方案[1]。2 m: u. q7 Z/ y% f" Q1 V2 U* d
r3qsegaqztn64013915130.png (73.67 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
r3qsegaqztn64013915130.png
2024-11-24 01:19 上傳
; T5 w( j) M1 J. ], ?
; Y- E1 e0 g6 T. bAI的興起及其對(duì)光網(wǎng)絡(luò)的影響+ [, [7 O0 s" M7 M
生成式AI應(yīng)用的激增使光學(xué)行業(yè)處于技術(shù)演進(jìn)的前沿。改進(jìn)的光互連對(duì)于緩解AI集群內(nèi)的帶寬限制變得越來(lái)越重要。這一趨勢(shì)在2024年OFC大會(huì)上成為熱門話題,行業(yè)預(yù)測(cè)AI集群應(yīng)用的光收發(fā)器市場(chǎng)將出現(xiàn)顯著增長(zhǎng)。
# e; t% K' e1 ] q# ^7 l7 N
w4scmw1vkkl64013915230.png (50.5 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
w4scmw1vkkl64013915230.png
2024-11-24 01:19 上傳
; D6 ]" w" ~3 L. J& _$ Y
圖1:AI集群以太網(wǎng)光收發(fā)器銷售預(yù)測(cè)1 }0 W0 K2 O! V. N* g
- h, i- ?. `" [9 l4 f如圖1所示,未來(lái)五年內(nèi)AI集群光收發(fā)器的銷售預(yù)計(jì)將達(dá)到約520億美元。這一預(yù)測(cè)強(qiáng)調(diào)了光技術(shù)在支持AI基礎(chǔ)設(shè)施方面將發(fā)揮的重要作用。" z' N* p7 l }# w/ Z( U" I
# t7 M3 P$ C# W. V& U$ C; k雖然大多數(shù)注意力集中在AI集群內(nèi)的短距離互連上,但考慮對(duì)AI數(shù)據(jù)中心環(huán)境之外的更廣泛傳輸網(wǎng)絡(luò)的影響也很重要。問(wèn)題是:AI流量將如何影響大都市、長(zhǎng)途和更長(zhǎng)距離應(yīng)用中的光傳輸,這些應(yīng)用廣泛使用相干傳輸技術(shù)?
* Q/ p# ?' A: p3 Z
. ?6 d, K4 G& r從過(guò)去吸取經(jīng)驗(yàn):應(yīng)用對(duì)傳輸網(wǎng)絡(luò)的影響
' c( R1 `1 M# E% a- A0 x為了理解AI對(duì)傳輸網(wǎng)絡(luò)的潛在影響,回顧以前的帶寬密集型應(yīng)用如何塑造網(wǎng)絡(luò)流量模式會(huì)有所幫助。讓我們考慮幾個(gè)例子:搜索應(yīng)用:AI訓(xùn)練過(guò)程類似于搜索引擎爬蟲收集數(shù)據(jù)進(jìn)行索引,而AI推理類似于用戶查詢搜索引擎。雖然單個(gè)搜索相關(guān)流量可能很小,但累積效應(yīng)對(duì)整體傳輸流量貢獻(xiàn)顯著。視頻內(nèi)容分發(fā):視頻流媒體的增長(zhǎng)導(dǎo)致網(wǎng)絡(luò)負(fù)擔(dān)增加,特別是高分辨率內(nèi)容。這個(gè)挑戰(zhàn)通過(guò)內(nèi)容緩存得到解決,將熱門內(nèi)容放置在更靠近終端用戶的位置,以減少整體網(wǎng)絡(luò)流量和延遲。云計(jì)算:云服務(wù)的興起導(dǎo)致數(shù)據(jù)中心內(nèi)部和數(shù)據(jù)中心之間的流量(東西向流量)增加,因?yàn)楣ぷ髫?fù)載跨越多個(gè)站點(diǎn)。AI應(yīng)用可能遵循類似的模式,訓(xùn)練數(shù)據(jù)和推理模型分布在物理上不同的位置。
" t5 V7 H. _- W* i# @[/ol]
* d$ G* D( e4 J' u這些例子說(shuō)明了AI應(yīng)用的增長(zhǎng)可能如何導(dǎo)致網(wǎng)絡(luò)運(yùn)營(yíng)商需要擴(kuò)展數(shù)據(jù)中心互連、大都市、區(qū)域甚至長(zhǎng)途和海底網(wǎng)絡(luò)的容量。- h, h6 Y5 P( A3 [+ h3 a& U
; B" F6 c9 y7 [. ^6 {) YAI網(wǎng)絡(luò)中的功耗-延遲平衡' g D4 V7 Q E- N7 G. [+ s
AI基礎(chǔ)設(shè)施發(fā)展的關(guān)鍵因素是AI集群和數(shù)據(jù)中心的巨大功耗需求。這個(gè)挑戰(zhàn)讓人想起云服務(wù)增長(zhǎng)時(shí)期,當(dāng)時(shí)獲取便宜的電力資源推動(dòng)了大型數(shù)據(jù)中心的選址。然而,電力設(shè)施限制導(dǎo)致采用物理分布式架構(gòu),依賴高容量傳輸互連來(lái)維持所需的網(wǎng)絡(luò)拓?fù)洹?font class="jammer">! T3 a) n5 i2 Q3 f1 t
sxxzku3h4ds64013915330.png (35.5 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
sxxzku3h4ds64013915330.png
2024-11-24 01:19 上傳
% {$ E5 N( l9 ?圖2:由于設(shè)施功耗限制導(dǎo)致網(wǎng)絡(luò)Fabric物理擴(kuò)展的場(chǎng)景
8 O+ I6 j3 A! p! N' ~: ?6 C( U7 u" }. V; v1 r N
圖2說(shuō)明了功耗限制如何導(dǎo)致網(wǎng)絡(luò)Fabric的物理擴(kuò)展,需要高容量光互連。這種AI應(yīng)用的分布式網(wǎng)絡(luò)方法由于訓(xùn)練和推理過(guò)程的特定計(jì)算和延遲要求而帶來(lái)獨(dú)特的挑戰(zhàn)。& ?5 `. y! V* M& [# w; U5 c
# ~& Q$ J' b( A; [; qAI網(wǎng)絡(luò)中的延遲考慮
% k" Z6 {1 d% O3 G% P在設(shè)計(jì)針對(duì)AI優(yōu)化的傳輸網(wǎng)絡(luò)時(shí),了解延遲要求非常重要。在AI訓(xùn)練階段,AI集群內(nèi)需要極低的延遲來(lái)高效處理傳入的數(shù)據(jù)集。然而,收集這些數(shù)據(jù)集的過(guò)程可能對(duì)延遲不太敏感。1 L! Q+ M. a; _+ f" x
15hhzh2z3qq64013915430.png (61.6 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
15hhzh2z3qq64013915430.png
2024-11-24 01:19 上傳
* a: M% Z. @8 W# f, z5 _1 A圖3:訓(xùn)練模式下AI集群內(nèi)需要極低延遲
% B: _* e V; X% @& r, G. t" L1 Z
9 v' g9 ]0 |) O2 U$ `% o, y, n _圖3展示了訓(xùn)練模式下AI集群內(nèi)的延遲要求。雖然AI訓(xùn)練的地理分布并不理想,但功耗限制可能需要采用分布式AI訓(xùn)練技術(shù)來(lái)嘗試緩解引入的延遲影響。
$ s1 X1 L3 ?( _
9 W% E6 i4 {7 @% |( W' T對(duì)于AI推理,目標(biāo)是最小化用戶查詢和傳輸結(jié)果之間的延遲。這種延遲受查詢復(fù)雜性和推理模型與用戶之間的"跳數(shù)"影響。, S; D7 M' G( E6 N
la5vblzbqmd64013915530.jpg (98.11 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
la5vblzbqmd64013915530.jpg
2024-11-24 01:19 上傳
- s; U( I- i9 u/ g6 f圖4:最小化AI推理的延遲2 w7 Z4 P. V6 A6 l' I
# `. Z' f2 E' m6 I6 v! Z
圖4強(qiáng)調(diào)了最小化AI推理延遲的重要性。業(yè)界正在積極討論如何在訪問(wèn)推理模型時(shí)減少延遲,以及如何有效地將訓(xùn)練和推理功能分布到集中式架構(gòu)之外,以解決單站點(diǎn)功耗限制的方法。
2 J! T7 z" ?; v$ w1 h& ]9 h0 ?' B8 A+ K; e, W1 ?
傳輸網(wǎng)絡(luò)未來(lái)規(guī)劃策略( r1 M. n2 q+ _5 \7 C {4 z0 ~9 i. b$ @
為了準(zhǔn)備網(wǎng)絡(luò)的AI驅(qū)動(dòng)未來(lái),可以采用幾種策略來(lái)未來(lái)規(guī)劃傳輸網(wǎng)絡(luò):投資高容量相干傳輸:AI網(wǎng)絡(luò)架構(gòu)的擴(kuò)展可能會(huì)遵循類似于云架構(gòu)的模式,高容量相干傳輸使物理擴(kuò)展成為可能,緩解了電源限制。相干光互連已經(jīng)提供每波長(zhǎng)1.2T的性能優(yōu)化轉(zhuǎn)發(fā)器解決方案和400G路由器到路由器波長(zhǎng),并正在向使用MSA可插拔模塊的800G發(fā)展。規(guī)劃分布式架構(gòu):考慮到功耗限制和延遲因素,網(wǎng)絡(luò)設(shè)計(jì)師應(yīng)該預(yù)料到分布式AI訓(xùn)練和推理能力的需求。這種方法將需要在物理分離的站點(diǎn)之間建立強(qiáng)大的高容量互連。優(yōu)化靈活擴(kuò)展:隨著AI應(yīng)用的發(fā)展,傳輸網(wǎng)絡(luò)必須設(shè)計(jì)成能夠靈活擴(kuò)展帶寬并適應(yīng)不斷變化的流量模式。這可能涉及實(shí)施軟件定義網(wǎng)絡(luò)(SDN)和網(wǎng)絡(luò)功能虛擬化(NFV)技術(shù),以實(shí)現(xiàn)動(dòng)態(tài)資源分配。優(yōu)先考慮能源效率:考慮到AI基礎(chǔ)設(shè)施的巨大功耗需求,專注于節(jié)能網(wǎng)絡(luò)技術(shù)將非常重要。這不僅包括AI集群本身,還包括傳輸網(wǎng)絡(luò)組件。增強(qiáng)邊緣計(jì)算能力:為了解決AI推理的延遲問(wèn)題,考慮加強(qiáng)邊緣計(jì)算基礎(chǔ)設(shè)施。這可能涉及將推理模型部署在更靠近終端用戶的位置,并確保邊緣站點(diǎn)與中央AI資源之間的高容量、低延遲連接。監(jiān)控和分析流量模式:實(shí)施強(qiáng)大的網(wǎng)絡(luò)監(jiān)控和分析工具,以了解AI相關(guān)流量如何影響網(wǎng)絡(luò)的不同部分。這些數(shù)據(jù)對(duì)于做出關(guān)于網(wǎng)絡(luò)升級(jí)和擴(kuò)展的明智決策將非常寶貴。' j4 J- h* t/ M4 {* d
[/ol]
! w# _: P9 }: o2 M結(jié)論
2 H: }; u5 H$ B: SAI應(yīng)用的興起為傳輸網(wǎng)絡(luò)帶來(lái)了挑戰(zhàn)和機(jī)遇。通過(guò)從帶寬密集型應(yīng)用的過(guò)去經(jīng)驗(yàn)中學(xué)習(xí),并仔細(xì)考慮AI工作負(fù)載的獨(dú)特需求,網(wǎng)絡(luò)運(yùn)營(yíng)商和設(shè)計(jì)師可以為AI時(shí)代的基礎(chǔ)設(shè)施做好未來(lái)規(guī)劃。關(guān)鍵在于通過(guò)創(chuàng)新的網(wǎng)絡(luò)架構(gòu)和先進(jìn)的光技術(shù),平衡功耗限制、延遲要求和帶寬需求。隨著繼續(xù)關(guān)注不斷發(fā)展的AI領(lǐng)域,高容量相干傳輸將在塑造網(wǎng)絡(luò)未來(lái)方面發(fā)揮關(guān)鍵作用,使AI基礎(chǔ)設(shè)施能夠在大都市、長(zhǎng)途和全球網(wǎng)絡(luò)中實(shí)現(xiàn)物理擴(kuò)展和優(yōu)化。
* U0 B( y5 B, E) ?1 T
) j0 ]! P1 i0 k( `參考文獻(xiàn)
& y# u6 Z, I" C8 m1 j[1] E. Park, "Future Proofing Transport Networks for AI," Acacia Communications, Sep. 10, 2024. [Online]. Available: https://acacia-inc.com/blog/future-proofing-transport-networks-for-ai/' q/ S) M2 X/ D! X0 Q
3 q X3 w, \ g, i+ _
END
8 M w7 z" k5 Y, R0 A; j2 u- J, a% T/ V8 }# C% H# H
2 @ v) Z1 N% d7 Y6 N$ m# e: F軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
6 O c7 G/ a. q& [# u點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)6 W& S. W. c& e% _5 G: `- H
" U, k$ s1 q' v* ~! P9 ^
歡迎轉(zhuǎn)載
# D) i3 {, H6 t2 _
' l' k/ c( O6 y0 {轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!* t0 H. d! t9 D1 i2 y) _8 m
! k9 K) A. d* Q$ j& \5 w# [
9 { n. ]- c! A8 K- l
( D7 `1 z7 D+ x( P1 z$ ]% C& t- Z
naczugh53dt64013915630.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
naczugh53dt64013915630.gif
2024-11-24 01:19 上傳
! c l# ~+ Y4 M
* P6 W. w, V0 F* U關(guān)注我們
' o$ Z" C- u4 Z( w) u( `0 j) H% H
% e3 y; g' x% l4 c @: n+ X/ a: A- H( m% @- ~
1f3lozyzcax64013915730.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
1f3lozyzcax64013915730.png
2024-11-24 01:19 上傳
# ~% ?) j' S. B/ @% I2 L3 f | - o" K( s% y5 A' R5 R1 ]
iwjcc3g1jqy64013915831.png (82.79 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
iwjcc3g1jqy64013915831.png
2024-11-24 01:19 上傳
?! }* v- t4 b6 O
| . I4 T8 w4 R- B$ K
2glz32gqj4w64013915931.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
2glz32gqj4w64013915931.png
2024-11-24 01:19 上傳
$ {, d7 W" u7 }. I$ a |
! X6 C. \1 I: ~- v5 z1 H( X5 R: X3 E) }1 X
. i( T! p5 b( r& ?1 m
& q. B2 }! j. b3 s" R! P關(guān)于我們:/ M9 U a7 Q0 @* z+ @3 S$ J
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。% m: ~ {& @: u# \
9 m" i( U/ @: x/ m
http://www.latitudeda.com/
: }" {. J' ?: ^) B- S(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|