|
引言3 n; @. M- g5 s6 j
人工智能(AI)的快速發(fā)展正在重塑網(wǎng)絡(luò)技術(shù)的格局,特別是在光互連領(lǐng)域。隨著我們步入新的計(jì)算時(shí)代,了解AI的發(fā)展將如何影響傳輸網(wǎng)絡(luò)以及如何為這種即將到來(lái)的轉(zhuǎn)變做好準(zhǔn)備非常重要。本文將探討AI時(shí)代傳輸網(wǎng)絡(luò)未來(lái)規(guī)劃的挑戰(zhàn)和解決方案[1]。4 @/ ]' A3 r3 \4 K' G
r3qsegaqztn64013915130.png (73.67 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
r3qsegaqztn64013915130.png
2024-11-24 01:19 上傳
0 S3 s& ?/ Q' b5 E# l& G; i. t3 Y3 U
AI的興起及其對(duì)光網(wǎng)絡(luò)的影響8 ?6 V; K- Y( `, M9 g7 B0 ]
生成式AI應(yīng)用的激增使光學(xué)行業(yè)處于技術(shù)演進(jìn)的前沿。改進(jìn)的光互連對(duì)于緩解AI集群內(nèi)的帶寬限制變得越來(lái)越重要。這一趨勢(shì)在2024年OFC大會(huì)上成為熱門(mén)話題,行業(yè)預(yù)測(cè)AI集群應(yīng)用的光收發(fā)器市場(chǎng)將出現(xiàn)顯著增長(zhǎng)。1 \! u5 i6 q- r5 A$ a
w4scmw1vkkl64013915230.png (50.5 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
w4scmw1vkkl64013915230.png
2024-11-24 01:19 上傳
. {# J3 [) B4 ?% R2 ^% m
圖1:AI集群以太網(wǎng)光收發(fā)器銷(xiāo)售預(yù)測(cè)
: R3 U6 g& s9 M$ [
3 I* T2 ?: w5 P) {' E1 F如圖1所示,未來(lái)五年內(nèi)AI集群光收發(fā)器的銷(xiāo)售預(yù)計(jì)將達(dá)到約520億美元。這一預(yù)測(cè)強(qiáng)調(diào)了光技術(shù)在支持AI基礎(chǔ)設(shè)施方面將發(fā)揮的重要作用。; k- M1 y. P. _3 k
) n8 R3 W5 ~" q4 ?9 m雖然大多數(shù)注意力集中在AI集群內(nèi)的短距離互連上,但考慮對(duì)AI數(shù)據(jù)中心環(huán)境之外的更廣泛傳輸網(wǎng)絡(luò)的影響也很重要。問(wèn)題是:AI流量將如何影響大都市、長(zhǎng)途和更長(zhǎng)距離應(yīng)用中的光傳輸,這些應(yīng)用廣泛使用相干傳輸技術(shù)?
7 Q$ \" Z7 ^. n0 n! v, ] M4 P5 |& Z$ j$ ~5 ?+ p
從過(guò)去吸取經(jīng)驗(yàn):應(yīng)用對(duì)傳輸網(wǎng)絡(luò)的影響
. b2 f3 _: D. l* a為了理解AI對(duì)傳輸網(wǎng)絡(luò)的潛在影響,回顧以前的帶寬密集型應(yīng)用如何塑造網(wǎng)絡(luò)流量模式會(huì)有所幫助。讓我們考慮幾個(gè)例子:搜索應(yīng)用:AI訓(xùn)練過(guò)程類(lèi)似于搜索引擎爬蟲(chóng)收集數(shù)據(jù)進(jìn)行索引,而AI推理類(lèi)似于用戶查詢搜索引擎。雖然單個(gè)搜索相關(guān)流量可能很小,但累積效應(yīng)對(duì)整體傳輸流量貢獻(xiàn)顯著。視頻內(nèi)容分發(fā):視頻流媒體的增長(zhǎng)導(dǎo)致網(wǎng)絡(luò)負(fù)擔(dān)增加,特別是高分辨率內(nèi)容。這個(gè)挑戰(zhàn)通過(guò)內(nèi)容緩存得到解決,將熱門(mén)內(nèi)容放置在更靠近終端用戶的位置,以減少整體網(wǎng)絡(luò)流量和延遲。云計(jì)算:云服務(wù)的興起導(dǎo)致數(shù)據(jù)中心內(nèi)部和數(shù)據(jù)中心之間的流量(東西向流量)增加,因?yàn)楣ぷ髫?fù)載跨越多個(gè)站點(diǎn)。AI應(yīng)用可能遵循類(lèi)似的模式,訓(xùn)練數(shù)據(jù)和推理模型分布在物理上不同的位置。
2 @- N2 u/ b, P# P2 P[/ol]
' ]; t+ F! f1 w這些例子說(shuō)明了AI應(yīng)用的增長(zhǎng)可能如何導(dǎo)致網(wǎng)絡(luò)運(yùn)營(yíng)商需要擴(kuò)展數(shù)據(jù)中心互連、大都市、區(qū)域甚至長(zhǎng)途和海底網(wǎng)絡(luò)的容量。
5 K* ?8 [9 N1 S+ b' m" i
: A) ?0 L- `2 y% X4 a( vAI網(wǎng)絡(luò)中的功耗-延遲平衡; E5 K. G* P* P- C6 p2 j
AI基礎(chǔ)設(shè)施發(fā)展的關(guān)鍵因素是AI集群和數(shù)據(jù)中心的巨大功耗需求。這個(gè)挑戰(zhàn)讓人想起云服務(wù)增長(zhǎng)時(shí)期,當(dāng)時(shí)獲取便宜的電力資源推動(dòng)了大型數(shù)據(jù)中心的選址。然而,電力設(shè)施限制導(dǎo)致采用物理分布式架構(gòu),依賴高容量傳輸互連來(lái)維持所需的網(wǎng)絡(luò)拓?fù)洹?font class="jammer">% I9 ]% z: ~$ g f3 g% O! F
sxxzku3h4ds64013915330.png (35.5 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
sxxzku3h4ds64013915330.png
2024-11-24 01:19 上傳
; B9 L6 p' [1 q( n1 n( f }; f
圖2:由于設(shè)施功耗限制導(dǎo)致網(wǎng)絡(luò)Fabric物理擴(kuò)展的場(chǎng)景7 e, v" D/ d) L) |
E+ E6 G8 F* Z& ?# O2 `( Q. L4 x圖2說(shuō)明了功耗限制如何導(dǎo)致網(wǎng)絡(luò)Fabric的物理擴(kuò)展,需要高容量光互連。這種AI應(yīng)用的分布式網(wǎng)絡(luò)方法由于訓(xùn)練和推理過(guò)程的特定計(jì)算和延遲要求而帶來(lái)獨(dú)特的挑戰(zhàn)。
7 b. [& r; ]. `; @8 o" J5 u3 w8 c9 u
AI網(wǎng)絡(luò)中的延遲考慮2 w, F# D& `. w, w2 V
在設(shè)計(jì)針對(duì)AI優(yōu)化的傳輸網(wǎng)絡(luò)時(shí),了解延遲要求非常重要。在AI訓(xùn)練階段,AI集群內(nèi)需要極低的延遲來(lái)高效處理傳入的數(shù)據(jù)集。然而,收集這些數(shù)據(jù)集的過(guò)程可能對(duì)延遲不太敏感。
8 I# ], ~9 ~' l" _% U% W8 Z2 P
15hhzh2z3qq64013915430.png (61.6 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
15hhzh2z3qq64013915430.png
2024-11-24 01:19 上傳
7 }8 \ U, @& M( x( L. D- O- u
圖3:訓(xùn)練模式下AI集群內(nèi)需要極低延遲
3 w4 j* f+ l- I% d1 J m' w5 [) J. E" i% s
圖3展示了訓(xùn)練模式下AI集群內(nèi)的延遲要求。雖然AI訓(xùn)練的地理分布并不理想,但功耗限制可能需要采用分布式AI訓(xùn)練技術(shù)來(lái)嘗試緩解引入的延遲影響。: S. O6 C3 T7 \* }, G
1 H/ L1 J: C+ _) @# G6 J% G# m對(duì)于AI推理,目標(biāo)是最小化用戶查詢和傳輸結(jié)果之間的延遲。這種延遲受查詢復(fù)雜性和推理模型與用戶之間的"跳數(shù)"影響。& }0 F2 V2 l6 \4 ^4 v
la5vblzbqmd64013915530.jpg (98.11 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
la5vblzbqmd64013915530.jpg
2024-11-24 01:19 上傳
2 X X3 E5 P- e6 e* @7 s v6 N
圖4:最小化AI推理的延遲5 L9 m8 j) c O$ l, k! a! h+ f
* X& _( e6 r i, a圖4強(qiáng)調(diào)了最小化AI推理延遲的重要性。業(yè)界正在積極討論如何在訪問(wèn)推理模型時(shí)減少延遲,以及如何有效地將訓(xùn)練和推理功能分布到集中式架構(gòu)之外,以解決單站點(diǎn)功耗限制的方法。
% D5 y$ a& C+ `% x7 |7 |6 v# n) t& e" w$ q* s! o
傳輸網(wǎng)絡(luò)未來(lái)規(guī)劃策略
$ j+ } ^" c* t& B% [( z為了準(zhǔn)備網(wǎng)絡(luò)的AI驅(qū)動(dòng)未來(lái),可以采用幾種策略來(lái)未來(lái)規(guī)劃傳輸網(wǎng)絡(luò):投資高容量相干傳輸:AI網(wǎng)絡(luò)架構(gòu)的擴(kuò)展可能會(huì)遵循類(lèi)似于云架構(gòu)的模式,高容量相干傳輸使物理擴(kuò)展成為可能,緩解了電源限制。相干光互連已經(jīng)提供每波長(zhǎng)1.2T的性能優(yōu)化轉(zhuǎn)發(fā)器解決方案和400G路由器到路由器波長(zhǎng),并正在向使用MSA可插拔模塊的800G發(fā)展。規(guī)劃分布式架構(gòu):考慮到功耗限制和延遲因素,網(wǎng)絡(luò)設(shè)計(jì)師應(yīng)該預(yù)料到分布式AI訓(xùn)練和推理能力的需求。這種方法將需要在物理分離的站點(diǎn)之間建立強(qiáng)大的高容量互連。優(yōu)化靈活擴(kuò)展:隨著AI應(yīng)用的發(fā)展,傳輸網(wǎng)絡(luò)必須設(shè)計(jì)成能夠靈活擴(kuò)展帶寬并適應(yīng)不斷變化的流量模式。這可能涉及實(shí)施軟件定義網(wǎng)絡(luò)(SDN)和網(wǎng)絡(luò)功能虛擬化(NFV)技術(shù),以實(shí)現(xiàn)動(dòng)態(tài)資源分配。優(yōu)先考慮能源效率:考慮到AI基礎(chǔ)設(shè)施的巨大功耗需求,專(zhuān)注于節(jié)能網(wǎng)絡(luò)技術(shù)將非常重要。這不僅包括AI集群本身,還包括傳輸網(wǎng)絡(luò)組件。增強(qiáng)邊緣計(jì)算能力:為了解決AI推理的延遲問(wèn)題,考慮加強(qiáng)邊緣計(jì)算基礎(chǔ)設(shè)施。這可能涉及將推理模型部署在更靠近終端用戶的位置,并確保邊緣站點(diǎn)與中央AI資源之間的高容量、低延遲連接。監(jiān)控和分析流量模式:實(shí)施強(qiáng)大的網(wǎng)絡(luò)監(jiān)控和分析工具,以了解AI相關(guān)流量如何影響網(wǎng)絡(luò)的不同部分。這些數(shù)據(jù)對(duì)于做出關(guān)于網(wǎng)絡(luò)升級(jí)和擴(kuò)展的明智決策將非常寶貴。/ ^, d h0 N3 d& h( K8 V
[/ol]
7 G @; _7 z" I y. L6 i2 t結(jié)論) @( C3 y& ~+ L- ~
AI應(yīng)用的興起為傳輸網(wǎng)絡(luò)帶來(lái)了挑戰(zhàn)和機(jī)遇。通過(guò)從帶寬密集型應(yīng)用的過(guò)去經(jīng)驗(yàn)中學(xué)習(xí),并仔細(xì)考慮AI工作負(fù)載的獨(dú)特需求,網(wǎng)絡(luò)運(yùn)營(yíng)商和設(shè)計(jì)師可以為AI時(shí)代的基礎(chǔ)設(shè)施做好未來(lái)規(guī)劃。關(guān)鍵在于通過(guò)創(chuàng)新的網(wǎng)絡(luò)架構(gòu)和先進(jìn)的光技術(shù),平衡功耗限制、延遲要求和帶寬需求。隨著繼續(xù)關(guān)注不斷發(fā)展的AI領(lǐng)域,高容量相干傳輸將在塑造網(wǎng)絡(luò)未來(lái)方面發(fā)揮關(guān)鍵作用,使AI基礎(chǔ)設(shè)施能夠在大都市、長(zhǎng)途和全球網(wǎng)絡(luò)中實(shí)現(xiàn)物理擴(kuò)展和優(yōu)化。' s6 g1 V% `* r) O
9 v$ c8 ^: d0 a( a* A
參考文獻(xiàn)
& G" l! x1 ]1 ]1 b" q R[1] E. Park, "Future Proofing Transport Networks for AI," Acacia Communications, Sep. 10, 2024. [Online]. Available: https://acacia-inc.com/blog/future-proofing-transport-networks-for-ai/& q! S( N# }; r" h3 O; \
P; k' u1 L/ N( b6 N$ t6 tEND
$ ^( a/ ^) t# S& Z1 N5 H
/ L# l: b. j3 t# Z. h2 |& o
: p2 J- [5 k$ e$ h' a軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
' _& M7 C! \ w1 g; Q8 H點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
" s! H4 c7 x% g, d7 ^! x1 y$ C) ~- N& |+ C2 P2 i; C
歡迎轉(zhuǎn)載5 J4 \) v# k0 h; X
; G. n/ m3 Z( b6 _轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!
0 \0 n3 ]# ]1 |9 ?& N" n* ?# k( o& J# h2 M7 g& |0 Y+ S1 X. _9 f
) T/ ]* F7 Z* K1 N4 q( j
: T8 h4 R1 I7 E; ]
naczugh53dt64013915630.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
naczugh53dt64013915630.gif
2024-11-24 01:19 上傳
* M z0 v. S' D' g" O
2 I9 f$ m% W9 s* h, ?關(guān)注我們
. ?$ x1 ?6 G: g" G1 w2 j+ a0 @( ^& I! n" ?
0 L3 d5 {0 o) a
1f3lozyzcax64013915730.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
1f3lozyzcax64013915730.png
2024-11-24 01:19 上傳
1 U! i$ j' C+ X* f
| 8 P9 |* v& k% X; k9 o; w# b9 I/ g
iwjcc3g1jqy64013915831.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
iwjcc3g1jqy64013915831.png
2024-11-24 01:19 上傳
: A0 K% g/ Q" w
| 4 X) U B& b' s$ A( f6 K
2glz32gqj4w64013915931.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
2glz32gqj4w64013915931.png
2024-11-24 01:19 上傳
$ c1 o, `' U* M, _( L
| 9 a" l2 t& m8 S8 h' ?, a2 t# B
! [: t. C" @& F6 X$ B2 Z# d. V" S: ~: C" D% }- v
4 e$ J! o. o8 T9 y. O0 t) l
關(guān)于我們:6 B% Z; e1 k) d, f
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專(zhuān)注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
, N' i6 B! `8 I) m( I/ X: {, Y, ^) a
( Z" ?/ s0 z' U7 M( t+ U2 g0 ^ ]6 L9 nhttp://www.latitudeda.com/
4 d! ? {! Q% [# f ]% ?/ S3 b) @( r7 h(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|