人工智能時代傳輸網(wǎng)絡(luò)的未來規(guī)劃

逍遙設(shè)計自動化

引言
人工智能（AI）的快速發(fā)展正在重塑網(wǎng)絡(luò)技術(shù)的格局，特別是在光互連領(lǐng)域。隨著我們步入新的計算時代，了解AI的發(fā)展將如何影響傳輸網(wǎng)絡(luò)以及如何為這種即將到來的轉(zhuǎn)變做好準(zhǔn)備非常重要。本文將探討AI時代傳輸網(wǎng)絡(luò)未來規(guī)劃的挑戰(zhàn)和解決方案[1]。


AI的興起及其對光網(wǎng)絡(luò)的影響
3 E8 P8 |; v" ~, {" Z2 ^0 G' e. t生成式AI應(yīng)用的激增使光學(xué)行業(yè)處于技術(shù)演進的前沿。改進的光互連對于緩解AI集群內(nèi)的帶寬限制變得越來越重要。這一趨勢在2024年OFC大會上成為熱門話題，行業(yè)預(yù)測AI集群應(yīng)用的光收發(fā)器市場將出現(xiàn)顯著增長。

) ]: Y* w# ?' O9 U1 B: r/ j圖1：AI集群以太網(wǎng)光收發(fā)器銷售預(yù)測
) Z, }8 W5 d, |# v8 X# k$ J
如圖1所示，未來五年內(nèi)AI集群光收發(fā)器的銷售預(yù)計將達到約520億美元。這一預(yù)測強調(diào)了光技術(shù)在支持AI基礎(chǔ)設(shè)施方面將發(fā)揮的重要作用。

雖然大多數(shù)注意力集中在AI集群內(nèi)的短距離互連上，但考慮對AI數(shù)據(jù)中心環(huán)境之外的更廣泛傳輸網(wǎng)絡(luò)的影響也很重要。問題是：AI流量將如何影響大都市、長途和更長距離應(yīng)用中的光傳輸，這些應(yīng)用廣泛使用相干傳輸技術(shù)？

! Q- ?- g& Z6 y/ K  v: j. C從過去吸取經(jīng)驗：應(yīng)用對傳輸網(wǎng)絡(luò)的影響
為了理解AI對傳輸網(wǎng)絡(luò)的潛在影響，回顧以前的帶寬密集型應(yīng)用如何塑造網(wǎng)絡(luò)流量模式會有所幫助。讓我們考慮幾個例子：

搜索應(yīng)用：AI訓(xùn)練過程類似于搜索引擎爬蟲收集數(shù)據(jù)進行索引，而AI推理類似于用戶查詢搜索引擎。雖然單個搜索相關(guān)流量可能很小，但累積效應(yīng)對整體傳輸流量貢獻顯著。

視頻內(nèi)容分發(fā)：視頻流媒體的增長導(dǎo)致網(wǎng)絡(luò)負擔(dān)增加，特別是高分辨率內(nèi)容。這個挑戰(zhàn)通過內(nèi)容緩存得到解決，將熱門內(nèi)容放置在更靠近終端用戶的位置，以減少整體網(wǎng)絡(luò)流量和延遲。

云計算：云服務(wù)的興起導(dǎo)致數(shù)據(jù)中心內(nèi)部和數(shù)據(jù)中心之間的流量（東西向流量）增加，因為工作負載跨越多個站點。AI應(yīng)用可能遵循類似的模式，訓(xùn)練數(shù)據(jù)和推理模型分布在物理上不同的位置。
[/ol]
這些例子說明了AI應(yīng)用的增長可能如何導(dǎo)致網(wǎng)絡(luò)運營商需要擴展數(shù)據(jù)中心互連、大都市、區(qū)域甚至長途和海底網(wǎng)絡(luò)的容量。

' w* C1 m, x# zAI網(wǎng)絡(luò)中的功耗-延遲平衡
6 ~% v+ J- \: O; H0 rAI基礎(chǔ)設(shè)施發(fā)展的關(guān)鍵因素是AI集群和數(shù)據(jù)中心的巨大功耗需求。這個挑戰(zhàn)讓人想起云服務(wù)增長時期，當(dāng)時獲取便宜的電力資源推動了大型數(shù)據(jù)中心的選址。然而，電力設(shè)施限制導(dǎo)致采用物理分布式架構(gòu)，依賴高容量傳輸互連來維持所需的網(wǎng)絡(luò)拓撲。

圖2：由于設(shè)施功耗限制導(dǎo)致網(wǎng)絡(luò)Fabric物理擴展的場景

5 U: T1 a: f2 U5 t3 K- d圖2說明了功耗限制如何導(dǎo)致網(wǎng)絡(luò)Fabric的物理擴展，需要高容量光互連。這種AI應(yīng)用的分布式網(wǎng)絡(luò)方法由于訓(xùn)練和推理過程的特定計算和延遲要求而帶來獨特的挑戰(zhàn)。

: s# A' M8 X$ i$ vAI網(wǎng)絡(luò)中的延遲考慮
在設(shè)計針對AI優(yōu)化的傳輸網(wǎng)絡(luò)時，了解延遲要求非常重要。在AI訓(xùn)練階段，AI集群內(nèi)需要極低的延遲來高效處理傳入的數(shù)據(jù)集。然而，收集這些數(shù)據(jù)集的過程可能對延遲不太敏感。
* C4 C+ M/ ?1 C7 t; A0 }) Z
. D( I/ I& j& g" i7 C$ v5 ]圖3：訓(xùn)練模式下AI集群內(nèi)需要極低延遲

圖3展示了訓(xùn)練模式下AI集群內(nèi)的延遲要求。雖然AI訓(xùn)練的地理分布并不理想，但功耗限制可能需要采用分布式AI訓(xùn)練技術(shù)來嘗試緩解引入的延遲影響。
& c& b2 b0 f0 Q+ R; o# C& i
對于AI推理，目標(biāo)是最小化用戶查詢和傳輸結(jié)果之間的延遲。這種延遲受查詢復(fù)雜性和推理模型與用戶之間的"跳數(shù)"影響。

# X! ?& A! m0 A( h5 K, u; o圖4：最小化AI推理的延遲

圖4強調(diào)了最小化AI推理延遲的重要性。業(yè)界正在積極討論如何在訪問推理模型時減少延遲，以及如何有效地將訓(xùn)練和推理功能分布到集中式架構(gòu)之外，以解決單站點功耗限制的方法。
6 J/ _' O# v5 W7 j
傳輸網(wǎng)絡(luò)未來規(guī)劃策略
# v; `3 b' d! t  p4 V  t為了準(zhǔn)備網(wǎng)絡(luò)的AI驅(qū)動未來，可以采用幾種策略來未來規(guī)劃傳輸網(wǎng)絡(luò)：

投資高容量相干傳輸：AI網(wǎng)絡(luò)架構(gòu)的擴展可能會遵循類似于云架構(gòu)的模式，高容量相干傳輸使物理擴展成為可能，緩解了電源限制。相干光互連已經(jīng)提供每波長1.2T的性能優(yōu)化轉(zhuǎn)發(fā)器解決方案和400G路由器到路由器波長，并正在向使用MSA可插拔模塊的800G發(fā)展。

規(guī)劃分布式架構(gòu)：考慮到功耗限制和延遲因素，網(wǎng)絡(luò)設(shè)計師應(yīng)該預(yù)料到分布式AI訓(xùn)練和推理能力的需求。這種方法將需要在物理分離的站點之間建立強大的高容量互連。

優(yōu)化靈活擴展：隨著AI應(yīng)用的發(fā)展，傳輸網(wǎng)絡(luò)必須設(shè)計成能夠靈活擴展帶寬并適應(yīng)不斷變化的流量模式。這可能涉及實施軟件定義網(wǎng)絡(luò)（SDN）和網(wǎng)絡(luò)功能虛擬化（NFV）技術(shù)，以實現(xiàn)動態(tài)資源分配。

優(yōu)先考慮能源效率：考慮到AI基礎(chǔ)設(shè)施的巨大功耗需求，專注于節(jié)能網(wǎng)絡(luò)技術(shù)將非常重要。這不僅包括AI集群本身，還包括傳輸網(wǎng)絡(luò)組件。

增強邊緣計算能力：為了解決AI推理的延遲問題，考慮加強邊緣計算基礎(chǔ)設(shè)施。這可能涉及將推理模型部署在更靠近終端用戶的位置，并確保邊緣站點與中央AI資源之間的高容量、低延遲連接。

監(jiān)控和分析流量模式：實施強大的網(wǎng)絡(luò)監(jiān)控和分析工具，以了解AI相關(guān)流量如何影響網(wǎng)絡(luò)的不同部分。這些數(shù)據(jù)對于做出關(guān)于網(wǎng)絡(luò)升級和擴展的明智決策將非常寶貴。
0 j" L; _3 C) G' r& K[/ol]
4 k; ^, C  I8 i* s1 ]6 u結(jié)論
  Y1 f6 [4 d% s  ^; e0 UAI應(yīng)用的興起為傳輸網(wǎng)絡(luò)帶來了挑戰(zhàn)和機遇。通過從帶寬密集型應(yīng)用的過去經(jīng)驗中學(xué)習(xí)，并仔細考慮AI工作負載的獨特需求，網(wǎng)絡(luò)運營商和設(shè)計師可以為AI時代的基礎(chǔ)設(shè)施做好未來規(guī)劃。關(guān)鍵在于通過創(chuàng)新的網(wǎng)絡(luò)架構(gòu)和先進的光技術(shù)，平衡功耗限制、延遲要求和帶寬需求。隨著繼續(xù)關(guān)注不斷發(fā)展的AI領(lǐng)域，高容量相干傳輸將在塑造網(wǎng)絡(luò)未來方面發(fā)揮關(guān)鍵作用，使AI基礎(chǔ)設(shè)施能夠在大都市、長途和全球網(wǎng)絡(luò)中實現(xiàn)物理擴展和優(yōu)化。
3 x. U7 l& W" h0 R1 [
參考文獻
0 P# f: |0 f  U$ {[1] E. Park, "Future Proofing Transport Networks for AI," Acacia Communications, Sep. 10, 2024. [Online]. Available: https://acacia-inc.com/blog/future-proofing-transport-networks-for-ai/
6 u: K) k- p3 b  g: m4 E2 i0 U
END

! b0 }" i  e  T# a: T7 p, z
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
( |* Z0 \% e9 p0 J& w  P1 l; ]點擊左下角"閱讀原文"馬上申請
5 Q* P& c; e- c  U5 m
歡迎轉(zhuǎn)載
  v# ~) }. i$ a& |3 d% O! u
- v5 e+ T* O% {/ {1 q轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！
/ t+ ^4 i3 j' b1 Y" t* U
6 [: r1 a- R0 b& V& ?
1 j* |7 H) H- ^# C/ S& F

0 _. D8 v5 |1 ~/ y8 x" O* \- p
6 l2 V; R* E( B4 [) t- w' M3 H1 I關(guān)注我們

  r  b+ R# r- v4 v! b& @( L

1 `: o; P2 i6 H# ^

5 t0 X. c/ m6 I9 q4 \

                     



- p6 {6 b) K: e' d, K關(guān)于我們：
  c7 v0 s  R( F2 K! {深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件，提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。

http://www.latitudeda.com/
（點擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）