電子產業(yè)一站式賦能平臺

PCB聯(lián)盟網

搜索
查看: 43|回復: 0
收起左側

人工智能集群光學連接特殊需求下的光學組件進展與創(chuàng)新

[復制鏈接]

433

主題

433

帖子

3062

積分

四級會員

Rank: 4

積分
3062
跳轉到指定樓層
樓主
發(fā)表于 2024-10-11 08:00:00 | 只看該作者 |只看大圖 回帖獎勵 |正序瀏覽 |閱讀模式
引言3 \) W, o9 s7 M: E4 q. a
隨著人工智能(AI)技術的不斷進步,AI系統(tǒng)對高速、高效數據傳輸的需求呈指數級增長。本文探討了為滿足AI應用新興連接需求而設計的光學組件的最新發(fā)展。引用文獻來自LightCounting在7月30日舉辦的Special Requirements for Optical Connectivity in AI Clusters Webinar,特此感謝!
7 W) i" }, S$ Y# w
3 z; d9 F/ Y3 u3 z' P5 P9 a1 M光學組件的演進6 ?' x) a$ B0 G& K8 T% l- J2 P7 ~
過去幾十年間,光學組件經歷了顯著的進步。從1998年的1G VCSEL(垂直腔面發(fā)射激光器)技術,到如今尖端的200G VCSEL和EML(電吸收調制激光器)解決方案,行業(yè)在數據傳輸速度和效率方面持續(xù)提升。
8 }. M3 y* M' I/ u: L: M, \
1 i: ^. e' V+ b" G圖1:從1998年到2025年光學組件的演進,突出顯示了從1G VCSEL到200G VCSEL和EML技術的進程。
" `$ k+ u# K* v$ A# i
4 V# B- x+ n% a% M8 L, c4 a3 u這一演進的關鍵里程碑包括:2 g% L$ ]0 C% A$ k/ ]* s+ a3 ?, m
  • 1998年:1G VCSEL
  • 2004年:2.5G EML和DML(直接調制激光器)
  • 2013年:10G VCSEL、EML和DML
  • 2019年:25G VCSEL和50G EML/DML
  • 2023年:50G VCSEL和100G EML
  • 2025年(預計):100G VCSEL、200G VCSEL和200G EML
    ' q% x. [" J4 E& J( K% N1 e: M
    / c1 I% r! s4 k" ]
    這一進程展示了行業(yè)致力于滿足現(xiàn)代計算和AI系統(tǒng)不斷增長的帶寬需求。+ E6 T1 W9 Q% L2 k
    0 l3 m4 }7 {% t: }5 g' e5 a( D
    多模光纖技術進展:200G VCSEL技術4 z$ T6 P4 {# {- x0 T
    光學組件技術最有希望的發(fā)展之一是200G VCSEL的進步。這項技術代表了多模光纖傳輸能力的顯著飛躍。: O4 A# |+ {* A% C
    ! E. [- W( Q1 n5 I, K: @
    圖2:從850 nm VCSEL收集的200Gb/s PAM4眼圖,以及在EVB(評估板)中測試的可插拔模塊中的200G VCSEL工程樣品。
    2 l+ L- \" D0 }' `6 [- ?, d( P+ `5 t
    200G VCSEL技術具有以下優(yōu)勢:
  • 每3-4年調制速率翻倍
  • 與現(xiàn)有多模光纖基礎設施兼容
  • 與單模解決方案相比功耗更低
  • 適用于數據中心短距離應用的成本效益高
    ! T' O7 J% D$ S[/ol]3 M) {: a! Y: }5 \& t+ y
    200G VCSEL技術的發(fā)展與IEEE標準的進程一致,數據速率從1998年的1 Gb/s(802.3z)穩(wěn)步增加到目前的100 Gb/s PAM4(802.3db,2022年)。業(yè)界現(xiàn)正致力于標準化200 Gb/s PAM4技術,以滿足未來的連接需求。
    % _( i# ?7 `6 r  N1 D4 l( J. b7 {3 [/ D) L* l
    光電共封裝系統(tǒng)$ E5 C+ f; ~/ z. d# n. x
    光電共封裝代表了將光學組件直接與交換機ASIC(專用集成電路)集成的革命性方法。這種集成旨在降低功耗、提高帶寬密度并改善整體系統(tǒng)性能。7 q# M# t& f5 ~1 S
    * v( b. ?' X0 t" V) o) }
    第一代光電共封裝:TH4-Humboldt
    2 M) g3 S) W1 b$ f) x; m7 |* v
    : I, ^& L0 `" F# S$ n" m圖3:第一代光電共封裝系統(tǒng)TH4-Humboldt其關鍵特性和組件。* x# A0 D! l6 R; d' Q& d
    ( x/ h% l: `- q! g* e" T' s
    TH4-Humboldt的特點包括:/ \8 @( Z# u1 \7 O! T
  • 25.6T以太網交換能力
  • 一半光電共封裝,一半電氣連接
  • 四個3.2T光學引擎(32x100Gbps DR連接)
  • 光學引擎采用光電子集成芯片與SiGe EIC(電子集成電路)鍵合
  • 每個光學引擎約250個光學組件6 ^% c/ y& {; F) G

      Q$ F- h: Y* B. t7 R' D0 S盡管創(chuàng)新,TH4-Humboldt設計仍面臨一些挑戰(zhàn),特別是由于使用SiGe技術而導致的功耗問題。
    0 u% o2 C4 U' o5 C
    " v+ S6 h. u! @0 T4 R第二代光電共封裝:TH5-Bailly4 x; a' P% ~) `2 ~$ L
    : ^' r3 r, V( Z; b/ |8 }2 h
    圖4:第二代光電共封裝系統(tǒng)TH5-Bailly,突出其先進特性和增強的光學集成。
    ; z5 e& t0 r* R0 `; ~/ A+ W
    9 N5 F" p$ ?2 q! X4 U/ B; MTH5-Bailly相比其前代產品有顯著進步:
    ) O3 o5 T8 L( j% n, `& S6 P! |
  • 51.2T以太網交換能力
  • 全光學光電共封裝連接
  • 八個6.4T光學引擎(64x100Gbps FR4連接)
  • 光學引擎采用光電子集成芯片與CMOS EIC鍵合
  • 每個光學引擎約1000個光學組件7 G3 E/ @. f; B

    - M4 V. s) f  k2 z' I" W9 D0 dTH5-Bailly轉向CMOS技術解決了前代產品的功耗問題,為高帶寬應用提供了更高效的解決方案。0 a( |, o) m3 ]2 e. l# M4 `3 {
    / w  v9 O; j6 F4 \3 U0 C
    圖5:在4RU MP3機箱內完全功能的51.2T TH5-Bailly,演示了該技術的實際應用。
    7 T) g0 t- r8 E; [5 r# ?
    # l7 F. R4 O) v/ Z; L
    + j# l- [, k: d. v8 k. p' P& b采用2.5D多芯片封裝的AI擴展1 w: |% Z1 _3 {7 a. U
    隨著AI系統(tǒng)復雜度和規(guī)模的不斷增長,新型封裝技術正在涌現(xiàn),以支持更高的連接性和性能需求。
    9 _+ W/ U3 g9 E # ^/ |- M9 X# m+ Q, B: K9 M2 G
    圖6:光電共封裝系統(tǒng),每個光學引擎具有6.4Tbps I/O帶寬,集成到帶有HBM(高帶寬內存)和ASIC芯片的2.5D封裝中。, e' r5 n( j9 `

    * _5 S( N' H3 n' k5 T* s2 }( P這種先進封裝方法的主要特點包括:
    0 X/ W9 R" {" N2 o; X
  • 集成每個光學引擎6.4Tbps I/O帶寬的光電共封裝
  • 采用帶硅中介層的2.5D封裝技術
  • 集成HBM以實現(xiàn)高速、低延遲的內存訪問
  • 模塊化設計,分離的SerDes(串行器/解串器)芯片和ASIC芯片+ I  A- e0 ^/ d& S+ J) L

    3 I1 ^/ f# j; d" }# C) s4 Y這種封裝方法允許光學組件與高性能計算元件更高效地集成,對AI系統(tǒng)的擴展至關重要。
    , y$ U& f2 m) W
    4 H, C. d+ m; h3 D9 c* N) ABeachfront與Oceanfront:優(yōu)化光學引擎布局7 c6 X5 P  d- G8 i8 e
    在封裝內光學引擎的布局對系統(tǒng)性能和可靠性至關重要。主要出現(xiàn)了兩種方法:beachfrontoceanfront設計。4 h3 h. D8 P! w4 I0 T: q! _

    $ E/ C9 @5 n1 C# g5 Y& S+ s圖7:比較了高性能封裝中beachfront和oceanfront光學引擎布局設計。* |- M/ R: w& t: U
    % x" U3 V) N' H& u0 ?) J
    Oceanfront設計優(yōu)勢:" C/ C5 G. P; L9 q8 r! z- B
  • 能夠沿單個oceanfront布置四個光學引擎
  • 由于光學部分遠離高功耗GPU,可靠性更高
  • 通過最后附加已知良好的光學引擎,提高制造良率# I% {% s8 U( f/ Z( Q
    $ `4 a4 h8 f3 y2 {# v) ?
    Oceanfront方法在熱管理和制造效率方面提供顯著優(yōu)勢,成為未來AI系統(tǒng)設計的理想選擇。
    7 y  u' m" `( ?0 ~/ w5 _5 w  _* y9 H2 K7 b% u3 _) m7 W1 M/ O
    雙向(Bidi)光學:經濟高效的高基數解決方案7 b3 L" \  a/ |$ {4 ?- o
    隨著AI集群擴展到數百或數千個節(jié)點,管理光纖連接變得越來越復雜和昂貴。雙向(Bidi)光學為這一挑戰(zhàn)提供了希望的解決方案。
    . Q, [# f) [: B + R' ]. a2 K! ~
    圖8:比較了采用傳統(tǒng)DR光學和Bidi光學的12.8T光學引擎光纖I/O,展示了Bidi技術減少的光纖數量。
    # q2 C0 }; m) l
    2 V. i- ^- u6 R' y' R/ {- DBidi光學的優(yōu)勢:
    # A5 b  x5 ]& m5 E- r
  • 減少光纖數量(與傳統(tǒng)DR光學相比減少50%)
  • 降低整體系統(tǒng)成本
  • 簡化光纖管理
  • 在FTTx應用中已有20年部署經驗的成熟技術
    + ?0 V2 K; S( b: u
    ' s# M3 r/ a: v4 V! S$ ]; \8 z$ ?
    % k1 U, s' i2 r  K
    圖9:展示了在不同鏈路長度下Bidi解決方案相比DR解決方案的潛在成本節(jié)省,顯示在30米范圍內可節(jié)省高達15%的光學成本。% L! A' ~: j% C7 w1 V, D
      i  C, Z- W9 `( C) f8 o0 d
    在大規(guī)模AI集群中,Bidi技術的成本優(yōu)勢尤為顯著。對于具有64個光電共封裝交換機和512個12.8T光電共封裝引擎的512 GPU擴展集群,Bidi提供:
  • 光纖電纜束數量減少50%
  • 在30米范圍內可節(jié)省高達15%的光學成本
  • 簡化電纜管理和安裝/ l8 j& @# }% M% W% C* _
    [/ol]  S) `$ s8 t7 S
    結論) i; W  X7 Y' I& O( e8 [
    隨著AI持續(xù)推動對更高帶寬和更高效連接解決方案的需求,光學組件技術正在快速發(fā)展以應對這些挑戰(zhàn)。從先進的VCSEL技術到光電共封裝和創(chuàng)新的封裝設計,業(yè)界正在推動高速數據傳輸的極限。3 Q1 a* H' z$ Q1 o; Y) Y( P
    - z; A' o7 k$ g, p/ z
    將這些技術集成到AI系統(tǒng)中有望實現(xiàn)新水平的性能和可擴展性,為下一代AI應用提供支持。隨著研究人員和工程師繼續(xù)創(chuàng)新,可以期待在未來幾年看到AI連接光學組件領域更多令人興奮的發(fā)展。
    / L" Q4 I+ |) |6 ^! b
    9 A' d4 D1 _: X1 k  {, X參考文獻
    " k. y# D+ w: P% |" B4 L+ P[1] M. Mehta, "Optical Component Progress for Emerging Connectivity Requirements for AI," Lightcounting Webinar, Jul. 30, 2024./ K+ `; |8 }& Q7 l0 \0 k" K

    % S6 n6 r  X6 E8 l1 N# m- END -3 U) u  X. J! @( [* v( t! O
    % W7 y) f, q" x6 {
    軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用,PIC Studio都可提升您的工作效能。$ J, e+ i1 C" r1 y  b
    點擊左下角"閱讀原文"馬上申請
    ! O7 q' r" K9 q. J. \* }) x5 q3 ]' H: x" r! H
    歡迎轉載
    9 O  O% g- a. ^8 C. {2 Z% j6 z' f  y9 X* W: `# E: v- }: v
    轉載請注明出處,請勿修改內容和刪除作者信息!
    9 V. }0 l& u" |0 n5 s0 s8 ~9 ?- E9 ]- a( X; q! D3 k
    . m9 B/ y2 r& x" i* U, K4 N

    5 [5 `! f. U( U* O' }
    9 T5 e- D( T, t. `9 `( q1 U# K( @& J3 G2 ^. N  E$ w
    關注我們
    4 t; t4 ^7 m- j4 |) E; \7 |. R, l' u" S0 G
    ) M, N) |2 l: ?) I

    - b' w0 t9 P  @- Z+ p/ l8 ^! N4 a  d

    / B5 v1 e( j% W$ J3 O/ U
    / j2 z1 K3 a5 J8 {% O- Q, g
    : @' `! s8 Q$ [$ }' k" Q

    2 w# e( p$ G0 I* S2 P
                         
    * o' a+ ~9 {' P* d+ V
    * r# P; w! T& y

    6 c  M. F: X) M  p5 C; U0 U5 j  ~% I) s5 y0 z5 q8 ~% q
    關于我們:# h! N( a+ |! \- F  {& v9 s( {! W: K
    深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導體芯片設計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件,提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務,廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導體產業(yè)鏈發(fā)展,致力于為客戶提供前沿技術與服務。4 K( Y- a6 b4 i/ I! F) ?7 Z
    3 h1 B: g1 [7 d1 t- B( y, o2 z
    http://www.latitudeda.com/
    9 F8 E* F& ]" e$ j% e(點擊上方名片關注我們,發(fā)現(xiàn)更多精彩內容)
  • 回復

    使用道具 舉報

    發(fā)表回復

    您需要登錄后才可以回帖 登錄 | 立即注冊

    本版積分規(guī)則

    關閉

    站長推薦上一條 /1 下一條


    聯(lián)系客服 關注微信 下載APP 返回頂部 返回列表