電子產(chǎn)業(yè)一站式賦能平臺

PCB聯(lián)盟網(wǎng)

搜索
查看: 42|回復(fù): 0
收起左側(cè)

人工智能集群光學連接特殊需求下的光學組件進展與創(chuàng)新

[復(fù)制鏈接]

433

主題

433

帖子

3062

積分

四級會員

Rank: 4

積分
3062
跳轉(zhuǎn)到指定樓層
樓主
發(fā)表于 2024-10-11 08:00:00 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
引言, e0 i* Z% e! `% }
隨著人工智能(AI)技術(shù)的不斷進步,AI系統(tǒng)對高速、高效數(shù)據(jù)傳輸?shù)男枨蟪手笖?shù)級增長。本文探討了為滿足AI應(yīng)用新興連接需求而設(shè)計的光學組件的最新發(fā)展。引用文獻來自LightCounting在7月30日舉辦的Special Requirements for Optical Connectivity in AI Clusters Webinar,特此感謝!
8 Q' r: q% s; P8 [; B+ \; [& |. |
光學組件的演進
) ~! f# Q0 f! P* F6 q過去幾十年間,光學組件經(jīng)歷了顯著的進步。從1998年的1G VCSEL(垂直腔面發(fā)射激光器)技術(shù),到如今尖端的200G VCSEL和EML(電吸收調(diào)制激光器)解決方案,行業(yè)在數(shù)據(jù)傳輸速度和效率方面持續(xù)提升。
+ K4 D8 \; @& z) d3 h% c3 |2 y ! a, p/ B8 x3 {1 h! P5 Y* Q
圖1:從1998年到2025年光學組件的演進,突出顯示了從1G VCSEL到200G VCSEL和EML技術(shù)的進程。
3 _- X- R3 C4 c, z: i3 t3 D" I( P1 }5 V
/ Z0 M3 i5 D' y1 x這一演進的關(guān)鍵里程碑包括:
* u0 x1 D! V  M  c, f
  • 1998年:1G VCSEL
  • 2004年:2.5G EML和DML(直接調(diào)制激光器)
  • 2013年:10G VCSEL、EML和DML
  • 2019年:25G VCSEL和50G EML/DML
  • 2023年:50G VCSEL和100G EML
  • 2025年(預(yù)計):100G VCSEL、200G VCSEL和200G EML* V8 r( m5 t. ?# C2 b1 c7 S

    * {" {* H8 g) a- [這一進程展示了行業(yè)致力于滿足現(xiàn)代計算和AI系統(tǒng)不斷增長的帶寬需求。
    / O- o6 B* h- v3 l+ \# i  x9 C& p( o4 t) V
    多模光纖技術(shù)進展:200G VCSEL技術(shù)
    8 ~6 w9 Y2 y+ j& L% R光學組件技術(shù)最有希望的發(fā)展之一是200G VCSEL的進步。這項技術(shù)代表了多模光纖傳輸能力的顯著飛躍。6 @' W) k1 F* q: l/ I9 `
    4 C: W% W7 C& J+ ^; v' s
    圖2:從850 nm VCSEL收集的200Gb/s PAM4眼圖,以及在EVB(評估板)中測試的可插拔模塊中的200G VCSEL工程樣品。2 [$ ?8 q/ x8 ?* z+ ~$ C

    - n0 X: x$ I8 T. p200G VCSEL技術(shù)具有以下優(yōu)勢:
  • 每3-4年調(diào)制速率翻倍
  • 與現(xiàn)有多模光纖基礎(chǔ)設(shè)施兼容
  • 與單模解決方案相比功耗更低
  • 適用于數(shù)據(jù)中心短距離應(yīng)用的成本效益高+ l) M  b4 B$ n2 c1 u5 f
    [/ol]
    9 I$ h9 v# g* }8 v! O1 u# i200G VCSEL技術(shù)的發(fā)展與IEEE標準的進程一致,數(shù)據(jù)速率從1998年的1 Gb/s(802.3z)穩(wěn)步增加到目前的100 Gb/s PAM4(802.3db,2022年)。業(yè)界現(xiàn)正致力于標準化200 Gb/s PAM4技術(shù),以滿足未來的連接需求。# p% ^  ~$ O4 D- i+ D: l& c3 x
    1 w# @4 w4 Y! E
    光電共封裝系統(tǒng)
    ) ?8 T5 b' n' A% s光電共封裝代表了將光學組件直接與交換機ASIC(專用集成電路)集成的革命性方法。這種集成旨在降低功耗、提高帶寬密度并改善整體系統(tǒng)性能。
    * O& h- ?9 J% E1 u  l
    8 W& x8 M, S4 P0 E/ f% i第一代光電共封裝:TH4-Humboldt
    + v* x& |: G1 g3 h2 i' f2 u + q+ H6 `' g4 T4 z# x- {' Y
    圖3:第一代光電共封裝系統(tǒng)TH4-Humboldt其關(guān)鍵特性和組件。" o6 j0 |% R8 Y7 F9 f
    # F# x6 j6 E- I6 s$ I- z
    TH4-Humboldt的特點包括:" Q: _6 o) V! d! T' H+ y
  • 25.6T以太網(wǎng)交換能力
  • 一半光電共封裝,一半電氣連接
  • 四個3.2T光學引擎(32x100Gbps DR連接)
  • 光學引擎采用光電子集成芯片與SiGe EIC(電子集成電路)鍵合
  • 每個光學引擎約250個光學組件
    5 ]" n" n! w1 C; B: W  y2 t5 U2 j
    8 O' a+ @1 M1 J- u* F) `( i
    盡管創(chuàng)新,TH4-Humboldt設(shè)計仍面臨一些挑戰(zhàn),特別是由于使用SiGe技術(shù)而導致的功耗問題。6 N1 x5 u0 B+ J! ]) ^: Z. z  {; y/ j& u
    6 K; X$ x. F3 b+ [, j; d9 v
    第二代光電共封裝:TH5-Bailly
    5 j6 h% a/ J, i$ D
    * q& j  B( a/ y3 M圖4:第二代光電共封裝系統(tǒng)TH5-Bailly,突出其先進特性和增強的光學集成。. Z, o8 [  F2 U$ Q, n

    , O6 r' h' F1 V: }: [TH5-Bailly相比其前代產(chǎn)品有顯著進步:. x" y8 H8 Z) _
  • 51.2T以太網(wǎng)交換能力
  • 全光學光電共封裝連接
  • 八個6.4T光學引擎(64x100Gbps FR4連接)
  • 光學引擎采用光電子集成芯片與CMOS EIC鍵合
  • 每個光學引擎約1000個光學組件
    ) a2 _; P5 \" t6 O/ S

    0 v* k  n4 A3 m; r: D4 m. qTH5-Bailly轉(zhuǎn)向CMOS技術(shù)解決了前代產(chǎn)品的功耗問題,為高帶寬應(yīng)用提供了更高效的解決方案。  |2 r; [5 M# w
    6 s; ^* D4 U9 z) W0 I
    圖5:在4RU MP3機箱內(nèi)完全功能的51.2T TH5-Bailly,演示了該技術(shù)的實際應(yīng)用。
    : u3 E$ E/ c. N" c5 K# _6 W
    ( K5 ~6 L1 x$ h# o+ |& X; u' l/ i- \& Q2 L* Q
    采用2.5D多芯片封裝的AI擴展. ?6 q# P  D2 T! `
    隨著AI系統(tǒng)復(fù)雜度和規(guī)模的不斷增長,新型封裝技術(shù)正在涌現(xiàn),以支持更高的連接性和性能需求。4 g# D% g- S  g+ N. j
    " y7 h2 @" C0 U
    圖6:光電共封裝系統(tǒng),每個光學引擎具有6.4Tbps I/O帶寬,集成到帶有HBM(高帶寬內(nèi)存)和ASIC芯片的2.5D封裝中。
    % H! x$ D& H- n" I- C- G4 ~1 I' G  Z" W5 o$ ^  b
    這種先進封裝方法的主要特點包括:
    4 u$ y: Z' z" s
  • 集成每個光學引擎6.4Tbps I/O帶寬的光電共封裝
  • 采用帶硅中介層的2.5D封裝技術(shù)
  • 集成HBM以實現(xiàn)高速、低延遲的內(nèi)存訪問
  • 模塊化設(shè)計,分離的SerDes(串行器/解串器)芯片和ASIC芯片# G1 o( f* @+ E0 O# h; M2 p

    - [' i) Y1 [- C- J- A0 p& U: }2 Y這種封裝方法允許光學組件與高性能計算元件更高效地集成,對AI系統(tǒng)的擴展至關(guān)重要。
    # C. w5 m! O/ _9 }
    2 f3 r; R: ^3 T! k* c6 Z# xBeachfront與Oceanfront:優(yōu)化光學引擎布局
    8 G" l; Y/ e/ H; e/ M在封裝內(nèi)光學引擎的布局對系統(tǒng)性能和可靠性至關(guān)重要。主要出現(xiàn)了兩種方法:beachfrontoceanfront設(shè)計。
    # @7 ]. p- }) K5 |' x6 k- Y% ? & j- I( \9 A  W  A+ C* w1 B3 \% Y
    圖7:比較了高性能封裝中beachfront和oceanfront光學引擎布局設(shè)計。
    ; u& w( ?/ \* t; }* [: ?5 _3 `4 D( y' w6 o$ v
    Oceanfront設(shè)計優(yōu)勢:" M( l: Q' D* b
  • 能夠沿單個oceanfront布置四個光學引擎
  • 由于光學部分遠離高功耗GPU,可靠性更高
  • 通過最后附加已知良好的光學引擎,提高制造良率: e4 g) W  Y( l$ }

    8 H7 L0 A  v- T+ u$ Q4 W; HOceanfront方法在熱管理和制造效率方面提供顯著優(yōu)勢,成為未來AI系統(tǒng)設(shè)計的理想選擇。
    ) }5 L4 |) H5 \/ A
    " J, \9 n  i/ u( Y雙向(Bidi)光學:經(jīng)濟高效的高基數(shù)解決方案% q/ [3 H6 i1 m$ J
    隨著AI集群擴展到數(shù)百或數(shù)千個節(jié)點,管理光纖連接變得越來越復(fù)雜和昂貴。雙向(Bidi)光學為這一挑戰(zhàn)提供了希望的解決方案。
    ) e5 k! }% E) }" X7 f2 R1 x 8 B1 q; n) h0 X9 v5 L5 G
    圖8:比較了采用傳統(tǒng)DR光學和Bidi光學的12.8T光學引擎光纖I/O,展示了Bidi技術(shù)減少的光纖數(shù)量。- G6 c% G- Q7 J- ~7 Y0 D

    / [( X/ M# u- T. m! V2 p. ~, z* _' VBidi光學的優(yōu)勢:
    ) P* h" T! y; M% V) \! ^
  • 減少光纖數(shù)量(與傳統(tǒng)DR光學相比減少50%)
  • 降低整體系統(tǒng)成本
  • 簡化光纖管理
  • 在FTTx應(yīng)用中已有20年部署經(jīng)驗的成熟技術(shù)
    " T8 n: L: ~; W! p

    3 s: {  N$ T( @. I9 _& j, m$ c
    0 [# q; X: e& ~* N, n6 I* r9 b' i/ g圖9:展示了在不同鏈路長度下Bidi解決方案相比DR解決方案的潛在成本節(jié)省,顯示在30米范圍內(nèi)可節(jié)省高達15%的光學成本。
    . }) U, {( z2 A3 Y+ Y3 g2 q9 s9 V
    $ G* N/ _9 b! Z# M. v在大規(guī)模AI集群中,Bidi技術(shù)的成本優(yōu)勢尤為顯著。對于具有64個光電共封裝交換機和512個12.8T光電共封裝引擎的512 GPU擴展集群,Bidi提供:
  • 光纖電纜束數(shù)量減少50%
  • 在30米范圍內(nèi)可節(jié)省高達15%的光學成本
  • 簡化電纜管理和安裝
      Y6 `9 P0 A* X4 l  E6 Z[/ol]
    % Y5 q# A" e: J結(jié)論3 P  X2 C, |1 r
    隨著AI持續(xù)推動對更高帶寬和更高效連接解決方案的需求,光學組件技術(shù)正在快速發(fā)展以應(yīng)對這些挑戰(zhàn)。從先進的VCSEL技術(shù)到光電共封裝和創(chuàng)新的封裝設(shè)計,業(yè)界正在推動高速數(shù)據(jù)傳輸?shù)臉O限。! q8 j: S( r6 S
    * B0 M! ]; i2 ~0 T9 K
    將這些技術(shù)集成到AI系統(tǒng)中有望實現(xiàn)新水平的性能和可擴展性,為下一代AI應(yīng)用提供支持。隨著研究人員和工程師繼續(xù)創(chuàng)新,可以期待在未來幾年看到AI連接光學組件領(lǐng)域更多令人興奮的發(fā)展。
    6 S# @/ N% A( N% I& M7 i! s
    $ b" g- ~- e. e' w5 A3 W參考文獻8 B0 f" v7 [( |  U: k5 P
    [1] M. Mehta, "Optical Component Progress for Emerging Connectivity Requirements for AI," Lightcounting Webinar, Jul. 30, 2024.! T) _' v5 R+ B0 v8 b+ V
    1 k" R* e: l/ @
    - END -. j& u4 i5 H. F

    $ l; N( Q8 |9 H  d7 N軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
    7 ^) \$ k( r; g點擊左下角"閱讀原文"馬上申請+ f: d$ A( {% e5 J/ l( r+ `/ T# M, a

    % z5 ^0 {9 h0 l, W歡迎轉(zhuǎn)載. |: k8 s7 P% j* r1 b6 |2 o; S

    2 x  R& z* P7 z9 O* e- q轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
    7 i2 h+ v( j  \) Z; b9 R* j, c9 x' K5 t% ?

    $ v3 p2 @/ G) s
    ! J: A" ]0 C6 f5 O1 _1 z, C" w
    ) A# K1 {& ], @3 n

    ! ]* T( r& I+ W0 T2 ?關(guān)注我們
    2 Q. U. B% l  p% O6 {# n; p1 k, m* ~/ {/ S

    1 h* [9 w' G0 [! l% O
    2 A" Y4 I# a/ E) n  V; [

    6 G+ r' ~; m& c' b( C% I2 r8 u ( _# ^; N! j# K  j

    , {' c& ^3 b/ t6 Y5 o! b6 B4 e- | ' P! e3 O! @" a! o5 q. @" M+ O
                         
    2 f& [- Z5 c" K6 k" }
    ; v: I( E. s( S8 F. V# O

    5 N7 |9 x7 j; W+ q# m! `8 \$ ?
    6 `4 a8 k- ~# b/ [$ ]6 j關(guān)于我們:
    , I9 K4 X; w' u1 D+ H" J深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。9 _3 ]2 f* `+ ]

    6 E2 P' @* X- Y$ f! j8 jhttp://www.latitudeda.com/3 G/ l0 G1 }& b$ y5 V
    (點擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容)
  • 回復(fù)

    使用道具 舉報

    發(fā)表回復(fù)

    您需要登錄后才可以回帖 登錄 | 立即注冊

    本版積分規(guī)則

    關(guān)閉

    站長推薦上一條 /1 下一條


    聯(lián)系客服 關(guān)注微信 下載APP 返回頂部 返回列表