人工智能集群光學連接特殊需求下的光學組件進展與創(chuàng)新

逍遙設計自動化

引言
隨著人工智能（AI）技術的不斷進步，AI系統(tǒng)對高速、高效數據傳輸的需求呈指數級增長。本文探討了為滿足AI應用新興連接需求而設計的光學組件的最新發(fā)展。引用文獻來自LightCounting在7月30日舉辦的Special Requirements for Optical Connectivity in AI Clusters Webinar，特此感謝！
+ u$ f* ^" V0 {
( v* a/ M( {$ [# w& o9 i光學組件的演進
% V; M1 c, r; z+ c' F0 \過去幾十年間，光學組件經歷了顯著的進步。從1998年的1G VCSEL（垂直腔面發(fā)射激光器）技術，到如今尖端的200G VCSEL和EML（電吸收調制激光器）解決方案，行業(yè)在數據傳輸速度和效率方面持續(xù)提升。
* W1 l5 c4 o) }+ h
圖1：從1998年到2025年光學組件的演進，突出顯示了從1G VCSEL到200G VCSEL和EML技術的進程。

* ]5 R3 M: ~$ Q! g4 d這一演進的關鍵里程碑包括：
, S! x9 B5 h8 ^* d

1998年：1G VCSEL

2004年：2.5G EML和DML（直接調制激光器）

2013年：10G VCSEL、EML和DML

2019年：25G VCSEL和50G EML/DML

2023年：50G VCSEL和100G EML

2025年（預計）：100G VCSEL、200G VCSEL和200G EML

7 w- v( G# I' P1 m這一進程展示了行業(yè)致力于滿足現(xiàn)代計算和AI系統(tǒng)不斷增長的帶寬需求。

多模光纖技術進展：200G VCSEL技術
光學組件技術最有希望的發(fā)展之一是200G VCSEL的進步。這項技術代表了多模光纖傳輸能力的顯著飛躍。

* W8 g' G  m* C9 c+ s% u圖2：從850 nm VCSEL收集的200Gb/s PAM4眼圖，以及在EVB（評估板）中測試的可插拔模塊中的200G VCSEL工程樣品。
  k6 ]/ Y, ~9 j: w) N
) Z5 w2 e6 h8 h) N7 E9 a3 O$ x200G VCSEL技術具有以下優(yōu)勢：

每3-4年調制速率翻倍

與現(xiàn)有多模光纖基礎設施兼容

與單模解決方案相比功耗更低

適用于數據中心短距離應用的成本效益高
* Q! Z0 h6 C' R( W! W0 O, I[/ol]
/ g5 n" j. E; Z# P200G VCSEL技術的發(fā)展與IEEE標準的進程一致，數據速率從1998年的1 Gb/s（802.3z）穩(wěn)步增加到目前的100 Gb/s PAM4（802.3db，2022年）。業(yè)界現(xiàn)正致力于標準化200 Gb/s PAM4技術，以滿足未來的連接需求。
" X! H* G. @2 U! h
光電共封裝系統(tǒng)
  [+ G1 Y1 v5 E- g- q光電共封裝代表了將光學組件直接與交換機ASIC（專用集成電路）集成的革命性方法。這種集成旨在降低功耗、提高帶寬密度并改善整體系統(tǒng)性能。

第一代光電共封裝：TH4-Humboldt
% y2 U, [% D$ ~3 Q6 y# \
+ T& L, W3 B" s# f4 }0 m9 p圖3：第一代光電共封裝系統(tǒng)TH4-Humboldt其關鍵特性和組件。

- A* G0 X8 Y0 Y2 iTH4-Humboldt的特點包括：
. z( y, [5 I7 m% K& [: m5 D

25.6T以太網交換能力

一半光電共封裝，一半電氣連接

四個3.2T光學引擎（32x100Gbps DR連接）

光學引擎采用光電子集成芯片與SiGe EIC（電子集成電路）鍵合

每個光學引擎約250個光學組件
2 k  J3 x5 Q0 x: ?
" @) T. d3 j* I7 [$ l盡管創(chuàng)新，TH4-Humboldt設計仍面臨一些挑戰(zhàn)，特別是由于使用SiGe技術而導致的功耗問題。
2 H# N" m) H: y' @/ ~- S
. W# p. u1 B1 p2 U9 y2 G8 j' {第二代光電共封裝：TH5-Bailly

7 q" u4 o7 ?; [0 R' \圖4：第二代光電共封裝系統(tǒng)TH5-Bailly，突出其先進特性和增強的光學集成。
; M; W$ N, D* P9 H7 ^
6 V. ^* i  n" VTH5-Bailly相比其前代產品有顯著進步：

51.2T以太網交換能力

全光學光電共封裝連接

八個6.4T光學引擎（64x100Gbps FR4連接）

光學引擎采用光電子集成芯片與CMOS EIC鍵合

每個光學引擎約1000個光學組件

TH5-Bailly轉向CMOS技術解決了前代產品的功耗問題，為高帶寬應用提供了更高效的解決方案。
; w5 z# C, Q/ f
% U) y$ X4 l6 j% e; b圖5：在4RU MP3機箱內完全功能的51.2T TH5-Bailly，演示了該技術的實際應用。


采用2.5D多芯片封裝的AI擴展
隨著AI系統(tǒng)復雜度和規(guī)模的不斷增長，新型封裝技術正在涌現(xiàn)，以支持更高的連接性和性能需求。
) @; K/ f, N  c1 n7 g5 Y
, `9 w7 H; T3 L8 {! d) k# |圖6：光電共封裝系統(tǒng)，每個光學引擎具有6.4Tbps I/O帶寬，集成到帶有HBM（高帶寬內存）和ASIC芯片的2.5D封裝中。
5 z0 o% k6 N# d8 z
  `6 D9 E: e+ v& q( k- {這種先進封裝方法的主要特點包括：

集成每個光學引擎6.4Tbps I/O帶寬的光電共封裝

采用帶硅中介層的2.5D封裝技術

集成HBM以實現(xiàn)高速、低延遲的內存訪問

模塊化設計，分離的SerDes（串行器/解串器）芯片和ASIC芯片
' I% z2 l9 g+ c  j
& R& z+ e4 D, L這種封裝方法允許光學組件與高性能計算元件更高效地集成，對AI系統(tǒng)的擴展至關重要。
: Q) }- t1 u7 J- U" ?5 e1 ]; g# i
Beachfront與Oceanfront：優(yōu)化光學引擎布局
在封裝內光學引擎的布局對系統(tǒng)性能和可靠性至關重要。主要出現(xiàn)了兩種方法：beachfront和oceanfront設計。

圖7：比較了高性能封裝中beachfront和oceanfront光學引擎布局設計。

( _0 d' ]' B1 c: f3 ?0 {Oceanfront設計優(yōu)勢：
+ V. }3 M! f% `5 f5 A

能夠沿單個oceanfront布置四個光學引擎

由于光學部分遠離高功耗GPU，可靠性更高

通過最后附加已知良好的光學引擎，提高制造良率
$ w$ K' X, c  W% B
% o3 ^  Z8 A& z, G1 z0 c7 xOceanfront方法在熱管理和制造效率方面提供顯著優(yōu)勢，成為未來AI系統(tǒng)設計的理想選擇。

雙向（Bidi）光學：經濟高效的高基數解決方案
隨著AI集群擴展到數百或數千個節(jié)點，管理光纖連接變得越來越復雜和昂貴。雙向（Bidi）光學為這一挑戰(zhàn)提供了希望的解決方案。
' d$ K) [3 A2 ^& V+ e* }
圖8：比較了采用傳統(tǒng)DR光學和Bidi光學的12.8T光學引擎光纖I/O，展示了Bidi技術減少的光纖數量。

  M& N$ B9 ^6 E. x. eBidi光學的優(yōu)勢：

減少光纖數量（與傳統(tǒng)DR光學相比減少50%）

降低整體系統(tǒng)成本

簡化光纖管理

在FTTx應用中已有20年部署經驗的成熟技術


, r7 n7 X+ _9 {* T- E. r; V8 L圖9：展示了在不同鏈路長度下Bidi解決方案相比DR解決方案的潛在成本節(jié)省，顯示在30米范圍內可節(jié)省高達15%的光學成本。
; T  u9 a" f  F7 k
  \6 C# e, h* v在大規(guī)模AI集群中，Bidi技術的成本優(yōu)勢尤為顯著。對于具有64個光電共封裝交換機和512個12.8T光電共封裝引擎的512 GPU擴展集群，Bidi提供：

光纖電纜束數量減少50%

在30米范圍內可節(jié)省高達15%的光學成本

簡化電纜管理和安裝
[/ol]
結論
4 G( K" f4 \9 G隨著AI持續(xù)推動對更高帶寬和更高效連接解決方案的需求，光學組件技術正在快速發(fā)展以應對這些挑戰(zhàn)。從先進的VCSEL技術到光電共封裝和創(chuàng)新的封裝設計，業(yè)界正在推動高速數據傳輸的極限。

8 J6 |* A1 S! s( K% m/ C將這些技術集成到AI系統(tǒng)中有望實現(xiàn)新水平的性能和可擴展性，為下一代AI應用提供支持。隨著研究人員和工程師繼續(xù)創(chuàng)新，可以期待在未來幾年看到AI連接光學組件領域更多令人興奮的發(fā)展。
. ^" \2 \% v$ O% p
0 k# I) k  a% H0 `7 J) S3 q# \參考文獻
# ~! o8 x, T6 M2 t3 g( t3 g" S7 S  Z[1] M. Mehta, "Optical Component Progress for Emerging Connectivity Requirements for AI," Lightcounting Webinar, Jul. 30, 2024.
8 ^$ K3 S$ ?/ i
- END -
' D, I+ r+ i4 f
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用，PIC Studio都可提升您的工作效能。
點擊左下角"閱讀原文"馬上申請

歡迎轉載
& l  i1 q' K- a3 Z) E$ ?- b
" n. R" ^' y. O; M. d0 K轉載請注明出處，請勿修改內容和刪除作者信息！


* p. p5 M+ M  M: B4 p
& T* f- L/ l7 u( ?, I  o1 B
3 y4 k; C! @& f5 m$ V! t3 Q: V
關注我們
6 s5 L0 j* Q8 [# v
7 o8 @0 j; V  |' v0 k* `1 \3 C

z  F; B) X0 R" ?1 D9 K6 p 9 E7 Q/ C2 k" H, z

5 ^* u  _0 h' a 5 v/ E8 E/ k: Q! F! k

) p+ z' B4 z1 K* v 6 t, `: T& f8 b5 @8 u

                     
5 Y2 t6 D$ R5 W1 U6 L# u5 m3 V

6 f4 F  h& E7 L% ~% o& C# U
: V5 \8 X) l6 _關于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件，提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務，廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產業(yè)鏈發(fā)展，致力于為客戶提供前沿技術與服務。
+ z7 n: p$ d4 ~, d+ ~$ I% t' A
; u6 u1 O% l* {http://www.latitudeda.com/
（點擊上方名片關注我們，發(fā)現(xiàn)更多精彩內容）