|
引言3 \) W, o9 s7 M: E4 q. a
隨著人工智能(AI)技術的不斷進步,AI系統(tǒng)對高速、高效數據傳輸的需求呈指數級增長。本文探討了為滿足AI應用新興連接需求而設計的光學組件的最新發(fā)展。引用文獻來自LightCounting在7月30日舉辦的Special Requirements for Optical Connectivity in AI Clusters Webinar,特此感謝!
7 W) i" }, S$ Y# w
3 z; d9 F/ Y3 u3 z' P5 P9 a1 M光學組件的演進6 ?' x) a$ B0 G& K8 T% l- J2 P7 ~
過去幾十年間,光學組件經歷了顯著的進步。從1998年的1G VCSEL(垂直腔面發(fā)射激光器)技術,到如今尖端的200G VCSEL和EML(電吸收調制激光器)解決方案,行業(yè)在數據傳輸速度和效率方面持續(xù)提升。
8 }. M3 y* M' I/ u: L: M, \
oqqz32rkekn64077137449.png (227.71 KB, 下載次數: 0)
下載附件
保存到相冊
oqqz32rkekn64077137449.png
2024-10-12 03:14 上傳
1 i: ^. e' V+ b" G圖1:從1998年到2025年光學組件的演進,突出顯示了從1G VCSEL到200G VCSEL和EML技術的進程。
" `$ k+ u# K* v$ A# i
4 V# B- x+ n% a% M8 L, c4 a3 u這一演進的關鍵里程碑包括:2 g% L$ ]0 C% A$ k/ ]* s+ a3 ?, m
1998年:1G VCSEL2004年:2.5G EML和DML(直接調制激光器)2013年:10G VCSEL、EML和DML2019年:25G VCSEL和50G EML/DML2023年:50G VCSEL和100G EML2025年(預計):100G VCSEL、200G VCSEL和200G EML
' q% x. [" J4 E& J( K% N1 e: M/ c1 I% r! s4 k" ]
這一進程展示了行業(yè)致力于滿足現(xiàn)代計算和AI系統(tǒng)不斷增長的帶寬需求。+ E6 T1 W9 Q% L2 k
0 l3 m4 }7 {% t: }5 g' e5 a( D
多模光纖技術進展:200G VCSEL技術4 z$ T6 P4 {# {- x0 T
光學組件技術最有希望的發(fā)展之一是200G VCSEL的進步。這項技術代表了多模光纖傳輸能力的顯著飛躍。: O4 A# |+ {* A% C
bqkrrtqgebl64077137550.png (321.1 KB, 下載次數: 2)
下載附件
保存到相冊
bqkrrtqgebl64077137550.png
2024-10-12 03:14 上傳
! E. [- W( Q1 n5 I, K: @
圖2:從850 nm VCSEL收集的200Gb/s PAM4眼圖,以及在EVB(評估板)中測試的可插拔模塊中的200G VCSEL工程樣品。
2 l+ L- \" D0 }' `6 [- ?, d( P+ `5 t
200G VCSEL技術具有以下優(yōu)勢:每3-4年調制速率翻倍與現(xiàn)有多模光纖基礎設施兼容與單模解決方案相比功耗更低適用于數據中心短距離應用的成本效益高
! T' O7 J% D$ S[/ol]3 M) {: a! Y: }5 \& t+ y
200G VCSEL技術的發(fā)展與IEEE標準的進程一致,數據速率從1998年的1 Gb/s(802.3z)穩(wěn)步增加到目前的100 Gb/s PAM4(802.3db,2022年)。業(yè)界現(xiàn)正致力于標準化200 Gb/s PAM4技術,以滿足未來的連接需求。
% _( i# ?7 `6 r N1 D4 l( J. b7 {3 [/ D) L* l
光電共封裝系統(tǒng)$ E5 C+ f; ~/ z. d# n. x
光電共封裝代表了將光學組件直接與交換機ASIC(專用集成電路)集成的革命性方法。這種集成旨在降低功耗、提高帶寬密度并改善整體系統(tǒng)性能。7 q# M# t& f5 ~1 S
* v( b. ?' X0 t" V) o) }
第一代光電共封裝:TH4-Humboldt
2 M) g3 S) W1 b$ f) x; m7 |* v
1gtklakb0eb64077137650.png (411.14 KB, 下載次數: 1)
下載附件
保存到相冊
1gtklakb0eb64077137650.png
2024-10-12 03:14 上傳
: I, ^& L0 `" F# S$ n" m圖3:第一代光電共封裝系統(tǒng)TH4-Humboldt其關鍵特性和組件。* x# A0 D! l6 R; d' Q& d
( x/ h% l: `- q! g* e" T' s
TH4-Humboldt的特點包括:/ \8 @( Z# u1 \7 O! T
25.6T以太網交換能力一半光電共封裝,一半電氣連接四個3.2T光學引擎(32x100Gbps DR連接)光學引擎采用光電子集成芯片與SiGe EIC(電子集成電路)鍵合每個光學引擎約250個光學組件6 ^% c/ y& {; F) G
Q$ F- h: Y* B. t7 R' D0 S盡管創(chuàng)新,TH4-Humboldt設計仍面臨一些挑戰(zhàn),特別是由于使用SiGe技術而導致的功耗問題。
0 u% o2 C4 U' o5 C
" v+ S6 h. u! @0 T4 R第二代光電共封裝:TH5-Bailly4 x; a' P% ~) `2 ~$ L
quag4lope0l64077137751.png (364.06 KB, 下載次數: 1)
下載附件
保存到相冊
quag4lope0l64077137751.png
2024-10-12 03:14 上傳
: ^' r3 r, V( Z; b/ |8 }2 h
圖4:第二代光電共封裝系統(tǒng)TH5-Bailly,突出其先進特性和增強的光學集成。
; z5 e& t0 r* R0 `; ~/ A+ W
9 N5 F" p$ ?2 q! X4 U/ B; MTH5-Bailly相比其前代產品有顯著進步:
) O3 o5 T8 L( j% n, `& S6 P! |51.2T以太網交換能力全光學光電共封裝連接八個6.4T光學引擎(64x100Gbps FR4連接)光學引擎采用光電子集成芯片與CMOS EIC鍵合每個光學引擎約1000個光學組件7 G3 E/ @. f; B
- M4 V. s) f k2 z' I" W9 D0 dTH5-Bailly轉向CMOS技術解決了前代產品的功耗問題,為高帶寬應用提供了更高效的解決方案。0 a( |, o) m3 ]2 e. l# M4 `3 {
muss4tu3xrk64077137851.png (486.26 KB, 下載次數: 2)
下載附件
保存到相冊
muss4tu3xrk64077137851.png
2024-10-12 03:14 上傳
/ w v9 O; j6 F4 \3 U0 C
圖5:在4RU MP3機箱內完全功能的51.2T TH5-Bailly,演示了該技術的實際應用。
7 T) g0 t- r8 E; [5 r# ?
# l7 F. R4 O) v/ Z; L
+ j# l- [, k: d. v8 k. p' P& b采用2.5D多芯片封裝的AI擴展1 w: |% Z1 _3 {7 a. U
隨著AI系統(tǒng)復雜度和規(guī)模的不斷增長,新型封裝技術正在涌現(xiàn),以支持更高的連接性和性能需求。
9 _+ W/ U3 g9 E
0nu3bhnnzac64077137951.png (169.48 KB, 下載次數: 1)
下載附件
保存到相冊
0nu3bhnnzac64077137951.png
2024-10-12 03:14 上傳
# ^/ |- M9 X# m+ Q, B: K9 M2 G
圖6:光電共封裝系統(tǒng),每個光學引擎具有6.4Tbps I/O帶寬,集成到帶有HBM(高帶寬內存)和ASIC芯片的2.5D封裝中。, e' r5 n( j9 `
* _5 S( N' H3 n' k5 T* s2 }( P這種先進封裝方法的主要特點包括:
0 X/ W9 R" {" N2 o; X集成每個光學引擎6.4Tbps I/O帶寬的光電共封裝采用帶硅中介層的2.5D封裝技術集成HBM以實現(xiàn)高速、低延遲的內存訪問模塊化設計,分離的SerDes(串行器/解串器)芯片和ASIC芯片+ I A- e0 ^/ d& S+ J) L
3 I1 ^/ f# j; d" }# C) s4 Y這種封裝方法允許光學組件與高性能計算元件更高效地集成,對AI系統(tǒng)的擴展至關重要。
, y$ U& f2 m) W
4 H, C. d+ m; h3 D9 c* N) ABeachfront與Oceanfront:優(yōu)化光學引擎布局7 c6 X5 P d- G8 i8 e
在封裝內光學引擎的布局對系統(tǒng)性能和可靠性至關重要。主要出現(xiàn)了兩種方法:beachfront和oceanfront設計。4 h3 h. D8 P! w4 I0 T: q! _
ffup3kd0phq64077138051.png (156.93 KB, 下載次數: 1)
下載附件
保存到相冊
ffup3kd0phq64077138051.png
2024-10-12 03:14 上傳
$ E/ C9 @5 n1 C# g5 Y& S+ s圖7:比較了高性能封裝中beachfront和oceanfront光學引擎布局設計。* |- M/ R: w& t: U
% x" U3 V) N' H& u0 ?) J
Oceanfront設計優(yōu)勢:" C/ C5 G. P; L9 q8 r! z- B
能夠沿單個oceanfront布置四個光學引擎由于光學部分遠離高功耗GPU,可靠性更高通過最后附加已知良好的光學引擎,提高制造良率# I% {% s8 U( f/ Z( Q
$ `4 a4 h8 f3 y2 {# v) ?
Oceanfront方法在熱管理和制造效率方面提供顯著優(yōu)勢,成為未來AI系統(tǒng)設計的理想選擇。
7 y u' m" `( ?0 ~/ w5 _5 w _* y9 H2 K7 b% u3 _) m7 W1 M/ O
雙向(Bidi)光學:經濟高效的高基數解決方案7 b3 L" \ a/ |$ {4 ?- o
隨著AI集群擴展到數百或數千個節(jié)點,管理光纖連接變得越來越復雜和昂貴。雙向(Bidi)光學為這一挑戰(zhàn)提供了希望的解決方案。
. Q, [# f) [: B
gnbvz4vxkd564077138151.png (176.06 KB, 下載次數: 0)
下載附件
保存到相冊
gnbvz4vxkd564077138151.png
2024-10-12 03:14 上傳
+ R' ]. a2 K! ~
圖8:比較了采用傳統(tǒng)DR光學和Bidi光學的12.8T光學引擎光纖I/O,展示了Bidi技術減少的光纖數量。
# q2 C0 }; m) l
2 V. i- ^- u6 R' y' R/ {- DBidi光學的優(yōu)勢:
# A5 b x5 ]& m5 E- r減少光纖數量(與傳統(tǒng)DR光學相比減少50%)降低整體系統(tǒng)成本簡化光纖管理在FTTx應用中已有20年部署經驗的成熟技術
+ ?0 V2 K; S( b: u' s# M3 r/ a: v4 V! S$ ]; \8 z$ ?
fxv5m132j0q64077138251.png (171.15 KB, 下載次數: 2)
下載附件
保存到相冊
fxv5m132j0q64077138251.png
2024-10-12 03:14 上傳
% k1 U, s' i2 r K
圖9:展示了在不同鏈路長度下Bidi解決方案相比DR解決方案的潛在成本節(jié)省,顯示在30米范圍內可節(jié)省高達15%的光學成本。% L! A' ~: j% C7 w1 V, D
i C, Z- W9 `( C) f8 o0 d
在大規(guī)模AI集群中,Bidi技術的成本優(yōu)勢尤為顯著。對于具有64個光電共封裝交換機和512個12.8T光電共封裝引擎的512 GPU擴展集群,Bidi提供:光纖電纜束數量減少50%在30米范圍內可節(jié)省高達15%的光學成本簡化電纜管理和安裝/ l8 j& @# }% M% W% C* _
[/ol] S) `$ s8 t7 S
結論) i; W X7 Y' I& O( e8 [
隨著AI持續(xù)推動對更高帶寬和更高效連接解決方案的需求,光學組件技術正在快速發(fā)展以應對這些挑戰(zhàn)。從先進的VCSEL技術到光電共封裝和創(chuàng)新的封裝設計,業(yè)界正在推動高速數據傳輸的極限。3 Q1 a* H' z$ Q1 o; Y) Y( P
- z; A' o7 k$ g, p/ z
將這些技術集成到AI系統(tǒng)中有望實現(xiàn)新水平的性能和可擴展性,為下一代AI應用提供支持。隨著研究人員和工程師繼續(xù)創(chuàng)新,可以期待在未來幾年看到AI連接光學組件領域更多令人興奮的發(fā)展。
/ L" Q4 I+ |) |6 ^! b
9 A' d4 D1 _: X1 k {, X參考文獻
" k. y# D+ w: P% |" B4 L+ P[1] M. Mehta, "Optical Component Progress for Emerging Connectivity Requirements for AI," Lightcounting Webinar, Jul. 30, 2024./ K+ `; |8 }& Q7 l0 \0 k" K
% S6 n6 r X6 E8 l1 N# m- END -3 U) u X. J! @( [* v( t! O
% W7 y) f, q" x6 {
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用,PIC Studio都可提升您的工作效能。$ J, e+ i1 C" r1 y b
點擊左下角"閱讀原文"馬上申請
! O7 q' r" K9 q. J. \* }) x5 q3 ]' H: x" r! H
歡迎轉載
9 O O% g- a. ^8 C. {2 Z% j6 z' f y9 X* W: `# E: v- }: v
轉載請注明出處,請勿修改內容和刪除作者信息!
9 V. }0 l& u" |0 n5 s0 s8 ~9 ?- E9 ]- a( X; q! D3 k
. m9 B/ y2 r& x" i* U, K4 N
5 [5 `! f. U( U* O' }
lipsbckywpn64077138352.gif (16.04 KB, 下載次數: 2)
下載附件
保存到相冊
lipsbckywpn64077138352.gif
2024-10-12 03:14 上傳
9 T5 e- D( T, t. `9 `( q1 U# K( @& J3 G2 ^. N E$ w
關注我們
4 t; t4 ^7 m- j4 |) E; \7 |. R, l' u" S0 G
) M, N) |2 l: ?) I
mex5plxr1j364077138452.png (31.33 KB, 下載次數: 1)
下載附件
保存到相冊
mex5plxr1j364077138452.png
2024-10-12 03:14 上傳
- b' w0 t9 P @- Z+ p/ l8 ^! N4 a d |
/ B5 v1 e( j% W$ J3 O/ U
jbukidcigqt64077138552.png (82.79 KB, 下載次數: 0)
下載附件
保存到相冊
jbukidcigqt64077138552.png
2024-10-12 03:14 上傳
/ j2 z1 K3 a5 J8 {% O- Q, g | : @' `! s8 Q$ [$ }' k" Q
ujjdleyyghr64077138652.png (21.52 KB, 下載次數: 1)
下載附件
保存到相冊
ujjdleyyghr64077138652.png
2024-10-12 03:14 上傳
2 w# e( p$ G0 I* S2 P |
* o' a+ ~9 {' P* d+ V
* r# P; w! T& y
6 c M. F: X) M p5 C; U0 U5 j ~% I) s5 y0 z5 q8 ~% q
關于我們:# h! N( a+ |! \- F {& v9 s( {! W: K
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導體芯片設計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件,提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務,廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導體產業(yè)鏈發(fā)展,致力于為客戶提供前沿技術與服務。4 K( Y- a6 b4 i/ I! F) ?7 Z
3 h1 B: g1 [7 d1 t- B( y, o2 z
http://www.latitudeda.com/
9 F8 E* F& ]" e$ j% e(點擊上方名片關注我們,發(fā)現(xiàn)更多精彩內容) |
|