人工智能應用的異構集成技術

逍遙設計自動化

新一代人工智能硬件架構：突破傳統(tǒng)計算范式
; ~7 J; U6 d& M8 l) f+ U; [人工智能（AI）的快速發(fā)展催生了對計算能力的巨大需求。由于傳統(tǒng)晶體管縮放方法難以滿足這種指數(shù)級增長的需求，半導體行業(yè)已轉向系統(tǒng)級縮放方法，特別是異構集成（HI）技術。本文探討了當前異構集成技術的現(xiàn)狀及其在支持下一代人工智能系統(tǒng)中的核色[1]。
) k" Z* b) \' ~# d. A, I+ W3 M

集成技術的演進：從2D到3D解決方案

8 D( t1 B) Y. n- x圖1：當前異構集成技術概述，展示了各種架構，包括2.5D/2D增強型、3D架構以及多芯片模塊、晶圓級扇出和玻璃核心封裝等不同集成方式。
& r4 |" T! z4 |* g: z3 a& b" J( [; ]
異構集成在實現(xiàn)人工智能應用的高系統(tǒng)吞吐量和能效方面發(fā)揮著關鍵作用。通過將片上系統(tǒng)（SoC）分割成多個chiplet并將其集成到單個封裝中，設計人員可以顯著提高系統(tǒng)靈活性、功能性、帶寬、吞吐量和延遲性能。這種方法通過橫向、縱向或雙向方式使chiplet更緊密地集成，實現(xiàn)在單個封裝中集成更多內存或邏輯電路。
: d/ @7 E/ s/ W# E' q
架構轉型：多裸片集成的興起
% I4 h/ _1 B7 d( n4 H, c# c
圖2：集成架構比較，展示了(a)傳統(tǒng)2D SoC、(b)基于3D-TSV的架構、(c)中介層架構和(d)組合架構，演示了邏輯和內存組件集成方法的演進。

當前的異構集成技術包括多個方向，包括多芯片模塊（MCM）、中介層架構、晶圓級封裝和3D架構。MCM是最早的多裸片2D架構之一，將chiplet橫向放置在有機基板上，以減少布線長度并提高封裝帶寬。然而，由于采用傳統(tǒng)有機基板和粗糙的焊料鍵合技術，MCM在互連密度方面存在限制。
% R, p  H. M( q0 a4 j( N
9 y7 j! U4 b! a3 Y% \先進封裝創(chuàng)新：3D-ICE技術

/ w: k$ G5 [: a& f0 t2 b圖3：3D集成chiplet封裝（3D-ICE）技術概述，展示了使用二氧化硅封裝的chiplet集成創(chuàng)新方法。
* Z5 W0 E2 A  k7 \9 D0 c# L
業(yè)界在開發(fā)人工智能應用的先進封裝解決方案方面取得了重大進展。Cerebras、Nvidia、AMD、Intel和Tesla等公司已部署了專門為人工智能工作負載設計的各種異構集成架構。例如，Cerebras的WSE-3使用臺積電5nm技術的晶圓級集成，實現(xiàn)了人工智能訓練的強大計算能力。Nvidia的GB200 Grace Blackwell芯片采用臺積電的芯片級晶圓級基板（CoWoS-L）封裝技術，支持處理超過10萬億參數(shù)的大型語言模型。
8 |% D! \) k: E% g  D
" |+ a" x7 O3 A+ _( B( q% ?標準化和連接：協(xié)議集成的優(yōu)勢

% ]& ?' J" ]' g2 J. v( Z4 ?1 m6 W3 P圖4：異構計算的標準化協(xié)議示意圖，展示了現(xiàn)代人工智能系統(tǒng)中使用的各種互連標準。
! K; c0 n4 e5 m* l* U9 @
裸片間（D2D）接口在異構系統(tǒng)組件之間的數(shù)據傳輸中扮演著重要角色。AMD的Infinity Fabric、Intel的Advanced Interface Bus（AIB）和Universal Chiplet Interconnect Express（UCIe）協(xié)議等行業(yè)標準實現(xiàn)了chiplet之間的高效通信。這些接口對于實現(xiàn)現(xiàn)代人工智能應用所需的高帶寬和低延遲性能具有重要意義。
7 w6 M1 q8 B  Z4 r* K: l0 s! q
未來方向之一的玻璃封裝

圖5：Intel組裝的玻璃基板測試芯片(a)和Absolics的面板級封裝玻璃基板(b)示例，展示了玻璃封裝技術的最新進展。

$ v( e5 j( U  W玻璃核心封裝已成為下一代人工智能系統(tǒng)的重要解決方案。玻璃基板具有多項優(yōu)勢，包括優(yōu)異的信號完整性、支持高密度互連以及改進的熱管理能力。Intel和Absolics等公司最近的發(fā)展表明了業(yè)界對高性能人工智能應用玻璃基解決方案的重視。

! F: j& E/ o- I9 S向異構集成的轉變代表了人工智能硬件架構方法的變革。隨著人工智能模型規(guī)模和復雜性的持續(xù)增長，業(yè)界對先進封裝技術和新型集成方法的關注將在滿足未來人工智能應用的計算需求方面發(fā)揮重要作用。

參考文獻
4 \) C0 U2 U% {0 U/ A/ Z: X[1] M. Manley, A. Victor, H. Park, A. Kaul, M. Kathaperumal, and M. S. Bakir, "Heterogeneous Integration Technologies for Artificial Intelligence Applications," IEEE Journal on Exploratory Solid-State Computational Devices and Circuits, 2024, doi: 10.1109/JXCDC.2024.3484958.
END

+ n9 i8 u: H. |! y$ |
) k4 H9 c/ |, _4 w軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用，PIC Studio都可提升您的工作效能。
點擊左下角"閱讀原文"馬上申請
/ `/ M+ P& w/ ]% i5 F8 d# j
歡迎轉載

轉載請注明出處，請勿修改內容和刪除作者信息！

/ X% I5 h6 |4 a8 [8 x3 A, G9 {. P& R



關注我們
7 W: C$ l7 P2 e6 Z6 e
  V/ }' Q% Y1 g: [: Q$ U

$ a: Z  E. K" Q: G

5 a8 L7 L" w; ^

, f+ j% f! a$ D  n 0 P7 V' C( A, [1 Y9 ?

                     

! l' w) ]4 b5 A. g

3 P4 U: d" {, h* r% f4 E關于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件，提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務，廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產業(yè)鏈發(fā)展，致力于為客戶提供前沿技術與服務。
* R" A2 f3 ?# o8 L! f* i, \& `, G
http://www.latitudeda.com/
# [; \+ y% M4 V7 |+ P（點擊上方名片關注我們，發(fā)現(xiàn)更多精彩內容）