人工智能應(yīng)用的異構(gòu)集成技術(shù)

逍遙設(shè)計(jì)自動(dòng)化

新一代人工智能硬件架構(gòu)：突破傳統(tǒng)計(jì)算范式
  p; Z6 F) R0 x* h人工智能（AI）的快速發(fā)展催生了對(duì)計(jì)算能力的巨大需求。由于傳統(tǒng)晶體管縮放方法難以滿足這種指數(shù)級(jí)增長(zhǎng)的需求，半導(dǎo)體行業(yè)已轉(zhuǎn)向系統(tǒng)級(jí)縮放方法，特別是異構(gòu)集成（HI）技術(shù)。本文探討了當(dāng)前異構(gòu)集成技術(shù)的現(xiàn)狀及其在支持下一代人工智能系統(tǒng)中的核色[1]。

4 i  J- J/ E) h4 O; f( c# Z' Z
/ Z6 ]: q' y: B集成技術(shù)的演進(jìn)：從2D到3D解決方案

圖1：當(dāng)前異構(gòu)集成技術(shù)概述，展示了各種架構(gòu)，包括2.5D/2D增強(qiáng)型、3D架構(gòu)以及多芯片模塊、晶圓級(jí)扇出和玻璃核心封裝等不同集成方式。
7 u  a3 Y8 J3 p$ D  I
異構(gòu)集成在實(shí)現(xiàn)人工智能應(yīng)用的高系統(tǒng)吞吐量和能效方面發(fā)揮著關(guān)鍵作用。通過(guò)將片上系統(tǒng)（SoC）分割成多個(gè)chiplet并將其集成到單個(gè)封裝中，設(shè)計(jì)人員可以顯著提高系統(tǒng)靈活性、功能性、帶寬、吞吐量和延遲性能。這種方法通過(guò)橫向、縱向或雙向方式使chiplet更緊密地集成，實(shí)現(xiàn)在單個(gè)封裝中集成更多內(nèi)存或邏輯電路。
+ J) M! ]) \: J8 Y6 W7 P
架構(gòu)轉(zhuǎn)型：多裸片集成的興起
& l  d7 ]/ G( p. j* v1 V: H
圖2：集成架構(gòu)比較，展示了(a)傳統(tǒng)2D SoC、(b)基于3D-TSV的架構(gòu)、(c)中介層架構(gòu)和(d)組合架構(gòu)，演示了邏輯和內(nèi)存組件集成方法的演進(jìn)。
+ T5 Q* J0 d6 R5 e, G" q& V: ?
. e4 F' w1 ]0 b$ i, B/ n" E/ c  ~9 B; N當(dāng)前的異構(gòu)集成技術(shù)包括多個(gè)方向，包括多芯片模塊（MCM）、中介層架構(gòu)、晶圓級(jí)封裝和3D架構(gòu)。MCM是最早的多裸片2D架構(gòu)之一，將chiplet橫向放置在有機(jī)基板上，以減少布線長(zhǎng)度并提高封裝帶寬。然而，由于采用傳統(tǒng)有機(jī)基板和粗糙的焊料鍵合技術(shù)，MCM在互連密度方面存在限制。
7 E% ?; p; E* b. H$ h% q* e6 i
/ |1 P3 K1 Y! t+ ^/ M( f6 V先進(jìn)封裝創(chuàng)新：3D-ICE技術(shù)

4 C$ Y! }& r9 R3 Z: _% _2 \' F  |圖3：3D集成chiplet封裝（3D-ICE）技術(shù)概述，展示了使用二氧化硅封裝的chiplet集成創(chuàng)新方法。

# h$ m* V! Q0 o" Y% Z; r1 X" D. F業(yè)界在開(kāi)發(fā)人工智能應(yīng)用的先進(jìn)封裝解決方案方面取得了重大進(jìn)展。Cerebras、Nvidia、AMD、Intel和Tesla等公司已部署了專門為人工智能工作負(fù)載設(shè)計(jì)的各種異構(gòu)集成架構(gòu)。例如，Cerebras的WSE-3使用臺(tái)積電5nm技術(shù)的晶圓級(jí)集成，實(shí)現(xiàn)了人工智能訓(xùn)練的強(qiáng)大計(jì)算能力。Nvidia的GB200 Grace Blackwell芯片采用臺(tái)積電的芯片級(jí)晶圓級(jí)基板（CoWoS-L）封裝技術(shù)，支持處理超過(guò)10萬(wàn)億參數(shù)的大型語(yǔ)言模型。
/ w; t6 c  f+ ]
4 n# C7 E, ~+ |: d- W標(biāo)準(zhǔn)化和連接：協(xié)議集成的優(yōu)勢(shì)
0 d% S  v* Y: D
圖4：異構(gòu)計(jì)算的標(biāo)準(zhǔn)化協(xié)議示意圖，展示了現(xiàn)代人工智能系統(tǒng)中使用的各種互連標(biāo)準(zhǔn)。

' k: Z  n- X- ?" J1 @! b裸片間（D2D）接口在異構(gòu)系統(tǒng)組件之間的數(shù)據(jù)傳輸中扮演著重要角色。AMD的Infinity Fabric、Intel的Advanced Interface Bus（AIB）和Universal Chiplet Interconnect Express（UCIe）協(xié)議等行業(yè)標(biāo)準(zhǔn)實(shí)現(xiàn)了chiplet之間的高效通信。這些接口對(duì)于實(shí)現(xiàn)現(xiàn)代人工智能應(yīng)用所需的高帶寬和低延遲性能具有重要意義。
8 B  ?/ ~: Z' w4 @2 w: p- V
. i" i/ `: u" _% Q- |未來(lái)方向之一的玻璃封裝

3 S: [2 \5 E$ F& Z; T圖5：Intel組裝的玻璃基板測(cè)試芯片(a)和Absolics的面板級(jí)封裝玻璃基板(b)示例，展示了玻璃封裝技術(shù)的最新進(jìn)展。
( V: m0 h3 v6 j. K' c$ Y
玻璃核心封裝已成為下一代人工智能系統(tǒng)的重要解決方案。玻璃基板具有多項(xiàng)優(yōu)勢(shì)，包括優(yōu)異的信號(hào)完整性、支持高密度互連以及改進(jìn)的熱管理能力。Intel和Absolics等公司最近的發(fā)展表明了業(yè)界對(duì)高性能人工智能應(yīng)用玻璃基解決方案的重視。
, S6 f8 L' k: G; m
向異構(gòu)集成的轉(zhuǎn)變代表了人工智能硬件架構(gòu)方法的變革。隨著人工智能模型規(guī)模和復(fù)雜性的持續(xù)增長(zhǎng)，業(yè)界對(duì)先進(jìn)封裝技術(shù)和新型集成方法的關(guān)注將在滿足未來(lái)人工智能應(yīng)用的計(jì)算需求方面發(fā)揮重要作用。

" |; m' T3 _6 X9 o' \6 k參考文獻(xiàn)
* n9 |7 P( h, j0 e7 v  T[1] M. Manley, A. Victor, H. Park, A. Kaul, M. Kathaperumal, and M. S. Bakir, "Heterogeneous Integration Technologies for Artificial Intelligence Applications," IEEE Journal on Exploratory Solid-State Computational Devices and Circuits, 2024, doi: 10.1109/JXCDC.2024.3484958.
END
( J& ]) \+ B* F$ V
5 _  B& n+ U3 l) u% N8 o+ J  i' N
軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
3 M# I- L& c9 ~! y點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
. w1 Q+ g. `) O0 }3 r
歡迎轉(zhuǎn)載
( j; n: \+ [* Z! q' _4 F
  \! ^! L( t2 m- F7 i0 C轉(zhuǎn)載請(qǐng)注明出處，請(qǐng)勿修改內(nèi)容和刪除作者信息！
" R" m: U) i5 |+ \7 e- o9 |! T
6 }8 E  K! \9 _8 g5 p6 Q9 Y

: A0 K" R% l) P0 t- g7 y

關(guān)注我們

9 ^" H" w. W' c! v

* r( p/ l' l* j; M+ E0 n8 M

H; e2 L: l2 d$ A

1 A, N. W) d) e. J3 G" b  d* Z

                     

1 p# U9 w6 d& Z" t: H

關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
& t. t. r, z: P, u
http://www.latitudeda.com/
（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）