|
引言2 B; K" `# {* v F
在企業(yè)計算領(lǐng)域不斷演進的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計算格局。0 x4 {* u& V6 k
, I1 V: {& [9 W% n4 `
$ E8 U8 R0 g3 \2 oIBM 大型機的力量' ^& z* S5 V8 \. G
在深入探討新硬件的具體細節(jié)之前,了解 IBM 大型機在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計 70% 的全球交易(按價值計算)通過 IBM 大型機進行處理。這一驚人的統(tǒng)計數(shù)據(jù)凸顯了大型機技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟的重要性。( S* C. V* t. E, Q
. K! } c% i5 y$ k6 J7 z此外,IBM 大型機以可靠性著稱,可用率高達 99.999999%。這種可靠性對于需要持續(xù)運行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。, D- g) U6 P! ~; `+ y
; z. p% d% ]+ U( |; ]8 `
0 q O" \) _ b6 L' C7 m" [( pIBM Telum II 處理器簡介
5 d$ T/ |7 R( w% B7 a% PIBM Telum II 處理器代表了大型機計算技術(shù)的重大飛躍。設(shè)計用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動的商業(yè)環(huán)境中變得越來越重要。
* U8 P d& u5 |) Z8 k
7 U6 P- a6 M% I* W2 B# ~" W! c ~2 k. S0 z! XTelum II 的主要特點
+ e: G! f' x4 P3 i8 \5 P) u1. 增強的中央計算復(fù)合體:Telum II 比前代產(chǎn)品有多項改進,包括:+ U# z6 s2 R, H4 X* P
分支預(yù)測增強重命名寄存器容量增加(從 128 增至 160)改進的存儲回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%1 z+ Q# M4 e* J" T' X6 x3 v9 u# ~
7 P2 ?5 J3 i( {- J/ ]4 x3 f, @
2. 擴展的緩存系統(tǒng):處理器具有:/ L4 }9 D% `( k7 G5 I" |. P# O' Y4 V
10 個 L2 緩存,每個 36MB,訪問時間 3.6ns360MB 虛擬 L3 緩存,訪問時間 11.5ns2.8GB 虛擬 L4 緩存,訪問時間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強安全性
1 b1 A3 x( J# d$ E) S$ d! h3 U
3 b% {. r2 e5 w( b* h+ x9 t0 j- {7 c A% f9 ~+ ]
rc45wxmp4ms64024512333.png (420.29 KB, 下載次數(shù): 0)
下載附件
保存到相冊
rc45wxmp4ms64024512333.png
2024-9-20 01:31 上傳
4 U4 p6 B* H7 A) s- C7 Y圖 1:說明 Telum II 中央計算復(fù)合體和 L2 緩存系統(tǒng)的改進,突出了處理能力和內(nèi)存訪問的顯著增強。2 ]3 @' V" H/ ^- ?. W. p
@5 {' m9 g E1 N; Y4 o
3. 先進的制造工藝:Telum II 采用 5nm 技術(shù)制造,實現(xiàn):
1 j7 }% h* x$ Z每核心最高 5.5 GHz 時鐘速度插槽性能提升 20%處理器功耗降低 18%* a6 O% j$ w' h0 D9 s- L
, P" U* O9 y- U8 f- R1 t/ B4. 創(chuàng)新的電壓控制:處理器incorporates一個復(fù)雜的電壓控制回路系統(tǒng),包括:
+ j2 f2 y5 P X# d$ m細粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合 e; J6 R( N/ n: S3 K
( I9 G5 O" @, Y+ ^; K1 P! D ?
+ ^ `: N8 A7 X% Z$ @5 E! z
0sjfuucgwkf64024512433.png (120.12 KB, 下載次數(shù): 0)
下載附件
保存到相冊
0sjfuucgwkf64024512433.png
2024-9-20 01:31 上傳
1 X( N* C7 K, H# G- a圖 2:展示Telum II 電壓控制回路實現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。
% Q. Q2 z; v5 H+ H( r/ a1 ^1 ~2 F( C
5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
8 a% |: w. [% K) ~* t$ o$ [4 個處理集群每個集群 8 個定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊列管理器,用于高效的工作調(diào)度和傳輸7 G& K5 C# C8 X7 p( B2 P
# ]2 `! G4 q1 |' Z+ e
% t2 V, |+ G* Z2 K7 d: C
pfpkb4vtcxn64024512533.png (351.46 KB, 下載次數(shù): 0)
下載附件
保存到相冊
pfpkb4vtcxn64024512533.png
2024-9-20 01:31 上傳
+ k; w# Z2 W+ Q# ~" M
igfpfpgzdhd64024512633.png (96.48 KB, 下載次數(shù): 0)
下載附件
保存到相冊
igfpfpgzdhd64024512633.png
2024-9-20 01:31 上傳
$ r `1 Y4 J1 |& `圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。2 T! Z# o1 {" z5 W
5 w( |# e+ O- [2 w2 h) x7 s) g1 c, T6. 大規(guī)模擴展 I/O 子系統(tǒng):Telum II 支持:
4 n+ x7 V% e u5 w在一個連貫的 SMP 系統(tǒng)中最多 32 個處理器12 個 I/O 擴展 Drawer,每個有 16 個 PCIe 插槽單個系統(tǒng)中總共最多 192 個 PCIe 卡7 q5 C- d6 _& R9 L: f+ i% I- N
' E! V8 T. l; h- S& D. N; ZTelum II 中的 AI 加速
8 p6 c9 J0 g4 z Q+ r' b3 mTelum II 最顯著的進步之一是其增強的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:
+ G1 K' n3 u; V* y' Q3 W9 \4 z清算結(jié)算合規(guī)檢查保險理賠處理欺詐檢測
# w$ `, ^- A/ k+ |1 t# o5 v& n* @, Y- R$ O; H1 W
Telum II 中的 AI 加速器提供:
+ \+ e- F* D8 g' x每芯片 24 TOPS(每秒萬億次運算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型
% E4 c2 K7 Q' O4 V/ x/ ~% Z9 W* K" G) S: H3 n2 J$ L/ T3 Q
6 J5 E7 O3 b6 V2 r9 f6 z
avjevfdfmnl64024512733.png (337.58 KB, 下載次數(shù): 0)
下載附件
保存到相冊
avjevfdfmnl64024512733.png
2024-9-20 01:31 上傳
; h0 ?8 A' `9 P1 e% }0 s: X
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。: L1 w( w& f8 G* k3 u6 |
IBM Spyre 加速器簡介+ ~% ~& j7 x4 m7 C, X9 q7 k% K
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進一步推進了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補充了 Telum II 的能力。# F- A$ \: e+ m6 W' r
! M. }6 m; }) D; p/ y, `' EIBM Spyre 加速器的主要特點
' k# l. i9 I$ S9 Z# D2 U& p [1. 強大的性能:Spyre 加速器提供:: |+ L, a5 `! `
超過 300 TOPS 的計算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存
$ n, W& f0 {1 T! X2 t3 \9 f3 X) O% M: V# X; F" M
2. 創(chuàng)新的核心設(shè)計:加速器具有:
( d) d) `3 w/ h0 w' Q1 x8 v" W32 個核心,每個配備 2MB 暫存器55%+ 有效 TOPS 利用率獨特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動
, m2 v5 w" P& @, _
& a: ^) m5 I* Z: k) G# e- B0 P4 O# r1 ^" N! H N
4dvzkpyhv5u64024512833.png (490.66 KB, 下載次數(shù): 0)
下載附件
保存到相冊
4dvzkpyhv5u64024512833.png
2024-9-20 01:31 上傳
1 }+ F7 [6 q, K5 |" @" X3 ?- U
cmnsyffhb2264024512933.png (84.63 KB, 下載次數(shù): 0)
下載附件
保存到相冊
cmnsyffhb2264024512933.png
2024-9-20 01:31 上傳
- K0 W6 R8 _3 O2 r% l圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計,實現(xiàn)高效 AI 計算。" H# Q7 `/ F; [
) Y# i- x5 h2 w; I5 k$ s$ A# Z
3. 高速互連:Spyre 加速器利用:: i1 e0 U; @- }0 j' f$ S( g
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
' u* R/ p+ h5 O7 H3 Z5 L3 L/ b: ^5 V" H6 ?2 t
4. 可擴展性:Spyre 加速器設(shè)計用于集群部署:
# D" C8 \8 V* N+ d3 i1 ~I/O Drawer 中的 8 張卡形成一個邏輯集群每個集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬" A5 r( z- J8 j$ M7 @! u3 t# W) @
7 {9 n2 C3 S2 f7 U5. 先進制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:7 p% P9 T8 u/ s7 {/ M
260 億晶體管330 平方毫米芯片面積14 英里線路
! T! [9 T/ v1 J% M5 K+ T2 k' R) d$ u# D/ j2 o- K# l h) W
4 h- f; R% H2 Q# I, x e/ c& }( K
dprsqzkruz564024513033.png (204.75 KB, 下載次數(shù): 0)
下載附件
保存到相冊
dprsqzkruz564024513033.png
2024-9-20 01:31 上傳
: S1 F6 Q# r& W* v0 W
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細節(jié),突出兩種芯片使用的先進技術(shù)。+ {6 Z8 o0 Q4 v2 _# y# _7 x
I* ^( N' Q5 s0 b) A. \
AI 用例和應(yīng)用; [6 H. K `+ G, z9 C9 `
Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強大的 Spyre 加速器,金融機構(gòu)可以實施復(fù)雜的欺詐檢測系統(tǒng),實時分析交易。生成式 AI:Spyre 加速器的高性能使其適合運行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險管理:先進的 AI 功能可以應(yīng)用于自動化合規(guī)檢查,并增強各行業(yè)的風(fēng)險評估流程。: `6 l9 ~( ~" _, }( z
[/ol]
% A. ]7 {% U& d8 f6 [& q& N% {& F; h- _0 }' b$ J
結(jié)論
% U1 Z7 r4 X; |0 \* e5 g6 E) `IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計算和 AI 加速的重大進步。通過將高性能傳統(tǒng)計算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r應(yīng)對日益復(fù)雜的挑戰(zhàn)。0 k( s; P+ P2 M6 e, E
* M7 N0 l+ f: e7 U p
這些創(chuàng)新將改變金融、保險、軟件開發(fā)和 IT 運營等多個行業(yè)。隨著 AI 在商業(yè)運營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
% X9 P, N2 e+ U6 [$ K
/ w5 y/ r$ H- r7 o0 ~* G8 NIBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時代的運營方式。
* E5 D1 z1 Z$ d5 n
6 x. n% z( X0 k企業(yè)計算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個未來中,AI 將深度集成到業(yè)務(wù)運營的每個方面,推動效率、創(chuàng)新和增長。# G* _5 n: z2 E2 ~$ k) H8 A8 z
* i0 f6 r% I4 F7 M( O/ ]1 R
參考文獻
2 c) l e) K! a6 Q C9 R6 d[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.
! j: f5 `7 ~$ t' ]" ?! s5 k; S) h* Y2 f9 C* S# G2 B" P0 Q
- END -
0 J" f8 ^: b0 }6 k2 Q' w+ B @" \& r; J, H6 o: g
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。9 @7 [" y ~; a( N& D% ~# a
點擊左下角"閱讀原文"馬上申請: |% C+ D% b* b& h9 S
; f* u) U3 Y$ J3 }0 }: S
歡迎轉(zhuǎn)載
: ?, [( E$ r1 i I# Y3 p
( |% S" k. P( Z% L- H4 `轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息! i2 o8 X/ n* s, S. i
2 p6 Z! N; _8 K8 V
6 P( q& V5 z# b2 {8 C/ ^7 y
; g+ n8 x5 j" k5 T! D9 V, H- B/ g! E
n1qrqnvypzh64024513133.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊
n1qrqnvypzh64024513133.gif
2024-9-20 01:31 上傳
; L3 Y4 H, c$ c* ^$ g$ W( c
2 W/ D) |; D3 i$ ]關(guān)注我們0 Y V% E4 l, {4 f7 j' j% L
) h7 z0 J0 B/ a: K \# ^2 ?6 C0 C' j" `; |! S& E9 ^
bnig1hnphqt64024513233.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊
bnig1hnphqt64024513233.png
2024-9-20 01:31 上傳
9 z6 W: ^! ~, j |
U& z5 ], \' t3 R: u+ I
gz44by2upgn64024513333.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊
gz44by2upgn64024513333.png
2024-9-20 01:31 上傳
5 q: O- s- r& Q | 9 n. C6 I% T) f \: J7 L
jf0bntred1564024513433.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊
jf0bntred1564024513433.png
2024-9-20 01:31 上傳
* L% W1 j! {" L {% i2 K7 e$ V( | |
3 \6 z/ s! U1 K3 J" a6 k4 E7 |* q! ]; p& s; @$ L' w, ~1 h1 R- K
! A. ^" D- \' o* E h: E
/ C: o" h$ C2 ?7 y5 c0 M
關(guān)于我們:
7 o& l* r# r& m7 s6 A深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。6 y4 e9 {& @/ M& L5 H. Q
, B! ]( E( ~6 d: h% Z
http://www.latitudeda.com/
& {' x- X* L& j% A. w' D: h(點擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|