|
引言- i1 R D$ s# X7 a6 A
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。
9 Z6 Z( y# C" I7 E. x
+ R& Q; ]( W; K
; V% K* J& h0 ?* d5 T) z7 e( GIBM 大型機(jī)的力量
F+ {) E1 A% Z; L/ q在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對(duì)支持全球經(jīng)濟(jì)的重要性。, Z, J& u8 o+ m2 g! E
' I! m6 w( [! t% E0 K6 K# H
此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對(duì)于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。, _5 \$ N. C% J6 {0 `
" h7 ^. m, s- X' j
/ m5 m. ?% r2 _/ GIBM Telum II 處理器簡介
1 d8 a) i) l7 vIBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來越重要。- @, O5 t; p/ _, N, w) T
: L7 J6 O' h4 ?Telum II 的主要特點(diǎn)
% n) |- u0 y8 Q* e) b; i& c6 |1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:
+ I- N) B5 f0 z) ^* P9 E分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%/ l! n4 L' R5 W6 Y4 Q5 F( I4 V& k" r
" _* w4 m+ m% r9 [3 C2. 擴(kuò)展的緩存系統(tǒng):處理器具有:1 C: J1 _% s0 Y( J. O) Y
10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性6 i2 l" n+ P& F% r) I/ h; v
' A5 F, p* B- }, @5 y9 S0 z4 U$ Q
, d2 v+ M* A- Z7 u$ Q+ l+ l
rc45wxmp4ms64024512333.png (420.29 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
rc45wxmp4ms64024512333.png
2024-9-20 01:31 上傳
" \6 t- h: f* O% l% N圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。/ `3 x- m0 u6 y. E
# L- e W+ B( x
3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):+ w9 ?# }$ S/ Z0 D$ h) b
每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%9 Z3 I: M" }* a. M
" a* @! y# z5 G. T' H4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:
# f H5 H, o4 x" ^& f' V, P8 o0 _細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合
, a! p! T) g r: L' p+ w4 E+ S0 f2 ~$ q+ a: q7 G
0 e5 f/ Q) Q+ C* v7 o( ~
0sjfuucgwkf64024512433.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
0sjfuucgwkf64024512433.png
2024-9-20 01:31 上傳
" C! u0 q) |5 v圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。
! @3 N+ `1 ?0 A" m1 m1 i! W
, S! ~1 [4 o c5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:7 m* d7 N4 F) Y+ ~) X \/ x7 w
4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸
s" m& e: G/ @ ^: ^# n9 x: L6 Y$ `' R7 g- J4 G
6 u( q+ g, ?6 h5 b
pfpkb4vtcxn64024512533.png (351.46 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
pfpkb4vtcxn64024512533.png
2024-9-20 01:31 上傳
/ o A3 E1 N H3 b& M6 @
igfpfpgzdhd64024512633.png (96.48 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
igfpfpgzdhd64024512633.png
2024-9-20 01:31 上傳
3 c4 W4 I: [ L0 W圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
. p; a- J3 B. K% N2 R, Y/ Y: T% n8 h( \, d
6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:; N2 w6 G# {* g) D, E
在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡/ A$ |5 Q* {% e% `
8 U! u V X: N8 LTelum II 中的 AI 加速 Y" r, k* @2 D2 @
Telum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對(duì)傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:8 b1 j) n: @& J) M0 i! j8 p
清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測* s) }8 {: a3 u* r1 r% Y
, e& Q& V# B, C% |+ BTelum II 中的 AI 加速器提供:
: @0 Q; T1 b$ K+ B( [0 M每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型& `8 y' ~( p" c* K8 }( R5 v) E ^
: a3 f5 U- n5 {1 ^2 y6 v
- c' L2 R6 q P1 x
avjevfdfmnl64024512733.png (337.58 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
avjevfdfmnl64024512733.png
2024-9-20 01:31 上傳
9 H. `* J, U0 t0 x) f" V+ a8 k圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。
J+ k# w# r! P ]IBM Spyre 加速器簡介. C* m* \. d3 x9 J1 n# p5 R
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。- z* A) m; ?3 \3 D0 Y/ H. K
" B S- Y$ g0 _* W+ HIBM Spyre 加速器的主要特點(diǎn)6 p8 }* T% G( J' j
1. 強(qiáng)大的性能:Spyre 加速器提供:
/ U0 F J* l8 B W! E& z超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存
. z! N+ f7 r2 `' ^! N+ T7 \6 p) R- {0 I$ e8 F. P ~( S
2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:
: n3 w% e; T. a! L0 i, C# Q32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng)
+ r" Q" P7 } ? d5 a: X g
" n2 h1 n! w8 c3 K% b; a- ~. D# I! A
4dvzkpyhv5u64024512833.png (490.66 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
4dvzkpyhv5u64024512833.png
2024-9-20 01:31 上傳
p5 U. U M& I1 O
cmnsyffhb2264024512933.png (84.63 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
cmnsyffhb2264024512933.png
2024-9-20 01:31 上傳
/ F! o m' ~, J1 V# e9 A
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。 @/ t) F) M$ z. D
' D5 z& B/ G. F% u$ B
3. 高速互連:Spyre 加速器利用:; ] \! [9 K1 ? W* F
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器( p. P5 n: Q1 [0 Q0 v2 N" v
+ @" \" l5 _: Q% V4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:
$ E$ X `. R, b6 {* fI/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
# s$ B9 {) j8 I
' w5 D: h8 t+ a/ [8 y2 a% }5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:
! A) X) x# \1 N, ^5 u R6 S260 億晶體管330 平方毫米芯片面積14 英里線路
" U1 C- d: `' {$ m0 ]) _$ F& I- W" _ h5 n! e8 n1 ?
: j6 g# p: n+ N- ]) |! l1 H
dprsqzkruz564024513033.png (204.75 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
dprsqzkruz564024513033.png
2024-9-20 01:31 上傳
# \" R4 {0 J( v- H3 C
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。
5 s+ u% h1 w. {$ \+ g1 \4 |+ P) x1 k! T8 j- m
AI 用例和應(yīng)用
8 t4 O& n) h- K9 g3 e6 w% d; c. R JTelum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評(píng)估流程。
! `9 W7 `# l/ z* `$ F, \[/ol]1 U( M$ H! K% G3 h" f
1 B. e. V3 L. B( i5 S結(jié)論% X' f8 L% c3 X. `2 x
IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對(duì)日益復(fù)雜的挑戰(zhàn)。
/ L0 L0 g6 a2 ?; v0 V8 |
5 ]9 }2 m# }' _" ~9 ~這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。 g2 t5 k! _5 _0 ?0 d" A
% \8 b+ g# f ?9 r
IBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對(duì)企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。- x6 v2 {; D+ x
* a: M. g% ? {& W$ S
企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長。
0 J9 ?1 A( W* `) l
; y5 }- S* X- O( `; o9 |參考文獻(xiàn)/ @! s% V1 Z! H/ K# x# V
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.% M5 J, Q P9 \9 t4 s5 |5 ~
4 y! f+ r5 u3 U- k1 e8 W- END -# [9 I# n3 P; f- u8 |# o
1 R/ F6 T' h3 |- r( J. `
軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
0 s2 ]# T$ b+ c; ^2 `3 I8 d點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)1 w" P4 U9 y7 q2 N/ h
- ^. d; h# c% o& N
歡迎轉(zhuǎn)載1 B, U( r9 [7 i4 Y' p
: `" W8 Q( G6 p J4 e
轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!
+ [" P4 u3 ^* D4 l% ^+ {" ?9 i* a
. e! J t; R3 l$ M% Q: K Z. v! U$ V& g/ W' ~2 s$ c. ?7 x
' V! B7 s, \1 C. d) q- e+ b$ F
n1qrqnvypzh64024513133.gif (16.04 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
n1qrqnvypzh64024513133.gif
2024-9-20 01:31 上傳
& Z% {8 x: i Z+ O, b: e: j2 [! a
& R; J W1 [( `/ p/ g! s
關(guān)注我們
2 l: b2 V& P! K1 J
0 z j' ~9 F& v! H7 C6 E3 m$ f( p
9 Z, y" \5 t( P
bnig1hnphqt64024513233.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
bnig1hnphqt64024513233.png
2024-9-20 01:31 上傳
/ ?- C& E9 x' O2 q$ X | 4 x' X+ c7 y& r
gz44by2upgn64024513333.png (82.79 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
gz44by2upgn64024513333.png
2024-9-20 01:31 上傳
1 Q- Y/ X0 L T8 T% v0 f
| ( ~' Q( n# ]1 N$ O9 G
jf0bntred1564024513433.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
jf0bntred1564024513433.png
2024-9-20 01:31 上傳
2 I. l# |- N+ W | 2 v0 m7 f- R; [/ G: R
( w: `" H0 a9 X2 w' ^9 E- G0 t
6 m: z, L3 Z: Y; g
6 ]! p, O$ h8 g2 f關(guān)于我們:$ E' z7 @9 f6 u' k+ w0 b0 V
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
6 V& b+ I: ]# _ l3 ]( ~& C1 q% W1 e1 m! i
http://www.latitudeda.com/
& R. \. v6 |+ `3 b j6 W+ E2 U(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|