|
引言5 L' M" F1 ~" P+ [
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。' l& G8 ]5 f& H5 O# H6 `
, |5 q* K2 q! |9 ~* M2 z. g
& q* G% X$ z) G+ m: NIBM 大型機(jī)的力量
7 g% s; ?9 k) j8 x0 f) F在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對(duì)支持全球經(jīng)濟(jì)的重要性。3 u, W; i! |0 P3 E6 o
. t/ H: U8 O% ^* C$ P( M/ N' D
此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對(duì)于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。$ w. J) X+ E& w) Y: h6 X" n5 h7 f
5 i$ l* T* _+ d% U) G) f% F1 j O
IBM Telum II 處理器簡介
+ `2 x) y2 ~( U: iIBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來越重要。
3 [ Y' T, z, A: V% D
6 j _7 F V: b( eTelum II 的主要特點(diǎn)
1 @" E' {0 o- J* h9 Y1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:; k( l& y) G* b: N2 R N& M; O& A- B
分支預(yù)測(cè)增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%( D. o9 i6 [! o: Y
/ C/ D) e8 l/ o4 n( r
2. 擴(kuò)展的緩存系統(tǒng):處理器具有:
3 ^/ Y: [' ]+ g& t7 B3 u# q3 A {# v10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性
0 W+ p+ h3 Z% [) ^# _" ^
. ?8 q: s' D1 O
; w7 T k0 {8 f. p2 U. x
jc4ygk4es1k64034877608.png (420.29 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
jc4ygk4es1k64034877608.png
2024-9-24 01:03 上傳
7 C# F3 a8 [2 ]6 R
圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。
" r& E( l) D! ^% M/ Q; J0 i; e* s5 e0 K# |
3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):
) \ H& S0 L4 j: M' {6 P2 \每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%6 M4 C3 Y* ], R/ |6 `* Y/ O
4 Q! R; E4 I" r, Y4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:
' |/ }4 e: V- Z' K9 X9 r. ^細(xì)粒度電壓測(cè)量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合
3 q. E2 q8 C3 f/ I- Z8 w% G; e+ \1 \6 Y, M" }5 Y- ^+ y8 V
1 i |2 i3 [& M' R4 n2 ~0 E; K
p5wh2yecml364034877709.png (120.12 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
p5wh2yecml364034877709.png
2024-9-24 01:03 上傳
3 Z ]$ j) h0 Q. C2 l& o
圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。) Y$ i9 [4 S& K. w+ e8 J, c
; T. `3 R- h' M1 O% R
5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:) M/ Z9 n- X4 r8 b% `
4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸3 ~9 \! x$ Z9 B4 v3 P
, P" ~. Y$ l2 W- L) i1 V
6 O+ M$ r" {( l/ N
l2suddmxr5c64034877809.png (351.46 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
l2suddmxr5c64034877809.png
2024-9-24 01:03 上傳
2 }$ @/ ]7 a$ [# k3 l( p
f304wt5vfg264034877909.png (96.48 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
f304wt5vfg264034877909.png
2024-9-24 01:03 上傳
' k% L/ {3 j- A M; p
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
) G* x" S4 ?$ Z5 ?. X
+ R6 h/ j, {4 O+ n/ n- R6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:, ~2 ?$ y' d4 q+ i; G5 y7 ]4 h* l P
在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡
. }) m( @, x1 w
, K) @% z/ z5 R( m9 gTelum II 中的 AI 加速, r' M3 `3 R$ c
Telum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對(duì)傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:
7 T* D1 @+ O& l- ?. A清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測(cè)
! V) ]+ j1 s/ K( x1 m/ Y4 a( N$ m8 g& K! f
Telum II 中的 AI 加速器提供:
" T' o$ t$ `: R- b& w( m每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型: e2 @% x, R2 R I0 w/ |
% F& O1 ~1 V* c' x$ u
( r% t# C, t G/ z8 ], Z! z) J
bnzajtvwxfg64034878009.png (337.58 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
bnzajtvwxfg64034878009.png
2024-9-24 01:03 上傳
& Z: \, M. K/ S4 q6 f圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。1 @ v+ L6 V# ^
IBM Spyre 加速器簡介* M( z3 _$ N4 _. m2 H- n5 X" u
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。
1 P& Z9 F! ^$ f7 f4 c# e, D/ \& g% T7 X
IBM Spyre 加速器的主要特點(diǎn)
$ A }/ P4 q p' q6 | C( j1 D' d1. 強(qiáng)大的性能:Spyre 加速器提供:: y! z% Y; b! m( ^* s& O7 A. s
超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存
( {5 g% ^' C# [- e" i# H; a R
; [4 t0 |, g& L6 l" B5 l' U" ?2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:) t8 b% ]1 G8 v8 w- V) w6 |2 F! q
32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng)
+ w8 W/ L5 r6 P' D+ m. y0 E4 D- l9 K' M7 O8 g
' ~. O( y9 D. p- _4 @/ Q
hfm3tq2jgcr64034878109.png (490.66 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
hfm3tq2jgcr64034878109.png
2024-9-24 01:03 上傳
: X9 d3 L! z Q
0cl4ipzdmnx64034878210.png (84.63 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
0cl4ipzdmnx64034878210.png
2024-9-24 01:03 上傳
* p; a: D4 Z5 L- b$ L6 y" {
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。; a* F$ v `! O1 @9 H. t. f
2 ~# U( O7 A+ ~
3. 高速互連:Spyre 加速器利用:* o ?9 V, `7 ~$ S
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
) L5 l1 i- j$ M; Z8 S: p5 L, F2 t
" g& G" f4 x! @- ]( F" J4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:4 a) G% d+ I: [" _
I/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
9 }! ?8 W l' x; v6 |( a
0 p. Z' d5 P; `; B3 H5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:) i5 m/ e. x0 `+ [, ?% `7 K
260 億晶體管330 平方毫米芯片面積14 英里線路
( C$ t0 k F. J. k4 V- S* ?7 g( L& q, ]2 L0 m
8 L# a: i% s' j7 \3 |: Q
e0ntkhprcgh64034878310.png (204.75 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
e0ntkhprcgh64034878310.png
2024-9-24 01:03 上傳
- C# V8 u' b3 H5 f
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。0 L, s: N9 U! U1 u
- R7 Q1 J( v; y! W5 `7 U- M' x8 _AI 用例和應(yīng)用" f0 `; t* I' @
Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測(cè):通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測(cè)系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評(píng)估流程。
7 ^7 M! @& V! f% C* \[/ol]
$ I- E9 m' b& b1 W) L% x, u
w2 \" w; a$ m8 z結(jié)論 [3 u6 P" ^7 B0 `4 C" ~
IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對(duì)日益復(fù)雜的挑戰(zhàn)。6 @$ V$ y) Y6 v
4 N) ~- d% }' l: T) D這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競(jìng)爭(zhēng)優(yōu)勢(shì)。* u: L# v. U" i3 H$ d( L
: y A2 {3 D9 ?
IBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對(duì)企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。
% e$ v, C1 W% o e
& x. Y4 J7 V7 l+ X4 R3 I/ q6 Z- B企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長。
; t" s- |: z9 N/ C3 x9 T1 S7 L2 q* D6 o. G0 o
參考文獻(xiàn)
0 x j8 w9 s) B[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.: N; Q1 r3 Y: {% }% @
8 U( P. N; N2 u- END -" N8 K' t" ?0 a# d, A
! M. h- [ d8 S) [) H3 G- Z/ _" b4 t# t軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。# f. e5 [ W1 l% E
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)6 l6 @6 e& d" u5 E4 B
5 |" I, Q* g9 M歡迎轉(zhuǎn)載6 p: @5 B/ g' X7 Q* j
3 \1 N+ b' X1 i+ H9 j- _6 u
轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!8 e( e% ]0 d! d r
' r. |* d3 E) T: E/ [; d
0 ?8 B# i: h5 _6 o. m+ v6 \6 U0 Q! K) v: h5 K4 D/ y8 ~& F- Y
nnrnbke12kq64034878410.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
nnrnbke12kq64034878410.gif
2024-9-24 01:03 上傳
6 T+ ~1 O6 J" b1 X/ ~# {* ^' {: \1 f: T# R
關(guān)注我們
. W8 g7 F- J: _9 ~* N, V2 B# s8 n. |' W( T
. Y/ V& o ]6 ]5 [+ v- [
1yhwmne4rjx64034878510.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
1yhwmne4rjx64034878510.png
2024-9-24 01:03 上傳
8 \- e2 ^+ y5 O% `! Z! c |
) w3 z6 r/ c; r1 b
f0v4iex1bii64034878610.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
f0v4iex1bii64034878610.png
2024-9-24 01:03 上傳
1 ~0 [: f) G" b2 Z
|
9 X H9 S5 z3 a; Z7 c) [
zrtvlxjlrvj64034878710.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
zrtvlxjlrvj64034878710.png
2024-9-24 01:03 上傳
: k3 W1 _* c& E Z( X# E9 B7 D | 5 N) X7 M% R& d
3 \$ b3 v, }) A' J
. [; F4 i0 T6 s {" _* \
( O( n0 i5 w0 D* z) e; C" W: j關(guān)于我們:' ~' }9 S0 |% ]
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。8 b/ A4 M5 Y: e( ], w6 D/ J6 ^
6 h5 r3 @. }% Ihttp://www.latitudeda.com/
5 e6 a4 X/ E+ n5 g# _2 I4 g(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|