|
引言6 |* j! G# i w# f% I
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。+ u/ S. b- E. J% W/ y
5 S3 G) X, L- `) L
1 ?4 o9 I; S0 D! k$ b( IIBM 大型機(jī)的力量
0 b# l4 O( z% z% C在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對(duì)支持全球經(jīng)濟(jì)的重要性。, i4 Q5 l" R! G5 p: [# m. C
5 A& v" s* L5 ]% [6 l2 m此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對(duì)于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。; j1 \/ F" o8 ?' l8 N$ W3 J
& A4 S6 Q8 y9 L# m u2 R$ Y5 m: Y
3 ~' l1 ^; ^; _. ~IBM Telum II 處理器簡介
, m7 A( d! r+ u- q# LIBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來越重要。
- j7 _9 E) O( }% }) T8 B( L2 v9 F) _& @/ f# q
Telum II 的主要特點(diǎn)
7 \4 Y# F- j% k1 f8 q1 w, o1 Y1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:
+ Y& @/ v5 w, ^0 X分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%8 L3 ?7 d# e' l) a B2 W
) T% G2 q; I7 b6 M/ C3 n" c2. 擴(kuò)展的緩存系統(tǒng):處理器具有:
2 e3 e* w7 K- k; Y6 |% G10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性
S' r5 @( T$ E! {7 P
$ Y0 o, O3 e% o& t) p7 |8 @4 V7 C( Y4 K- X4 O0 e
jc4ygk4es1k64034877608.png (420.29 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
jc4ygk4es1k64034877608.png
2024-9-25 01:02 上傳
9 E+ i( [# d9 e- p8 m! D# y圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。
" j; ]! r8 I/ M7 Q* {
, z% [7 N4 w9 r- P3 F' l- Z3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):
) u: z6 r( J$ r. q: Q+ D每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%( h5 m1 ^) T& h7 n+ G% I1 n' X
- v( u' I' b2 }+ V- h$ g' [4 }! t1 o4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:
) a" I" {4 \# K細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合
" [. o4 [) G+ F$ t% `# t
' i( ~+ j+ d& e3 {! t/ R- @/ B
2 W. @# e$ g! u! y- Y, M7 _2 A
p5wh2yecml364034877709.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
p5wh2yecml364034877709.png
2024-9-25 01:02 上傳
5 U u' D$ [& I0 W. ?" i; J; M0 z4 z0 z圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。( `5 q* l- H+ I2 z4 b0 N
5 k- Q2 i; L- G4 I5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:4 X" `* g$ e- }8 p; g8 x
4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸
3 z4 E1 e" P4 P& X, C' J+ ?6 @
# G7 C/ e' u2 G, z' u- z W/ a$ ^9 w
4 t/ O1 P* b2 t7 h/ u+ _
l2suddmxr5c64034877809.png (351.46 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
l2suddmxr5c64034877809.png
2024-9-25 01:02 上傳
! x; E4 ~/ X$ b5 z# s
f304wt5vfg264034877909.png (96.48 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
f304wt5vfg264034877909.png
2024-9-25 01:02 上傳
% u1 z; e, m4 [) `$ N6 m. x, P
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。% _9 s. o) ?1 Z- M+ e3 @) B
3 b( ]8 q. l( }: z3 ]: L6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:; m+ f, Z8 O% k1 Y _
在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡2 M3 X' f8 g) q5 ^. U/ N0 w
5 `" l7 v- h0 N7 H3 A
Telum II 中的 AI 加速: n8 ^3 [1 z% [; i$ O. s$ P+ t* \+ |' [
Telum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對(duì)傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:1 @; ]/ F3 f ? o9 t4 l+ G6 J1 {
清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測
* p" h) h8 T9 N7 S5 j F& z1 O/ h# s, v* m3 t0 w7 I; r
Telum II 中的 AI 加速器提供:. x: G% p. E1 a! J5 I" L, r
每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型% K) w+ p$ C: D/ F- ?- Y
4 W$ ^: C" ?; o* Z7 _* _
. Y. w2 d0 f; S. R$ v/ B
bnzajtvwxfg64034878009.png (337.58 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
bnzajtvwxfg64034878009.png
2024-9-25 01:02 上傳
1 y, H, z) U! B+ R
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。$ L1 m& i0 ^- P: f1 f" \: `
IBM Spyre 加速器簡介
5 J7 ^. x C' VTelum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。0 V H9 R' b m% J
: E# n* d+ W% {3 d3 N' o+ \
IBM Spyre 加速器的主要特點(diǎn)0 J+ m: g+ d! X! `9 u( i
1. 強(qiáng)大的性能:Spyre 加速器提供:
$ X4 @8 R* _/ l- v6 y超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存% @! u) V/ R8 X; ]: \
8 u! A/ m3 k) Q0 q3 C
2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:- R* v) ~2 k; x% ?7 @& m
32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng)* [+ H2 c4 h2 x+ S4 J1 m5 `+ h! |
! A& n+ {/ z3 X1 I$ H5 M+ e3 F) J4 I" c" O4 i
hfm3tq2jgcr64034878109.png (490.66 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
hfm3tq2jgcr64034878109.png
2024-9-25 01:02 上傳
6 ^$ Y3 g. p6 l- _% B
0cl4ipzdmnx64034878210.png (84.63 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
0cl4ipzdmnx64034878210.png
2024-9-25 01:02 上傳
5 y1 ]2 {# U* e& {7 O
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。
; Z2 D9 _- f( g5 S! d& m4 p( h l) t: F: V
3. 高速互連:Spyre 加速器利用:
( b5 u a4 R+ a32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
9 {$ z' g6 f" l0 S& P( J. j
0 M0 ^/ g& _3 ]% c5 W" N4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:+ T! C8 v0 b% w" Z
I/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬/ |6 L& q8 V; m6 h, v3 a9 s
# h7 w- L! L$ k# \5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:( v6 w$ \9 \& N& E* W
260 億晶體管330 平方毫米芯片面積14 英里線路- d8 D& G" M, s; y- q
6 ], c) E% ^( O! Y5 P/ k8 L" ^
d) y8 o. {- l% X% s
e0ntkhprcgh64034878310.png (204.75 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
e0ntkhprcgh64034878310.png
2024-9-25 01:02 上傳
& y; C, E, M" F1 K
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。( U0 \' @/ X" H+ t& [! H
|* F6 R+ C2 N, d- e3 n, h/ s5 j
AI 用例和應(yīng)用
& ^9 N4 n6 E+ r8 j+ l3 rTelum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評(píng)估流程。
9 c9 T) X( i3 T* E# C* M[/ol]5 C |7 D {* I) U
- k7 r+ V5 D8 Y結(jié)論
# j! F' [1 E8 r6 v. ~) gIBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對(duì)日益復(fù)雜的挑戰(zhàn)。
* H3 T P1 y4 \2 R0 z, r. l/ P B8 J4 p1 v, _- Q
這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
+ @+ c& O& u9 w, J$ \7 K
: ^ l) ?' N: n5 |, h* l6 zIBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對(duì)企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。
+ s" S8 v: J9 Q2 X- \% G2 n$ n( v6 f- H6 o8 ^
企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長。& U5 Z: S _, \$ Q" f/ Z' I
% B8 E: e' y: B
參考文獻(xiàn)# x3 a% C \5 x$ \; i8 x
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024. p a+ r6 X3 @1 ?) }& n' K) E" K# ]
# X2 |6 B" @8 H1 G" a" V( V7 K
- END -
% a0 e% m4 g: ]( N& m
' N h+ i4 M/ ?- h: k軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。, b7 O9 P! F% f5 {' X
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)6 O" \* L2 @* t+ T: d
1 @$ K g3 T& g' r
歡迎轉(zhuǎn)載
5 e( c7 y0 E: v9 C
4 @2 K3 ]" ^5 G' B轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!& @# x1 r* C! l! T( y! b1 A% `: F
7 g- `7 p1 { e8 i& R n1 R5 ~) J" ~. A9 K: s$ R- H
; f# D' j6 c4 y g, L
nnrnbke12kq64034878410.gif (16.04 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
nnrnbke12kq64034878410.gif
2024-9-25 01:02 上傳
- z- y9 ?1 t2 {2 Q; K3 v' L' j v( ?) Z
關(guān)注我們
% u) J' s# n8 P( n3 p9 G" C$ P1 f- z' B+ t) B, I
& A/ U; o3 H a) L) O/ J
1yhwmne4rjx64034878510.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
1yhwmne4rjx64034878510.png
2024-9-25 01:02 上傳
5 ]# U( h, O/ r8 P B | " z$ ?) A+ L& z, o3 a
f0v4iex1bii64034878610.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
f0v4iex1bii64034878610.png
2024-9-25 01:02 上傳
- U/ h( H; \& F6 n
|
+ z, J. K3 y' e3 M, U; O. J
zrtvlxjlrvj64034878710.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
zrtvlxjlrvj64034878710.png
2024-9-25 01:02 上傳
# |: |& O3 G) l0 t1 Y9 f
| 5 r: z* k7 }, Q
5 y5 n) k/ o) [
4 O# C$ I8 i9 l7 o1 W0 c; J2 a% v
關(guān)于我們:- M& F' N6 U" Y" ]* i
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
- |1 G2 I6 Y! x* q: J6 N: U- o% D, |; `$ e
http://www.latitudeda.com/# Z. i9 ^0 I9 f. l5 b5 r0 g, @ V; u
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|