|
引言: O8 G9 Z4 {8 Z
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。
, N; \5 r3 s$ g' M
5 s( ^: O7 U, _8 _8 g8 A1 T n" g( c* a" F! R
IBM 大型機(jī)的力量
( y/ x- s6 c5 l1 L3 Z4 A( N在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟(jì)的重要性。; S: S6 l% ^# {: b% f" N* W3 ^
1 M2 ]3 Z# ^! a) V/ w" b4 ~! z, ?此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。) y/ u. ?4 s3 _
# M9 k* c9 ^% \# h2 V
: }0 R5 K9 k/ i6 t" X! z" i
IBM Telum II 處理器簡介
3 ]& D" ?3 a- J5 J4 lIBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動的商業(yè)環(huán)境中變得越來越重要。3 y, A* u5 O! q& q' W( _. w% ^- }
5 t: `- k1 ^- s, o) KTelum II 的主要特點(diǎn)
I8 `! P% m& e* d" f, k1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:8 \. s' _9 Z+ R' h
分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%0 _- Y8 j" _, W0 W2 O- c9 @2 }
) B7 ]5 A* P2 {2 `' {; X
2. 擴(kuò)展的緩存系統(tǒng):處理器具有:' N2 c" C- _! j2 D
10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性$ o2 g+ [& O5 j
$ M# E' r& A0 ]" v8 _. F' W
0 O) C0 x* B4 x. V c5 {
rc45wxmp4ms64024512333.png (420.29 KB, 下載次數(shù): 1)
下載附件
保存到相冊
rc45wxmp4ms64024512333.png
2024-9-20 01:31 上傳
0 I9 x, ~& G' I4 A0 L1 K圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。
# ^/ }8 U( v y' a$ J" P2 h& k; c9 c1 y
3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):
2 J: S g7 G. |3 I$ E# a# q每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%$ E, ~5 p( w, N) c, E
9 V r% e; b5 |% m7 A( {* ?
4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:. a- o0 L/ ~; w3 ]8 K- E" c) f- g* d
細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合
. I9 k5 k* T8 }7 ~% R$ l! Y
4 u4 N7 m) O' z3 {( f% y; [
' |0 V* ?/ `: n* X# `, L
0sjfuucgwkf64024512433.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊
0sjfuucgwkf64024512433.png
2024-9-20 01:31 上傳
. D1 D7 Z& b" H! N2 h4 w6 U
圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。
5 ?2 z7 Y; y3 j# |
0 q5 K6 P# [% l X( V; v5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:' o) ]5 |, {# \) r
4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸
' I5 z3 i7 T/ p j" T, H4 d
4 c0 Q0 ?* H& s7 ~3 L; n0 k8 ~' ?5 R% V
pfpkb4vtcxn64024512533.png (351.46 KB, 下載次數(shù): 2)
下載附件
保存到相冊
pfpkb4vtcxn64024512533.png
2024-9-20 01:31 上傳
. q1 k' } l: A0 ^/ E9 \' C1 Q% a; |
igfpfpgzdhd64024512633.png (96.48 KB, 下載次數(shù): 1)
下載附件
保存到相冊
igfpfpgzdhd64024512633.png
2024-9-20 01:31 上傳
7 f& _$ v- H1 S! c圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
) N3 L& u$ G) m8 ]! |; u& p3 }! w: h" J' i7 W$ v; h
6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:
; J Z5 ]4 k, q+ @0 x. q6 [在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡
& [$ n( t6 f5 d# N. r' ?0 l- F) m, k( ]4 N
Telum II 中的 AI 加速
1 ^- [( R; ?8 }4 ^0 G7 `7 ETelum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例: z0 S4 Q/ X' z* j! G
清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測/ }! o% N* Q$ i7 o
5 \+ r, i# T G! j3 ^
Telum II 中的 AI 加速器提供:
; b$ C9 U3 ?0 q% X% O每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型
1 k$ m: L- Z! {# V! Y3 i" x0 R
1 [' K; F: c+ H7 m) _' x
avjevfdfmnl64024512733.png (337.58 KB, 下載次數(shù): 0)
下載附件
保存到相冊
avjevfdfmnl64024512733.png
2024-9-20 01:31 上傳
O; S$ @8 D( {! p9 y- H) i
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。5 H2 M6 \9 O2 T h% `/ y* _6 k0 M& A4 X
IBM Spyre 加速器簡介% J: ]2 ]9 K) G+ @+ @4 X8 N/ K
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。9 d4 J2 u. `2 t$ q0 r# j) U3 \
) I* Y( E& q2 a S. a4 o
IBM Spyre 加速器的主要特點(diǎn)
% T: C4 M( [& @* y' ~, ^$ V7 y1. 強(qiáng)大的性能:Spyre 加速器提供:# @: t+ ^' y6 `7 i0 Y
超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存& G0 a, `" T' o4 e. \
4 r% o1 p6 W9 Y; |7 N: E, z
2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:7 ]2 x$ o c3 R+ V$ T# X
32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動
, J& S; a2 X" W5 p7 x9 C# @4 W2 ?/ L3 B# r: q; ~4 d: K1 n0 w
$ `+ c- S% [ O: J1 T' G
4dvzkpyhv5u64024512833.png (490.66 KB, 下載次數(shù): 1)
下載附件
保存到相冊
4dvzkpyhv5u64024512833.png
2024-9-20 01:31 上傳
& @" K. o& n4 }" m6 \! G
cmnsyffhb2264024512933.png (84.63 KB, 下載次數(shù): 1)
下載附件
保存到相冊
cmnsyffhb2264024512933.png
2024-9-20 01:31 上傳
6 t) Y4 @! y4 e. Q" d9 B" z
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。; m) S, Y8 E* q# m0 p
, b+ x$ V# i9 F9 j: L) Y3. 高速互連:Spyre 加速器利用:4 H8 B3 [4 G$ {+ V! W
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
3 j/ y. G9 J/ ]) n; R2 j; @. ^& u8 h) S @: y* U
4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:
% i/ S8 M8 h9 C' w' WI/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
: n& H6 z+ n; S1 q
9 j' Q& N1 `& x! m9 Q9 x5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:! n* X, v y7 O! M( S
260 億晶體管330 平方毫米芯片面積14 英里線路
/ u' S# H! X; K8 j3 Z6 {7 U4 z4 o( K5 y$ j* g% t: T
- |5 i2 _' l# b5 `$ d* c1 \+ h
dprsqzkruz564024513033.png (204.75 KB, 下載次數(shù): 1)
下載附件
保存到相冊
dprsqzkruz564024513033.png
2024-9-20 01:31 上傳
8 H7 F/ s; G/ M5 u3 n: @+ |6 P圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。9 g3 m1 r0 a3 p6 v- ^
$ M, r& E) B# z3 X
AI 用例和應(yīng)用2 ^6 L+ b- v0 R* `1 |; ?2 @
Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評估流程。
I" T9 {& ?, L% T[/ol]
0 [% k# p* {* b" @+ D* A6 \7 X! m0 k& u- S) m$ ]) }. ]
結(jié)論
! K0 e0 Y8 a S% sIBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對日益復(fù)雜的挑戰(zhàn)。
1 c- B; }1 Y6 ]' ?, C% W
) Q# Q$ X% v7 O5 g這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。1 r; z& i' [" t/ R, B
+ D% {+ p1 f" @; N5 oIBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。
6 \; Z* Z0 w2 j8 i
1 o/ r: j6 F/ y7 Q+ C! T6 q9 B企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動效率、創(chuàng)新和增長。
* T' E8 ?+ Q; e% D4 p* L
) G, Q% q" A9 m+ @. I! h' e- B參考文獻(xiàn)5 v; @$ Y9 y. [7 I% O" ~; y
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.' p- k* N) P" K# J
& O1 I4 i3 b# W& ?$ Z: d
- END -3 a3 _. T/ b& H
2 }' b: t, T, m軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。+ b6 v- F4 L6 V2 s
點(diǎn)擊左下角"閱讀原文"馬上申請
5 {% g; n# d: b9 P
4 _" o J& c7 U0 V; H歡迎轉(zhuǎn)載
3 [' n' W+ B" ~7 G# |: {! V5 C" Z7 w$ H% g* I" D8 r) j
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!2 ^. W3 T0 Z x+ M6 b
& [. K$ J' d- N1 ]* F2 ]' u8 N- K& U
3 n5 D$ Z8 P* L
n1qrqnvypzh64024513133.gif (16.04 KB, 下載次數(shù): 2)
下載附件
保存到相冊
n1qrqnvypzh64024513133.gif
2024-9-20 01:31 上傳
' L; m! H4 I( ]3 u$ `- n
e! M2 J! \6 D* D2 k
關(guān)注我們
$ m c4 d" p' [4 T2 |7 x% ^
4 b! z4 x$ G* N: h$ V3 {) h4 z2 ~; A" l. g1 _3 r) v) A
bnig1hnphqt64024513233.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊
bnig1hnphqt64024513233.png
2024-9-20 01:31 上傳
* Y( \, r* k6 f | : G0 r& d m @/ g
gz44by2upgn64024513333.png (82.79 KB, 下載次數(shù): 1)
下載附件
保存到相冊
gz44by2upgn64024513333.png
2024-9-20 01:31 上傳
" l$ ^0 d- i5 a. u5 N | 1 D* w& Q) y e- V- v% b0 Y
jf0bntred1564024513433.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊
jf0bntred1564024513433.png
2024-9-20 01:31 上傳
# m- P' O+ u% p/ Z6 b1 L3 R3 U1 X |
: N+ ^8 r# P! j) ~+ M3 w
4 H( C @1 h. F. @5 @9 O Y
& w2 ^ H q% \ }: @
: k# g- T0 H" S2 D2 |關(guān)于我們:
3 E4 o t8 l! V$ P) c3 J" p! H深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。6 d: w" M/ a+ X5 A6 `
7 |4 j2 A5 q }- t! Shttp://www.latitudeda.com/. K/ F. p( B" Y6 J6 I. u. v
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|