|
引言
1 s: b2 c* J2 }3 n在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。! N: z/ ~- ^5 w0 d$ u
( ?% b6 j3 C+ H6 o7 U: y
, h0 M, m/ A. E- `IBM 大型機(jī)的力量
% o2 h+ N1 s" \, H4 [6 o在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟(jì)的重要性。
, M# U7 | Q9 |9 e8 d6 T9 O, K/ k) C
此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。
' G7 t M0 |+ S+ o' x. x1 H: }& L( V' E5 d h
( u8 w* q$ o; w0 V+ U- O
IBM Telum II 處理器簡介
o' g% _/ b2 y! W# d$ ?! uIBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來越重要。
7 C0 M# g& i& N1 Z! P! g6 h9 Y* ]* G9 w( \
Telum II 的主要特點(diǎn)3 W6 o# f, t# a/ `3 Z' \
1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:
3 [0 ]9 s( J6 h/ M. m0 L7 G分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%
9 j& ~# d# B( y* G6 m7 F+ d3 [% w8 a; x
2. 擴(kuò)展的緩存系統(tǒng):處理器具有:$ f0 u! f# e# k, R0 [& b
10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性
2 ?5 w" y6 q% J- o2 H7 { S. S- e/ W+ W- d! k+ e1 m/ a0 I1 M6 M
" Q" \6 A* X/ Z' U
2zhuxnbcbyr64015583552.png (420.29 KB, 下載次數(shù): 3)
下載附件
保存到相冊
2zhuxnbcbyr64015583552.png
2024-9-18 13:47 上傳
- ?$ |3 g6 L4 C7 k# I' p% {- n圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。 Y2 G# ~8 M3 N7 k6 M r
6 ~. P7 g% j5 j. q+ K# d
3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):
- p# E/ r! s( @1 |9 l6 `每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%
O( e' K6 B4 j
! C. w# H% S7 @4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:
7 _& u) b: U+ P: j, H8 h細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合# M8 ^5 C, }" Y. z9 D7 ^. F' C
( D9 d0 e- i9 q; v1 l3 h- J
4 W t& a7 ^# L0 S3 w
jy5lxsi4qsu64015583652.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊
jy5lxsi4qsu64015583652.png
2024-9-18 13:47 上傳
. o/ ^- F9 a: _, `$ ~% z3 M [圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。, P: P `4 O6 t& R6 ]- v
w- E" s- M( n: c3 F5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
8 s+ _" \) i2 B' N$ G4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸, N' A5 c* n& A& m9 E+ F
! U2 w4 w9 ~6 S, _( ?+ r3 L! B( {4 S9 T3 n% [9 X& f7 m% ]! H
ftbclrxp5gi64015583753.png (351.46 KB, 下載次數(shù): 3)
下載附件
保存到相冊
ftbclrxp5gi64015583753.png
2024-9-18 13:47 上傳
& k& n% c7 j n4 Q- ]& P! m: f
4jcjb31ye1c64015583853.png (96.48 KB, 下載次數(shù): 3)
下載附件
保存到相冊
4jcjb31ye1c64015583853.png
2024-9-18 13:47 上傳
/ ?0 W) }) f" Q- C
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
) ^# ]$ Q/ ^5 H3 ~
+ M, B$ p; X0 i7 q& W1 e/ v m6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:
, ~( s( E- T# M& z$ o7 k& Y+ J7 a在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡) V1 M$ {# K0 [
3 G8 R. n+ h$ V; Q! J
Telum II 中的 AI 加速) [) ~3 `5 @ z( M" K2 d
Telum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例: _' b4 Z9 N% Q# m, t
清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測
& Z4 z% u* x8 p9 s
" r* o/ ]8 n, j$ Q: V3 ]Telum II 中的 AI 加速器提供:; c9 f! d! l* f5 o
每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型
5 b f/ _; |- A
1 l9 G* Y$ W+ M( A9 i
3 N5 s7 d W' X( g1 n
hqgvu5rpc1z64015583953.png (337.58 KB, 下載次數(shù): 2)
下載附件
保存到相冊
hqgvu5rpc1z64015583953.png
2024-9-18 13:47 上傳
+ @( j' @8 [, u# t* [7 o+ z* e圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。
! U% F7 t' d6 r2 B- ~IBM Spyre 加速器簡介
5 A- [2 y, \) l) t4 OTelum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。6 N" y/ w7 L" G, y+ L% L) g' ?
! V5 x; e+ ]% S q0 b5 E# b( e
IBM Spyre 加速器的主要特點(diǎn)( `& x5 F$ t7 @- _) ?1 |
1. 強(qiáng)大的性能:Spyre 加速器提供:
; z; e1 @: }, [( y超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存2 q3 p4 Q7 t- `* M. S. `3 k" B# O
# d( G7 c3 [5 o' O; B
2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:+ R) ~& A6 h( F; h5 e1 a
32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng)1 O' O5 g- t( e5 R; d" ?3 u
! D0 l# y6 o$ b9 V
9 {# m$ h# [( P' L7 R* Q
op3scbrwkuf64015584053.png (490.66 KB, 下載次數(shù): 1)
下載附件
保存到相冊
op3scbrwkuf64015584053.png
2024-9-18 13:47 上傳
9 |# h% `) }0 j/ [
sgplf3bmnx464015584154.png (84.63 KB, 下載次數(shù): 2)
下載附件
保存到相冊
sgplf3bmnx464015584154.png
2024-9-18 13:47 上傳
# c1 o+ y& b/ O3 B; G圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。
. r! B; c: b" j/ y* t: x
6 v" V4 H, b. s( h+ q& F: j3. 高速互連:Spyre 加速器利用:
% G6 v6 H+ t7 A5 C2 z; K) h32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
* a& i* y4 t# Q' [" Y5 X" E: v/ W) o W- T3 O2 L( b- d2 \
4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:
4 b% ~$ S% p# j G j: CI/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
5 z. k, ]1 c0 Q a0 y
5 P# x7 D5 F Z1 Q* G5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:
! I5 x5 \0 X$ Q260 億晶體管330 平方毫米芯片面積14 英里線路7 F% N- m, {8 c+ x5 U
# s" v$ T/ r0 N/ u5 `% k" i
( F9 g# d: b/ @3 c
vpq3z3gl40c64015584254.png (204.75 KB, 下載次數(shù): 1)
下載附件
保存到相冊
vpq3z3gl40c64015584254.png
2024-9-18 13:47 上傳
' t0 v! f; b1 `1 {! X* c
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。
) e2 _8 \% p4 y3 @0 {6 w d2 u8 @7 ^1 U4 D9 E. L y/ x% ^
AI 用例和應(yīng)用
5 r! E0 ?* d, p0 E% {Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評估流程。
" c. [, k/ D3 u8 t, T/ M[/ol]
; E& ]/ Z0 |- T8 p; ^ g$ x c8 s
! @: `. a B1 w4 v4 k7 j結(jié)論( F' J; Z) u3 t3 q; O. }
IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對日益復(fù)雜的挑戰(zhàn)。
3 M1 U; W5 T: `
5 J9 R9 h1 U' {3 a這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
' t! J( N8 c7 a8 @5 }
5 A+ w1 T# R0 C# SIBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。% r& R8 q# H$ o/ v# `
' d8 V, q2 W5 n8 q2 ~8 ?% b
企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長。* ]# L9 N4 X. q
, K% O Y( |/ N6 f
參考文獻(xiàn)
/ v1 a/ V* E0 R) A. T[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.
0 K. F. T. L/ b9 v! k2 s$ o0 y0 h3 x3 k, y
- END -; w, ?" \& I" f4 `
0 s6 w {5 f9 D( @3 ^+ ]
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。5 C' I0 V$ \; G3 P
點(diǎn)擊左下角"閱讀原文"馬上申請' t7 X' U; v h6 u6 M! k5 Z: O
% w+ o, _+ \ G$ O) J歡迎轉(zhuǎn)載
# C+ |% g- O5 s5 w. _, L6 t7 A- K# M# ^9 ?0 J
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
0 Y2 |7 n# L2 F9 L- L# C- `# {! C u8 k! H1 R
, Q% @0 `0 S8 k
- E+ G; ]3 ^9 F" J% _. i
ffycofu5npf64015584354.gif (16.04 KB, 下載次數(shù): 1)
下載附件
保存到相冊
ffycofu5npf64015584354.gif
2024-9-18 13:47 上傳
: f" X, D4 e+ A) V+ T1 {: a
- a$ r* V) c+ B F' N% C( \
關(guān)注我們
- e+ ]# y% V# e* u% X6 a8 n1 Z& } _0 O9 d. v' y4 }( d5 f
0 ]4 ?6 t8 [! H2 A- ^
245mryrzfkl64015584454.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊
245mryrzfkl64015584454.png
2024-9-18 13:47 上傳
2 E/ b- q x$ k/ k; v& p |
! _1 T) M3 g# _( H8 f& {7 z4 M
i004gsdbelk64015584554.png (82.79 KB, 下載次數(shù): 2)
下載附件
保存到相冊
i004gsdbelk64015584554.png
2024-9-18 13:47 上傳
8 F6 U$ G4 @ P) u) z* ? | , [( X( \% M1 {- d8 x0 ~, J
nufgbjrzhns64015584654.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊
nufgbjrzhns64015584654.png
2024-9-18 13:47 上傳
N- ]( _" I5 o1 Q6 i
| 8 d5 N1 K- ]5 f K
s; D) Q7 T, j* j% Q! d
8 ]# T! {1 y1 F& a6 i/ `' D
% S8 d. o) z3 Y/ e關(guān)于我們:
; m* O4 E7 s/ y) |深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。3 I1 ]' R# r2 c5 [3 J; E( ]
* f; j3 G+ B- J$ e0 M/ |http://www.latitudeda.com/
% t, |6 A$ Z4 {7 b(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|