|
引言" f. h, r1 M7 g1 I# k5 _
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動(dòng)創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。3 L+ U6 f. ` X$ }8 T% W
O% @, a) R( N8 r& F% e( t
0 l/ n0 @$ Z* u+ CIBM 大型機(jī)的力量
! u& {- j1 ~ l" V) {' X9 q5 J在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價(jià)值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟(jì)的重要性。
/ _2 X4 k& g$ W" |0 K6 Y6 C: q1 j5 c9 X% ~7 O
此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。
- g0 d! M. J L7 e: r# s% n
/ h& w% R' A% f/ G2 `3 L5 c2 Y" ~3 L1 ?. f4 |0 X; e
IBM Telum II 處理器簡介
3 ]+ L" C% u) z' J4 b' P0 C# m8 uIBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動(dòng)的商業(yè)環(huán)境中變得越來越重要。
& I" g& W% e, q* J" q
9 J; h- }2 v7 V. x* aTelum II 的主要特點(diǎn)
4 J& ~7 _" N( l1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:
& ~- \, ^+ g- `分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲(chǔ)回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%
: }1 |# s0 ~! ^( _3 K$ x5 S
& S) {, t# l/ t7 d4 W( B+ c2. 擴(kuò)展的緩存系統(tǒng):處理器具有:( C9 [$ }; t7 p( x A! K
10 個(gè) L2 緩存,每個(gè) 36MB,訪問時(shí)間 3.6ns360MB 虛擬 L3 緩存,訪問時(shí)間 11.5ns2.8GB 虛擬 L4 緩存,訪問時(shí)間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性
) X; P j+ e6 t. J0 A: B/ o2 T, c$ m7 u) R' [9 @: {; M! S
2 N& A) J) ]9 `" D, T
jc4ygk4es1k64034877608.png (420.29 KB, 下載次數(shù): 2)
下載附件
保存到相冊
jc4ygk4es1k64034877608.png
2024-9-24 01:03 上傳
6 ]9 m8 u# a' m. E! f1 P圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。1 {2 t3 e G; r$ j( l5 H
9 S! x# P* C( S0 H
3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):" A4 S( R. u) u3 c4 H( t E! v
每核心最高 5.5 GHz 時(shí)鐘速度插槽性能提升 20%處理器功耗降低 18%
* {1 [- v; u+ j/ `1 u) B7 E! z5 r- O5 }
4. 創(chuàng)新的電壓控制:處理器incorporates一個(gè)復(fù)雜的電壓控制回路系統(tǒng),包括:1 @+ A& w" ]" [$ c
細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合
; b. S& S- I6 ~" ~/ n" o" N- e2 @
% I/ ?' j3 M5 J/ n
( w% X: A/ v; D$ {) b
p5wh2yecml364034877709.png (120.12 KB, 下載次數(shù): 2)
下載附件
保存到相冊
p5wh2yecml364034877709.png
2024-9-24 01:03 上傳
' U6 Q2 f R% A4 w* s
圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。% r" v" Z& S ` P9 L2 X$ T& _8 |
) d! Y. @; {$ B5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:
1 a( I8 H$ o9 {+ e7 _1 E; c- E4 Z4 個(gè)處理集群每個(gè)集群 8 個(gè)定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸
* j# M6 b9 |. O* |' U# |0 a3 C/ ~+ j
! h1 N5 n$ E, `/ x* ~+ Q
l2suddmxr5c64034877809.png (351.46 KB, 下載次數(shù): 2)
下載附件
保存到相冊
l2suddmxr5c64034877809.png
2024-9-24 01:03 上傳
# Z3 }5 r6 Y4 H& C5 q' Y
f304wt5vfg264034877909.png (96.48 KB, 下載次數(shù): 2)
下載附件
保存到相冊
f304wt5vfg264034877909.png
2024-9-24 01:03 上傳
+ r; n! Q6 M' @* @: v* T3 [
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
2 x1 h: h! c3 H$ {$ w, P/ J1 E4 {/ i# U8 V9 @6 @4 n4 |7 U y5 g
6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:1 {0 P# M l/ ]6 f
在一個(gè)連貫的 SMP 系統(tǒng)中最多 32 個(gè)處理器12 個(gè) I/O 擴(kuò)展 Drawer,每個(gè)有 16 個(gè) PCIe 插槽單個(gè)系統(tǒng)中總共最多 192 個(gè) PCIe 卡$ _& i4 S, J; U' n' ]
2 A5 @& l6 I$ E R4 L
Telum II 中的 AI 加速
! W4 k' D# X: tTelum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:, S9 S# [/ @1 A4 M: ]
清算結(jié)算合規(guī)檢查保險(xiǎn)理賠處理欺詐檢測1 S% t3 c @" i- B
$ B( T, q' A/ T, Y6 ATelum II 中的 AI 加速器提供:
) E8 }3 L' `1 B3 M$ Q5 u* T每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型
5 Z" @% M7 ?* L8 V) v' {6 g$ b
6 V- U4 y [9 O% `6 v2 ]( |) b/ h& C+ H6 K8 J
bnzajtvwxfg64034878009.png (337.58 KB, 下載次數(shù): 2)
下載附件
保存到相冊
bnzajtvwxfg64034878009.png
2024-9-24 01:03 上傳
8 I: c. H w( g. q/ c5 \圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。8 B$ L2 y% o {! Z3 l6 E6 @
IBM Spyre 加速器簡介+ e4 Z. {7 e$ ^, W% E/ C! ^
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。
' c* l* l. n) u* _: p" h9 i+ {% @# d5 \. S& }, L$ ^/ s" o Y
IBM Spyre 加速器的主要特點(diǎn)
: W2 y" o [- d0 ^! \( P4 N8 m1. 強(qiáng)大的性能:Spyre 加速器提供:
! M; Z; F: g. U5 x) |超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存* @; w- M1 o6 ]: f% k
4 J( |. @) [( t/ _/ H, M, X! {0 F% S2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:
6 n& g5 n- Q" b% u/ J32 個(gè)核心,每個(gè)配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動(dòng); E8 s& ?% s. l- L5 \( C' ~2 @3 ~
% I/ C9 g# M! S: O- h
- ]: `# r e5 v. B" i- {+ {5 u
hfm3tq2jgcr64034878109.png (490.66 KB, 下載次數(shù): 2)
下載附件
保存到相冊
hfm3tq2jgcr64034878109.png
2024-9-24 01:03 上傳
. k' B4 L9 o* c( C3 k" c0 C/ f
0cl4ipzdmnx64034878210.png (84.63 KB, 下載次數(shù): 1)
下載附件
保存到相冊
0cl4ipzdmnx64034878210.png
2024-9-24 01:03 上傳
) D' F0 I+ J! s圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。! O1 N. P' f) _. W
" ~) p9 p' g& X3 v1 C- Z* @
3. 高速互連:Spyre 加速器利用:, x* q- e" ]0 W. j
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器) A: }3 w9 [: l- N5 Y
9 R2 R7 W: T! M+ U; ]5 ~
4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:
4 f" I/ q7 d4 D9 D* P8 f' j$ s# gI/O Drawer 中的 8 張卡形成一個(gè)邏輯集群每個(gè)集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬& I# i* z. S n
0 }& f- n$ \# G7 i$ o5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:4 Z2 {9 V4 d. l% |- M
260 億晶體管330 平方毫米芯片面積14 英里線路
' b* a. c ^% e) z& z: P! z3 A4 I4 S2 }" R \
: M9 O3 C7 N' k& E! m; {; p/ {
e0ntkhprcgh64034878310.png (204.75 KB, 下載次數(shù): 2)
下載附件
保存到相冊
e0ntkhprcgh64034878310.png
2024-9-24 01:03 上傳
- c# Z/ D: ~7 G圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。5 t, c- n2 T% Y0 N/ s" n
+ \' B& Q' k7 G! ^2 S! B2 G
AI 用例和應(yīng)用* _1 Q u* C; t2 w( v2 ~
Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時(shí)分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動(dòng)的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險(xiǎn)管理:先進(jìn)的 AI 功能可以應(yīng)用于自動(dòng)化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險(xiǎn)評估流程。1 f `: m0 D' y) g9 \# D; I. b
[/ol]- [7 b/ V( S( `2 f2 P) L( P
# K0 m: j* t* v( u$ ?
結(jié)論
3 Q6 ~/ X6 }( ? r* Q7 mIBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r(shí)應(yīng)對日益復(fù)雜的挑戰(zhàn)。( Y$ H! {( C2 ?0 u+ `
" @; B8 a8 I; |2 v1 b/ {! K這些創(chuàng)新將改變金融、保險(xiǎn)、軟件開發(fā)和 IT 運(yùn)營等多個(gè)行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
: k0 u# ^+ P$ y1 t! `+ g/ L; F3 p. H$ E6 F
IBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動(dòng)的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時(shí)代的運(yùn)營方式。 a# a4 Z) d, w. t
& G/ Z; G {9 M企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個(gè)未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個(gè)方面,推動(dòng)效率、創(chuàng)新和增長。
3 S8 i+ w- [" s w% w9 W! ~! Z! ?5 B0 R; E* K6 u+ }: c1 _9 @7 X
參考文獻(xiàn)
; ]* t4 ^ z% r$ Z$ b[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.' R; |1 I& j+ \1 K( ^3 R7 _5 R
* R9 L, p2 ?9 ^7 n7 e) E- END -& e$ @+ N; y3 ]7 I( b& l6 r
* z3 h8 F4 M! Y- g軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
6 ?. |6 o! ~* q a6 Y點(diǎn)擊左下角"閱讀原文"馬上申請
) S0 \: X5 ~3 F% F, o
( F& F, \2 A& \) Q( P/ ]歡迎轉(zhuǎn)載' A# O ?3 h I' h- H
$ i6 v* j; {( `4 P$ V! R
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!( P9 T) ~2 l/ I( S6 E; B$ e
6 f. j, O% F( E
. f+ U4 Q- Z+ C' x2 `0 A3 Q3 ~7 W# {; y* g6 ?. [8 p
nnrnbke12kq64034878410.gif (16.04 KB, 下載次數(shù): 2)
下載附件
保存到相冊
nnrnbke12kq64034878410.gif
2024-9-24 01:03 上傳
1 S3 u- ] k2 R# B' S1 Q
2 c5 `( M( M& c6 e
關(guān)注我們
' ~0 ~. T- R4 [+ y. N H) K* N' r, T8 k1 w, l- S2 Y
" F N% ^ a0 g
1yhwmne4rjx64034878510.png (31.33 KB, 下載次數(shù): 2)
下載附件
保存到相冊
1yhwmne4rjx64034878510.png
2024-9-24 01:03 上傳
b# z* g, T+ \& a2 W | * F5 s' X! i) [3 |( n( {
f0v4iex1bii64034878610.png (82.79 KB, 下載次數(shù): 2)
下載附件
保存到相冊
f0v4iex1bii64034878610.png
2024-9-24 01:03 上傳
2 y* ^ z' d, Y6 N
| # i8 i G- H# _) Y0 z
zrtvlxjlrvj64034878710.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊
zrtvlxjlrvj64034878710.png
2024-9-24 01:03 上傳
/ t3 c K% f5 B, ^ G( K) I | $ z- V1 {6 P9 x9 p+ S3 O+ A
( V. ?( I* ]& ^( p6 S
- g u+ n9 l0 j, b# f, m4 Y+ t9 ]
; c" Q" ]' }# c1 l+ G1 K4 m% ^+ s關(guān)于我們:
" s; N4 i% y8 ]- x7 F# E深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
% j- f! \* J+ ~- v0 z
7 A. A& G' @( N, @1 E$ N: Qhttp://www.latitudeda.com/
# q1 I/ V f L(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|