|
引言
$ q- P/ y; _0 D8 q# P在企業(yè)計算領(lǐng)域不斷演進的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計算格局。; x. F! H0 w2 O1 S" ?
- Q' _3 _/ S% R' X' ]4 Q
: X6 Y; d! V6 l# t7 D; ~' a/ |
IBM 大型機的力量( U- N( P g+ m2 P6 h% Z, d
在深入探討新硬件的具體細節(jié)之前,了解 IBM 大型機在當今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計 70% 的全球交易(按價值計算)通過 IBM 大型機進行處理。這一驚人的統(tǒng)計數(shù)據(jù)凸顯了大型機技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟的重要性。5 U9 e$ @' o& [7 D' u% n* q
! _! D" P9 j' l3 @
此外,IBM 大型機以可靠性著稱,可用率高達 99.999999%。這種可靠性對于需要持續(xù)運行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。
. V( R( k$ T1 R1 m$ K
6 E2 w# |4 @2 @, v; J3 E. e" l# B7 D/ b( C3 D5 h( I
IBM Telum II 處理器簡介
1 J0 U3 j6 ^1 j# G ?: ]IBM Telum II 處理器代表了大型機計算技術(shù)的重大飛躍。設(shè)計用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當今數(shù)據(jù)驅(qū)動的商業(yè)環(huán)境中變得越來越重要。 _9 d0 ]5 x" p$ n
3 r" H0 F2 m& Y
Telum II 的主要特點+ P8 ?2 Z! A( y; T6 s+ T( E
1. 增強的中央計算復(fù)合體:Telum II 比前代產(chǎn)品有多項改進,包括:
4 z1 U# j2 h" f' j3 S! H/ s& E分支預(yù)測增強重命名寄存器容量增加(從 128 增至 160)改進的存儲回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%
6 F' j, O% O( X# A/ F1 l
4 L, F3 @9 P, F3 d: H( W+ B2. 擴展的緩存系統(tǒng):處理器具有:2 `9 Z# K% l4 b- c& ?' n
10 個 L2 緩存,每個 36MB,訪問時間 3.6ns360MB 虛擬 L3 緩存,訪問時間 11.5ns2.8GB 虛擬 L4 緩存,訪問時間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強安全性% [; x/ B2 Y3 G
" R( x. s n J* v5 w; e4 p7 e
2 I1 Z0 {" r A N8 G
rc45wxmp4ms64024512333.png (420.29 KB, 下載次數(shù): 1)
下載附件
保存到相冊
rc45wxmp4ms64024512333.png
2024-9-20 01:31 上傳
$ D1 r, p0 L' Y% M& K/ @: i圖 1:說明 Telum II 中央計算復(fù)合體和 L2 緩存系統(tǒng)的改進,突出了處理能力和內(nèi)存訪問的顯著增強。
- j# N! c9 H. n7 a F; O( d5 n2 n2 y' { W; R% J1 y
3. 先進的制造工藝:Telum II 采用 5nm 技術(shù)制造,實現(xiàn):
( ~4 a" x! v0 e每核心最高 5.5 GHz 時鐘速度插槽性能提升 20%處理器功耗降低 18%, z A4 A) v! \4 \; J5 l
! d7 `3 Y1 C) c% I6 m- H! H
4. 創(chuàng)新的電壓控制:處理器incorporates一個復(fù)雜的電壓控制回路系統(tǒng),包括:
6 o M2 K) x3 @ |$ g+ x- V細粒度電壓測量線路工作負載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合* V" u m1 Z. j
; R$ o& A1 q$ l% C( [& e' C- W$ z9 _& m
0sjfuucgwkf64024512433.png (120.12 KB, 下載次數(shù): 1)
下載附件
保存到相冊
0sjfuucgwkf64024512433.png
2024-9-20 01:31 上傳
$ Z3 q( o8 ^$ x. ~
圖 2:展示Telum II 電壓控制回路實現(xiàn)的效率提升,說明在各種工作負載利用率下的較低功耗。
3 w" z* k- T) e& [8 R* e6 T7 V% @9 J8 C1 y C# V
5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:( |1 q- c8 \! [. N6 T! ~6 E; l
4 個處理集群每個集群 8 個定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊列管理器,用于高效的工作調(diào)度和傳輸
9 f& P9 \- d6 i: P7 I" J1 v' R/ u" D" t& y* R. w; B
8 U! O6 y+ V7 S5 c5 z& L/ m
pfpkb4vtcxn64024512533.png (351.46 KB, 下載次數(shù): 3)
下載附件
保存到相冊
pfpkb4vtcxn64024512533.png
2024-9-20 01:31 上傳
! m @7 Y' W& y4 W5 }0 y$ B' I
igfpfpgzdhd64024512633.png (96.48 KB, 下載次數(shù): 2)
下載附件
保存到相冊
igfpfpgzdhd64024512633.png
2024-9-20 01:31 上傳
Y, u. O6 j0 _1 q+ a; e
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
! r' j8 ?& l4 m' ^: `! M- V v* b( }6 Q
6. 大規(guī)模擴展 I/O 子系統(tǒng):Telum II 支持:7 i# u& `: R# Y4 Q4 A% O' A' I
在一個連貫的 SMP 系統(tǒng)中最多 32 個處理器12 個 I/O 擴展 Drawer,每個有 16 個 PCIe 插槽單個系統(tǒng)中總共最多 192 個 PCIe 卡& S5 J' c5 T% i2 B. Y/ X! A
0 J+ c b. z6 [/ ]1 K# J6 H* I# OTelum II 中的 AI 加速! p& o4 v# j7 ^. o" T" I* D
Telum II 最顯著的進步之一是其增強的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:) Q) ]+ h3 q% A: s
清算結(jié)算合規(guī)檢查保險理賠處理欺詐檢測5 y: n2 A D& r$ R- i- u
% T$ m0 p. z) {$ D. T
Telum II 中的 AI 加速器提供:4 _3 _7 g: E' P" `1 [2 y1 P4 |4 I
每芯片 24 TOPS(每秒萬億次運算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型& V3 ^: w/ U7 L/ x
4 R4 G7 D7 ~! Z
6 C6 y3 H* ?- B6 L4 G5 y
avjevfdfmnl64024512733.png (337.58 KB, 下載次數(shù): 0)
下載附件
保存到相冊
avjevfdfmnl64024512733.png
2024-9-20 01:31 上傳
; O+ A9 F" ^+ w4 L1 P4 ]) ]& i圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。* c8 G* i1 F4 S* @- k2 P
IBM Spyre 加速器簡介: _. O, T$ K; K# }" p! @$ B
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進一步推進了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負載,補充了 Telum II 的能力。
, b+ p; _) K5 R0 T* C
) Z5 z& u8 }/ M* c% I+ i1 g9 BIBM Spyre 加速器的主要特點
' p0 K! S7 _- i2 `' a% s1. 強大的性能:Spyre 加速器提供:
) E7 O+ E: n: `! t% t! g' j超過 300 TOPS 的計算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存0 J' W$ F$ {* E2 T- O
+ s1 i H- u) ]8 |5 g% h9 \8 @- a) V2 }2. 創(chuàng)新的核心設(shè)計:加速器具有:
4 R" C8 R' }' A, V32 個核心,每個配備 2MB 暫存器55%+ 有效 TOPS 利用率獨特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動9 f) c3 t+ C8 E% c: y. E
+ y; \8 I2 G" ?' V: M/ B3 r7 s. Z
+ Q+ h8 z8 G$ T- E2 z5 f' i
4dvzkpyhv5u64024512833.png (490.66 KB, 下載次數(shù): 1)
下載附件
保存到相冊
4dvzkpyhv5u64024512833.png
2024-9-20 01:31 上傳
`8 H, y- l/ v4 d2 x
cmnsyffhb2264024512933.png (84.63 KB, 下載次數(shù): 2)
下載附件
保存到相冊
cmnsyffhb2264024512933.png
2024-9-20 01:31 上傳
( F, ~" i5 M' Z0 w2 N- S1 R圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計,實現(xiàn)高效 AI 計算。3 C4 d+ u# t. T/ {1 K( e" ]
# `& ^ b" {5 R2 }; z
3. 高速互連:Spyre 加速器利用:2 c6 w" R7 N% `" Q' m
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
+ D8 C! @$ C1 v4 l9 ]$ l0 Z3 M4 {0 `, [5 T& t
4. 可擴展性:Spyre 加速器設(shè)計用于集群部署:
9 Q3 ?0 I; ~$ ?* {- RI/O Drawer 中的 8 張卡形成一個邏輯集群每個集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
; H) O$ a% F& c# x1 J5 q
) T" C9 x- }7 R! @0 y: A- ^5. 先進制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:
) D f/ s6 {+ z8 C% W: _260 億晶體管330 平方毫米芯片面積14 英里線路( P- h g+ |& v3 z! U+ R8 t
2 y; L; R* @5 O3 W& q& d
" f! Y8 b" T# B$ I) k6 L+ A
dprsqzkruz564024513033.png (204.75 KB, 下載次數(shù): 2)
下載附件
保存到相冊
dprsqzkruz564024513033.png
2024-9-20 01:31 上傳
& N6 ?& v4 q8 m" e* O
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細節(jié),突出兩種芯片使用的先進技術(shù)。
! ^8 ]% G6 u4 g6 F/ m
. K/ q8 t$ c- [5 h% i3 B n) e- ZAI 用例和應(yīng)用
* b' q( d8 \& B2 o+ eTelum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強大的 Spyre 加速器,金融機構(gòu)可以實施復(fù)雜的欺詐檢測系統(tǒng),實時分析交易。生成式 AI:Spyre 加速器的高性能使其適合運行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險管理:先進的 AI 功能可以應(yīng)用于自動化合規(guī)檢查,并增強各行業(yè)的風(fēng)險評估流程。
: k. ?! I: j' m7 S* @[/ol]$ E( q6 }/ ~/ x
' t) U ^- n* f u8 y# j/ U$ g
結(jié)論
- W( N; c; e7 Y$ w$ a) S1 V! k& GIBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計算和 AI 加速的重大進步。通過將高性能傳統(tǒng)計算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r應(yīng)對日益復(fù)雜的挑戰(zhàn)。
) S' W$ X6 @0 a$ y
3 M8 c+ C* z1 I5 C5 H; v: E- ^這些創(chuàng)新將改變金融、保險、軟件開發(fā)和 IT 運營等多個行業(yè)。隨著 AI 在商業(yè)運營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
" r$ Q6 Z1 B8 Y9 [# }6 Z; Y- M( }2 h: P- ?
IBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時代的運營方式。
& k6 a" e( ?. ^2 x; r& U3 m/ _2 K
企業(yè)計算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個未來中,AI 將深度集成到業(yè)務(wù)運營的每個方面,推動效率、創(chuàng)新和增長。0 Y# @+ C! I) {! P( u7 B7 z$ D
( e- O7 \1 Y" J% K, A
參考文獻/ D/ q+ n5 V: s, s h
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024.6 F! V3 t# p/ E7 T4 d& i# T
' q, I/ G! f5 d. O- END -
6 h6 C7 y v- M; d+ e/ z6 b: m- r7 z
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。* ^: h) I9 P6 Q4 j8 D
點擊左下角"閱讀原文"馬上申請
% _5 W) O" A. s+ \: k' ^/ {/ [* m9 H0 v7 u! j6 L
歡迎轉(zhuǎn)載$ E; a6 i( {* Q0 f
6 I& \3 e6 X! g9 L7 y5 c6 l% T轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
, ?1 |" J6 y5 q8 M3 \- m
0 O& d: G7 f- A5 `
& ]+ I8 _% J' Q' I* n! I- x+ l1 T9 n; ?* [
n1qrqnvypzh64024513133.gif (16.04 KB, 下載次數(shù): 2)
下載附件
保存到相冊
n1qrqnvypzh64024513133.gif
2024-9-20 01:31 上傳
: p8 \0 t" C# h. E. ?
3 }, {* T" U: A8 _/ o關(guān)注我們! W8 g4 r$ m% x( [$ {/ [
- l+ {: _7 Y' V8 Z2 A8 J
1 I7 _( f: |0 g
bnig1hnphqt64024513233.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊
bnig1hnphqt64024513233.png
2024-9-20 01:31 上傳
/ c7 P5 Y0 k. ?; ?, [
| : v7 S' _! c2 u4 v# C
gz44by2upgn64024513333.png (82.79 KB, 下載次數(shù): 1)
下載附件
保存到相冊
gz44by2upgn64024513333.png
2024-9-20 01:31 上傳
~2 U- K$ k3 b. m, J
| % |0 w/ q0 C; y J6 t* ]
jf0bntred1564024513433.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊
jf0bntred1564024513433.png
2024-9-20 01:31 上傳
9 z( X; i* ^5 r7 r' O
|
0 \5 O" _6 {: L! q. e& m0 Q7 Z5 ~% f$ d! |$ A/ i
& l' ]* t. W; @& Z% C, Y
; t' g) K! r8 ]6 } r, I2 w關(guān)于我們:
+ Z8 c) X7 D/ X- w, j! g深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。! V% v. r% H- `
" |9 R; }+ a$ g2 F" h; uhttp://www.latitudeda.com/- N6 O" e" `& e6 F8 R t
(點擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|