|
引言
2 e3 W9 t) ^6 H+ u* ?0 N( w* O在企業(yè)計算領域不斷演進的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動創(chuàng)新的邊界。這些尖端技術旨在滿足商業(yè)應用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術的細節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計算格局。
2 r' l) x2 Z4 W8 {: I K# A
* e2 t$ G5 y+ {0 {( H* Y, T7 Y1 w4 _1 F9 w, J
IBM 大型機的力量. o9 r( G- K/ B9 ?' ^
在深入探討新硬件的具體細節(jié)之前,了解 IBM 大型機在當今金融生態(tài)系統(tǒng)中的關鍵作用非常必要。根據(jù)最新研究,估計 70% 的全球交易(按價值計算)通過 IBM 大型機進行處理。這一驚人的統(tǒng)計數(shù)據(jù)凸顯了大型機技術持續(xù)創(chuàng)新對支持全球經(jīng)濟的重要性。4 G j) _1 T9 R: ^$ y& k/ h
, W: p) @# ?) `. @: ]. c. U
此外,IBM 大型機以可靠性著稱,可用率高達 99.999999%。這種可靠性對于需要持續(xù)運行且無法承受系統(tǒng)故障的企業(yè)來說極為關鍵。
1 u4 N" N/ c6 R0 h* f$ T% r8 B, P0 K2 P
7 N% Q7 L. Q$ V+ T B6 V3 ?
IBM Telum II 處理器簡介
" {- b9 {/ f6 Z2 K2 R' rIBM Telum II 處理器代表了大型機計算技術的重大飛躍。設計用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當今數(shù)據(jù)驅(qū)動的商業(yè)環(huán)境中變得越來越重要。# [8 \7 r2 }; q0 K! o7 j9 G
9 o9 p i c+ Y, J8 wTelum II 的主要特點
. I. ?2 }5 [# Y1. 增強的中央計算復合體:Telum II 比前代產(chǎn)品有多項改進,包括:) p* l$ U) T! M* W9 t! _# x3 x
分支預測增強重命名寄存器容量增加(從 128 增至 160)改進的存儲回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%
" p4 Z5 ^9 F, i2 _3 K2 c+ f2 `4 m& e* v' E/ s% Z7 W* Q* Z
2. 擴展的緩存系統(tǒng):處理器具有:
0 j- s- h" i) d7 S }- E) U10 個 L2 緩存,每個 36MB,訪問時間 3.6ns360MB 虛擬 L3 緩存,訪問時間 11.5ns2.8GB 虛擬 L4 緩存,訪問時間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強安全性
4 @: S7 }( |/ p4 M& }9 U! _; q2 [9 `. C3 t2 y+ z
" p0 D/ J7 o3 T- J% l7 j) S4 K J
jc4ygk4es1k64034877608.png (420.29 KB, 下載次數(shù): 0)
下載附件
保存到相冊
jc4ygk4es1k64034877608.png
2024-9-25 01:02 上傳
|8 Y1 d5 R+ z( g6 y) f- z" k
圖 1:說明 Telum II 中央計算復合體和 L2 緩存系統(tǒng)的改進,突出了處理能力和內(nèi)存訪問的顯著增強。9 e, x B: ?8 j V1 _
4 C, s( @% B1 Y* z
3. 先進的制造工藝:Telum II 采用 5nm 技術制造,實現(xiàn):% |9 N7 c) H# n" u( M7 j
每核心最高 5.5 GHz 時鐘速度插槽性能提升 20%處理器功耗降低 18%0 I/ i1 e" j2 j# X
6 R N, w1 N s1 J& [+ z5 w5 k
4. 創(chuàng)新的電壓控制:處理器incorporates一個復雜的電壓控制回路系統(tǒng),包括:
' f4 X& o0 l5 k' y* }" @0 H細粒度電壓測量線路工作負載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合: q9 l1 @' w; P
8 ~6 C4 I% y6 M; C, o( }. Z* ]3 F5 k8 y: {6 v$ t- o4 `
p5wh2yecml364034877709.png (120.12 KB, 下載次數(shù): 0)
下載附件
保存到相冊
p5wh2yecml364034877709.png
2024-9-25 01:02 上傳
: H- _! u- Z5 `, t2 s
圖 2:展示Telum II 電壓控制回路實現(xiàn)的效率提升,說明在各種工作負載利用率下的較低功耗。
0 a, q- ^& _7 L% q$ @
# n! s! Z' U% F5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:% U) r4 Q) h: C) Z! A
4 個處理集群每個集群 8 個定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊列管理器,用于高效的工作調(diào)度和傳輸
) x# t: N) v# B2 f( a; Z' ]( f0 q/ i+ [! y7 M9 ^
, @4 E, ~- D5 w: _3 g3 v
l2suddmxr5c64034877809.png (351.46 KB, 下載次數(shù): 0)
下載附件
保存到相冊
l2suddmxr5c64034877809.png
2024-9-25 01:02 上傳
; H# O% z4 I+ l% A' L. F
f304wt5vfg264034877909.png (96.48 KB, 下載次數(shù): 0)
下載附件
保存到相冊
f304wt5vfg264034877909.png
2024-9-25 01:02 上傳
3 I9 d" X* y" f; z6 z4 n6 D& X
圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
, w3 j2 ]& x& i$ M7 t- c# f' ?4 {% z
6. 大規(guī)模擴展 I/O 子系統(tǒng):Telum II 支持:
5 ?' m0 h l- H! M; Z在一個連貫的 SMP 系統(tǒng)中最多 32 個處理器12 個 I/O 擴展 Drawer,每個有 16 個 PCIe 插槽單個系統(tǒng)中總共最多 192 個 PCIe 卡
0 l' F% M1 c/ j+ k. H4 m/ A4 c. x
0 N. P; R4 M' @$ V8 j2 H3 XTelum II 中的 AI 加速
/ H* n2 Z9 X+ b$ v4 ^; S; dTelum II 最顯著的進步之一是其增強的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:
5 C5 @& s% X7 i" I6 |清算結(jié)算合規(guī)檢查保險理賠處理欺詐檢測
3 H2 R" T' U3 T8 [3 \1 l. ?
+ ^" `4 f7 Y9 r$ ~Telum II 中的 AI 加速器提供:
: ~5 ^: F& |: l0 B/ q/ Z5 N6 D: h每芯片 24 TOPS(每秒萬億次運算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型
3 v; s) a1 t4 a7 H9 ]7 ~7 U7 @, L9 f3 \- G5 a' q3 c6 S
, ^3 s- A0 S/ @- z; l# c2 b' c
bnzajtvwxfg64034878009.png (337.58 KB, 下載次數(shù): 0)
下載附件
保存到相冊
bnzajtvwxfg64034878009.png
2024-9-25 01:02 上傳
3 K7 V! E8 F: M- c0 O8 ~' \0 F圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。; b! `+ h8 n* Y
IBM Spyre 加速器簡介' S' R$ S% @& [" _' g. y
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進一步推進了 AI 加速。這種專用芯片旨在處理更復雜的 AI 模型和工作負載,補充了 Telum II 的能力。- n& _5 W1 h& ]% b& `9 F+ R
; s% L- v2 Q( |- ~5 V& E! n
IBM Spyre 加速器的主要特點( T. b/ ]! u% J
1. 強大的性能:Spyre 加速器提供:
; I5 k* k( J" N7 C, u超過 300 TOPS 的計算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存
% P/ S- B& I( i8 ^1 h
?, D# G W [: ?) S+ R* `5 u2. 創(chuàng)新的核心設計:加速器具有:
/ F# _" Y6 W" {; H/ G& v32 個核心,每個配備 2MB 暫存器55%+ 有效 TOPS 利用率獨特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動
8 [0 k5 J' L! N2 u: q: h7 N0 r4 F/ H; H- k
4 b+ R' v& ]/ `) ?% a8 b2 n
hfm3tq2jgcr64034878109.png (490.66 KB, 下載次數(shù): 0)
下載附件
保存到相冊
hfm3tq2jgcr64034878109.png
2024-9-25 01:02 上傳
" B. o+ e; ?' ^* Y) T: W* Z4 g( I( D W
0cl4ipzdmnx64034878210.png (84.63 KB, 下載次數(shù): 0)
下載附件
保存到相冊
0cl4ipzdmnx64034878210.png
2024-9-25 01:02 上傳
9 u. k3 v7 H# ], C8 s; U
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設計,實現(xiàn)高效 AI 計算。
& f) y2 M& M% c% s; y' H5 u+ l% \# K7 C, u. o# _
3. 高速互連:Spyre 加速器利用:+ J1 q7 \ r5 [8 `. A
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器# p/ I* h8 j C% B
% u2 y M( |9 s$ i1 S0 h4. 可擴展性:Spyre 加速器設計用于集群部署:
) k# p# f' k4 c* R$ oI/O Drawer 中的 8 張卡形成一個邏輯集群每個集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
8 ~# K/ ~5 n" |; s4 ~; q5 f h% v* J
5. 先進制造:采用三星 5LPE 技術制造,Spyre 加速器擁有:1 C0 X# q9 C+ }9 V6 H2 f8 O8 Y, C' r; K
260 億晶體管330 平方毫米芯片面積14 英里線路
: x4 U' ]3 _$ s/ G& T- @" n4 ?0 i4 g/ q1 q7 @4 b
0 H# B4 D# N7 w! z
e0ntkhprcgh64034878310.png (204.75 KB, 下載次數(shù): 0)
下載附件
保存到相冊
e0ntkhprcgh64034878310.png
2024-9-25 01:02 上傳
' M* ~/ c% `/ Z; u5 g
圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細節(jié),突出兩種芯片使用的先進技術。
' v- }5 ?+ L( q$ K) q1 `2 j* t& p3 }) h: Z7 l
AI 用例和應用& J+ s' W- R a3 P' J! ]) d z
Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應用提供了支持。這些技術支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復雜的 AI 模型用于各種用例:增強欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強大的 Spyre 加速器,金融機構(gòu)可以實施復雜的欺詐檢測系統(tǒng),實時分析交易。生成式 AI:Spyre 加速器的高性能使其適合運行大型語言模型和其他生成式 AI 應用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風險管理:先進的 AI 功能可以應用于自動化合規(guī)檢查,并增強各行業(yè)的風險評估流程。$ e1 O- }& f P2 ^# j) @
[/ol]( \' _) k, T- z& W! H/ ^# `8 b
6 m; b' P5 n6 o0 ?
結(jié)論+ q: J3 q/ _1 }5 c
IBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計算和 AI 加速的重大進步。通過將高性能傳統(tǒng)計算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r應對日益復雜的挑戰(zhàn)。! U/ X' f3 g. S3 N% a$ V, x: Y
% z" _8 ~- [! [. ^
這些創(chuàng)新將改變金融、保險、軟件開發(fā)和 IT 運營等多個行業(yè)。隨著 AI 在商業(yè)運營中繼續(xù)發(fā)揮關鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關鍵的競爭優(yōu)勢。2 `$ D% n6 _' F* x6 s- u3 i- c
! G: e o4 c) I7 l6 g/ d) [IBM Spyre 加速器目前處于技術預覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術的成熟和廣泛應用,可以期待看到一波新的 AI 驅(qū)動的應用和服務,重塑企業(yè)在數(shù)字時代的運營方式。3 q' ]3 M" \; A" T7 G2 c
2 k) D- [; R/ y1 F
企業(yè)計算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個未來中,AI 將深度集成到業(yè)務運營的每個方面,推動效率、創(chuàng)新和增長。
4 @9 r* y8 E9 c' ~& H& X3 _& ?3 W: y* r+ ^2 N
參考文獻
( c* q. c+ {5 R' t[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024. m. r6 P6 z) O0 n8 w0 {
) I" S a% u: ~* S1 t
- END -1 J+ U4 }' w p9 T1 W3 i' b
0 Z+ T# [4 G9 P9 G( l5 x1 j0 b
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用,PIC Studio都可提升您的工作效能。2 m. d7 X# P! l2 i$ U: N; D- C
點擊左下角"閱讀原文"馬上申請
; {2 z; x( t! Q# T% n7 w, A1 s" c0 j
歡迎轉(zhuǎn)載
& [( Y! X$ k3 `# L/ o7 ^
6 [0 P. y0 M+ f轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!2 S0 N7 J3 C; O1 k
" V0 r$ t5 q$ X' V
& q- y l+ c) R! Z) Q0 T- E) N \4 ]& Q: O# s8 B" c: {
nnrnbke12kq64034878410.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊
nnrnbke12kq64034878410.gif
2024-9-25 01:02 上傳
' U& ^6 W+ g& @, s( p4 r+ B% E
7 R9 B# v0 n1 i" I
關注我們6 j& n6 ~6 b1 O8 `; ~! k
6 F- ?2 ?6 G" a) l" X
$ a3 }! b* x% \ f
1yhwmne4rjx64034878510.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊
1yhwmne4rjx64034878510.png
2024-9-25 01:02 上傳
2 k0 U2 e+ ?% S+ {4 [ |
: \4 T' i7 D9 Q( S& P1 y" O
f0v4iex1bii64034878610.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊
f0v4iex1bii64034878610.png
2024-9-25 01:02 上傳
7 ?- P) o8 F4 a a8 ^
| 0 ]) M6 v+ k2 s
zrtvlxjlrvj64034878710.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊
zrtvlxjlrvj64034878710.png
2024-9-25 01:02 上傳
% O7 U. A9 j7 v. f" v |
! h- W' c0 e% e. _* G/ o, W, o" r
$ M! m( _- a; a: B, l+ \% W( o- W, d5 m6 L
關于我們:
) k2 p3 f* T# z/ E8 a& D深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導體芯片設計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件,提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務,廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術與服務。, B* b+ ?2 f' G7 N, [7 q
0 _! i$ ?3 Y! s6 f" X
http://www.latitudeda.com/
) S* w8 z; h+ H; f3 {(點擊上方名片關注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|