|
引言# m* y0 o; [, W0 {9 j
在企業(yè)計(jì)算領(lǐng)域不斷演進(jìn)的背景下,IBM 通過其最新產(chǎn)品——IBM Telum II 處理器和 IBM Spyre 加速器芯片繼續(xù)推動創(chuàng)新的邊界。這些尖端技術(shù)旨在滿足商業(yè)應(yīng)用中人工智能(AI)日益增長的需求,提供性能、效率和安全性。本文將幫助了解這些新技術(shù)的細(xì)節(jié)及其潛在影響,探討這些創(chuàng)新如何改變企業(yè)計(jì)算格局。- E3 M6 J$ i' [$ T4 k# @
2 E n; A8 S- a6 `: ~* \9 w
' w7 d. W/ b* u# v6 B. y/ eIBM 大型機(jī)的力量
$ ]7 d# ~# g0 `在深入探討新硬件的具體細(xì)節(jié)之前,了解 IBM 大型機(jī)在當(dāng)今金融生態(tài)系統(tǒng)中的關(guān)鍵作用非常必要。根據(jù)最新研究,估計(jì) 70% 的全球交易(按價值計(jì)算)通過 IBM 大型機(jī)進(jìn)行處理。這一驚人的統(tǒng)計(jì)數(shù)據(jù)凸顯了大型機(jī)技術(shù)持續(xù)創(chuàng)新對支持全球經(jīng)濟(jì)的重要性。! Q6 K( v& J: j" a/ \
+ \# s8 n: R* o1 w5 X0 Y9 w
此外,IBM 大型機(jī)以可靠性著稱,可用率高達(dá) 99.999999%。這種可靠性對于需要持續(xù)運(yùn)行且無法承受系統(tǒng)故障的企業(yè)來說極為關(guān)鍵。
* q" y. N- U6 M& {; O8 n' f! p7 h+ e( M6 w; K4 w0 |
+ X2 i- \% w) s6 ~& w# }- c# CIBM Telum II 處理器簡介9 J3 P5 B8 L: |9 D& x: `8 ^
IBM Telum II 處理器代表了大型機(jī)計(jì)算技術(shù)的重大飛躍。設(shè)計(jì)用于支持每秒數(shù)百萬次交易的 AI 處理,這一能力在當(dāng)今數(shù)據(jù)驅(qū)動的商業(yè)環(huán)境中變得越來越重要。
6 B7 `9 A0 i8 l- Y \* R1 }" ^7 V3 i' @$ R' z0 C
Telum II 的主要特點(diǎn)
/ y H7 Q( |; o9 Y5 u, L0 z# }1. 增強(qiáng)的中央計(jì)算復(fù)合體:Telum II 比前代產(chǎn)品有多項(xiàng)改進(jìn),包括:
. r' E6 P* b" I7 \ {3 ?6 {# ?分支預(yù)測增強(qiáng)重命名寄存器容量增加(從 128 增至 160)改進(jìn)的存儲回寫和地址轉(zhuǎn)換面積減少 20%功耗降低 15%
4 [) |. w( ? h) `1 r$ z, s3 r f/ y2 @6 [% V
2. 擴(kuò)展的緩存系統(tǒng):處理器具有:
" y$ L" K1 B+ c# v: `10 個 L2 緩存,每個 36MB,訪問時間 3.6ns360MB 虛擬 L3 緩存,訪問時間 11.5ns2.8GB 虛擬 L4 緩存,訪問時間 48.5ns片外帶寬提高 30%Drawer 到 Drawer 的加密,增強(qiáng)安全性( b. B. F* x6 |* S6 @* l3 N( N/ r) v
$ W! e: n( `* C
. i- z; d$ q" y- Y% ^: d4 j. S3 I
goq2plvnkxz64021063812.png (420.29 KB, 下載次數(shù): 0)
下載附件
保存到相冊
goq2plvnkxz64021063812.png
2024-9-19 13:40 上傳
. ]/ x! T5 x- G9 I! R圖 1:說明 Telum II 中央計(jì)算復(fù)合體和 L2 緩存系統(tǒng)的改進(jìn),突出了處理能力和內(nèi)存訪問的顯著增強(qiáng)。
|2 f4 j7 Z+ F5 Q2 V! l3 U) b, ?7 ?: _0 E
3. 先進(jìn)的制造工藝:Telum II 采用 5nm 技術(shù)制造,實(shí)現(xiàn):
% {/ k0 b/ ^- A4 j3 F( P每核心最高 5.5 GHz 時鐘速度插槽性能提升 20%處理器功耗降低 18%1 S4 K9 F# O' F2 \. M: ]7 r) L/ \
, ~7 _8 f3 B0 |
4. 創(chuàng)新的電壓控制:處理器incorporates一個復(fù)雜的電壓控制回路系統(tǒng),包括:
5 s; I6 b# s% f4 v. l0 N+ _細(xì)粒度電壓測量線路工作負(fù)載監(jiān)控功能與電源轉(zhuǎn)換子系統(tǒng)緊密耦合& c: O. u( j3 E, m8 K! E7 d4 c( V
0 E6 h/ T5 L- ~2 e$ U4 W
1 _9 D& F) M4 F E$ C Q. D! k
gv1tczjfwdy64021063912.png (120.12 KB, 下載次數(shù): 0)
下載附件
保存到相冊
gv1tczjfwdy64021063912.png
2024-9-19 13:40 上傳
* n/ s% N1 q# v2 ?( W( }+ R圖 2:展示Telum II 電壓控制回路實(shí)現(xiàn)的效率提升,說明在各種工作負(fù)載利用率下的較低功耗。
, S! v3 j8 K/ [& N3 j n1 l" s p" c1 K! ~6 ?9 `
5. 片上數(shù)據(jù)處理單元(DPU):Telum II 具有專用 DPU 用于 I/O 加速,包括:0 Z+ g, a ?0 i3 `" [
4 個處理集群每個集群 8 個定制微控制器與整體緩存系統(tǒng)的連貫連接專用 I/O 加速邏輯隊(duì)列管理器,用于高效的工作調(diào)度和傳輸
# g2 w2 B8 \& J7 n) l
7 N% S; e1 c7 f; B7 z! a8 i/ }( T r8 W! s2 q
1j2q5pcl11x64021064012.png (351.46 KB, 下載次數(shù): 0)
下載附件
保存到相冊
1j2q5pcl11x64021064012.png
2024-9-19 13:40 上傳
) i" c; W, ~/ _+ G5 s
jfnopb2ksip64021064112.png (96.48 KB, 下載次數(shù): 1)
下載附件
保存到相冊
jfnopb2ksip64021064112.png
2024-9-19 13:40 上傳
. t$ t N+ q# c" a! e% t' R; c圖 3:概述片上數(shù)據(jù)處理單元(DPU)的結(jié)構(gòu),突出其組件和互連,用于高效的 I/O 處理。
6 s+ }9 K8 m# |6 y3 ?5 E5 H6 \0 m4 l7 K& a& a) U
6. 大規(guī)模擴(kuò)展 I/O 子系統(tǒng):Telum II 支持:
& Z A) t2 v: N在一個連貫的 SMP 系統(tǒng)中最多 32 個處理器12 個 I/O 擴(kuò)展 Drawer,每個有 16 個 PCIe 插槽單個系統(tǒng)中總共最多 192 個 PCIe 卡2 F" T; g! \/ D7 I2 {- {
; F$ d+ N) e; V) r% J9 T
Telum II 中的 AI 加速
- ~ R5 S* ]; g# |( xTelum II 最顯著的進(jìn)步之一是其增強(qiáng)的 AI 能力。處理器包含針對傳統(tǒng) AI 模型優(yōu)化的片上 AI 加速器,能夠支持各種企業(yè)用例:3 e% ]3 ]' ]% m
清算結(jié)算合規(guī)檢查保險理賠處理欺詐檢測$ ?" W4 p a+ Q3 V: E! A1 M8 j
3 M6 S# H Y+ i) }8 m5 ]# r0 F
Telum II 中的 AI 加速器提供:4 H% c) l w: ]$ H" l
每芯片 24 TOPS(每秒萬億次運(yùn)算)每 Drawer 192 TOPS每系統(tǒng) 768 TOPS作為 CISC 指令集成,實(shí)現(xiàn)無縫操作支持 INT8 和 FP16 數(shù)據(jù)類型& s) \- R: L7 f" C7 P0 v
+ f2 c, c+ E( p# k9 F. j$ H, e! b. g& n+ m) G' R, y0 P
zf3p3bygeqp64021064212.png (337.58 KB, 下載次數(shù): 0)
下載附件
保存到相冊
zf3p3bygeqp64021064212.png
2024-9-19 13:40 上傳
/ y3 H* q3 \* p( o& |. k ?; O
圖 4:展示Telum II 處理器的 AI 加速能力,突出其 TOPS 性能和系統(tǒng)集成。
2 q- ^2 I( a; J, V0 p9 TIBM Spyre 加速器簡介+ a$ {1 W& j/ ?
Telum II 的片上 AI 加速器令人印象深刻,但 IBM 通過引入 IBM Spyre 加速器進(jìn)一步推進(jìn)了 AI 加速。這種專用芯片旨在處理更復(fù)雜的 AI 模型和工作負(fù)載,補(bǔ)充了 Telum II 的能力。
5 w) X$ B- \& z# _& c' G# f9 h& S. Q- i8 F
IBM Spyre 加速器的主要特點(diǎn)2 c! c" O7 U \8 `; x8 N* I- b
1. 強(qiáng)大的性能:Spyre 加速器提供:
! e3 F/ ^3 l, V2 E超過 300 TOPS 的計(jì)算能力75W 功耗,采用 PCIe gen5 x16 適配器128GB LPDDR5 內(nèi)存
6 \0 Y6 }* p0 I$ R* N
/ A0 z' m7 w( j0 d' [2. 創(chuàng)新的核心設(shè)計(jì):加速器具有:, C/ e) y D9 _6 {: z6 x e2 v
32 個核心,每個配備 2MB 暫存器55%+ 有效 TOPS 利用率獨(dú)特的 "corelet" 結(jié)構(gòu),用于高效數(shù)據(jù)移動
% ]2 `* x- E$ {# T1 y# R
; Y4 p0 }4 O, |3 o4 L6 C
5 f3 W; K! T6 G% U! M
iwefi5zziay64021064313.png (490.66 KB, 下載次數(shù): 0)
下載附件
保存到相冊
iwefi5zziay64021064313.png
2024-9-19 13:40 上傳
" l. N% x$ d5 I) W! D* M5 Z' z
nkql55ovuay64021064413.png (84.63 KB, 下載次數(shù): 0)
下載附件
保存到相冊
nkql55ovuay64021064413.png
2024-9-19 13:40 上傳
/ m+ r) E+ J6 O9 i
圖 5:說明 IBM Spyre 加速器的核心和 corelet 結(jié)構(gòu),展示其創(chuàng)新設(shè)計(jì),實(shí)現(xiàn)高效 AI 計(jì)算。
' \$ ~9 X# i; N" T( Q7 e+ x& A. Z$ |: ^( @$ i, m1 j }
3. 高速互連:Spyre 加速器利用:* a4 U1 j) s/ ]8 C1 L, J
32B 雙向環(huán)連接核心200GB/s LPDDR5 連接到暫存器環(huán)128B 雙向環(huán)連接暫存器
8 m1 W6 `$ h9 T. n
% ~0 O* Q$ n5 x/ f: s4. 可擴(kuò)展性:Spyre 加速器設(shè)計(jì)用于集群部署:. j( [$ N# j, q" F
I/O Drawer 中的 8 張卡形成一個邏輯集群每個集群總共 1TB 內(nèi)存1.6TB/s 聚合內(nèi)存帶寬
) f- x& K3 _" h2 |$ }1 ~+ g y; r3 y7 q. o
5. 先進(jìn)制造:采用三星 5LPE 技術(shù)制造,Spyre 加速器擁有:
; n/ \7 N! H0 e2 w3 i. n: {260 億晶體管330 平方毫米芯片面積14 英里線路
) q& y$ _1 Z: ^( ^ z6 A; h2 R# b% |, N
& S# [: j% y# q8 h& l3 A7 {0 _
tx5yocgmuth64021064513.png (204.75 KB, 下載次數(shù): 0)
下載附件
保存到相冊
tx5yocgmuth64021064513.png
2024-9-19 13:40 上傳
. Y4 L6 Z: P$ e% r0 W' @$ O" N; D" _圖 6:比較 Telum II 處理器和 Spyre 加速器的制造細(xì)節(jié),突出兩種芯片使用的先進(jìn)技術(shù)。
$ P7 t- A% z( G! m M l$ `, s) k @1 W
AI 用例和應(yīng)用
4 K! i+ ~% K0 n1 I! v J7 x% P" @Telum II 處理器和 Spyre 加速器的結(jié)合為企業(yè)環(huán)境中的各種 AI 應(yīng)用提供了支持。這些技術(shù)支持 AI 的整體方法,允許企業(yè)利用傳統(tǒng)和更復(fù)雜的 AI 模型用于各種用例:增強(qiáng)欺詐檢測:通過結(jié)合 Telum II 的片上 AI 加速器和更強(qiáng)大的 Spyre 加速器,金融機(jī)構(gòu)可以實(shí)施復(fù)雜的欺詐檢測系統(tǒng),實(shí)時分析交易。生成式 AI:Spyre 加速器的高性能使其適合運(yùn)行大型語言模型和其他生成式 AI 應(yīng)用,為內(nèi)容創(chuàng)建和數(shù)據(jù)分析開創(chuàng)了新的可能性。代碼轉(zhuǎn)換和輔助:開發(fā)人員可以受益于 AI 驅(qū)動的代碼建議、解釋和轉(zhuǎn)換工具,提高生產(chǎn)力和代碼質(zhì)量。系統(tǒng)管理:AI 助手可以通過提供智能建議來簡化 IT 操作,包括系統(tǒng)配置、故障排除和優(yōu)化。合規(guī)和風(fēng)險管理:先進(jìn)的 AI 功能可以應(yīng)用于自動化合規(guī)檢查,并增強(qiáng)各行業(yè)的風(fēng)險評估流程。0 {0 L" s0 I3 d* R3 c! U( T
[/ol]
6 q, _& j) ?' @8 [- a' y5 a$ N: L7 k: } E" k, ~& w# h7 M4 K( F
結(jié)論
$ P7 ^4 H8 K( g ^( b) MIBM Telum II 處理器和 IBM Spyre 加速器代表了企業(yè)計(jì)算和 AI 加速的重大進(jìn)步。通過將高性能傳統(tǒng)計(jì)算與專用 AI 硬件相結(jié)合,IBM 使企業(yè)能夠?qū)崟r應(yīng)對日益復(fù)雜的挑戰(zhàn)。" b( z8 Z+ [. p7 c" z
+ S% q# E1 a) j+ v8 r( h# y這些創(chuàng)新將改變金融、保險、軟件開發(fā)和 IT 運(yùn)營等多個行業(yè)。隨著 AI 在商業(yè)運(yùn)營中繼續(xù)發(fā)揮關(guān)鍵作用,以前所未有的速度處理海量數(shù)據(jù)并做出智能決策的能力將成為關(guān)鍵的競爭優(yōu)勢。
- H$ E' f! X$ }! T
7 d+ }9 Q# `) \0 m! t. O& kIBM Spyre 加速器目前處于技術(shù)預(yù)覽階段,但對企業(yè) AI 格局的潛在影響巨大。隨著這些技術(shù)的成熟和廣泛應(yīng)用,可以期待看到一波新的 AI 驅(qū)動的應(yīng)用和服務(wù),重塑企業(yè)在數(shù)字時代的運(yùn)營方式。% c3 ~7 [3 m4 @: y
. Z9 }. R1 y' m! u8 y$ H/ t企業(yè)計(jì)算中 AI 的發(fā)展才剛剛開始,IBM 通過 Telum II 處理器和 Spyre 加速器為未來創(chuàng)造了新的可能性,在這個未來中,AI 將深度集成到業(yè)務(wù)運(yùn)營的每個方面,推動效率、創(chuàng)新和增長。
$ f% v1 S( ? ]- d3 q2 K9 N
6 \" S4 ~4 H4 y! ]/ ~, _參考文獻(xiàn)1 c& I. _8 g2 A( m+ G
[1] C. Berry, "IBM Telum? II processor and IBM Spyre Accelerator chip for AI," presented at Hot Chips 2024, 2024., t- s6 ~+ L5 Q4 o0 S
) c% h) g8 o2 Z; w- END - k0 m+ Q2 x5 n7 a2 \3 ?! X
2 j0 u( T6 Q( N$ U' H2 `1 d* i: J4 {
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。6 n7 T( E: N4 ?% S
點(diǎn)擊左下角"閱讀原文"馬上申請. f6 U' J* _! f5 `
5 }2 a3 {% i6 L$ d" T2 q8 |
歡迎轉(zhuǎn)載
2 b2 p6 i8 h1 }( h! N: U* S% @7 v- C- P7 ?
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!3 g" u) Z% S* |: `! s
6 Q4 d$ w0 v6 R8 e7 h
3 ?2 M1 _( E+ B1 ^
$ \( ^) E P# \, l* [
ucgnbqslb1m64021064613.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊
ucgnbqslb1m64021064613.gif
2024-9-19 13:40 上傳
3 M0 d4 }6 c' {2 t# r" v
: Z: x( X1 T+ w/ v關(guān)注我們
E2 ? W" ] `* d. z$ l' W
0 `: Y7 e: h+ r8 n6 ]+ t/ C/ h& y6 N$ V3 i) a
ximkz0kbms064021064713.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊
ximkz0kbms064021064713.png
2024-9-19 13:40 上傳
! I6 A3 t$ `" A | 2 J K) k; u' d8 n& u$ A
xlgudxgrdfm64021064813.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊
xlgudxgrdfm64021064813.png
2024-9-19 13:40 上傳
1 Z- w$ y; h$ l9 |' F
| 3 ?' l) E0 O/ Y# l0 s
51ku2atbfxv64021064913.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊
51ku2atbfxv64021064913.png
2024-9-19 13:40 上傳
% ?3 [5 ] ~5 x% L8 f: z; t
|
7 G% Z$ ~' y4 L3 l
. n0 e7 p) U7 l- G3 ]# R- h" y; W1 l J4 y1 C" [
# @, h! Y; Y+ `關(guān)于我們:
$ \# _ \8 B7 I3 i X深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
! E! t9 c2 [1 t
9 z8 z- |7 d3 l9 _- rhttp://www.latitudeda.com/
/ z3 u2 M! x6 W2 T+ S& J(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|