光學片上網(wǎng)絡的激光調制方案

逍遙設計自動化

引言
隨著硅晶體管縮放接近極限，研究人員正在探索新技術以繼續(xù)提高處理器性能和效率。有前途的方向是使用片上光學網(wǎng)絡（也稱為光學片上網(wǎng)絡或光學NoC）來替代傳統(tǒng)的電氣互連。與電氣網(wǎng)絡相比，光學NoC在帶寬、延遲和功耗方面具有潛在優(yōu)勢。然而，有效管理光學NoC的功耗帶來了新的挑戰(zhàn)[1]。

本文將探討用于最小化光學NoC靜態(tài)功耗的激光調制方案。我們將介紹基于網(wǎng)絡活動動態(tài)調制激光功率的關鍵概念、架構和預測技術。
8 g  d! q8 e; D) ]
& N" f, C- h7 A4 e9 a7 b3 p& z
$ F0 m" [3 c/ Z, e. _5 @背景
( w7 e/ y" x8 \' g; E光學NoC使用光來傳輸芯片上組件之間的數(shù)據(jù)�；�本構建模塊包括：
! w# K4 u& ~( S7 j- I' \

激光器：光源，可以是片外或片上

調制器：將電信號轉換為光信號

波導：在芯片上引導光

光電探測器：將光信號轉換回電信號
! m5 k, l+ C! P( @/ t
光傳輸本身非常高效，但產(chǎn)生光的激光器消耗大量功率。一個關鍵挑戰(zhàn)是光子不能像電荷那樣容易存儲。這意味著激光器通常需要持續(xù)供電，即使不主動傳輸數(shù)據(jù)時也是如此。這種靜態(tài)功耗可能占光學NoC總功耗的80-90%。
; i' i7 r& s& n1 j6 K. y( G
$ R) }8 B0 l3 M為解決這個問題，研究人員開發(fā)了激光調制方案，旨在根據(jù)預測的網(wǎng)絡活動動態(tài)調整激光功率。一般方法包括：

監(jiān)控網(wǎng)絡活動指標

預測未來活動

相應調整激光功率

重新配置網(wǎng)絡

8 e+ ^5 j: y* K# {" t$ O讓我們看看為不同類型處理器提出的一些具體方案。
& c/ O4 A" T* W' i. x" `
多核CPU設計中的激光調制方案
Probe
6 A$ N" x9 \" \5 s- h' h2 p5 Q$ S2 t最早提出的激光調制方案之一是Probe。使用64核架構，核心分組為4x4塊。每個塊都有專用的片外激光器，可以使用單寫多讀（SWMR）總線廣播消息。
4 v) T& t9 a2 A( M
6 N& W3 ]- R. j- ]7 mProbe根據(jù)鏈路利用率和緩沖區(qū)利用率指標預測未來活動。使用兩種類型的預測器：

用于低流量變化：過去和當前利用率的加權平均

用于高變化：由利用率水平索引的模式歷史表
6 x( R0 ]/ `5 H7 n' Q[/ol]
6 z2 h6 c0 y, w( A% }) @% I$ |2 C錦標賽預測器根據(jù)最近的準確性在兩者之間選擇。

4 {2 W; E2 m) I( U% @ColdBus
/ N: B& f- p* T) mColdBus采用不同的方法，基于L1緩存未命中預測活動。關鍵洞察是在共享內存系統(tǒng)中，大部分網(wǎng)絡流量來自L1未命中。
" w- x3 V/ _5 c, A+ a( [- ?
  U4 o+ f  b. Y; l  `使用類似于分支預測器的基于PC的預測器來識別可能導致未命中的指令。然后，一個時期預測器估計這些未命中何時發(fā)生。

# w- P) i7 ^) ^4 Z/ e! PColdBus還引入了一個"額外波導"，為需要的站點提供應急功率。
$ j" O; I- {- e+ l
) g" ]$ T/ n/ ?' e0 G, ~PShaRe
PShaRe在之前工作的基礎上有幾個關鍵創(chuàng)新：

一致性和非一致性流量的獨立網(wǎng)絡

基于神經(jīng)網(wǎng)絡的非線性預測器

站點之間的功率共享

重用浪費的光功率進行熱調諧
2 j$ O5 i, Y' P+ ^[/ol]
  p- b# }* ?/ M4 i" Q; a圖1顯示了整體架構：

9 z. B; y- o" y: w" Q
圖1：PShaRe架構，顯示連接光學站點的功率和數(shù)據(jù)波導。
# d  ?7 [5 r9 L' ]) E+ i
神經(jīng)網(wǎng)絡預測器使用14個性能計數(shù)器輸入，對每個站點在下一個時期的活動進行二元預測。
9 s0 y6 h: m: @4 ~2 U5 D" P- Y" ~
BigBus
% w( b& X! D  X" Z對于非常大的核心數(shù)（500+），需要像BigBus這樣的設計。BigBus使用分層架構，將塊簇組成更大的單元。

) ~- U$ R7 M1 l圖2說明了BigBus設計：
: }( c. M! b- v
8 ^' s" f6 i, n# H
# C9 Y# g1 c1 \7 b' o. q# W圖2：BigBus架構，顯示由蛇形光鏈路連接的核心和緩存庫的分層組織。
: u: J( @& U2 T
BigBus使用兩階段預測過程：

每個站點根據(jù)等待時間和待處理事件決定是否增加/減少令牌

激光控制器將當前預測與歷史數(shù)據(jù)結合
[/ol]
這允許在當前條件的響應性和穩(wěn)定性之間取得平衡。
3 j2 \8 ]% W9 F, |( `, u# b

多插槽系統(tǒng)（MULTI-SOCKET SYSTEMS）中的激光調制方案
對于像服務器這樣的多芯片系統(tǒng)，像Nuplet這樣的設計將光網(wǎng)絡擴展到插槽之間。Nuplet同時使用片內和片間光網(wǎng)絡。

+ v* o7 d* ~  o1 V/ H片間預測機制旨在確定要流通的仲裁令牌數(shù)量。它考慮：

發(fā)送到片間光學站（ICOS）的消息

ICOS隊列中的待處理事件
/ m3 [! ~" d. [) G( A& p0 d[/ol]
功率請求表（PRT）存儲歷史令牌計數(shù)。預測將PRT值與當前流量趨勢和隊列狀態(tài)結合。

3 ^( k  r! r; C$ ^' e1 Z1 t; fGPU設計中的激光調制方案
% D: `; P* }: z9 _% [6 {2 B3 s由于GPU側重于內存帶寬而非延遲，因此帶來了獨特的挑戰(zhàn)。GPUOpt設計將光學NoC適配于GPU架構。
' z5 v( ?# b8 Y- e# ~
( |8 \2 Z, F+ c7 _圖3顯示了GPUOpt的整體架構：
4 s/ B* P& F& |( e+ n: V" b1 E0 {) s
9 s- {' Y' k0 z- N
圖3：GPU光學NoC的架構，顯示由光網(wǎng)絡連接的SM和LLC集群。

GPUOpt對流式多處理器（SM）站點和最后級緩存（LLC）站點使用不同的預測機制：
! Y$ g) @6 R- _5 M. R1. SM站點使用基于以下因素的受限預測器（Restr_Pred）：
% l( W( p) v) m& L9 g% r$ y

接收的消息

發(fā)送的消息

等待時間
7 n) h: c8 t& M/ Z, f5 Q! ?
2. LLC站點使用考慮以下因素的靈活預測器（Flex_Pred）：

接收的消息

發(fā)送的消息

待處理事件

2 a9 [2 C/ J9 o4 l) w0 f激光控制器將這些預測結合起來，確定整體功率需求。

- p/ k! ~6 _8 B: w
" t! b; Z) T, \  T9 ^3 f關鍵概念和趨勢
雖然具體方案各不相同，但一些共同主題和最佳實踐浮現(xiàn)出來：
. \, @! s0 K9 {
1.將時間劃分為固定時期進行預測和重新配置
2. 使用多個輸入指標：

網(wǎng)絡利用率

緩沖區(qū)占用率

緩存未命中率

指令類型

待處理事件
0 N& d3 f# ~/ v/ a3. 將當前指標與歷史數(shù)據(jù)結合
' I* Y7 K7 O% ?; m4. 使用非線性預測函數(shù)（如神經(jīng)網(wǎng)絡）捕捉復雜關系
8 G# X# A5 \' V+ u5. 對不同流量類型進行單獨預測（如一致性與非一致性）
0 d& ?. y  I% d( d# U' m* ^6. 分層設計以實現(xiàn)可擴展性
7. 盡可能重用未使用的光功率
8. 為特定架構經(jīng)驗性地調整預測參數(shù)

圖4說明了有效激光調制可能帶來的功率節(jié)�。�


圖4：ideal、Probe和ColdBus方案在各種基準測試中的相對激光功耗。


) b6 n# a* F% f. r5 m1 U未來方向
/ [, ?+ M8 P$ g9 K隨著光學NoC從研究轉向實際實施，可以期待這些技術的進一步完善。方向包括：

用于更準確預測的機器學習技術

與應用層知識的集成

在運行時調整參數(shù)的自適應方案

考慮電氣和光網(wǎng)絡的整體優(yōu)化

針對新興工作負載（如AI加速）的專門化


8 p& S* R- Q; p8 D  U# h結論
有效的激光調制對實現(xiàn)光學片上網(wǎng)絡的潛在優(yōu)勢非常重要。通過準確預測網(wǎng)絡活動并相應調整激光功率，可以在保持性能的同時最小化靜態(tài)功耗。隨著處理器架構繼續(xù)發(fā)展，激光調制方案需要適應新的設計約束和流量模式。該領域的持續(xù)研究有望為未來計算系統(tǒng)解鎖新的能效水平。
. M+ d$ L5 I4 d, Z

6 v- F) O$ s; A& }) O* ^參考文獻
; i  i+ [) s: i& C/ O; r3 i[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.

2 m, {( w* h: B1 E; w( R& y% J- END -

軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用，PIC Studio都可提升您的工作效能。
點擊左下角"閱讀原文"馬上申請

3 h2 Q% u+ I5 ?' C" ]1 g歡迎轉載
, i/ C% p  g  n/ g* H' }
轉載請注明出處，請勿修改內容和刪除作者信息！



9 K  F- A8 u- e4 _3 {& e
# ~7 m$ \5 h0 D6 S
關注我們
' J# N  _- `% ~+ x! N0 ?4 t6 u
, t9 t& B7 R4 Q2 Y8 w7 C

1 ?$ |) y: d7 R* E# w! x

* \, p- i6 f4 ]% X; \) I5 A/ n

                     
( _7 R5 }  h: P0 A! `. T7 a
9 \8 m7 v( X4 v$ ~& `
; `  }: U' e. u" n6 h
  d  ^- F  X. c' \; E關于我們：
; P- l! b2 ^$ R. J! B/ P5 ?7 T深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件，提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務，廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術與服務。
- Q5 d( G5 z/ b6 f2 H' F
http://www.latitudeda.com/
0 b( p7 D4 y- e; b6 P* o（點擊上方名片關注我們，發(fā)現(xiàn)更多精彩內容）