IEEE J. Quantum Electron更新 | 基于相位到振幅轉(zhuǎn)換的全光學神經(jīng)激活函數(shù)

逍遙設計自動化

引言
. \: Y1 k; D% X4 s% Q人工神經(jīng)網(wǎng)絡（ANNs）在人工智能領(lǐng)域引發(fā)了革命，在圖像識別、音頻處理和自然語言處理等多種任務中展現(xiàn)出卓越的性能。然而，現(xiàn)代ANNs日益增長的計算需求促使研究人員探索受人腦啟發(fā)的非常規(guī)硬件平臺。硅基光電子技術(shù)作為神經(jīng)形態(tài)計算的有前途的候選者脫穎而出，具有波長輔助并行性、固有線性處理能力和低功耗等優(yōu)勢。

- K5 I4 P8 ^  b8 LANNs的關(guān)鍵方面是激活函數(shù)，為網(wǎng)絡引入非線性，使復雜的模式識別成為可能。在本文中探討創(chuàng)新方法，利用無源光學諧振器中的相位到振幅（PTA）轉(zhuǎn)換來實現(xiàn)全光學、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。



1 b- z6 c3 L( K; ?5 P5 J0 C5 U相位到振幅轉(zhuǎn)換
* T3 \: F. o( A5 w0 Z這種方法的核心概念是在無源光學濾波器（如微環(huán)諧振器，MRRs）中發(fā)生的非線性相位到振幅轉(zhuǎn)換。在這種方案中，信息被編碼在光載波包絡的相位中：
, i7 R8 ~0 B# R( V- {. A4 }
! e2 w4 y) M: a7 e4 [4 B
7 B1 V  W7 o3 j4 P2 |( a, h$ _其中P是輸入功率，m是調(diào)制指數(shù)，n(t)是范圍從-1到1的歸一化信號。
. q  w) X3 c8 |  m9 j$ m

圖1展示了相位梯度對基于微環(huán)諧振器漏端口的IIR光學濾波器透射率的影響。
! X4 [7 o4 t: h& E  \4 t
光信號的頻率由相位編碼信息調(diào)制：
0 k3 a- F( k2 X  r
隨著光信號頻率因相位調(diào)制而變化，光學濾波器的透射率也隨之改變。這個過程產(chǎn)生了非線性PTA響應，該響應與輸入功率無關(guān)，使其非常適合低功耗應用。
9 `& H& @) h9 f; R( Q
作為可重構(gòu)光子神經(jīng)元的微環(huán)諧振器
- q/ @5 k1 I4 x( J為了演示PTA轉(zhuǎn)換機制，我們將使用微環(huán)諧振器（MRR）作為光學濾波器。MRR漏端口的傳遞函數(shù)為：
$ ]: E. q, m; E* v" h3 z


* W* b4 h3 [* M" \其中s = √k，c = √(1-k)，k是耦合系數(shù)，ζ = γ exp(-j(2π(f + df)Tring))。


圖2
! z$ G' t+ A* {% m$ P2 ?
圖2顯示了通過PTA轉(zhuǎn)換從單個MRR節(jié)點的漏端口獲得的不同激活函數(shù)：
(a) Soft-plus函數(shù)
( [* A2 w1 z6 M$ }, J8 @/ g8 s* d(b) Sigmoid函數(shù)
(c) 高斯函數(shù)
7 W$ `, c) Y2 K. L, c
; N8 t3 ^/ W) G8 Y) Z1 a2 u通過調(diào)整兩個關(guān)鍵超參數(shù) - 調(diào)制指數(shù)m和頻率失諧df - 可以控制激活函數(shù)的形狀。這使我們能夠重現(xiàn)多種獨立于輸入功率且對相位不確定性具有容忍度的激活函數(shù)。
& z# |% E, s! V
時延儲備計算
為了展示PTA轉(zhuǎn)換機制的實際應用，將實現(xiàn)一個時延儲備計算（TDRC）方案，用于Santa Fe混沌時間序列的一步預測。
& ~6 O! b, q2 V: m5 R

1 l# J3 X4 Z4 q! ^圖3展示了用于Santa Fe混沌序列一步預測的TDRC設置。
* i- |; i4 b: u1 }
2 G7 `, P0 a. `TDRC設置包括以下組件：
" i) t6 ~1 A; \& L9 l3 {. z1.輸入處理：時間序列被歸一化并與掩碼矩陣相乘以進行維度擴展。
4 F" u4 o& _8 e) A2.數(shù)模轉(zhuǎn)換：處理后的輸入轉(zhuǎn)換為模擬信號用于光學調(diào)制。
  l+ W7 D! i# z( G6 g3.光學調(diào)制：信號使用幅度調(diào)制（AM）或相位調(diào)制（PM）調(diào)制光載波。
4.光子儲備：帶有外部反饋環(huán)的MRR為儲備提供物理存儲。
) Q% a! p% n. j- E" k: n5.光電檢測和模數(shù)轉(zhuǎn)換：光子儲備的輸出被檢測并數(shù)字化。
6.線性回歸：處理后的數(shù)據(jù)用于進行一步預測。
2 m! A+ ~& H. n
, ^! U6 d# y- M2 a- |/ x4 p* f7 \性能評估
& C9 ]7 S* N. J" R7 B5 E使用幅度調(diào)制（AM）和相位調(diào)制（PM）方案評估TDRC系統(tǒng)的性能。使用的性能指標是歸一化均方誤差（NMSE）。

圖4顯示了(a) AM的反饋強度和頻率失諧，以及(b) PM的調(diào)制指數(shù)和頻率失諧的NMSE函數(shù)。
) U+ w5 H4 l, \8 u
對于AM方案，在-4 GHz的負失諧和反饋強度η = 1時觀察到最佳性能，NMSE為0.12 ± 0.019。

利用PTA轉(zhuǎn)換的PM方案展現(xiàn)出更優(yōu)越的性能。在4 GHz的失諧和1.1的調(diào)制指數(shù)下，達到了0.024 ± 0.004的最佳NMSE。
7 o- G( n5 G0 L% K
8 |( A  J' M$ P( [) ^: P7 t
圖5顯示了AM（SR = 10 Gsa/s）和PM（SR = 10, 100 Gsa/s）的NMSE作為輸入功率的函數(shù)。

+ p2 L9 C( x6 T6 Z; ]PM方案在廣泛的輸入功率范圍內(nèi)優(yōu)于AM方案，展現(xiàn)出更高的性能和更好的功率效率。即使在低輸入功率（-10 dBm）下，PM方案也達到了0.041的NMSE，展示了PTA機制的功率獨立性。

8 ?$ W2 b6 Y2 s$ I優(yōu)勢和應用
5 [+ d7 Y- g! P) H提出的基于PTA的激活函數(shù)具有幾個優(yōu)勢：
1.功率獨立性：即使在低輸入功率下也能保持非線性效應，適合低功率應用。
2.可重構(gòu)性：通過調(diào)整調(diào)制指數(shù)和頻率失諧，可以使用單個MRR實現(xiàn)各種激活函數(shù)。
3.高速操作：系統(tǒng)可以以高達2 Gsa/s的速率進行處理（對于100 Gsa/s的采樣率），適合高速應用。
4.集成：MRR的無源性質(zhì)使其與硅基光電子集成兼容，這對大規(guī)模神經(jīng)形態(tài)系統(tǒng)至為重要。

這項技術(shù)的潛在應用包括：
1.光學神經(jīng)網(wǎng)絡：基于PTA的激活函數(shù)可用于卷積神經(jīng)網(wǎng)絡和前饋網(wǎng)絡，提供額外的可訓練元素。
$ y1 a8 w* ]  a$ j' }% {2.復值神經(jīng)網(wǎng)絡：PTA機制可用于實現(xiàn)復值ANNs的復雜激活函數(shù)。
- y# j  k; H0 N( ~+ G3.全光信號處理：PTA非線性可用于諸如全光ASK到PSK轉(zhuǎn)換等任務。
# [* K& k- T) ?5 K4.穩(wěn)健光子結(jié)構(gòu)：基于PTA的激活函數(shù)的功率獨立性可以為硅基光電子結(jié)構(gòu)中的高光學損耗提供穩(wěn)健性。
! Z. T3 q  F( L0 F
# Y$ A( h! U- v- t& B$ }結(jié)論
本文介紹了創(chuàng)新方法，利用無源光學諧振器中的相位到振幅轉(zhuǎn)換來實現(xiàn)全光學、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。通過利用微環(huán)諧振器的非線性響應，我們可以創(chuàng)建對人工神經(jīng)網(wǎng)絡非常重要的各種激活函數(shù)。

" z3 g! d2 X" f, R1 G0 f2 X- q! I與傳統(tǒng)的幅度調(diào)制方案相比，該系統(tǒng)在時延儲備計算方面表現(xiàn)出更優(yōu)越的性能。其功率獨立性、可重構(gòu)性和與硅基光電子技術(shù)的兼容性使其成為未來神經(jīng)形態(tài)計算系統(tǒng)的有力候選者。
0 T) d  E5 S- u; s) O; c, G) r
隨著該領(lǐng)域研究的進展，有望看到全光學神經(jīng)網(wǎng)絡的進一步發(fā)展，可能會產(chǎn)生更高效、更強大的人工智能系統(tǒng)，克服傳統(tǒng)電子實現(xiàn)的局限性。

7 u$ B  Q7 \3 ?6 [0 \2 z# w! P- Q參考文獻
[1] G. Sarantoglou, A. Bogris and C. Mesaritakis, "All-Optical, Reconfigurable, and Power Independent Neural Activation Function by Means of Phase Modulation," IEEE Journal of Quantum Electronics, vol. 60, no. 5, pp. 1-10, Oct. 2024, Art no. 8700206, doi: 10.1109/JQE.2024.3437353.



- END -

$ x+ w, X; N. S5 y$ j軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用，PIC Studio都可提升您的工作效能。
點擊左下角"閱讀原文"馬上申請

1 y# v. [) I, g歡迎轉(zhuǎn)載

* C- {0 x6 _: n. N1 z' p/ a5 ?轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！
若需原文鏈接，可留言或私信溝通~


( H  Y! B( B2 J" L- ^
8 n. ~7 F8 g, ?* g6 {- E

# J0 M2 H" U- [7 X: i. }* S( r1 n1 [
關(guān)注我們

5 A2 [' F& s- @" U, p, d

* X2 R) Z4 D: ]$ c

% Q$ V9 `' W, n+ L, s7 J

. p4 ~9 M% y- B' D5 D9 \* g" o

                     
( _& z) ?- b3 M% d* t( ~3 L$ r

, u) X7 X- b2 c9 S- X
8 O& `  L0 ]! B& j" }
8 x7 U7 B- h' f8 q1 W% ~
$ u6 S2 ^( Y8 P) Q1 N8 o" ^
關(guān)于我們：
- l' o2 R7 M; A0 s! J) a5 R深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件，提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務，廣泛服務于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務。
1 m9 H; r$ c: V2 {$ T! K
http://www.latitudeda.com/
+ F# _* a3 z# D（點擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）