IEEE J. Quantum Electron更新 | 基于相位到振幅轉(zhuǎn)換的全光學(xué)神經(jīng)激活函數(shù)

逍遙設(shè)計自動化

引言
! d' E' l( x3 f  [: U人工神經(jīng)網(wǎng)絡(luò)（ANNs）在人工智能領(lǐng)域引發(fā)了革命，在圖像識別、音頻處理和自然語言處理等多種任務(wù)中展現(xiàn)出卓越的性能。然而，現(xiàn)代ANNs日益增長的計算需求促使研究人員探索受人腦啟發(fā)的非常規(guī)硬件平臺。硅基光電子技術(shù)作為神經(jīng)形態(tài)計算的有前途的候選者脫穎而出，具有波長輔助并行性、固有線性處理能力和低功耗等優(yōu)勢。
) n* Q: @7 W) D# m3 ~
8 g* a8 Q# F0 C+ Y. d9 P7 a' `- @2 gANNs的關(guān)鍵方面是激活函數(shù)，為網(wǎng)絡(luò)引入非線性，使復(fù)雜的模式識別成為可能。在本文中探討創(chuàng)新方法，利用無源光學(xué)諧振器中的相位到振幅（PTA）轉(zhuǎn)換來實現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。
2 U; v1 I( V6 I3 k7 U/ W% r

5 O3 e$ {5 q  N1 t- d
相位到振幅轉(zhuǎn)換
這種方法的核心概念是在無源光學(xué)濾波器（如微環(huán)諧振器，MRRs）中發(fā)生的非線性相位到振幅轉(zhuǎn)換。在這種方案中，信息被編碼在光載波包絡(luò)的相位中：

0 a9 X' @5 \5 h" e
其中P是輸入功率，m是調(diào)制指數(shù)，n(t)是范圍從-1到1的歸一化信號。

7 N& W6 X2 T8 `4 M9 J( G# {
" e/ L9 [+ i+ x圖1展示了相位梯度對基于微環(huán)諧振器漏端口的IIR光學(xué)濾波器透射率的影響。

光信號的頻率由相位編碼信息調(diào)制：
2 \' W2 z! P' G) a# u$ z
3 o  o9 ~$ [  r5 z2 p7 k! h隨著光信號頻率因相位調(diào)制而變化，光學(xué)濾波器的透射率也隨之改變。這個過程產(chǎn)生了非線性PTA響應(yīng)，該響應(yīng)與輸入功率無關(guān)，使其非常適合低功耗應(yīng)用。
( n; ?  x; u# A: c
作為可重構(gòu)光子神經(jīng)元的微環(huán)諧振器
) [. ^1 G/ R9 ^- Y9 s: r- j0 h為了演示PTA轉(zhuǎn)換機制，我們將使用微環(huán)諧振器（MRR）作為光學(xué)濾波器。MRR漏端口的傳遞函數(shù)為：



其中s = √k，c = √(1-k)，k是耦合系數(shù)，ζ = γ exp(-j(2π(f + df)Tring))。
4 ]% O% v" R  b9 a" `" w
( F3 p7 K, A$ n& _) \! D2 ^  k
圖2

8 E& s1 h* b1 A/ v4 A8 T! I9 H圖2顯示了通過PTA轉(zhuǎn)換從單個MRR節(jié)點的漏端口獲得的不同激活函數(shù)：
4 I6 r" D7 P- s(a) Soft-plus函數(shù)
(b) Sigmoid函數(shù)
. V( O$ V$ M2 O(c) 高斯函數(shù)

& `+ H: r- t! P3 e+ W) Q通過調(diào)整兩個關(guān)鍵超參數(shù) - 調(diào)制指數(shù)m和頻率失諧df - 可以控制激活函數(shù)的形狀。這使我們能夠重現(xiàn)多種獨立于輸入功率且對相位不確定性具有容忍度的激活函數(shù)。
: t' b2 w# v* y; g
時延儲備計算
為了展示PTA轉(zhuǎn)換機制的實際應(yīng)用，將實現(xiàn)一個時延儲備計算（TDRC）方案，用于Santa Fe混沌時間序列的一步預(yù)測。
" Q5 h: [  e1 h
: Q! o# q9 s: N6 U: N( C
圖3展示了用于Santa Fe混沌序列一步預(yù)測的TDRC設(shè)置。

TDRC設(shè)置包括以下組件：
7 C7 V8 T# x# R: j0 n; w% \9 [; N1.輸入處理：時間序列被歸一化并與掩碼矩陣相乘以進行維度擴展。
  @7 x+ x4 S7 E1 U$ E( L2.數(shù)模轉(zhuǎn)換：處理后的輸入轉(zhuǎn)換為模擬信號用于光學(xué)調(diào)制。
3.光學(xué)調(diào)制：信號使用幅度調(diào)制（AM）或相位調(diào)制（PM）調(diào)制光載波。
4.光子儲備：帶有外部反饋環(huán)的MRR為儲備提供物理存儲。
2 P9 p, d" D9 q: f. h7 O% p: w& l% d5.光電檢測和模數(shù)轉(zhuǎn)換：光子儲備的輸出被檢測并數(shù)字化。
6.線性回歸：處理后的數(shù)據(jù)用于進行一步預(yù)測。
% ]; D; E. o8 d1 G/ I0 E- h7 ]
性能評估
6 b; w3 i) Q: z$ O0 K使用幅度調(diào)制（AM）和相位調(diào)制（PM）方案評估TDRC系統(tǒng)的性能。使用的性能指標是歸一化均方誤差（NMSE）。

圖4顯示了(a) AM的反饋強度和頻率失諧，以及(b) PM的調(diào)制指數(shù)和頻率失諧的NMSE函數(shù)。
. f3 e; O( r" Q; L
- l& c; t$ A1 f: ~; @對于AM方案，在-4 GHz的負失諧和反饋強度η = 1時觀察到最佳性能，NMSE為0.12 ± 0.019。

利用PTA轉(zhuǎn)換的PM方案展現(xiàn)出更優(yōu)越的性能。在4 GHz的失諧和1.1的調(diào)制指數(shù)下，達到了0.024 ± 0.004的最佳NMSE。

4 q/ U3 @7 L! N0 S
圖5顯示了AM（SR = 10 Gsa/s）和PM（SR = 10, 100 Gsa/s）的NMSE作為輸入功率的函數(shù)。
) H0 E/ L7 V3 M$ L0 r5 B1 G
" T$ K4 V* Q  I* n0 r* P  |PM方案在廣泛的輸入功率范圍內(nèi)優(yōu)于AM方案，展現(xiàn)出更高的性能和更好的功率效率。即使在低輸入功率（-10 dBm）下，PM方案也達到了0.041的NMSE，展示了PTA機制的功率獨立性。

優(yōu)勢和應(yīng)用
提出的基于PTA的激活函數(shù)具有幾個優(yōu)勢：
! a) S. c  z- M1 J6 @  V1.功率獨立性：即使在低輸入功率下也能保持非線性效應(yīng)，適合低功率應(yīng)用。
6 I8 x4 l  q  `! s7 g3 X8 `2.可重構(gòu)性：通過調(diào)整調(diào)制指數(shù)和頻率失諧，可以使用單個MRR實現(xiàn)各種激活函數(shù)。
) n" N& K" l" M8 D/ r3.高速操作：系統(tǒng)可以以高達2 Gsa/s的速率進行處理（對于100 Gsa/s的采樣率），適合高速應(yīng)用。
4 |4 y: O" b- N5 i+ P5 C# b4.集成：MRR的無源性質(zhì)使其與硅基光電子集成兼容，這對大規(guī)模神經(jīng)形態(tài)系統(tǒng)至為重要。
0 H$ S! B" W  J
這項技術(shù)的潛在應(yīng)用包括：
1.光學(xué)神經(jīng)網(wǎng)絡(luò)：基于PTA的激活函數(shù)可用于卷積神經(jīng)網(wǎng)絡(luò)和前饋網(wǎng)絡(luò)，提供額外的可訓(xùn)練元素。
2.復(fù)值神經(jīng)網(wǎng)絡(luò)：PTA機制可用于實現(xiàn)復(fù)值A(chǔ)NNs的復(fù)雜激活函數(shù)。
  \  D' H) l8 o" u0 M3.全光信號處理：PTA非線性可用于諸如全光ASK到PSK轉(zhuǎn)換等任務(wù)。
4.穩(wěn)健光子結(jié)構(gòu)：基于PTA的激活函數(shù)的功率獨立性可以為硅基光電子結(jié)構(gòu)中的高光學(xué)損耗提供穩(wěn)健性。
% C9 i' S2 {4 S3 H( A( t
結(jié)論
本文介紹了創(chuàng)新方法，利用無源光學(xué)諧振器中的相位到振幅轉(zhuǎn)換來實現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。通過利用微環(huán)諧振器的非線性響應(yīng)，我們可以創(chuàng)建對人工神經(jīng)網(wǎng)絡(luò)非常重要的各種激活函數(shù)。
. j- ?2 D% M% T' d3 G
與傳統(tǒng)的幅度調(diào)制方案相比，該系統(tǒng)在時延儲備計算方面表現(xiàn)出更優(yōu)越的性能。其功率獨立性、可重構(gòu)性和與硅基光電子技術(shù)的兼容性使其成為未來神經(jīng)形態(tài)計算系統(tǒng)的有力候選者。

# b! p2 ~0 b6 w2 L4 Y. D隨著該領(lǐng)域研究的進展，有望看到全光學(xué)神經(jīng)網(wǎng)絡(luò)的進一步發(fā)展，可能會產(chǎn)生更高效、更強大的人工智能系統(tǒng)，克服傳統(tǒng)電子實現(xiàn)的局限性。
2 M8 b8 T% r2 @# X- ]: p4 r* M& @* d
參考文獻
. k; @5 W, n+ c1 F! m[1] G. Sarantoglou, A. Bogris and C. Mesaritakis, "All-Optical, Reconfigurable, and Power Independent Neural Activation Function by Means of Phase Modulation," IEEE Journal of Quantum Electronics, vol. 60, no. 5, pp. 1-10, Oct. 2024, Art no. 8700206, doi: 10.1109/JQE.2024.3437353.
! M' i( @9 z' s' o
1 r3 c2 K8 y, o" D" T5 Z
+ N- ~% y# {  n. M, h* q
- END -

) c$ S8 \2 o, g# h7 V& ?軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
5 |6 P; _0 O! T9 T點擊左下角"閱讀原文"馬上申請
7 y3 K8 w4 ]% o; \1 H0 m4 |
歡迎轉(zhuǎn)載
. K5 u8 w: ^7 F/ H% V+ u5 k
轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！
若需原文鏈接，可留言或私信溝通~

) L' U3 r. C6 A  ~" f& e
: Z4 }  p4 v9 D* p& d/ @& ]
# V" C6 x' E( @/ H  ~
1 E' `! W; t# C
' |$ i! @) ?% T2 w
關(guān)注我們

: H& ^- m/ h) r3 K0 r5 c' [

' c+ a- [- o6 s; T7 j7 T0 e* U6 d

: j) m  P  Z, d! @

                     

3 O' [5 C) v& d/ ?
+ m4 G1 _) _% e) ~% y
8 @5 n- _4 P/ N) n- _

: q. ?. H7 R$ p) V. V5 J
關(guān)于我們：
$ O0 ~6 M0 T  F) a) h深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件，提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。

# g5 {# G( W0 M3 _" [% ?6 Ehttp://www.latitudeda.com/
（點擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）