電子產(chǎn)業(yè)一站式賦能平臺

PCB聯(lián)盟網(wǎng)

搜索
查看: 31|回復(fù): 0
收起左側(cè)

IEEE J. Quantum Electron更新 | 基于相位到振幅轉(zhuǎn)換的全光學(xué)神經(jīng)激活函數(shù)

[復(fù)制鏈接]

442

主題

442

帖子

3245

積分

四級會員

Rank: 4

積分
3245
跳轉(zhuǎn)到指定樓層
樓主
發(fā)表于 2024-9-14 08:00:00 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
引言
; k2 ~( R) P( v  s# r! c; j人工神經(jīng)網(wǎng)絡(luò)(ANNs)在人工智能領(lǐng)域引發(fā)了革命,在圖像識別、音頻處理和自然語言處理等多種任務(wù)中展現(xiàn)出卓越的性能。然而,現(xiàn)代ANNs日益增長的計算需求促使研究人員探索受人腦啟發(fā)的非常規(guī)硬件平臺。硅基光電子技術(shù)作為神經(jīng)形態(tài)計算的有前途的候選者脫穎而出,具有波長輔助并行性、固有線性處理能力和低功耗等優(yōu)勢。% ]6 q1 q1 I9 L. P; f$ @  L
0 T& z4 C, j. c; r
ANNs的關(guān)鍵方面是激活函數(shù),為網(wǎng)絡(luò)引入非線性,使復(fù)雜的模式識別成為可能。在本文中探討創(chuàng)新方法,利用無源光學(xué)諧振器中的相位到振幅(PTA)轉(zhuǎn)換來實現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。( \* B2 q) y# b) F8 ~
6 Y9 {" o: `: T6 ?/ T6 `

" p) Q( t: M0 m) D6 T3 ^2 Y+ l( |# _
2 i* |* t4 v0 N5 M/ p相位到振幅轉(zhuǎn)換0 O! [" [  ?! c% N4 |
這種方法的核心概念是在無源光學(xué)濾波器(如微環(huán)諧振器,MRRs)中發(fā)生的非線性相位到振幅轉(zhuǎn)換。在這種方案中,信息被編碼在光載波包絡(luò)的相位中:. @( G5 b6 M' [/ R, L: }

8 O$ B) R0 b0 r# p) a ; ?; A9 p, H/ c( u4 j- }% s
其中P是輸入功率,m是調(diào)制指數(shù),n(t)是范圍從-1到1的歸一化信號。
% }5 u5 ]% h/ Q
/ e) g+ A, M$ F! T 8 |# \& [; r0 h( i  t  |0 c& W- g
圖1展示了相位梯度對基于微環(huán)諧振器漏端口的IIR光學(xué)濾波器透射率的影響。
, ^+ e' E& y6 |, W4 S1 V" D$ {; w9 Y. p4 f1 E/ E+ G  N: k5 _
光信號的頻率由相位編碼信息調(diào)制:0 B- @" X7 h- |" \2 r  }0 C* L  E
5 Q( E) p/ v3 m: ^1 v
隨著光信號頻率因相位調(diào)制而變化,光學(xué)濾波器的透射率也隨之改變。這個過程產(chǎn)生了非線性PTA響應(yīng),該響應(yīng)與輸入功率無關(guān),使其非常適合低功耗應(yīng)用。: L+ ^8 p! ^6 W

- K5 H; `- o6 y: L! M2 E" G作為可重構(gòu)光子神經(jīng)元的微環(huán)諧振器
: X/ n- }% ^/ J為了演示PTA轉(zhuǎn)換機制,我們將使用微環(huán)諧振器(MRR)作為光學(xué)濾波器。MRR漏端口的傳遞函數(shù)為:! i* n: Y3 |/ r
; z3 c9 _; O4 j% t! ?8 [
' X* I! I, ]4 y( {! U

4 e* _) I3 @& e" E  c其中s = √k,c = √(1-k),k是耦合系數(shù),ζ = γ exp(-j(2π(f + df)Tring))。# }8 d/ f! _4 h& Q& g

: f/ X- P5 _0 \; \. i" K
/ I: _9 |! n8 x, a3 _5 M圖2& C+ [% g3 H& m4 R1 n. s

: h* y/ s& y& |% |% o圖2顯示了通過PTA轉(zhuǎn)換從單個MRR節(jié)點的漏端口獲得的不同激活函數(shù):
1 ~& Y# }  f9 F/ {# X+ |" P. s2 ?: c(a) Soft-plus函數(shù)
' T! |' Q2 `. m! v. X(b) Sigmoid函數(shù)0 \- M/ \0 {! s7 [0 b& S* l1 Q9 R
(c) 高斯函數(shù)
: d' X5 l5 O- x" f8 B6 f9 [) ~( F8 a" R' R
通過調(diào)整兩個關(guān)鍵超參數(shù) - 調(diào)制指數(shù)m和頻率失諧df - 可以控制激活函數(shù)的形狀。這使我們能夠重現(xiàn)多種獨立于輸入功率且對相位不確定性具有容忍度的激活函數(shù)。
! g# k2 {6 `, t7 }; a1 ?& J$ g. J" v5 s: d# c
時延儲備計算- h. x2 M5 Q. ~* D
為了展示PTA轉(zhuǎn)換機制的實際應(yīng)用,將實現(xiàn)一個時延儲備計算(TDRC)方案,用于Santa Fe混沌時間序列的一步預(yù)測。
# w: I9 B9 z% @. V
+ y2 x$ W/ B+ H1 L4 z! }5 P# i
* M) m; _$ s; A- a0 U+ E圖3展示了用于Santa Fe混沌序列一步預(yù)測的TDRC設(shè)置。5 K+ y) N" l3 I1 z$ w1 y

" _  U. b% d( f' O) z# `TDRC設(shè)置包括以下組件:
+ i  x5 ]5 T5 y1.輸入處理:時間序列被歸一化并與掩碼矩陣相乘以進行維度擴展。+ l( T" ]0 |) I' v; N+ ~6 ?
2.數(shù)模轉(zhuǎn)換:處理后的輸入轉(zhuǎn)換為模擬信號用于光學(xué)調(diào)制。) ?: G1 h8 I# R( l0 E
3.光學(xué)調(diào)制:信號使用幅度調(diào)制(AM)或相位調(diào)制(PM)調(diào)制光載波。
/ }/ e  Z* _/ M# m. [$ @4.光子儲備:帶有外部反饋環(huán)的MRR為儲備提供物理存儲。
% N& V* `1 P1 n5 p% E) {+ [* i5.光電檢測和模數(shù)轉(zhuǎn)換:光子儲備的輸出被檢測并數(shù)字化。
$ v1 P2 A+ \' x' j8 W1 ^! K8 D6.線性回歸:處理后的數(shù)據(jù)用于進行一步預(yù)測。
* X: ^! z. K& U9 m
6 V' S/ F2 V$ k% U1 L性能評估, E5 b( U& w/ A  R5 O
使用幅度調(diào)制(AM)和相位調(diào)制(PM)方案評估TDRC系統(tǒng)的性能。使用的性能指標是歸一化均方誤差(NMSE)。1 d+ w+ T' J  c" \
# E: O( G% I* O' C& r3 c
圖4顯示了(a) AM的反饋強度和頻率失諧,以及(b) PM的調(diào)制指數(shù)和頻率失諧的NMSE函數(shù)。$ n5 Y2 q& o, l5 _+ |& R- W

2 ^; d6 {+ s3 C% ]" q3 u對于AM方案,在-4 GHz的負失諧和反饋強度η = 1時觀察到最佳性能,NMSE為0.12 ± 0.019。
7 W; E' t8 F5 }
* j! P; m) z' Q& ?# \$ H0 o/ ~利用PTA轉(zhuǎn)換的PM方案展現(xiàn)出更優(yōu)越的性能。在4 GHz的失諧和1.1的調(diào)制指數(shù)下,達到了0.024 ± 0.004的最佳NMSE。
0 [/ a% u$ h/ }$ j# ~8 l9 x- D  w0 M# o2 G5 f/ r' d
, D( D/ _. B3 j# @$ I
圖5顯示了AM(SR = 10 Gsa/s)和PM(SR = 10, 100 Gsa/s)的NMSE作為輸入功率的函數(shù)。2 n: Y  U* f+ P$ D
& q* {; c* v8 H/ C# r7 q/ Q9 y
PM方案在廣泛的輸入功率范圍內(nèi)優(yōu)于AM方案,展現(xiàn)出更高的性能和更好的功率效率。即使在低輸入功率(-10 dBm)下,PM方案也達到了0.041的NMSE,展示了PTA機制的功率獨立性。1 y: C: T/ G5 [# |) [' s1 ^
" {" W' J( }2 r" W8 M8 p- Q
優(yōu)勢和應(yīng)用" q4 M" B. s- D# u2 G0 d- B
提出的基于PTA的激活函數(shù)具有幾個優(yōu)勢:
" i% R! }$ V, z5 ]( N1.功率獨立性:即使在低輸入功率下也能保持非線性效應(yīng),適合低功率應(yīng)用。
4 d- q6 ?, A8 Q2 t2.可重構(gòu)性:通過調(diào)整調(diào)制指數(shù)和頻率失諧,可以使用單個MRR實現(xiàn)各種激活函數(shù)。
" D9 a6 S- {# X: @3.高速操作:系統(tǒng)可以以高達2 Gsa/s的速率進行處理(對于100 Gsa/s的采樣率),適合高速應(yīng)用。$ ~, h1 I: G0 e# a$ Z- B; P
4.集成:MRR的無源性質(zhì)使其與硅基光電子集成兼容,這對大規(guī)模神經(jīng)形態(tài)系統(tǒng)至為重要。; h1 F+ X- `6 \8 H9 y& e- w

, ^5 U8 J& t. f+ A8 S這項技術(shù)的潛在應(yīng)用包括:
: Z2 |. e* v& E0 [0 |  Y1.光學(xué)神經(jīng)網(wǎng)絡(luò):基于PTA的激活函數(shù)可用于卷積神經(jīng)網(wǎng)絡(luò)和前饋網(wǎng)絡(luò),提供額外的可訓(xùn)練元素。
8 h, y/ E! x# ?4 k  A' R/ s- V, U2.復(fù)值神經(jīng)網(wǎng)絡(luò):PTA機制可用于實現(xiàn)復(fù)值A(chǔ)NNs的復(fù)雜激活函數(shù)。
8 G- m$ O( a6 |1 I* A' M3.全光信號處理:PTA非線性可用于諸如全光ASK到PSK轉(zhuǎn)換等任務(wù)。8 ]; ]8 T/ y* J( d0 g
4.穩(wěn)健光子結(jié)構(gòu):基于PTA的激活函數(shù)的功率獨立性可以為硅基光電子結(jié)構(gòu)中的高光學(xué)損耗提供穩(wěn)健性。
' ~4 p" W7 b" ?: Z5 U$ t& q; M- ?3 C# U9 ]1 v* O
結(jié)論4 o6 R+ M5 p  y# h) i7 G
本文介紹了創(chuàng)新方法,利用無源光學(xué)諧振器中的相位到振幅轉(zhuǎn)換來實現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。通過利用微環(huán)諧振器的非線性響應(yīng),我們可以創(chuàng)建對人工神經(jīng)網(wǎng)絡(luò)非常重要的各種激活函數(shù)。* G' P. k' M6 ?$ v

3 H2 H$ \& f5 `# u與傳統(tǒng)的幅度調(diào)制方案相比,該系統(tǒng)在時延儲備計算方面表現(xiàn)出更優(yōu)越的性能。其功率獨立性、可重構(gòu)性和與硅基光電子技術(shù)的兼容性使其成為未來神經(jīng)形態(tài)計算系統(tǒng)的有力候選者。
3 J4 Y2 t; f7 o% V
, M" L2 G: S0 y. Z3 z隨著該領(lǐng)域研究的進展,有望看到全光學(xué)神經(jīng)網(wǎng)絡(luò)的進一步發(fā)展,可能會產(chǎn)生更高效、更強大的人工智能系統(tǒng),克服傳統(tǒng)電子實現(xiàn)的局限性。
. d+ s& D- |7 Q5 r* o: R% }( x+ M6 C2 k8 T$ J3 S# W% k( S5 ]# v
參考文獻# v( [9 b# |4 D
[1] G. Sarantoglou, A. Bogris and C. Mesaritakis, "All-Optical, Reconfigurable, and Power Independent Neural Activation Function by Means of Phase Modulation," IEEE Journal of Quantum Electronics, vol. 60, no. 5, pp. 1-10, Oct. 2024, Art no. 8700206, doi: 10.1109/JQE.2024.3437353.
1 w. a1 l" L) R/ O& E) X# b
7 v5 s# E- H6 t$ B# B4 Z
+ V& N; Y% S: r3 i- |% H3 C/ N  R6 {- F, I  K* ]
- END -8 v6 [, Z. N9 X( b, I" k/ a
! _& f) D& B4 W" g6 X
軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。6 b5 [. ]' F0 f: R6 k* N
點擊左下角"閱讀原文"馬上申請5 ^( N, x/ O0 j4 B8 x7 q

, t; J( P- {8 N  Z. d歡迎轉(zhuǎn)載
& E  v4 K9 @& s- e; Q7 H8 W; D% r: c9 K( U7 Z& m7 v0 ?4 j$ u
轉(zhuǎn)載請注明出處,請勿修改內(nèi)容和刪除作者信息!
' V# w: a3 G* Z# W若需原文鏈接,可留言或私信溝通~* @' f' {( K) P% u, \

& \- x' q4 n$ d: Q. T
& B$ @+ g8 y9 _( c+ X$ G3 Z4 i! H/ H! l
  ^3 \6 b$ y5 K. R! U" P
: w5 l7 P* e- g* w6 @/ m! O8 i) H

, n; J8 y* d3 r. Q- K. ]: |& n關(guān)注我們/ x. G8 x) q! n. a3 S" l
. F; Z; ?5 t" q% \5 ?5 K& i

. ^. H8 ?/ m* Z! h) F3 j, c + T7 ]' Q+ u1 Z% I
4 {0 [. p9 Z, M) y' r

3 Y* a! ?2 d! {% `

" b$ D: c& e+ F* y. Q. G) |: d4 o
7 ~& ]* G  s* J
                     
7 a5 Q) ]9 k8 o, \
  B9 g0 [& }, H8 f
2 }8 _# O- [8 U9 a$ r  y

( ]- y6 u  z9 n. ?( h7 p

3 h" S" n/ n) s) P- d0 g* X& J7 A  I5 h$ a% z3 G( i
7 T' F( q/ H9 g  Y# _, G1 s
關(guān)于我們:
0 v" O6 P& n, |# }8 _深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計自動化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件,提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。* c& j2 k  _- Q3 _/ N

! \( N0 _7 ?. B0 x4 Thttp://www.latitudeda.com/
  ^. Z% y2 ?6 `& K& t. {) ~7 ^( j7 l* ^(點擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容)
回復(fù)

使用道具 舉報

發(fā)表回復(fù)

您需要登錄后才可以回帖 登錄 | 立即注冊

本版積分規(guī)則

關(guān)閉

站長推薦上一條 /1 下一條


聯(lián)系客服 關(guān)注微信 下載APP 返回頂部 返回列表