|
引言( B' p5 }/ `( P$ ]5 v/ H6 v+ l* z
人工神經(jīng)網(wǎng)絡(luò)(ANNs)在人工智能領(lǐng)域引發(fā)了革命,在圖像識(shí)別、音頻處理和自然語言處理等多種任務(wù)中展現(xiàn)出卓越的性能。然而,現(xiàn)代ANNs日益增長的計(jì)算需求促使研究人員探索受人腦啟發(fā)的非常規(guī)硬件平臺(tái)。硅基光電子技術(shù)作為神經(jīng)形態(tài)計(jì)算的有前途的候選者脫穎而出,具有波長輔助并行性、固有線性處理能力和低功耗等優(yōu)勢。
1 |+ k4 i& p2 ?. E
8 i+ v; b. n4 G. J* SANNs的關(guān)鍵方面是激活函數(shù),為網(wǎng)絡(luò)引入非線性,使復(fù)雜的模式識(shí)別成為可能。在本文中探討創(chuàng)新方法,利用無源光學(xué)諧振器中的相位到振幅(PTA)轉(zhuǎn)換來實(shí)現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。$ A$ K7 e- B! G# K7 d
7 W) E' |( n9 x& X
4aou1v3sgus64034883833.png (114.2 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
4aou1v3sgus64034883833.png
2024-9-22 01:17 上傳
* S" t0 z3 g( x/ Y
( R/ _- ^& ~" g3 Y' T
相位到振幅轉(zhuǎn)換
6 T1 ^# i7 a8 T0 \這種方法的核心概念是在無源光學(xué)濾波器(如微環(huán)諧振器,MRRs)中發(fā)生的非線性相位到振幅轉(zhuǎn)換。在這種方案中,信息被編碼在光載波包絡(luò)的相位中:2 u; ]6 [+ y' x
4 V& a* E* g5 a! g: ^& g1 J
2luwwwvgydq64034883933.png (13.23 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
2luwwwvgydq64034883933.png
2024-9-22 01:17 上傳
5 Q/ }% X' f/ M: H3 ], d
其中P是輸入功率,m是調(diào)制指數(shù),n(t)是范圍從-1到1的歸一化信號(hào)。+ }7 S( l* |8 a$ x
! K# h% Y- O P" X
enuplov3tqw64034884033.png (181.18 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
enuplov3tqw64034884033.png
2024-9-22 01:17 上傳
8 {* o' [$ u$ y+ d9 P5 n) I. l# d圖1展示了相位梯度對(duì)基于微環(huán)諧振器漏端口的IIR光學(xué)濾波器透射率的影響。
, U+ ^3 ~& x( d4 U% k: R/ R/ Y2 b* U H
光信號(hào)的頻率由相位編碼信息調(diào)制:) ]. ?7 O( I/ \, K: w4 g
2fowg3ciopo64034884134.png (22.21 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
2fowg3ciopo64034884134.png
2024-9-22 01:17 上傳
' ~# v0 a& n9 g0 c# O
隨著光信號(hào)頻率因相位調(diào)制而變化,光學(xué)濾波器的透射率也隨之改變。這個(gè)過程產(chǎn)生了非線性PTA響應(yīng),該響應(yīng)與輸入功率無關(guān),使其非常適合低功耗應(yīng)用。
* G+ v1 _/ o* ?# p' h7 M! q) |& \8 C/ X
作為可重構(gòu)光子神經(jīng)元的微環(huán)諧振器
1 L5 Q8 D6 }6 @& f. J為了演示PTA轉(zhuǎn)換機(jī)制,我們將使用微環(huán)諧振器(MRR)作為光學(xué)濾波器。MRR漏端口的傳遞函數(shù)為:
0 U4 _! M$ V! c2 o5 \* Q) M
0 I( B: z' k- [4 a) s0 Z7 J- L( S* _$ J; Y. F
phm3ys4w0sp64034884234.png (12.02 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
phm3ys4w0sp64034884234.png
2024-9-22 01:17 上傳
: ^; a7 K. p( T其中s = √k,c = √(1-k),k是耦合系數(shù),ζ = γ exp(-j(2π(f + df)Tring))。
8 `7 ~ x" n5 ~% s3 ^0 w' Q
# K' x2 Z; H. Y, x3 j
uxs0apmeus364034884334.png (269.32 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
uxs0apmeus364034884334.png
2024-9-22 01:17 上傳
: g8 s- O2 u* S q3 |
圖2
+ ]2 Q1 \ s D- k$ p
* B! t- \) P$ O9 h9 O" q/ J. Z; _. h圖2顯示了通過PTA轉(zhuǎn)換從單個(gè)MRR節(jié)點(diǎn)的漏端口獲得的不同激活函數(shù):
& X4 \# y6 ~4 _7 ?* W(a) Soft-plus函數(shù)" N& A/ Y' R0 s% N' R. G
(b) Sigmoid函數(shù)0 z- m% R! G) @6 Z
(c) 高斯函數(shù)
: Q+ M J& C! v
/ G3 ~# @! ?4 _& k8 J通過調(diào)整兩個(gè)關(guān)鍵超參數(shù) - 調(diào)制指數(shù)m和頻率失諧df - 可以控制激活函數(shù)的形狀。這使我們能夠重現(xiàn)多種獨(dú)立于輸入功率且對(duì)相位不確定性具有容忍度的激活函數(shù)。
6 z8 O; v2 M8 x F2 P% a
0 P; T9 o* [% A3 G! S" a& c$ z7 b3 d時(shí)延儲(chǔ)備計(jì)算7 l0 h! r/ c, x+ y3 A! ^/ z
為了展示PTA轉(zhuǎn)換機(jī)制的實(shí)際應(yīng)用,將實(shí)現(xiàn)一個(gè)時(shí)延儲(chǔ)備計(jì)算(TDRC)方案,用于Santa Fe混沌時(shí)間序列的一步預(yù)測。
5 c$ r$ f5 a9 D% N8 y6 K
' i: d8 {" \6 J6 X4 l
gmnkpptc0cy64034884434.png (179.14 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
gmnkpptc0cy64034884434.png
2024-9-22 01:17 上傳
, U3 r8 n8 D3 a6 S4 G- D- R, ]2 s$ c5 @圖3展示了用于Santa Fe混沌序列一步預(yù)測的TDRC設(shè)置。9 w$ d0 R; U: w' b3 k N9 {$ o
" `3 {: ?/ T3 `: ZTDRC設(shè)置包括以下組件:' j X/ s3 B0 U, p A4 ~
1.輸入處理:時(shí)間序列被歸一化并與掩碼矩陣相乘以進(jìn)行維度擴(kuò)展。- ?" D. h8 m% U1 k, Q0 q* c
2.數(shù)模轉(zhuǎn)換:處理后的輸入轉(zhuǎn)換為模擬信號(hào)用于光學(xué)調(diào)制。
: U _" j# k2 A" x5 Y" w3 G) I3.光學(xué)調(diào)制:信號(hào)使用幅度調(diào)制(AM)或相位調(diào)制(PM)調(diào)制光載波。7 l% |- y, ]6 r+ d
4.光子儲(chǔ)備:帶有外部反饋環(huán)的MRR為儲(chǔ)備提供物理存儲(chǔ)。5 }. U' t* C9 r. _# Y/ a
5.光電檢測和模數(shù)轉(zhuǎn)換:光子儲(chǔ)備的輸出被檢測并數(shù)字化。
3 `/ Y7 {2 a; r) ~$ Q: `6 N6.線性回歸:處理后的數(shù)據(jù)用于進(jìn)行一步預(yù)測。7 H# T ], D$ k) _, K
4 k( d0 ]& _( m/ k% E) v7 M+ c
性能評(píng)估9 G) E n. o: Q- g* i2 f+ U
使用幅度調(diào)制(AM)和相位調(diào)制(PM)方案評(píng)估TDRC系統(tǒng)的性能。使用的性能指標(biāo)是歸一化均方誤差(NMSE)。
8 Y6 n% V' [/ ~, ^
gdcpyplsw3k64034884534.png (336.83 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
gdcpyplsw3k64034884534.png
2024-9-22 01:17 上傳
3 P! ]7 J4 j0 }0 C0 T
圖4顯示了(a) AM的反饋強(qiáng)度和頻率失諧,以及(b) PM的調(diào)制指數(shù)和頻率失諧的NMSE函數(shù)。
) B# h2 k: c; M' H, L: U" \
& v U# ~4 l9 n, Z% T) U& y對(duì)于AM方案,在-4 GHz的負(fù)失諧和反饋強(qiáng)度η = 1時(shí)觀察到最佳性能,NMSE為0.12 ± 0.019。
3 z3 O8 {4 `# d- m# x& `
6 r# v7 i# g& c8 I5 C1 @8 |利用PTA轉(zhuǎn)換的PM方案展現(xiàn)出更優(yōu)越的性能。在4 GHz的失諧和1.1的調(diào)制指數(shù)下,達(dá)到了0.024 ± 0.004的最佳NMSE。, _! ^" n& s8 [! T0 e* D
6 L( P1 c! o7 w) d
ej4easlo4sb64034884634.png (307.92 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
ej4easlo4sb64034884634.png
2024-9-22 01:17 上傳
5 W+ F; e R: ^% |2 U0 s; w
圖5顯示了AM(SR = 10 Gsa/s)和PM(SR = 10, 100 Gsa/s)的NMSE作為輸入功率的函數(shù)。
% M! e/ L9 F/ w; T% v/ D) m d' w4 O" i f: z) T
PM方案在廣泛的輸入功率范圍內(nèi)優(yōu)于AM方案,展現(xiàn)出更高的性能和更好的功率效率。即使在低輸入功率(-10 dBm)下,PM方案也達(dá)到了0.041的NMSE,展示了PTA機(jī)制的功率獨(dú)立性。, ~; D% T* b- b6 b# w# ?1 t
4 @! R; v* S7 C0 F. X4 H: J4 d優(yōu)勢和應(yīng)用
% f' m( T/ H' `+ f提出的基于PTA的激活函數(shù)具有幾個(gè)優(yōu)勢:! f: k2 F2 _. E \( I
1.功率獨(dú)立性:即使在低輸入功率下也能保持非線性效應(yīng),適合低功率應(yīng)用。
, s1 H! e( y) w" \2.可重構(gòu)性:通過調(diào)整調(diào)制指數(shù)和頻率失諧,可以使用單個(gè)MRR實(shí)現(xiàn)各種激活函數(shù)。
- O) G6 }7 J% [0 v3.高速操作:系統(tǒng)可以以高達(dá)2 Gsa/s的速率進(jìn)行處理(對(duì)于100 Gsa/s的采樣率),適合高速應(yīng)用。
/ U2 L; `% W- d4 O; S' r4.集成:MRR的無源性質(zhì)使其與硅基光電子集成兼容,這對(duì)大規(guī)模神經(jīng)形態(tài)系統(tǒng)至為重要。3 C' a5 V% O$ B. m0 M' L$ p# x' y
8 D- c3 w- w/ C# C5 d# ~5 M8 u這項(xiàng)技術(shù)的潛在應(yīng)用包括: f4 h( l& `% \, \2 O* z+ R
1.光學(xué)神經(jīng)網(wǎng)絡(luò):基于PTA的激活函數(shù)可用于卷積神經(jīng)網(wǎng)絡(luò)和前饋網(wǎng)絡(luò),提供額外的可訓(xùn)練元素。
( P# N/ I- r% d* J: q2.復(fù)值神經(jīng)網(wǎng)絡(luò):PTA機(jī)制可用于實(shí)現(xiàn)復(fù)值A(chǔ)NNs的復(fù)雜激活函數(shù)。
/ W4 j4 ~9 k( ~2 s3.全光信號(hào)處理:PTA非線性可用于諸如全光ASK到PSK轉(zhuǎn)換等任務(wù)。
9 d0 V) C f$ D! w, O# q P. ?4.穩(wěn)健光子結(jié)構(gòu):基于PTA的激活函數(shù)的功率獨(dú)立性可以為硅基光電子結(jié)構(gòu)中的高光學(xué)損耗提供穩(wěn)健性。' r, D, l0 J7 \5 ?
7 |7 e( }" g5 B結(jié)論8 ~' q' \2 V ]1 y
本文介紹了創(chuàng)新方法,利用無源光學(xué)諧振器中的相位到振幅轉(zhuǎn)換來實(shí)現(xiàn)全光學(xué)、可重構(gòu)和功率無關(guān)的神經(jīng)激活函數(shù)。通過利用微環(huán)諧振器的非線性響應(yīng),我們可以創(chuàng)建對(duì)人工神經(jīng)網(wǎng)絡(luò)非常重要的各種激活函數(shù)。
5 C- [/ V* t' p7 p* e) F8 j7 U1 m4 Z' {3 W, a
與傳統(tǒng)的幅度調(diào)制方案相比,該系統(tǒng)在時(shí)延儲(chǔ)備計(jì)算方面表現(xiàn)出更優(yōu)越的性能。其功率獨(dú)立性、可重構(gòu)性和與硅基光電子技術(shù)的兼容性使其成為未來神經(jīng)形態(tài)計(jì)算系統(tǒng)的有力候選者。& n1 T9 Y$ c, ]) _# s
2 x4 H( K# J# M3 G- c! v隨著該領(lǐng)域研究的進(jìn)展,有望看到全光學(xué)神經(jīng)網(wǎng)絡(luò)的進(jìn)一步發(fā)展,可能會(huì)產(chǎn)生更高效、更強(qiáng)大的人工智能系統(tǒng),克服傳統(tǒng)電子實(shí)現(xiàn)的局限性。
6 A( D8 X2 _: I$ [5 d' H6 Q3 @( D- c+ C9 P$ e( I
參考文獻(xiàn)
" s2 I' i& }/ d. `$ N/ t9 Z[1] G. Sarantoglou, A. Bogris and C. Mesaritakis, "All-Optical, Reconfigurable, and Power Independent Neural Activation Function by Means of Phase Modulation," IEEE Journal of Quantum Electronics, vol. 60, no. 5, pp. 1-10, Oct. 2024, Art no. 8700206, doi: 10.1109/JQE.2024.3437353.% m' B6 R k3 K
( o& ^ f7 W; C, p: X/ Z4 p
- Q7 z7 `# p. B
8 G, d, y6 t& E9 l4 U2 J* p0 ^) O- END -: h1 D7 S' W1 R
8 u7 B& C, M* V/ ~" J
軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。, F4 r9 H, f- v# h: s
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
6 x4 t F! F% f! ]! p9 m0 t+ w4 }
歡迎轉(zhuǎn)載* W' {+ i k9 p) i) |! [( l
* M, |3 ~2 t+ [: z' F轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!
# E- n. j1 Z& i' C若需原文鏈接,可留言或私信溝通~& `9 [6 l7 x( L/ w
% P: z5 ?* J% d/ ^: v5 x
2 ], I# b* x+ n m% T0 U, w! r
$ Z1 g1 c* l2 D# a' V" h0 q: z
% p P% q* u$ _: N2 p$ B
qxy4lijm13h64034884734.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
qxy4lijm13h64034884734.gif
2024-9-22 01:17 上傳
. E6 u( X0 G5 u7 K
3 G2 R! B$ H/ L3 `關(guān)注我們
% O) y# E3 P, W* u6 h8 `# J6 _, U. x% K
2 J: d( K% b9 }6 o
llacaxgaqfv64034884834.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
llacaxgaqfv64034884834.png
2024-9-22 01:17 上傳
5 s* w( x g4 |# u
|
* Y* J/ A, | z/ @ D6 z7 U
oq14ivtveml64034884934.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
oq14ivtveml64034884934.png
2024-9-22 01:17 上傳
, A% f# b) E* h4 m; D
| - |! O3 ?4 V H" o v
j2xxwkmo3vp64034885034.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
j2xxwkmo3vp64034885034.png
2024-9-22 01:17 上傳
2 T2 h2 _6 ]7 t' ?- X, y$ W. {7 { | ; V, A) m6 b5 K# y9 B' \
! j/ s% b4 L- c$ d5 z, s8 b2 C
) O3 s& f/ O1 M
2 S- u6 E" B1 e8 C% i$ a
) [# U9 b0 b( i% K
1 ?5 V% J6 s& m! u8 {4 I2 [. Y* _- N! A: R; T3 t
關(guān)于我們:
/ m8 u7 ?, o& w" d& s深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。! d" i: W5 _1 O3 G2 P$ L: Y1 R
* r' l3 b: \, g& E. x# \+ _http://www.latitudeda.com/( m; Z( Y$ G5 L1 m6 V
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|