|
引言
+ B9 f. q6 S3 U隨著半導(dǎo)體技術(shù)的不斷發(fā)展,大語(yǔ)言模型(LLM)和人工智能代理在芯片設(shè)計(jì)領(lǐng)域發(fā)揮著越來(lái)越重要的作用。本文旨在探討LLM代理在芯片設(shè)計(jì)中的應(yīng)用,重點(diǎn)介紹其優(yōu)勢(shì)、關(guān)鍵概念和實(shí)際實(shí)現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成,這些都使得LLM代理成為復(fù)雜芯片設(shè)計(jì)世界中的強(qiáng)大助手[1]。
Y& } D+ s7 @: z2 A( o& U
3 C7 ?$ J; V& N+ r1 u/ I代理優(yōu)勢(shì)* U, \5 O3 P4 ^% a. G
LLM代理在芯片設(shè)計(jì)任務(wù)中展現(xiàn)出顯著的改進(jìn)。1 t3 [# y% e' O
/ z/ I0 Y5 q- O1 V
nw0bzwwwx0o64034867336.png (107.43 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
nw0bzwwwx0o64034867336.png
2024-9-24 01:02 上傳
) v O) M0 t! b. M' q圖1展示了使用LLama3和GPT4turbo在VerilogEval(人工)基準(zhǔn)測(cè)試中,非代理方法和代理方法的通過(guò)率比較。+ s6 W: E) b h% l( v
~6 i' T& r8 ^, k
如圖1所示,代理方法始終優(yōu)于非代理方法。例如,使用GPT4turbo時(shí),代理方法(VerilogCoder)實(shí)現(xiàn)了94.2%的驚人通過(guò)率,而非代理方法僅為60.3%。這一顯著改進(jìn)突顯了LLM代理在解決復(fù)雜芯片設(shè)計(jì)挑戰(zhàn)方面的潛力。
3 S, r1 Y( _0 H# h5 \/ `0 B) V! Q" E6 M2 _
6 z# z1 n; Z0 s9 ]! c3 ]" a代理概念
: T0 {: w) L1 V要理解LLM代理的強(qiáng)大功能,了解非代理方法和代理方法之間的基本差異非常重要。& o, R5 H* _4 o# ]/ d
) Q1 [8 b5 F; l1 x4 `
z4ttbfpnbxd64034867436.png (103.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
z4ttbfpnbxd64034867436.png
2024-9-24 01:02 上傳
1 m2 V: C2 o6 h) o# K" X4 c
圖2比較了非代理和代理概念,展示了代理系統(tǒng)增強(qiáng)的復(fù)雜性和功能。
# p) x' Q' M, _0 z6 }! S
% C1 q: w! J6 i8 g. U% i3 A# Q非代理系統(tǒng)通常涉及用戶(hù)和LLM之間的簡(jiǎn)單問(wèn)答交互。相比之下,代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存,甚至多代理協(xié)作。這種增強(qiáng)的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計(jì)問(wèn)題和任務(wù)。
& K4 S- Z3 _, x, P- o, \
3 b; L1 w: }. c+ y/ A規(guī)劃策略& c9 K% o6 o5 p* B9 Y c
有效的規(guī)劃對(duì)LLM代理將復(fù)雜的芯片設(shè)計(jì)任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略: j, y% d& D; j) ]
7 K8 [' y8 x: `" {
1. 無(wú)反饋規(guī)劃:! g M- B: E9 O$ O4 q
a) 思維鏈(CoT):這種方法涉及一次性任務(wù)分解的逐步規(guī)劃。可以通過(guò)顯式指令、隱式指令或示例來(lái)實(shí)現(xiàn)。+ ~8 p' ~% Z: D* _5 a f" s' W
/ m' W" A& B0 m7 `
b) 思維樹(shù)(ToT):這種方法一次規(guī)劃一個(gè)步驟,在每個(gè)步驟中從多個(gè)選項(xiàng)中選擇最佳選項(xiàng)。可以使用廣度優(yōu)先搜索(BFS)、深度優(yōu)先搜索(DFS)或基于圖的方法進(jìn)行擴(kuò)展。 K% l% U- g* {6 N
4 U. T- ^) {' y. X
dc5jr3hs3rj64034867536.png (213.38 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
dc5jr3hs3rj64034867536.png
2024-9-24 01:02 上傳
4 @7 }: Y$ q$ K3 h" H
圖3說(shuō)明了思維樹(shù)規(guī)劃策略,展示了如何在每個(gè)步驟評(píng)估多個(gè)選擇。
5 K& o8 S9 L2 h i+ o8 {* y9 z' o6 ~& n8 {
2. 有反饋規(guī)劃:
2 w3 Y" C6 l) l) m( va) ReACT:這種方法通過(guò)思考、行動(dòng)和觀察的循環(huán),將規(guī)劃與環(huán)境反饋相結(jié)合。, e& L, d ~ b4 o$ g% Z
d3vcq23utf064034867636.png (198.56 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
d3vcq23utf064034867636.png
2024-9-24 01:02 上傳
% ?/ z5 g0 P" h# t s
圖4描述了ReACT規(guī)劃策略,展示了思考、行動(dòng)和觀察之間的交互。$ q- g% d( B2 y- o4 H/ U H$ v
1 q9 Z4 E0 k! O# Wb) 自我反思:這種方法結(jié)合累積經(jīng)驗(yàn)的反饋,將短期軌跡與長(zhǎng)期經(jīng)驗(yàn)相結(jié)合。
C) a+ w; B; m/ j1 n" U
tucj5sh44ib64034867736.png (183.34 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
tucj5sh44ib64034867736.png
2024-9-24 01:02 上傳
- h! R! N1 H. Q3 l. h( t
圖5說(shuō)明了自我反思規(guī)劃策略,展示了如何整合短期和長(zhǎng)期經(jīng)驗(yàn)。
1 x6 R" f/ Q7 U! G8 m! V2 P9 S8 y. d% b
內(nèi)存管理* v( f3 d- Z3 A# _# x& w
高效的內(nèi)存管理對(duì)LLM代理處理復(fù)雜的芯片設(shè)計(jì)任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括:+ }6 j8 x- e) h) {9 L
, n- z* i; z% r. d* _( d2 Y! Y1. 機(jī)制:
( ~6 E) b. ]2 Q# N上下文內(nèi)存(受上下文大小限制)外部文件存儲(chǔ)用于檢索增強(qiáng)生成(RAG)的外部向量數(shù)據(jù)庫(kù)結(jié)構(gòu)化內(nèi)存(如知識(shí)圖譜)用于高效搜索. y. O& x3 K0 x5 {" M
% ^0 t: W3 l# w7 z8 W2. 范圍:
; o& E3 p* U- b9 |: \ C2 a單個(gè)代理的本地內(nèi)存多個(gè)代理共享的全局內(nèi)存
) M% b9 c, B2 f
9 w! D, E) r0 Q) n' C3. 時(shí)間框架:
; X8 Y& ^: Y, ^, Y) T用于即時(shí)任務(wù)的短期內(nèi)存用于持久知識(shí)的長(zhǎng)期內(nèi)存
" P" {. B+ V/ V; K! ]6 f" o
) |# ~ I1 l2 I" ^7 U4. 操作:0 _; V( _% Z) q3 z
讀取、寫(xiě)入和反思能力6 j; D- A/ H1 a4 }! M4 Z0 ^! Q, K6 X; r) F
& n6 f: a3 j8 o5 Y: ?; ]
引言工具集成6 R- }% P u# o g9 A# r: j
LLM代理可以通過(guò)與專(zhuān)業(yè)工具集成顯著增強(qiáng)功能。該過(guò)程通常包括:定義具有明確輸入/輸出規(guī)格的工具將工具定義納入LLM提示將LLM響應(yīng)解釋為工具調(diào)用執(zhí)行工具并將結(jié)果提供給LLM
# l+ K8 [4 p$ B9 k" ?' M[/ol]& X* E" \/ ?% e6 n4 T- ^8 F9 i" n
7 H) n$ {$ D$ ~" Q0 y
ejtj5g3qnrn64034867837.png (155.39 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
ejtj5g3qnrn64034867837.png
2024-9-24 01:02 上傳
: _( a6 P4 a8 c9 W; ^7 x
圖6演示了工具集成過(guò)程,展示了LLM如何與外部工具交互以執(zhí)行計(jì)算。
7 N, D% f t$ M- k! `' Y( m7 r; g# q- t. o( h4 s6 G' I5 }
多代理協(xié)作
7 u# e# {0 P" o) y" k1 T Z8 U* s復(fù)雜的芯片設(shè)計(jì)任務(wù)通常受益于多個(gè)專(zhuān)業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是:; N; W7 ?: e+ `
7 R. l9 ^# `) Y8 z, b1. 雙代理對(duì)話(huà):
) ]5 r2 g! b! @" Z這種方法涉及連接代理以形成對(duì)話(huà),允許基于代理角色的隱式任務(wù)分解。
+ P- v8 A. r; M( c
2 Z1 T9 Y' R$ r& [. g2. 群聊:4 G1 T+ v0 u- ^( w. O% M4 [1 b
聊天管理器協(xié)調(diào)多個(gè)代理之間的對(duì)話(huà),每個(gè)代理都有特定的角色和功能。* a+ `4 L! F' _7 p
2 s! P' ?1 X* y. ^. ~8 f; @
bdrvnwdhofn64034867937.png (130.82 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
bdrvnwdhofn64034867937.png
2024-9-24 01:02 上傳
) s1 e; b% p; J圖7說(shuō)明了群聊場(chǎng)景,展示了聊天管理器如何協(xié)調(diào)專(zhuān)業(yè)代理之間的交互。. t, `' ] M# z6 P- j: P. J2 x% o
2 o6 m& f9 q2 P任務(wù)流程
9 q# y L) t. V) j, y! o對(duì)于復(fù)雜的芯片設(shè)計(jì)過(guò)程,可以使用代理聊天實(shí)現(xiàn)多個(gè)任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。
; t2 e6 w; O5 O [/ x% {: j% D% O; ]' |' a9 c
vxxc1dilyam64034868037.png (234.05 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
vxxc1dilyam64034868037.png
2024-9-24 01:02 上傳
1 V; m* z5 q1 v8 n
圖8顯示了任務(wù)流程圖,展示了多個(gè)代理如何在軟件開(kāi)發(fā)項(xiàng)目中協(xié)作。
2 {* Y; d i/ F( O+ o0 u
7 `6 }; O, l( \, R) h9 v) C芯片設(shè)計(jì)中的實(shí)際應(yīng)用. w) ?: a1 S' `" a K8 j" z
1. 時(shí)序報(bào)告分析:2 n6 S" l# }( X5 b- ?
LLM代理可用于分析和比較不同設(shè)計(jì)運(yùn)行的時(shí)序報(bào)告。通過(guò)使用專(zhuān)業(yè)工具和提示,代理可以提供關(guān)鍵要點(diǎn)、設(shè)計(jì)QoR摘要和改進(jìn)建議。
) V8 \6 p" d1 Z% v1 \9 Z/ K8 V' R5 J
( c3 s5 b" l6 o/ |$ p: r: ^" g( x2. 器件聚類(lèi)優(yōu)化:
3 N, J1 Z% [8 n$ S- L& N$ G5 U代理可以?xún)?yōu)化單元布局生成器的器件聚類(lèi)約束。通過(guò)利用領(lǐng)域知識(shí)和ReACT規(guī)劃,這些代理可以識(shí)別重要的網(wǎng)絡(luò)、評(píng)估聚類(lèi)并實(shí)現(xiàn)顯著的面積減少。
, P% E- b+ p1 Y7 ?7 ^; U& i ~& v
lqvxe5epyv564034868137.png (232.99 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
lqvxe5epyv564034868137.png
2024-9-24 01:02 上傳
6 i! P1 R* b* M4 G0 f& {圖9比較了由器件聚類(lèi)優(yōu)化產(chǎn)生的原始布局和改進(jìn)布局。
# Z# T1 j0 \( a% u% a# W7 i% t3 m1 a, x. \( g8 r. b) k+ u
3. VerilogCoder:
$ z$ C' O7 { @這個(gè)先進(jìn)的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進(jìn),在VerilogEval(人工)基準(zhǔn)測(cè)試中實(shí)現(xiàn)了94.2%的通過(guò)率。VerilogCoder采用任務(wù)流驅(qū)動(dòng)的多代理方法,配備專(zhuān)門(mén)用于任務(wù)規(guī)劃和代碼實(shí)現(xiàn)的工具。# |( Z$ `: V: \# `# L
5 ^0 C" h; p& U' Z" h4 N
clbyazvjgv264034868237.png (237.34 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
clbyazvjgv264034868237.png
2024-9-24 01:02 上傳
( Z9 m7 }% G: \0 F* X: _6 o6 E圖10概述了VerilogCoder代理系統(tǒng),展示了其任務(wù)規(guī)劃和代碼實(shí)現(xiàn)組件。
+ g3 Y3 C2 T2 Y" Y0 ~+ Y5 a8 X3 t6 I. k7 Y. z
' z6 S4 ]' E V1 {8 x& _6 G7 p9 x) y
結(jié)論
1 p8 T+ z+ s, w4 \0 oLLM代理正在通過(guò)提高效率和準(zhǔn)確性來(lái)革新芯片設(shè)計(jì),解決復(fù)雜任務(wù)。代理分解問(wèn)題、利用專(zhuān)業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展,有望顯著提高設(shè)計(jì)師的生產(chǎn)力,并推動(dòng)芯片設(shè)計(jì)可能性的邊界。" W) I2 P! E( x
/ o f% H4 V1 l! y
目前的LLM代理擅長(zhǎng)處理可以分解為低到中等智力努力的任務(wù),但未來(lái)可能會(huì)看到代理解決更具挑戰(zhàn)性的設(shè)計(jì)問(wèn)題。然而,值得注意的是,這些代理的真正力量在于增強(qiáng)和提升人類(lèi)設(shè)計(jì)師的能力,而不是完全取代人類(lèi)。
# p2 [1 V6 k3 O: k/ d
7 N7 a4 e5 s' @) K' m0 }3 b- k. H* ?& b
參考文獻(xiàn)
, G( E' }, s0 a# Y J. V# t[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024., v! y( c& P. A/ ^. u
" \1 K* d9 Z- R3 p
- END -" S* a) h, m! a0 t
# t1 |1 {8 ]1 K軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。 j9 b ?! R' g2 j% ]
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
8 [: M2 S, Z8 [0 s% A( n% S" O1 O' U0 n- E7 ^
歡迎轉(zhuǎn)載) ^ z0 v! p) A- W/ }9 }: I
# X% S5 ^0 w" b7 q+ H1 P+ c+ z7 R `' ]
轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!, H/ M5 W/ ]; ^$ [# B# r: U
5 O* R& ?- P3 l7 [+ `( w9 N. i3 Y% a% H2 G- W& V/ u9 n
% H$ U! ?9 K9 o# |' H; Q
s3mhl2cazax64034868337.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
s3mhl2cazax64034868337.gif
2024-9-24 01:02 上傳
% H0 j& `' z6 t7 O$ B r# P3 F4 u% c6 P9 l$ l) G( f& W$ q! Q4 E
關(guān)注我們; x# Y2 ~$ Y. ^% Q; K5 i
' x% t) w# Q) @6 a, {
$ F- x, i5 k, @% K2 p; C
thrd12sfxij64034868437.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
thrd12sfxij64034868437.png
2024-9-24 01:02 上傳
- ]" c* o: h* t3 I3 d
|
0 a3 b% ~* o0 R
elf1txgnrdx64034868537.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
elf1txgnrdx64034868537.png
2024-9-24 01:02 上傳
3 u! P/ |7 n+ T |
9 ^+ g8 `: u# G2 s+ m& _
5exbwvp0epl64034868637.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
5exbwvp0epl64034868637.png
2024-9-24 01:02 上傳
8 b# y& r: j# x' p# X( }, T" y | , b: I* s! G9 ~! ~1 t( b9 Z) M
8 o, j. I/ V( r9 D/ r" `
& S* Z$ {0 W7 M& C$ ~! Z
$ l- z+ q, @# u# k
關(guān)于我們:
. x6 X! e X; p" {0 f9 R深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專(zhuān)注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶(hù)。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線(xiàn)合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶(hù)提供前沿技術(shù)與服務(wù)。
) x/ a; e2 Y' _8 Y6 E. Q6 _; ?0 }: A" t: F( i
http://www.latitudeda.com/9 y( y& t; S, g. @0 ^
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|