|
引言 Q" x( [# T& e8 D
隨著半導(dǎo)體技術(shù)的不斷發(fā)展,大語(yǔ)言模型(LLM)和人工智能代理在芯片設(shè)計(jì)領(lǐng)域發(fā)揮著越來(lái)越重要的作用。本文旨在探討LLM代理在芯片設(shè)計(jì)中的應(yīng)用,重點(diǎn)介紹其優(yōu)勢(shì)、關(guān)鍵概念和實(shí)際實(shí)現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成,這些都使得LLM代理成為復(fù)雜芯片設(shè)計(jì)世界中的強(qiáng)大助手[1]。
: ^/ R1 r! F+ d, ?8 U$ g2 _7 R* \2 L* i
代理優(yōu)勢(shì). P% _; \: ]$ j8 @; ~; l9 x# E
LLM代理在芯片設(shè)計(jì)任務(wù)中展現(xiàn)出顯著的改進(jìn)。' U$ _8 P5 U9 M0 u! d
$ r6 v9 q* z2 n5 O# J+ ?, P0 _0 P
nw0bzwwwx0o64034867336.png (107.43 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
nw0bzwwwx0o64034867336.png
2024-9-24 01:02 上傳
. J; G2 j7 W+ b& I: ^圖1展示了使用LLama3和GPT4turbo在VerilogEval(人工)基準(zhǔn)測(cè)試中,非代理方法和代理方法的通過(guò)率比較。8 h D5 f; V3 F W9 B! E# [2 Y' H* V
3 _( N, \4 {3 a9 ~
如圖1所示,代理方法始終優(yōu)于非代理方法。例如,使用GPT4turbo時(shí),代理方法(VerilogCoder)實(shí)現(xiàn)了94.2%的驚人通過(guò)率,而非代理方法僅為60.3%。這一顯著改進(jìn)突顯了LLM代理在解決復(fù)雜芯片設(shè)計(jì)挑戰(zhàn)方面的潛力。
+ r' G! [: P/ S) \, u, O- |+ R
' _' R) t! ^5 ?2 C1 d C* m6 l! }/ z$ W; o; \& A0 N
代理概念* Z1 ^2 G" l- J# s6 J, Y
要理解LLM代理的強(qiáng)大功能,了解非代理方法和代理方法之間的基本差異非常重要。: i% i/ }- X8 |
, m# }9 {. e/ e. W& S# a
z4ttbfpnbxd64034867436.png (103.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
z4ttbfpnbxd64034867436.png
2024-9-24 01:02 上傳
+ w2 k. ]5 R% j" d R+ Y( m2 G% h
圖2比較了非代理和代理概念,展示了代理系統(tǒng)增強(qiáng)的復(fù)雜性和功能。
! G1 L4 T7 n' i5 O3 [( b* x* E) c! b& K3 z0 P+ h. s1 X- ?5 e
非代理系統(tǒng)通常涉及用戶和LLM之間的簡(jiǎn)單問(wèn)答交互。相比之下,代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存,甚至多代理協(xié)作。這種增強(qiáng)的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計(jì)問(wèn)題和任務(wù)。
8 p1 `: b1 z/ Y0 L1 J( R' p, G( A- G) X6 N% T( Q
規(guī)劃策略' g5 k# y" U0 ?/ @7 u$ U
有效的規(guī)劃對(duì)LLM代理將復(fù)雜的芯片設(shè)計(jì)任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略:
, i, |& o/ I5 r- _% G: h
3 ^9 v* |6 m! p! p8 U& v6 J) m1. 無(wú)反饋規(guī)劃:* H7 _: h' q4 @/ G# y3 W: M
a) 思維鏈(CoT):這種方法涉及一次性任務(wù)分解的逐步規(guī)劃?梢酝ㄟ^(guò)顯式指令、隱式指令或示例來(lái)實(shí)現(xiàn)。
7 e8 Y; Z2 R7 _" ~, `$ S( n% [$ h4 K8 E+ F
b) 思維樹(shù)(ToT):這種方法一次規(guī)劃一個(gè)步驟,在每個(gè)步驟中從多個(gè)選項(xiàng)中選擇最佳選項(xiàng)?梢允褂脧V度優(yōu)先搜索(BFS)、深度優(yōu)先搜索(DFS)或基于圖的方法進(jìn)行擴(kuò)展。
- f' B2 i- s6 W0 X. W3 V( C* \. E3 F" c3 L+ a
dc5jr3hs3rj64034867536.png (213.38 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
dc5jr3hs3rj64034867536.png
2024-9-24 01:02 上傳
% M) M/ j+ m# G圖3說(shuō)明了思維樹(shù)規(guī)劃策略,展示了如何在每個(gè)步驟評(píng)估多個(gè)選擇。6 A5 M6 F1 a" y$ d( q+ }+ N9 F
3 K; y/ Q" i/ Y# L% {) P
2. 有反饋規(guī)劃:6 S% X3 k! U& Q. G4 O
a) ReACT:這種方法通過(guò)思考、行動(dòng)和觀察的循環(huán),將規(guī)劃與環(huán)境反饋相結(jié)合。
) C0 `, J# a2 R3 J; }
d3vcq23utf064034867636.png (198.56 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
d3vcq23utf064034867636.png
2024-9-24 01:02 上傳
6 u4 ^( g5 J+ M* l/ c
圖4描述了ReACT規(guī)劃策略,展示了思考、行動(dòng)和觀察之間的交互。
- {' y8 B, Y2 q3 l$ y6 Q" K2 D1 c9 M& U" S) D% z4 x; X% D
b) 自我反思:這種方法結(jié)合累積經(jīng)驗(yàn)的反饋,將短期軌跡與長(zhǎng)期經(jīng)驗(yàn)相結(jié)合。
) s" r$ q2 \$ C1 J& V% s, P7 y) z
tucj5sh44ib64034867736.png (183.34 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
tucj5sh44ib64034867736.png
2024-9-24 01:02 上傳
# g) n) C* Q1 B- T: C* R
圖5說(shuō)明了自我反思規(guī)劃策略,展示了如何整合短期和長(zhǎng)期經(jīng)驗(yàn)。
& h5 v: ?. E2 w# _+ E7 D' W: z' ^7 d; n9 B0 F+ s Q
內(nèi)存管理; h' ^4 d. x8 [. s1 K
高效的內(nèi)存管理對(duì)LLM代理處理復(fù)雜的芯片設(shè)計(jì)任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括:
) X$ P: W/ k. j" B5 ?/ t, u; b0 | F9 S9 b+ B+ x. _
1. 機(jī)制:1 H/ K e3 o: |% ?; I
上下文內(nèi)存(受上下文大小限制)外部文件存儲(chǔ)用于檢索增強(qiáng)生成(RAG)的外部向量數(shù)據(jù)庫(kù)結(jié)構(gòu)化內(nèi)存(如知識(shí)圖譜)用于高效搜索
$ D3 k: N! Y' E2 ~* ~1 X6 o( V4 o( E, Z
2. 范圍:
! e3 G. S) v. z( B- g) L) R" D9 b- h單個(gè)代理的本地內(nèi)存多個(gè)代理共享的全局內(nèi)存/ S/ o1 p4 D) F
# p4 B" b7 T+ l8 G2 [; j
3. 時(shí)間框架:
' I5 N" k6 _( R J2 d& }; O( ?" f6 e用于即時(shí)任務(wù)的短期內(nèi)存用于持久知識(shí)的長(zhǎng)期內(nèi)存
7 \5 w( N O7 v' F( l1 _) B
X' r0 L8 P1 F1 x* w4. 操作:0 O2 ?% e9 V) }) m1 \9 n
讀取、寫(xiě)入和反思能力( h% b* A2 h9 E( V2 t6 P5 `$ O
: [; Y# L+ b9 W
引言工具集成
5 M" k+ Q. E$ t3 `LLM代理可以通過(guò)與專(zhuān)業(yè)工具集成顯著增強(qiáng)功能。該過(guò)程通常包括:定義具有明確輸入/輸出規(guī)格的工具將工具定義納入LLM提示將LLM響應(yīng)解釋為工具調(diào)用執(zhí)行工具并將結(jié)果提供給LLM' T" ]4 }3 Y3 l" N
[/ol]* T' b* o _; i4 ?
5 W9 V# y' r# k( u" ?- v
ejtj5g3qnrn64034867837.png (155.39 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
ejtj5g3qnrn64034867837.png
2024-9-24 01:02 上傳
% g1 f+ M5 V6 T% F# p圖6演示了工具集成過(guò)程,展示了LLM如何與外部工具交互以執(zhí)行計(jì)算。: X( w& ]9 e4 W: b7 e. f$ \4 _
0 I7 O# ?& L: R7 n3 _" T! m! {% E
多代理協(xié)作
! H: L' g, X u; h/ D! ^復(fù)雜的芯片設(shè)計(jì)任務(wù)通常受益于多個(gè)專(zhuān)業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是:
3 G4 ^& J& O, ^# i$ |5 i+ @( T5 ^2 n0 q! E. c
1. 雙代理對(duì)話:) n b) y, e$ F: @
這種方法涉及連接代理以形成對(duì)話,允許基于代理角色的隱式任務(wù)分解。
1 w: @7 w+ b% K* c2 h0 ~: T$ Y! G% V! W) o
2. 群聊:+ |% \# `6 k: N
聊天管理器協(xié)調(diào)多個(gè)代理之間的對(duì)話,每個(gè)代理都有特定的角色和功能。
/ \- G" _- G/ \4 G; P8 P
; j6 j( ^1 \3 F# c& D! j, E% K0 P
bdrvnwdhofn64034867937.png (130.82 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
bdrvnwdhofn64034867937.png
2024-9-24 01:02 上傳
7 N+ z. F; ~2 h+ ~
圖7說(shuō)明了群聊場(chǎng)景,展示了聊天管理器如何協(xié)調(diào)專(zhuān)業(yè)代理之間的交互。* h5 Z7 N6 m7 O: `7 @7 S7 l' D
0 |2 l4 z$ n \2 V2 d任務(wù)流程
5 M8 d: G# o: ~( }5 d$ P對(duì)于復(fù)雜的芯片設(shè)計(jì)過(guò)程,可以使用代理聊天實(shí)現(xiàn)多個(gè)任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。1 N4 I0 K2 ^9 m) A! l9 K
+ s2 X3 w, k: a# J7 H5 c3 R$ F4 @
vxxc1dilyam64034868037.png (234.05 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
vxxc1dilyam64034868037.png
2024-9-24 01:02 上傳
1 i1 j( O8 o4 z" I圖8顯示了任務(wù)流程圖,展示了多個(gè)代理如何在軟件開(kāi)發(fā)項(xiàng)目中協(xié)作。
# A; k) J- n. J
6 {0 R) Z; C$ ~# B芯片設(shè)計(jì)中的實(shí)際應(yīng)用! H: A. G( H4 X3 N( l( ?: Q& v
1. 時(shí)序報(bào)告分析:
1 @" g6 {% |* a @: ~7 M' E QLLM代理可用于分析和比較不同設(shè)計(jì)運(yùn)行的時(shí)序報(bào)告。通過(guò)使用專(zhuān)業(yè)工具和提示,代理可以提供關(guān)鍵要點(diǎn)、設(shè)計(jì)QoR摘要和改進(jìn)建議。
% D( z; j. k1 X6 H
5 T+ I" }. `6 Z7 w3 ?2. 器件聚類(lèi)優(yōu)化:
7 m& [, D6 e8 L7 F N3 k6 r代理可以優(yōu)化單元布局生成器的器件聚類(lèi)約束。通過(guò)利用領(lǐng)域知識(shí)和ReACT規(guī)劃,這些代理可以識(shí)別重要的網(wǎng)絡(luò)、評(píng)估聚類(lèi)并實(shí)現(xiàn)顯著的面積減少。
. u) i4 O, |9 `. B
3 V/ A) e9 \/ {: e( Z
lqvxe5epyv564034868137.png (232.99 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
lqvxe5epyv564034868137.png
2024-9-24 01:02 上傳
6 P! @ a$ G) N" Z( u1 _
圖9比較了由器件聚類(lèi)優(yōu)化產(chǎn)生的原始布局和改進(jìn)布局。
# q. t6 ^3 l% ^* A* q
. K4 M! |2 [# F# z3. VerilogCoder:9 ]- U7 Y1 g4 ?4 X, |! J
這個(gè)先進(jìn)的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進(jìn),在VerilogEval(人工)基準(zhǔn)測(cè)試中實(shí)現(xiàn)了94.2%的通過(guò)率。VerilogCoder采用任務(wù)流驅(qū)動(dòng)的多代理方法,配備專(zhuān)門(mén)用于任務(wù)規(guī)劃和代碼實(shí)現(xiàn)的工具。
6 l) L: w+ s' q; P
% l+ J4 H5 n1 r
clbyazvjgv264034868237.png (237.34 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
clbyazvjgv264034868237.png
2024-9-24 01:02 上傳
( }8 n5 b ^* N2 w
圖10概述了VerilogCoder代理系統(tǒng),展示了其任務(wù)規(guī)劃和代碼實(shí)現(xiàn)組件。/ b* R/ h$ v* f& c0 N3 o7 \
% |% D4 m+ o* @' C' V! {
p3 I2 D' x% m6 Z" N
結(jié)論" T/ F( d' I* ^8 ^9 [! K) |8 c
LLM代理正在通過(guò)提高效率和準(zhǔn)確性來(lái)革新芯片設(shè)計(jì),解決復(fù)雜任務(wù)。代理分解問(wèn)題、利用專(zhuān)業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展,有望顯著提高設(shè)計(jì)師的生產(chǎn)力,并推動(dòng)芯片設(shè)計(jì)可能性的邊界。; T9 j- @! I' h- w0 s; ?. `2 f
5 W" P% g, ~: Z8 j- c目前的LLM代理擅長(zhǎng)處理可以分解為低到中等智力努力的任務(wù),但未來(lái)可能會(huì)看到代理解決更具挑戰(zhàn)性的設(shè)計(jì)問(wèn)題。然而,值得注意的是,這些代理的真正力量在于增強(qiáng)和提升人類(lèi)設(shè)計(jì)師的能力,而不是完全取代人類(lèi)。3 a' k# B2 i: y. R- Y/ g
# M$ f8 l5 H% U# }
0 i z2 {, ?2 z+ ^! R5 ~$ B4 D1 z
參考文獻(xiàn)% A. N9 X8 s, e+ Z( i+ q
[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.( ]9 }7 v. L$ x7 K8 H! b: r i
6 @/ C0 H. X+ U- END -& L9 M8 [$ U3 ~% ]( `
3 ~) K! D& E* A. I k z
軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。: W( T& e7 o: n. N8 E1 M L$ X$ B, ]
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)( N3 c$ ]) q; p' [
/ A" J( g1 k, L: m+ H/ |
歡迎轉(zhuǎn)載$ U3 h' P& A, }- j
) E2 E% ?0 Z2 X ~) q" P
轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!
1 a4 J/ O" y' d2 k) P# }. L8 B3 u- W
* n0 Y, x7 ^* K8 i# _5 y& Q# {1 g3 F) w! V- g b
s3mhl2cazax64034868337.gif (16.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
s3mhl2cazax64034868337.gif
2024-9-24 01:02 上傳
/ i/ u4 r3 e* G; z9 u
3 i# [* x, N" b+ l4 e! x. c關(guān)注我們1 t5 N, _3 j9 M' [
' m2 O8 Q7 k1 ~: x8 ~
; A/ w* x! ^2 K% T$ P9 k2 D( _
thrd12sfxij64034868437.png (31.33 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
thrd12sfxij64034868437.png
2024-9-24 01:02 上傳
7 m7 }1 Z9 V, N d9 d D |
; C* W2 i+ d, R" C
elf1txgnrdx64034868537.png (82.79 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
elf1txgnrdx64034868537.png
2024-9-24 01:02 上傳
# ^3 n" {! q) j6 Z" z5 g! ?: K |
9 ^% @/ K F: l% `1 ~$ w
5exbwvp0epl64034868637.png (21.52 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
5exbwvp0epl64034868637.png
2024-9-24 01:02 上傳
+ b; t. u3 {/ }$ @+ f
| : T6 r& ~' d/ p) n- t/ b
; V9 p) s2 n R5 [$ y5 c# H ~6 M
( P; r: \; e# \# {$ |) k3 [/ K% F3 ?* R+ k8 |* n0 ~0 R
關(guān)于我們: x5 q$ | ?/ W! t9 L
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專(zhuān)注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
1 ?' a9 d: q7 V& _9 g% \5 \5 Q! m8 R1 [: p! L" W
http://www.latitudeda.com/7 n8 ~' S7 d( }7 Q; m
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|