|
引言/ x- I7 [+ i9 _( P- T
隨著半導(dǎo)體技術(shù)的不斷發(fā)展,大語(yǔ)言模型(LLM)和人工智能代理在芯片設(shè)計(jì)領(lǐng)域發(fā)揮著越來(lái)越重要的作用。本文旨在探討LLM代理在芯片設(shè)計(jì)中的應(yīng)用,重點(diǎn)介紹其優(yōu)勢(shì)、關(guān)鍵概念和實(shí)際實(shí)現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成,這些都使得LLM代理成為復(fù)雜芯片設(shè)計(jì)世界中的強(qiáng)大助手[1]。+ J5 W/ |7 y: K0 n
! l5 v( H ~3 H, ?
代理優(yōu)勢(shì)' n5 d! V0 A3 H9 U& n
LLM代理在芯片設(shè)計(jì)任務(wù)中展現(xiàn)出顯著的改進(jìn)。5 H; o9 ?. k8 @7 T3 R, {# S$ E/ O
* C" e$ r- }( t; L& M$ z0 F# D
nw0bzwwwx0o64034867336.png (107.43 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
nw0bzwwwx0o64034867336.png
2024-9-25 01:01 上傳
) Q$ N0 Y5 B0 F! F k
圖1展示了使用LLama3和GPT4turbo在VerilogEval(人工)基準(zhǔn)測(cè)試中,非代理方法和代理方法的通過(guò)率比較。8 E k5 A. t t% r/ ^# {! A
' _6 s4 B/ B3 F: p/ m& N$ K如圖1所示,代理方法始終優(yōu)于非代理方法。例如,使用GPT4turbo時(shí),代理方法(VerilogCoder)實(shí)現(xiàn)了94.2%的驚人通過(guò)率,而非代理方法僅為60.3%。這一顯著改進(jìn)突顯了LLM代理在解決復(fù)雜芯片設(shè)計(jì)挑戰(zhàn)方面的潛力。
8 N* y1 @' O3 J7 |9 M7 Y% e: y7 j$ O2 ~
' P1 z) X: l. h" a" m4 `' v) Q代理概念
3 r' b( B1 z* N: H要理解LLM代理的強(qiáng)大功能,了解非代理方法和代理方法之間的基本差異非常重要。
% b+ Y( r8 o3 ^; `$ M6 K( t7 n+ K" O- U8 i6 X
z4ttbfpnbxd64034867436.png (103.04 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
z4ttbfpnbxd64034867436.png
2024-9-25 01:01 上傳
8 c2 }4 N6 M" A* z. D- G圖2比較了非代理和代理概念,展示了代理系統(tǒng)增強(qiáng)的復(fù)雜性和功能。& x) J+ P* |5 Q- q1 a- M8 n
2 a+ K( M1 v+ {- T a
非代理系統(tǒng)通常涉及用戶和LLM之間的簡(jiǎn)單問(wèn)答交互。相比之下,代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存,甚至多代理協(xié)作。這種增強(qiáng)的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計(jì)問(wèn)題和任務(wù)。( L: Y" D& B) w! Z+ j7 y
' r9 p2 M7 o- Y# H+ F- o' l0 K規(guī)劃策略
9 M2 \* K9 v$ c) i i1 \有效的規(guī)劃對(duì)LLM代理將復(fù)雜的芯片設(shè)計(jì)任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略:0 x: Y, [: @. S, V
* E6 K/ a1 E6 n9 k, o# c
1. 無(wú)反饋規(guī)劃:
Q; v8 W. a a4 W( Ba) 思維鏈(CoT):這種方法涉及一次性任務(wù)分解的逐步規(guī)劃?梢酝ㄟ^(guò)顯式指令、隱式指令或示例來(lái)實(shí)現(xiàn)。
, |: S M1 T) [) X
" S* D: b% N8 _ V. q: `: q& tb) 思維樹(ToT):這種方法一次規(guī)劃一個(gè)步驟,在每個(gè)步驟中從多個(gè)選項(xiàng)中選擇最佳選項(xiàng)。可以使用廣度優(yōu)先搜索(BFS)、深度優(yōu)先搜索(DFS)或基于圖的方法進(jìn)行擴(kuò)展。
/ ?) \+ w j9 f9 L* N& L" s+ x+ f& A7 z8 P( l# Y o
dc5jr3hs3rj64034867536.png (213.38 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
dc5jr3hs3rj64034867536.png
2024-9-25 01:01 上傳
# j4 h9 F: h! D- ~/ S1 }
圖3說(shuō)明了思維樹規(guī)劃策略,展示了如何在每個(gè)步驟評(píng)估多個(gè)選擇。5 r" K6 Q' [) x+ s+ R" \3 t" _
5 d* U! u! J5 ?; \4 d: g2. 有反饋規(guī)劃:
: [/ `7 I8 Z7 ?a) ReACT:這種方法通過(guò)思考、行動(dòng)和觀察的循環(huán),將規(guī)劃與環(huán)境反饋相結(jié)合。
, J! o4 U! y( J8 d4 {9 |( d
d3vcq23utf064034867636.png (198.56 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
d3vcq23utf064034867636.png
2024-9-25 01:01 上傳
: }5 x- _7 T' ^5 a; k" O
圖4描述了ReACT規(guī)劃策略,展示了思考、行動(dòng)和觀察之間的交互。: {, o) E0 f S) T! Z
" x/ U# m) a: i7 l% _% g
b) 自我反思:這種方法結(jié)合累積經(jīng)驗(yàn)的反饋,將短期軌跡與長(zhǎng)期經(jīng)驗(yàn)相結(jié)合。
6 _' J# Q( f; W+ `, a2 W2 {
tucj5sh44ib64034867736.png (183.34 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
tucj5sh44ib64034867736.png
2024-9-25 01:01 上傳
, b3 f+ Y& O9 f6 _& U! l( ?/ I圖5說(shuō)明了自我反思規(guī)劃策略,展示了如何整合短期和長(zhǎng)期經(jīng)驗(yàn)。! C3 b4 W- P9 n! F/ A+ H( K
( ?+ r, C% g& |* v( X8 w
內(nèi)存管理
2 A! H( ?* ~" ^/ H; B. _7 s/ U高效的內(nèi)存管理對(duì)LLM代理處理復(fù)雜的芯片設(shè)計(jì)任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括:8 h. P4 N$ @, B/ N! k* V
- o7 M' C% F' O i o( W0 s
1. 機(jī)制:
$ x# [' \$ v j. j: _7 u上下文內(nèi)存(受上下文大小限制)外部文件存儲(chǔ)用于檢索增強(qiáng)生成(RAG)的外部向量數(shù)據(jù)庫(kù)結(jié)構(gòu)化內(nèi)存(如知識(shí)圖譜)用于高效搜索/ ?5 L: e3 ]! H$ x* m( t
, U j) Y7 K4 N2 d, |2. 范圍:
) {" D9 a! M* L% n6 P4 D" U單個(gè)代理的本地內(nèi)存多個(gè)代理共享的全局內(nèi)存
0 k' s' |0 h# G, M; X. h8 t( | J7 y- u0 D, w
3. 時(shí)間框架:) d7 k: x. R! W; b. L M
用于即時(shí)任務(wù)的短期內(nèi)存用于持久知識(shí)的長(zhǎng)期內(nèi)存( b1 y4 @: }. I) [8 B7 C. i
6 h+ I; Y8 U. `9 W
4. 操作:' J& p7 {" E" ^) [# h2 Y
讀取、寫入和反思能力
8 g. k; e* F, [* S2 E2 ]& F3 s* z
+ x" i0 M2 V" K- h* J引言工具集成
+ M; `$ Q6 i# F XLLM代理可以通過(guò)與專業(yè)工具集成顯著增強(qiáng)功能。該過(guò)程通常包括:定義具有明確輸入/輸出規(guī)格的工具將工具定義納入LLM提示將LLM響應(yīng)解釋為工具調(diào)用執(zhí)行工具并將結(jié)果提供給LLM7 S Y4 s p# ~! F0 d
[/ol]9 [4 S# E$ |0 T) u7 t- O) Z) R
2 P5 x4 s3 z" E& f
ejtj5g3qnrn64034867837.png (155.39 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
ejtj5g3qnrn64034867837.png
2024-9-25 01:01 上傳
6 s9 R6 \+ u! F- R5 |6 m
圖6演示了工具集成過(guò)程,展示了LLM如何與外部工具交互以執(zhí)行計(jì)算。& ?1 I! `3 K* R0 P; U3 w5 B1 ^# I5 e
7 n* C7 r; ~6 b0 k% k多代理協(xié)作
% B! l9 s7 f$ P復(fù)雜的芯片設(shè)計(jì)任務(wù)通常受益于多個(gè)專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是:: F6 D5 [6 g3 h6 `
* m' a, ]* ?; f7 @1. 雙代理對(duì)話:
& { ?; m6 Y7 o- \7 l這種方法涉及連接代理以形成對(duì)話,允許基于代理角色的隱式任務(wù)分解。1 N+ a% B$ O$ i' [* ^ O+ ~+ y
6 K0 {# Q, L4 W% `2. 群聊:
7 F" p+ k& ]9 L5 U3 x4 [聊天管理器協(xié)調(diào)多個(gè)代理之間的對(duì)話,每個(gè)代理都有特定的角色和功能。' h6 a2 t6 @/ x O
" p2 Y2 s0 ~! W
bdrvnwdhofn64034867937.png (130.82 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
bdrvnwdhofn64034867937.png
2024-9-25 01:01 上傳
4 O( D* C3 _( ]
圖7說(shuō)明了群聊場(chǎng)景,展示了聊天管理器如何協(xié)調(diào)專業(yè)代理之間的交互。
* S, W' }6 a1 Y- Y% Z; Y! j! G# _; n; @" v0 W& \' J
任務(wù)流程
7 X3 _. y5 r2 i" W. r) w對(duì)于復(fù)雜的芯片設(shè)計(jì)過(guò)程,可以使用代理聊天實(shí)現(xiàn)多個(gè)任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。
. ]0 u: m8 l$ p
: W6 H% o0 g0 n6 o
vxxc1dilyam64034868037.png (234.05 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
vxxc1dilyam64034868037.png
2024-9-25 01:01 上傳
2 a1 }( H) ? H, I$ G! d5 P# j z圖8顯示了任務(wù)流程圖,展示了多個(gè)代理如何在軟件開發(fā)項(xiàng)目中協(xié)作。
2 t3 Z7 B$ s: G- C
' V2 R7 O( U+ d% U芯片設(shè)計(jì)中的實(shí)際應(yīng)用
+ ?" i, }. e- q& b9 S1. 時(shí)序報(bào)告分析:: n8 f, X1 N1 z! y7 o
LLM代理可用于分析和比較不同設(shè)計(jì)運(yùn)行的時(shí)序報(bào)告。通過(guò)使用專業(yè)工具和提示,代理可以提供關(guān)鍵要點(diǎn)、設(shè)計(jì)QoR摘要和改進(jìn)建議。3 L( g. V* H. Q" \8 M. {: v/ b6 D/ y
' ^' E1 z) a# U4 G8 t
2. 器件聚類優(yōu)化:
{1 k: v+ |( z' ~/ |( l& ^3 S代理可以優(yōu)化單元布局生成器的器件聚類約束。通過(guò)利用領(lǐng)域知識(shí)和ReACT規(guī)劃,這些代理可以識(shí)別重要的網(wǎng)絡(luò)、評(píng)估聚類并實(shí)現(xiàn)顯著的面積減少。
/ x8 m5 D9 I7 v7 q5 s" V* H( i) t1 w
, @: f. I3 y1 p- y" F) b7 S
lqvxe5epyv564034868137.png (232.99 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
lqvxe5epyv564034868137.png
2024-9-25 01:01 上傳
; b: q5 W6 t n. U# X% [" k圖9比較了由器件聚類優(yōu)化產(chǎn)生的原始布局和改進(jìn)布局。/ n, K- l! y; ?/ u' W
A, G( f1 y- Z: K
3. VerilogCoder:
/ T4 S& e6 ~0 w6 J: c3 c這個(gè)先進(jìn)的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進(jìn),在VerilogEval(人工)基準(zhǔn)測(cè)試中實(shí)現(xiàn)了94.2%的通過(guò)率。VerilogCoder采用任務(wù)流驅(qū)動(dòng)的多代理方法,配備專門用于任務(wù)規(guī)劃和代碼實(shí)現(xiàn)的工具。
/ ], S% k' z4 i, @2 \9 c! Y/ l, d9 t }! U1 \
clbyazvjgv264034868237.png (237.34 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
clbyazvjgv264034868237.png
2024-9-25 01:01 上傳
- v) k1 k+ b1 z b% E5 r圖10概述了VerilogCoder代理系統(tǒng),展示了其任務(wù)規(guī)劃和代碼實(shí)現(xiàn)組件。6 G% V. G4 U1 `% L& d
, V* ?) S3 J1 b% h( }& l0 u5 u
3 p. d, t( u- R! @8 `7 T結(jié)論/ S8 u9 A2 \' t |8 N: t
LLM代理正在通過(guò)提高效率和準(zhǔn)確性來(lái)革新芯片設(shè)計(jì),解決復(fù)雜任務(wù)。代理分解問(wèn)題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展,有望顯著提高設(shè)計(jì)師的生產(chǎn)力,并推動(dòng)芯片設(shè)計(jì)可能性的邊界。
! s9 J. e- s% Z3 U7 S$ Y8 Q0 t; o5 k1 R
目前的LLM代理擅長(zhǎng)處理可以分解為低到中等智力努力的任務(wù),但未來(lái)可能會(huì)看到代理解決更具挑戰(zhàn)性的設(shè)計(jì)問(wèn)題。然而,值得注意的是,這些代理的真正力量在于增強(qiáng)和提升人類設(shè)計(jì)師的能力,而不是完全取代人類。
9 C' W3 S3 p \7 L0 G2 S, s w
6 P$ R& V v: f5 i% T9 a
( V. F$ z/ }0 ~+ A參考文獻(xiàn)# v; r( r( x. b
[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.# ]$ T% ?( h. S+ f9 ^* H
F; K; Q4 H4 I- END -3 F% ~) a9 M( B9 K
; B; R8 C- {% z. y9 P# S軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。
& Y6 n. y9 R; D8 j點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
+ W7 x, F$ m+ E9 l) A" h2 s" a5 k
$ W+ B6 R5 c& ~% A" _0 {歡迎轉(zhuǎn)載
! E$ G( t9 F# \- Q J& G# ^( ?1 s
$ a. F& E0 c' R9 U6 W轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!
$ M# E- }3 g1 ]1 U9 H0 {5 [3 D& L4 j4 _, X' \; U
+ n, k6 V* c* _) ^* m( ~8 R/ |
6 T, w! L @: K: A3 I
s3mhl2cazax64034868337.gif (16.04 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
s3mhl2cazax64034868337.gif
2024-9-25 01:01 上傳
' ^3 \" F; i4 h6 ^9 }7 R
; x; n8 b& q- v. C: ]/ H" y; n1 O: I. {關(guān)注我們. R- q! S' d8 u# k/ b8 F
: j$ ~" S/ _# C: K3 z' n2 M3 O. H: a6 i4 t" l2 p! u) f7 Q1 U
thrd12sfxij64034868437.png (31.33 KB, 下載次數(shù): 1)
下載附件
保存到相冊(cè)
thrd12sfxij64034868437.png
2024-9-25 01:01 上傳
! ^/ G: D: O3 O% r* a* p! t0 u+ t
| , m2 [; U1 n2 {2 R4 a. [: I
elf1txgnrdx64034868537.png (82.79 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
elf1txgnrdx64034868537.png
2024-9-25 01:01 上傳
s5 |/ Z( n @+ M m5 v
|
( G% B F. \# _' [9 C* a
5exbwvp0epl64034868637.png (21.52 KB, 下載次數(shù): 0)
下載附件
保存到相冊(cè)
5exbwvp0epl64034868637.png
2024-9-25 01:01 上傳
5 W9 H7 D; w9 V/ Q. ^. ~1 E0 ^% M |
0 ^/ q4 e, O2 k3 c/ c* Q! ]
8 [5 H; d. S; \: G6 h) }3 n. h. n/ g1 C
) o' X' e7 B9 @* m3 g+ Q$ l* D! ^關(guān)于我們:" H A1 P5 d9 z
深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
% F! }% t! P9 Y) q3 u) z# c9 d6 a; L: V
http://www.latitudeda.com/- z' @4 h* t$ i& {; \. e
(點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容) |
|