Hot Chips 2024 | 利用大語(yǔ)言模型代理推進(jìn)先進(jìn)芯片設(shè)計(jì)

逍遙設(shè)計(jì)自動(dòng)化

引言
隨著半導(dǎo)體技術(shù)的不斷發(fā)展，大語(yǔ)言模型（LLM）和人工智能代理在芯片設(shè)計(jì)領(lǐng)域發(fā)揮著越來(lái)越重要的作用。本文旨在探討LLM代理在芯片設(shè)計(jì)中的應(yīng)用，重點(diǎn)介紹其優(yōu)勢(shì)、關(guān)鍵概念和實(shí)際實(shí)現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成，這些都使得LLM代理成為復(fù)雜芯片設(shè)計(jì)世界中的強(qiáng)大助手[1]。

代理優(yōu)勢(shì)
LLM代理在芯片設(shè)計(jì)任務(wù)中展現(xiàn)出顯著的改進(jìn)。


圖1展示了使用LLama3和GPT4turbo在VerilogEval（人工）基準(zhǔn)測(cè)試中，非代理方法和代理方法的通過(guò)率比較。

' _6 s4 B/ B3 F: p/ m& N$ K如圖1所示，代理方法始終優(yōu)于非代理方法。例如，使用GPT4turbo時(shí)，代理方法（VerilogCoder）實(shí)現(xiàn)了94.2%的驚人通過(guò)率，而非代理方法僅為60.3%。這一顯著改進(jìn)突顯了LLM代理在解決復(fù)雜芯片設(shè)計(jì)挑戰(zhàn)方面的潛力。
8 N* y1 @' O3 J7 |

' P1 z) X: l. h" a" m4 `' v) Q代理概念
3 r' b( B1 z* N: H要理解LLM代理的強(qiáng)大功能，了解非代理方法和代理方法之間的基本差異非常重要。
% b+ Y( r8 o3 ^; `$ M6 K

8 c2 }4 N6 M" A* z. D- G圖2比較了非代理和代理概念，展示了代理系統(tǒng)增強(qiáng)的復(fù)雜性和功能。

非代理系統(tǒng)通常涉及用戶和LLM之間的簡(jiǎn)單問(wèn)答交互。相比之下，代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存，甚至多代理協(xié)作。這種增強(qiáng)的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計(jì)問(wèn)題和任務(wù)。

' r9 p2 M7 o- Y# H+ F- o' l0 K規(guī)劃策略
9 M2 \* K9 v$ c) i  i1 \有效的規(guī)劃對(duì)LLM代理將復(fù)雜的芯片設(shè)計(jì)任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略：

1. 無(wú)反饋規(guī)劃：
  Q; v8 W. a  a4 W( Ba) 思維鏈（CoT）：這種方法涉及一次性任務(wù)分解的逐步規(guī)劃�？梢酝ㄟ^(guò)顯式指令、隱式指令或示例來(lái)實(shí)現(xiàn)。
, |: S  M1 T) [) X
" S* D: b% N8 _  V. q: `: q& tb) 思維樹（ToT）：這種方法一次規(guī)劃一個(gè)步驟，在每個(gè)步驟中從多個(gè)選項(xiàng)中選擇最佳選項(xiàng)。可以使用廣度優(yōu)先搜索（BFS）、深度優(yōu)先搜索（DFS）或基于圖的方法進(jìn)行擴(kuò)展。
/ ?) \+ w  j9 f9 L* N& L" s

圖3說(shuō)明了思維樹規(guī)劃策略，展示了如何在每個(gè)步驟評(píng)估多個(gè)選擇。

5 d* U! u! J5 ?; \4 d: g2. 有反饋規(guī)劃：
: [/ `7 I8 Z7 ?a) ReACT：這種方法通過(guò)思考、行動(dòng)和觀察的循環(huán)，將規(guī)劃與環(huán)境反饋相結(jié)合。
, J! o4 U! y( J8 d4 {9 |( d
圖4描述了ReACT規(guī)劃策略，展示了思考、行動(dòng)和觀察之間的交互。

b) 自我反思：這種方法結(jié)合累積經(jīng)驗(yàn)的反饋，將短期軌跡與長(zhǎng)期經(jīng)驗(yàn)相結(jié)合。
6 _' J# Q( f; W+ `, a2 W2 {
, b3 f+ Y& O9 f6 _& U! l( ?/ I圖5說(shuō)明了自我反思規(guī)劃策略，展示了如何整合短期和長(zhǎng)期經(jīng)驗(yàn)。

內(nèi)存管理
2 A! H( ?* ~" ^/ H; B. _7 s/ U高效的內(nèi)存管理對(duì)LLM代理處理復(fù)雜的芯片設(shè)計(jì)任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括：

1. 機(jī)制：
$ x# [' \$ v  j. j: _7 u

上下文內(nèi)存（受上下文大小限制）

外部文件存儲(chǔ)

用于檢索增強(qiáng)生成（RAG）的外部向量數(shù)據(jù)庫(kù)

結(jié)構(gòu)化內(nèi)存（如知識(shí)圖譜）用于高效搜索

, U  j) Y7 K4 N2 d, |2. 范圍：
) {" D9 a! M* L% n6 P4 D" U

單個(gè)代理的本地內(nèi)存

多個(gè)代理共享的全局內(nèi)存
0 k' s' |0 h# G, M; X. h
3. 時(shí)間框架：

用于即時(shí)任務(wù)的短期內(nèi)存

用于持久知識(shí)的長(zhǎng)期內(nèi)存

4. 操作：

讀取、寫入和反思能力
8 g. k; e* F, [* S2 E2 ]& F3 s* z
+ x" i0 M2 V" K- h* J引言工具集成
+ M; `$ Q6 i# F  XLLM代理可以通過(guò)與專業(yè)工具集成顯著增強(qiáng)功能。該過(guò)程通常包括：

定義具有明確輸入/輸出規(guī)格的工具

將工具定義納入LLM提示

將LLM響應(yīng)解釋為工具調(diào)用

執(zhí)行工具并將結(jié)果提供給LLM
[/ol]


圖6演示了工具集成過(guò)程，展示了LLM如何與外部工具交互以執(zhí)行計(jì)算。

7 n* C7 r; ~6 b0 k% k多代理協(xié)作
% B! l9 s7 f$ P復(fù)雜的芯片設(shè)計(jì)任務(wù)通常受益于多個(gè)專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是：

* m' a, ]* ?; f7 @1. 雙代理對(duì)話：
& {  ?; m6 Y7 o- \7 l這種方法涉及連接代理以形成對(duì)話，允許基于代理角色的隱式任務(wù)分解。

6 K0 {# Q, L4 W% `2. 群聊：
7 F" p+ k& ]9 L5 U3 x4 [聊天管理器協(xié)調(diào)多個(gè)代理之間的對(duì)話，每個(gè)代理都有特定的角色和功能。


圖7說(shuō)明了群聊場(chǎng)景，展示了聊天管理器如何協(xié)調(diào)專業(yè)代理之間的交互。
* S, W' }6 a1 Y- Y% Z; Y! j
任務(wù)流程
7 X3 _. y5 r2 i" W. r) w對(duì)于復(fù)雜的芯片設(shè)計(jì)過(guò)程，可以使用代理聊天實(shí)現(xiàn)多個(gè)任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。
. ]0 u: m8 l$ p
: W6 H% o0 g0 n6 o
2 a1 }( H) ?  H, I$ G! d5 P# j  z圖8顯示了任務(wù)流程圖，展示了多個(gè)代理如何在軟件開發(fā)項(xiàng)目中協(xié)作。
2 t3 Z7 B$ s: G- C
' V2 R7 O( U+ d% U芯片設(shè)計(jì)中的實(shí)際應(yīng)用
+ ?" i, }. e- q& b9 S1. 時(shí)序報(bào)告分析：
LLM代理可用于分析和比較不同設(shè)計(jì)運(yùn)行的時(shí)序報(bào)告。通過(guò)使用專業(yè)工具和提示，代理可以提供關(guān)鍵要點(diǎn)、設(shè)計(jì)QoR摘要和改進(jìn)建議。

2. 器件聚類優(yōu)化：
  {1 k: v+ |( z' ~/ |( l& ^3 S代理可以優(yōu)化單元布局生成器的器件聚類約束。通過(guò)利用領(lǐng)域知識(shí)和ReACT規(guī)劃，這些代理可以識(shí)別重要的網(wǎng)絡(luò)、評(píng)估聚類并實(shí)現(xiàn)顯著的面積減少。
/ x8 m5 D9 I7 v7 q5 s" V* H( i) t1 w
, @: f. I3 y1 p- y" F) b7 S
; b: q5 W6 t  n. U# X% [" k圖9比較了由器件聚類優(yōu)化產(chǎn)生的原始布局和改進(jìn)布局。

3. VerilogCoder：
/ T4 S& e6 ~0 w6 J: c3 c這個(gè)先進(jìn)的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進(jìn)，在VerilogEval（人工）基準(zhǔn)測(cè)試中實(shí)現(xiàn)了94.2%的通過(guò)率。VerilogCoder采用任務(wù)流驅(qū)動(dòng)的多代理方法，配備專門用于任務(wù)規(guī)劃和代碼實(shí)現(xiàn)的工具。
/ ], S% k' z4 i, @2 \9 c! Y

- v) k1 k+ b1 z  b% E5 r圖10概述了VerilogCoder代理系統(tǒng)，展示了其任務(wù)規(guī)劃和代碼實(shí)現(xiàn)組件。

, V* ?) S3 J1 b% h( }& l0 u5 u
3 p. d, t( u- R! @8 `7 T結(jié)論
LLM代理正在通過(guò)提高效率和準(zhǔn)確性來(lái)革新芯片設(shè)計(jì)，解決復(fù)雜任務(wù)。代理分解問(wèn)題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展，有望顯著提高設(shè)計(jì)師的生產(chǎn)力，并推動(dòng)芯片設(shè)計(jì)可能性的邊界。
! s9 J. e- s% Z3 U
目前的LLM代理擅長(zhǎng)處理可以分解為低到中等智力努力的任務(wù)，但未來(lái)可能會(huì)看到代理解決更具挑戰(zhàn)性的設(shè)計(jì)問(wèn)題。然而，值得注意的是，這些代理的真正力量在于增強(qiáng)和提升人類設(shè)計(jì)師的能力，而不是完全取代人類。
9 C' W3 S3 p  \7 L0 G2 S, s  w
6 P$ R& V  v: f5 i% T9 a
( V. F$ z/ }0 ~+ A參考文獻(xiàn)
[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.

  F; K; Q4 H4 I- END -

; B; R8 C- {% z. y9 P# S軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
& Y6 n. y9 R; D8 j點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
+ W7 x, F$ m+ E9 l) A" h2 s" a5 k
$ W+ B6 R5 c& ~% A" _0 {歡迎轉(zhuǎn)載
! E$ G( t9 F# \- Q  J& G# ^( ?1 s
$ a. F& E0 c' R9 U6 W轉(zhuǎn)載請(qǐng)注明出處，請(qǐng)勿修改內(nèi)容和刪除作者信息！
$ M# E- }3 g1 ]1 U9 H0 {5 [


6 T, w! L  @: K: A3 I

; x; n8 b& q- v. C: ]/ H" y; n1 O: I. {關(guān)注我們

: j$ ~" S/ _# C: K3 z' n2 M

( G% B  F. \# _' [9 C* a 5 W9 H7 D; w9 V/ Q. ^. ~1 E0 ^% M

                     
0 ^/ q4 e, O2 k3 c/ c* Q! ]
8 [5 H; d. S; \

) o' X' e7 B9 @* m3 g+ Q$ l* D! ^關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
% F! }% t! P9 Y) q3 u
http://www.latitudeda.com/
（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）