Hot Chips 2024 | 利用大語言模型代理推進先進芯片設計

逍遙設計自動化

引言
隨著半導體技術的不斷發(fā)展，大語言模型（LLM）和人工智能代理在芯片設計領域發(fā)揮著越來越重要的作用。本文旨在探討LLM代理在芯片設計中的應用，重點介紹其優(yōu)勢、關鍵概念和實際實現(xiàn)。我們將研究各種規(guī)劃策略、內存管理技術和工具集成，這些都使得LLM代理成為復雜芯片設計世界中的強大助手[1]。
( F+ t6 m! \) X; w: Y
) D; I: |( V7 a; J1 H$ K代理優(yōu)勢
LLM代理在芯片設計任務中展現(xiàn)出顯著的改進。

6 S. _! O7 c( Y6 j1 `4 U, K
' y& `  k! \0 K+ a( Z4 X  X+ I$ D! y圖1展示了使用LLama3和GPT4turbo在VerilogEval（人工）基準測試中，非代理方法和代理方法的通過率比較。

如圖1所示，代理方法始終優(yōu)于非代理方法。例如，使用GPT4turbo時，代理方法（VerilogCoder）實現(xiàn)了94.2%的驚人通過率，而非代理方法僅為60.3%。這一顯著改進突顯了LLM代理在解決復雜芯片設計挑戰(zhàn)方面的潛力。
5 q. |& ?' S' c* a& x; Y% V
1 O$ X" N- d% V% P  C
( m6 {6 {* O' i5 t' C+ _代理概念
要理解LLM代理的強大功能，了解非代理方法和代理方法之間的基本差異非常重要。

! `8 p* c  |1 ^5 D, j2 j
圖2比較了非代理和代理概念，展示了代理系統(tǒng)增強的復雜性和功能。
, Z6 W7 }+ n: u$ t3 m9 F
非代理系統(tǒng)通常涉及用戶和LLM之間的簡單問答交互。相比之下，代理系統(tǒng)結合了規(guī)劃、工具、內存，甚至多代理協(xié)作。這種增強的架構使LLM代理能夠處理更復雜的芯片設計問題和任務。
0 Y  v" E4 t9 W8 K" L. U
$ H" M6 A( E; \規(guī)劃策略
有效的規(guī)劃對LLM代理將復雜的芯片設計任務分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略：

1. 無反饋規(guī)劃：
a) 思維鏈（CoT）：這種方法涉及一次性任務分解的逐步規(guī)劃。可以通過顯式指令、隱式指令或示例來實現(xiàn)。
) u8 o' U! v& v3 z% g" e! x2 F5 Q
" a# ?% Y; r5 r9 b- lb) 思維樹（ToT）：這種方法一次規(guī)劃一個步驟，在每個步驟中從多個選項中選擇最佳選項�？梢允褂脧V度優(yōu)先搜索（BFS）、深度優(yōu)先搜索（DFS）或基于圖的方法進行擴展。

3 h$ s: |8 L0 E* B
圖3說明了思維樹規(guī)劃策略，展示了如何在每個步驟評估多個選擇。
* c5 H0 Q. {5 V
( Q5 z$ i7 A  @8 c1 K8 @, g, e& z2. 有反饋規(guī)劃：
a) ReACT：這種方法通過思考、行動和觀察的循環(huán)，將規(guī)劃與環(huán)境反饋相結合。
4 ~8 j3 `/ w- Q  H0 ~  l
圖4描述了ReACT規(guī)劃策略，展示了思考、行動和觀察之間的交互。
3 [+ Z1 Z4 k. N, J
5 U7 b2 N' w3 ?( w" H1 V' |# rb) 自我反思：這種方法結合累積經驗的反饋，將短期軌跡與長期經驗相結合。

圖5說明了自我反思規(guī)劃策略，展示了如何整合短期和長期經驗。
; y3 G6 r' x3 ^  t/ Z! P" o
內存管理
" k& W0 O$ [/ v) b& E高效的內存管理對LLM代理處理復雜的芯片設計任務至關重要。內存管理的關鍵方面包括：
& e% J) B  z7 T
1. 機制：
1 M  Z4 F' }* c$ P

上下文內存（受上下文大小限制）

外部文件存儲

用于檢索增強生成（RAG）的外部向量數(shù)據(jù)庫

結構化內存（如知識圖譜）用于高效搜索

% h3 E  _& Z+ }) N- i- f1 h  o2. 范圍：

單個代理的本地內存

多個代理共享的全局內存

- c, c. Y4 j4 K3. 時間框架：

用于即時任務的短期內存

用于持久知識的長期內存
* l8 ?0 s3 m( T- s9 {# l
4. 操作：
" V+ w3 I1 y! x. |

讀取、寫入和反思能力
( L2 x  {) a6 z2 d7 P. b3 q- K
, C0 ?* Q4 u3 C1 \. ~  c引言工具集成
, L; u  \1 X  h1 p/ e9 Z' uLLM代理可以通過與專業(yè)工具集成顯著增強功能。該過程通常包括：

定義具有明確輸入/輸出規(guī)格的工具

將工具定義納入LLM提示

將LLM響應解釋為工具調用

執(zhí)行工具并將結果提供給LLM
[/ol]

) j  J+ o2 e) x- s5 n& h
1 Z* |  \( |4 _% @( a) p圖6演示了工具集成過程，展示了LLM如何與外部工具交互以執(zhí)行計算。

多代理協(xié)作
/ C2 O+ j( w, ?* T! `復雜的芯片設計任務通常受益于多個專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是：

1. 雙代理對話：
這種方法涉及連接代理以形成對話，允許基于代理角色的隱式任務分解。
, S8 K4 H$ M1 ^. M/ z1 T( L
9 V- c# L# c$ |& y4 G2. 群聊：
聊天管理器協(xié)調多個代理之間的對話，每個代理都有特定的角色和功能。

$ X$ W7 g/ ?7 I0 B; J
圖7說明了群聊場景，展示了聊天管理器如何協(xié)調專業(yè)代理之間的交互。
8 X/ J  u, c5 n* Y
任務流程
對于復雜的芯片設計過程，可以使用代理聊天實現(xiàn)多個任務的序列。這種方法允許顯式任務分解和高效的工作流管理。
6 z6 G/ `- q6 F
8 d7 f8 f3 C+ v5 w, a4 m7 D
* b" E: `0 p6 P" H4 e8 u% e圖8顯示了任務流程圖，展示了多個代理如何在軟件開發(fā)項目中協(xié)作。
. J/ B  q( Q0 e
& o2 W3 G; b8 ~% d: B% F芯片設計中的實際應用
1. 時序報告分析：
. T0 P$ N' D! o7 a, P( `4 P/ VLLM代理可用于分析和比較不同設計運行的時序報告。通過使用專業(yè)工具和提示，代理可以提供關鍵要點、設計QoR摘要和改進建議。

2. 器件聚類優(yōu)化：
代理可以優(yōu)化單元布局生成器的器件聚類約束。通過利用領域知識和ReACT規(guī)劃，這些代理可以識別重要的網絡、評估聚類并實現(xiàn)顯著的面積減少。


圖9比較了由器件聚類優(yōu)化產生的原始布局和改進布局。

3. VerilogCoder：
1 D! d- m7 z3 `! h+ Z9 w這個先進的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進，在VerilogEval（人工）基準測試中實現(xiàn)了94.2%的通過率。VerilogCoder采用任務流驅動的多代理方法，配備專門用于任務規(guī)劃和代碼實現(xiàn)的工具。


圖10概述了VerilogCoder代理系統(tǒng)，展示了其任務規(guī)劃和代碼實現(xiàn)組件。


" O' e2 |) p  Q2 U9 O結論
& {. x9 {9 ?: E: _, {& S  q5 yLLM代理正在通過提高效率和準確性來革新芯片設計，解決復雜任務。代理分解問題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導體行業(yè)中不可或缺的資產。隨著這些代理不斷發(fā)展，有望顯著提高設計師的生產力，并推動芯片設計可能性的邊界。
4 Z: S4 G! J0 h% y
' W, v8 \7 ]( D1 }目前的LLM代理擅長處理可以分解為低到中等智力努力的任務，但未來可能會看到代理解決更具挑戰(zhàn)性的設計問題。然而，值得注意的是，這些代理的真正力量在于增強和提升人類設計師的能力，而不是完全取代人類。
' U! {6 z. d! D1 [$ h$ D1 u& i
+ p( Z4 B5 z' |: s% r# k5 x. A' B9 O! r
參考文獻
' C+ J) Y! [) [[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.
; m8 N7 _( E% T. m0 y; F
- END -

軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用，PIC Studio都可提升您的工作效能。
4 v; @$ K2 D" @/ z點擊左下角"閱讀原文"馬上申請

歡迎轉載

/ V5 U5 q  M, f4 Z# }: H  T! v; t0 Z  X轉載請注明出處，請勿修改內容和刪除作者信息！
$ q  G# \0 V: i3 {, M* J5 j0 C
: X& t- C1 x3 [( d( w2 p: z
: H" h4 o- B: T! U: ?: p/ w* c7 f' {: ]& @
' }+ T: Y# N& ~
4 K: \* H6 k2 y9 C6 S
關注我們

                     

: @: b! L, @3 n% Z0 `1 v

( s9 s- w* n3 g關于我們：
/ K/ V: {$ P8 A, Q. `; e& p深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件，提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務，廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產業(yè)鏈發(fā)展，致力于為客戶提供前沿技術與服務。
$ f$ g9 p0 B  m4 p. ]# J9 h( ~5 x
http://www.latitudeda.com/
. q* T( ^, ~4 c) E+ n% l8 n$ F) u6 z2 u（點擊上方名片關注我們，發(fā)現(xiàn)更多精彩內容）