Hot Chips 2024 | 利用大語言模型代理推進先進芯片設計

逍遙設計自動化

引言
2 g! w5 @" s8 G5 k3 y隨著半導體技術的不斷發(fā)展，大語言模型（LLM）和人工智能代理在芯片設計領域發(fā)揮著越來越重要的作用。本文旨在探討LLM代理在芯片設計中的應用，重點介紹其優(yōu)勢、關鍵概念和實際實現(xiàn)。我們將研究各種規(guī)劃策略、內存管理技術和工具集成，這些都使得LLM代理成為復雜芯片設計世界中的強大助手[1]。
- z% }' u! E% t
' z  \9 d8 `' A2 f代理優(yōu)勢
/ f2 q+ [# R  v% _8 c6 SLLM代理在芯片設計任務中展現(xiàn)出顯著的改進。
" `/ q9 W' A% [

圖1展示了使用LLama3和GPT4turbo在VerilogEval（人工）基準測試中，非代理方法和代理方法的通過率比較。
, Q6 K/ v9 ^* i; x9 o1 N) O
如圖1所示，代理方法始終優(yōu)于非代理方法。例如，使用GPT4turbo時，代理方法（VerilogCoder）實現(xiàn)了94.2%的驚人通過率，而非代理方法僅為60.3%。這一顯著改進突顯了LLM代理在解決復雜芯片設計挑戰(zhàn)方面的潛力。
- Z- `1 c6 w' O. {( p) \# e- n
$ n3 S1 W3 t* t9 q$ a
代理概念
要理解LLM代理的強大功能，了解非代理方法和代理方法之間的基本差異非常重要。
/ A7 ^2 J& [, S+ w1 |

圖2比較了非代理和代理概念，展示了代理系統(tǒng)增強的復雜性和功能。
8 u) G3 {/ j5 p- T2 r; M3 F/ Q
$ V' W$ H6 V" o" ?0 |非代理系統(tǒng)通常涉及用戶和LLM之間的簡單問答交互。相比之下，代理系統(tǒng)結合了規(guī)劃、工具、內存，甚至多代理協(xié)作。這種增強的架構使LLM代理能夠處理更復雜的芯片設計問題和任務。
7 w: D9 C  b$ x( |
規(guī)劃策略
  J: G  j: h0 w% S8 h9 B有效的規(guī)劃對LLM代理將復雜的芯片設計任務分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略：
: ~, O7 t3 D" g4 \% i1 i9 [. e
7 f" M! a' M, s1. 無反饋規(guī)劃：
' p4 [4 w3 h2 p0 J  R( ra) 思維鏈（CoT）：這種方法涉及一次性任務分解的逐步規(guī)劃�？梢酝ㄟ^顯式指令、隱式指令或示例來實現(xiàn)。

: {. {- W) r1 l! V* f$ ab) 思維樹（ToT）：這種方法一次規(guī)劃一個步驟，在每個步驟中從多個選項中選擇最佳選項�？梢允褂脧V度優(yōu)先搜索（BFS）、深度優(yōu)先搜索（DFS）或基于圖的方法進行擴展。
* B. q# U: L5 `! ~5 y

圖3說明了思維樹規(guī)劃策略，展示了如何在每個步驟評估多個選擇。
% _3 L5 u  u: Z+ b" \
2. 有反饋規(guī)劃：
a) ReACT：這種方法通過思考、行動和觀察的循環(huán)，將規(guī)劃與環(huán)境反饋相結合。
7 Q; ^- _: f4 o& z/ K- n' N9 k9 ]  ]  j
! Z* w1 H! M" X0 \( Z圖4描述了ReACT規(guī)劃策略，展示了思考、行動和觀察之間的交互。
5 [8 D9 @5 ]6 y( u8 n
3 b% j, h; R+ O- }/ h  gb) 自我反思：這種方法結合累積經(jīng)驗的反饋，將短期軌跡與長期經(jīng)驗相結合。
: M, n/ `  I) P; D0 ~
圖5說明了自我反思規(guī)劃策略，展示了如何整合短期和長期經(jīng)驗。
5 R0 U( M. l: U2 c. Q' |7 p1 S* c
內存管理
; L, S# t. Y7 k: M高效的內存管理對LLM代理處理復雜的芯片設計任務至關重要。內存管理的關鍵方面包括：
- f7 c  h3 ~2 \' D% L% ]! E- U
1. 機制：

上下文內存（受上下文大小限制）

外部文件存儲

用于檢索增強生成（RAG）的外部向量數(shù)據(jù)庫

結構化內存（如知識圖譜）用于高效搜索

2. 范圍：
* b) w: [; F  n9 _

單個代理的本地內存

多個代理共享的全局內存

( ]6 }( U: S7 U/ e  D% G4 i/ }3. 時間框架：
  S( c# u) B5 m

用于即時任務的短期內存

用于持久知識的長期內存
+ i+ J4 I/ n5 O% ?$ g" y( E0 h
4. 操作：
: O* ~  b. p# l' J9 k. t2 [6 O

讀取、寫入和反思能力

* c% G/ v( u; g% R: h2 a2 S引言工具集成
7 H; J. m+ S4 W) {LLM代理可以通過與專業(yè)工具集成顯著增強功能。該過程通常包括：

定義具有明確輸入/輸出規(guī)格的工具

將工具定義納入LLM提示

將LLM響應解釋為工具調用

執(zhí)行工具并將結果提供給LLM
[/ol]
( n1 _' w8 l6 _3 a. q6 L. J2 a6 |- M$ ^
4 J& n% ~1 w& v6 B
圖6演示了工具集成過程，展示了LLM如何與外部工具交互以執(zhí)行計算。
* k  X) w! u1 x2 Y
多代理協(xié)作
+ O$ [" Q$ I8 a( t- B* V+ F復雜的芯片設計任務通常受益于多個專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是：

1. 雙代理對話：
這種方法涉及連接代理以形成對話，允許基于代理角色的隱式任務分解。
8 g3 t8 d) ^. }. i$ d5 P
2. 群聊：
. `& V6 g- t+ E, d4 y" e聊天管理器協(xié)調多個代理之間的對話，每個代理都有特定的角色和功能。

% H2 }6 u7 {/ [
/ y1 ?. Y# w5 ]4 b* |7 u) E圖7說明了群聊場景，展示了聊天管理器如何協(xié)調專業(yè)代理之間的交互。

任務流程
6 q+ L3 @/ g% b對于復雜的芯片設計過程，可以使用代理聊天實現(xiàn)多個任務的序列。這種方法允許顯式任務分解和高效的工作流管理。
0 k6 [# A' P- ~
  a& G: I  J" n+ S; ^
6 _: b0 H$ D6 [$ D# H圖8顯示了任務流程圖，展示了多個代理如何在軟件開發(fā)項目中協(xié)作。
; p) O8 @! |$ K: h' o! M5 M1 {. [( u
5 L" L8 e! r) Q芯片設計中的實際應用
1. 時序報告分析：
LLM代理可用于分析和比較不同設計運行的時序報告。通過使用專業(yè)工具和提示，代理可以提供關鍵要點、設計QoR摘要和改進建議。
/ L0 l, T- V9 Z2 Y" j! Z7 p
2. 器件聚類優(yōu)化：
代理可以優(yōu)化單元布局生成器的器件聚類約束。通過利用領域知識和ReACT規(guī)劃，這些代理可以識別重要的網(wǎng)絡、評估聚類并實現(xiàn)顯著的面積減少。
" [( Z2 K3 \5 c! ]) J% B9 I) y
3 ^$ ?! o8 [& U5 l$ S5 {4 v
圖9比較了由器件聚類優(yōu)化產(chǎn)生的原始布局和改進布局。

# C8 G4 p% _& B% x3. VerilogCoder：
這個先進的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進，在VerilogEval（人工）基準測試中實現(xiàn)了94.2%的通過率。VerilogCoder采用任務流驅動的多代理方法，配備專門用于任務規(guī)劃和代碼實現(xiàn)的工具。

8 D, K3 k+ _- b$ L) @4 T$ ~
圖10概述了VerilogCoder代理系統(tǒng)，展示了其任務規(guī)劃和代碼實現(xiàn)組件。


結論
LLM代理正在通過提高效率和準確性來革新芯片設計，解決復雜任務。代理分解問題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展，有望顯著提高設計師的生產(chǎn)力，并推動芯片設計可能性的邊界。
7 [& y; C# Q& w  Q
7 i; ?; f7 w4 ]  W% ?目前的LLM代理擅長處理可以分解為低到中等智力努力的任務，但未來可能會看到代理解決更具挑戰(zhàn)性的設計問題。然而，值得注意的是，這些代理的真正力量在于增強和提升人類設計師的能力，而不是完全取代人類。


! h9 ?% |% O, Q9 i* p參考文獻
[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.

% b" ]# k9 I) j* {8 n- END -

5 ]- v  L. @! t9 E4 k! O# `5 ^8 C軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應用，PIC Studio都可提升您的工作效能。
點擊左下角"閱讀原文"馬上申請
! C/ H6 C+ J) M* J: ^3 P6 s" C+ z
歡迎轉載

0 v7 t) G4 U) M, y轉載請注明出處，請勿修改內容和刪除作者信息！
! I( ]6 Q5 p0 z4 V; q3 [

0 x4 G9 m7 X) r! t9 v
- G7 y7 c2 m7 D6 ~

4 H# ?$ `4 Y5 m) U  @/ \& F關注我們

0 D% O' b7 d6 R9 Y' z4 p: o

0 g, s2 H& @" W, |

3 k; t2 |+ u4 C2 O6 _9 Q4 d $ P5 K) w/ P/ C7 J) F& g3 E. a

                     


& Q1 Z, I2 i% ], @. |
關于我們：
, @  L  ~0 I% q, F9 F' s: F深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導體芯片設計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設計和仿真軟件，提供成熟的設計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設計與仿真。我們提供特色工藝的半導體芯片集成電路版圖、IP和PDK工程服務，廣泛服務于光通訊、光計算、光量子通信和微納光子器件領域的頭部客戶。逍遙科技與國內外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術與服務。

http://www.latitudeda.com/
5 ^1 o  v( E& Y7 b（點擊上方名片關注我們，發(fā)現(xiàn)更多精彩內容）