Hot Chips 2024 | 利用大語言模型代理推進先進芯片設(shè)計

逍遙設(shè)計自動化

引言
隨著半導(dǎo)體技術(shù)的不斷發(fā)展，大語言模型（LLM）和人工智能代理在芯片設(shè)計領(lǐng)域發(fā)揮著越來越重要的作用。本文旨在探討LLM代理在芯片設(shè)計中的應(yīng)用，重點介紹其優(yōu)勢、關(guān)鍵概念和實際實現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成，這些都使得LLM代理成為復(fù)雜芯片設(shè)計世界中的強大助手[1]。

5 i1 l% @; L9 ~- B! _$ i! c: r代理優(yōu)勢
LLM代理在芯片設(shè)計任務(wù)中展現(xiàn)出顯著的改進。

0 E5 ^! U' L' ]% u* N$ n
圖1展示了使用LLama3和GPT4turbo在VerilogEval（人工）基準測試中，非代理方法和代理方法的通過率比較。

如圖1所示，代理方法始終優(yōu)于非代理方法。例如，使用GPT4turbo時，代理方法（VerilogCoder）實現(xiàn)了94.2%的驚人通過率，而非代理方法僅為60.3%。這一顯著改進突顯了LLM代理在解決復(fù)雜芯片設(shè)計挑戰(zhàn)方面的潛力。


代理概念
1 d+ o' J/ y1 ]4 M" L! K' h0 z要理解LLM代理的強大功能，了解非代理方法和代理方法之間的基本差異非常重要。
% Q# n% `* i$ v/ L' m# G
( ?: E6 |" a9 |! u
圖2比較了非代理和代理概念，展示了代理系統(tǒng)增強的復(fù)雜性和功能。
# A% X; f$ G5 G
0 x5 o3 q# p5 }' P  Z8 H: g非代理系統(tǒng)通常涉及用戶和LLM之間的簡單問答交互。相比之下，代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存，甚至多代理協(xié)作。這種增強的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計問題和任務(wù)。
8 r* @( K3 t3 a% F3 ?. ^& i; W1 j
規(guī)劃策略
有效的規(guī)劃對LLM代理將復(fù)雜的芯片設(shè)計任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略：
4 @( h- \( c5 _0 R% r& ~
1. 無反饋規(guī)劃：
9 i+ O. z8 ?* s, r% e. [6 e5 |; }a) 思維鏈（CoT）：這種方法涉及一次性任務(wù)分解的逐步規(guī)劃�？梢酝ㄟ^顯式指令、隱式指令或示例來實現(xiàn)。
2 j8 @! \) F8 J/ w% D
b) 思維樹（ToT）：這種方法一次規(guī)劃一個步驟，在每個步驟中從多個選項中選擇最佳選項�？梢允褂脧V度優(yōu)先搜索（BFS）、深度優(yōu)先搜索（DFS）或基于圖的方法進行擴展。

( l7 [  A# T& h7 w7 o9 i
6 [4 W  W- l$ j: g圖3說明了思維樹規(guī)劃策略，展示了如何在每個步驟評估多個選擇。
3 Y/ W( D4 h# S' K
8 ~- h9 ?2 f- E0 N& M3 Z2. 有反饋規(guī)劃：
a) ReACT：這種方法通過思考、行動和觀察的循環(huán)，將規(guī)劃與環(huán)境反饋相結(jié)合。
8 q1 r% E1 N! K5 k8 N( N
圖4描述了ReACT規(guī)劃策略，展示了思考、行動和觀察之間的交互。

* I7 k& E7 N6 [" G; c: d+ V3 Jb) 自我反思：這種方法結(jié)合累積經(jīng)驗的反饋，將短期軌跡與長期經(jīng)驗相結(jié)合。
3 W' R7 @" \7 {. x( l( r
5 K* b# {+ |. I3 _# {圖5說明了自我反思規(guī)劃策略，展示了如何整合短期和長期經(jīng)驗。
5 ]& w% G, e( {' i; m
6 R2 O; p$ P2 W; t% E' e0 y4 q內(nèi)存管理
高效的內(nèi)存管理對LLM代理處理復(fù)雜的芯片設(shè)計任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括：

) w- S2 H# G: n- [) x- J' ^1. 機制：

上下文內(nèi)存（受上下文大小限制）

外部文件存儲

用于檢索增強生成（RAG）的外部向量數(shù)據(jù)庫

結(jié)構(gòu)化內(nèi)存（如知識圖譜）用于高效搜索
( q8 k% r" e( o9 g' ]* j% r
2. 范圍：
5 m' L# [  H) r/ Z

單個代理的本地內(nèi)存

多個代理共享的全局內(nèi)存
5 u3 Q# ~3 ]# R( i9 }1 k  q0 u
3. 時間框架：

用于即時任務(wù)的短期內(nèi)存

用于持久知識的長期內(nèi)存
, Y& y7 Q9 `9 y5 A4 c" F
4. 操作：

讀取、寫入和反思能力

+ g5 [0 ]* ~9 K引言工具集成
LLM代理可以通過與專業(yè)工具集成顯著增強功能。該過程通常包括：

定義具有明確輸入/輸出規(guī)格的工具

將工具定義納入LLM提示

將LLM響應(yīng)解釋為工具調(diào)用

執(zhí)行工具并將結(jié)果提供給LLM
[/ol]


5 [9 y! V; o( n; a8 E3 u圖6演示了工具集成過程，展示了LLM如何與外部工具交互以執(zhí)行計算。

多代理協(xié)作
復(fù)雜的芯片設(shè)計任務(wù)通常受益于多個專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是：

) J4 d" J! f0 I  t2 |+ h1. 雙代理對話：
這種方法涉及連接代理以形成對話，允許基于代理角色的隱式任務(wù)分解。
& G+ M- G6 O, o
/ K8 ]$ K: w8 p, Z, b2. 群聊：
: h5 w( |" k- W' f: m6 V8 A  c4 i: y. T聊天管理器協(xié)調(diào)多個代理之間的對話，每個代理都有特定的角色和功能。

. f& z) |" J2 g" F. x- g" o% F5 ]
4 m& m& g( D2 u圖7說明了群聊場景，展示了聊天管理器如何協(xié)調(diào)專業(yè)代理之間的交互。

任務(wù)流程
對于復(fù)雜的芯片設(shè)計過程，可以使用代理聊天實現(xiàn)多個任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。

- h* F; |: j  L$ y9 n
% K+ i* B. i$ ~1 t0 d7 o9 Z圖8顯示了任務(wù)流程圖，展示了多個代理如何在軟件開發(fā)項目中協(xié)作。
9 N/ f0 O7 m3 I3 t5 `7 u$ U
! M+ k+ }+ R! N芯片設(shè)計中的實際應(yīng)用
. b: u' |5 C& ^. g4 b1. 時序報告分析：
3 ?& T( O7 d+ ~# B+ g, gLLM代理可用于分析和比較不同設(shè)計運行的時序報告。通過使用專業(yè)工具和提示，代理可以提供關(guān)鍵要點、設(shè)計QoR摘要和改進建議。
8 e* Z$ b2 _* p4 g. x
1 E0 [- e2 |) E& }0 [2. 器件聚類優(yōu)化：
' \- h( a0 Y/ ]1 D/ w; ?# [代理可以優(yōu)化單元布局生成器的器件聚類約束。通過利用領(lǐng)域知識和ReACT規(guī)劃，這些代理可以識別重要的網(wǎng)絡(luò)、評估聚類并實現(xiàn)顯著的面積減少。

, q: P& d8 F& S! j) K) P
! t2 U  I& q# x圖9比較了由器件聚類優(yōu)化產(chǎn)生的原始布局和改進布局。
7 z6 c. V  O* ~0 m6 v+ g4 Q; s
3. VerilogCoder：
這個先進的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進，在VerilogEval（人工）基準測試中實現(xiàn)了94.2%的通過率。VerilogCoder采用任務(wù)流驅(qū)動的多代理方法，配備專門用于任務(wù)規(guī)劃和代碼實現(xiàn)的工具。

1 B! o3 y  ]5 u
圖10概述了VerilogCoder代理系統(tǒng)，展示了其任務(wù)規(guī)劃和代碼實現(xiàn)組件。

6 L. D& @: D' ~
結(jié)論
  x! k8 c3 c) m. U3 L5 A8 V8 eLLM代理正在通過提高效率和準確性來革新芯片設(shè)計，解決復(fù)雜任務(wù)。代理分解問題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展，有望顯著提高設(shè)計師的生產(chǎn)力，并推動芯片設(shè)計可能性的邊界。
( I4 ]9 B- \  b- f
目前的LLM代理擅長處理可以分解為低到中等智力努力的任務(wù)，但未來可能會看到代理解決更具挑戰(zhàn)性的設(shè)計問題。然而，值得注意的是，這些代理的真正力量在于增強和提升人類設(shè)計師的能力，而不是完全取代人類。
. f3 c8 Z4 F) B9 `& U
, w$ O9 w0 N) A2 c# ]
參考文獻
[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.
, R& e( h4 y9 O& q( i5 J# z
; e8 E. ~' y7 k2 O/ h5 L- END -

軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
: ~; U5 \- f6 {" b5 a# A$ F點擊左下角"閱讀原文"馬上申請
2 u, Y% B" ~9 z, g
歡迎轉(zhuǎn)載
6 u6 S) G# a' o8 d, t
轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！
. b' }. ]- p- u7 s9 ]. J9 x  f* i: D
* }, n7 d. C0 `+ ~5 g. ^



關(guān)注我們
+ X- i' e8 |4 |1 M
/ a1 l5 B9 y  M1 f

5 k. v1 C" k! N# P' ]

1 Q' a& f; [( U- k  j' m" U% V . \6 [; p5 D1 r0 `7 P! u( N- f

$ Y9 t+ M6 a6 l

                     



關(guān)于我們：
0 {1 S. E& z! P# l' S5 t5 ]. m深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件，提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。
7 k+ y5 W; U5 F0 o1 H2 v
0 W1 m' \7 G6 Rhttp://www.latitudeda.com/
（點擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）