Hot Chips 2024 | 利用大語言模型代理推進先進芯片設(shè)計

逍遙設(shè)計自動化

引言
( p7 U# M& s3 N* M4 B; \; h' e8 Z+ E8 N隨著半導(dǎo)體技術(shù)的不斷發(fā)展，大語言模型（LLM）和人工智能代理在芯片設(shè)計領(lǐng)域發(fā)揮著越來越重要的作用。本文旨在探討LLM代理在芯片設(shè)計中的應(yīng)用，重點介紹其優(yōu)勢、關(guān)鍵概念和實際實現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成，這些都使得LLM代理成為復(fù)雜芯片設(shè)計世界中的強大助手[1]。
& M! d" q  |+ _( |  b
  \0 s% f: I0 l& q1 V; h代理優(yōu)勢
7 g" ]. l3 L  y) p6 t' n% w" XLLM代理在芯片設(shè)計任務(wù)中展現(xiàn)出顯著的改進。
. `% q6 s' h% h+ f( Q/ H

0 t$ H/ I4 b! l" H( f  I& ]% C圖1展示了使用LLama3和GPT4turbo在VerilogEval（人工）基準(zhǔn)測試中，非代理方法和代理方法的通過率比較。
* _0 v1 g; ]0 c# f4 a: V5 Z
如圖1所示，代理方法始終優(yōu)于非代理方法。例如，使用GPT4turbo時，代理方法（VerilogCoder）實現(xiàn)了94.2%的驚人通過率，而非代理方法僅為60.3%。這一顯著改進突顯了LLM代理在解決復(fù)雜芯片設(shè)計挑戰(zhàn)方面的潛力。

7 k) R( `6 d5 x5 L6 N% E, g8 }
代理概念
& A6 K0 I2 J" E) \+ B要理解LLM代理的強大功能，了解非代理方法和代理方法之間的基本差異非常重要。
( \1 ^9 K& N% h' {: }- M/ M  n

2 V( F$ ^: J! l圖2比較了非代理和代理概念，展示了代理系統(tǒng)增強的復(fù)雜性和功能。
9 o+ r9 i( X  P" h& S  K
非代理系統(tǒng)通常涉及用戶和LLM之間的簡單問答交互。相比之下，代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存，甚至多代理協(xié)作。這種增強的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計問題和任務(wù)。

2 s3 B% d9 l6 i規(guī)劃策略
& ?/ C% B/ U$ ?# S有效的規(guī)劃對LLM代理將復(fù)雜的芯片設(shè)計任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略：
" E* v5 z9 u, r7 v
1. 無反饋規(guī)劃：
3 Q" I( u0 C/ la) 思維鏈（CoT）：這種方法涉及一次性任務(wù)分解的逐步規(guī)劃�？梢酝ㄟ^顯式指令、隱式指令或示例來實現(xiàn)。
, O1 f7 L2 ]4 H
/ |+ D. L  a0 M+ @7 y8 u, ?. Z- gb) 思維樹（ToT）：這種方法一次規(guī)劃一個步驟，在每個步驟中從多個選項中選擇最佳選項。可以使用廣度優(yōu)先搜索（BFS）、深度優(yōu)先搜索（DFS）或基于圖的方法進行擴展。
( ^$ j$ J* m6 u1 `$ j
* C) m$ c; j4 h, Q* [
圖3說明了思維樹規(guī)劃策略，展示了如何在每個步驟評估多個選擇。
4 d  M: D0 k  y" _1 t
, A& F+ L! ~5 h3 A1 S* r' Y2. 有反饋規(guī)劃：
a) ReACT：這種方法通過思考、行動和觀察的循環(huán)，將規(guī)劃與環(huán)境反饋相結(jié)合。

+ P2 ?1 @  c2 v8 v* Q0 P& d圖4描述了ReACT規(guī)劃策略，展示了思考、行動和觀察之間的交互。

b) 自我反思：這種方法結(jié)合累積經(jīng)驗的反饋，將短期軌跡與長期經(jīng)驗相結(jié)合。

4 C$ Y# O: K& w& \圖5說明了自我反思規(guī)劃策略，展示了如何整合短期和長期經(jīng)驗。

內(nèi)存管理
高效的內(nèi)存管理對LLM代理處理復(fù)雜的芯片設(shè)計任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括：

. |' v( Q9 Q* R* A1 G$ Q3 |1. 機制：

上下文內(nèi)存（受上下文大小限制）

外部文件存儲

用于檢索增強生成（RAG）的外部向量數(shù)據(jù)庫

結(jié)構(gòu)化內(nèi)存（如知識圖譜）用于高效搜索

3 x* s# ]5 U+ E" K2. 范圍：

單個代理的本地內(nèi)存

多個代理共享的全局內(nèi)存

3. 時間框架：
4 K; }1 x1 p/ K& O' y8 h7 N- ~

用于即時任務(wù)的短期內(nèi)存

用于持久知識的長期內(nèi)存

+ p4 i  z8 w0 Y2 }2 H. H! T  u' F4. 操作：
4 j& _4 ?" Z1 i) \9 c

讀取、寫入和反思能力

引言工具集成
LLM代理可以通過與專業(yè)工具集成顯著增強功能。該過程通常包括：

定義具有明確輸入/輸出規(guī)格的工具

將工具定義納入LLM提示

將LLM響應(yīng)解釋為工具調(diào)用

執(zhí)行工具并將結(jié)果提供給LLM
[/ol]


2 z, }& Z: D0 @圖6演示了工具集成過程，展示了LLM如何與外部工具交互以執(zhí)行計算。

- O/ U# k9 M5 @: S多代理協(xié)作
復(fù)雜的芯片設(shè)計任務(wù)通常受益于多個專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是：
7 q+ ]( L3 H8 \0 ?- o. x
& p& X& ^2 H8 z7 ?2 P1. 雙代理對話：
這種方法涉及連接代理以形成對話，允許基于代理角色的隱式任務(wù)分解。

9 I7 M) r3 b4 {; J6 a2. 群聊：
聊天管理器協(xié)調(diào)多個代理之間的對話，每個代理都有特定的角色和功能。
. I* }6 c) a  x; j
" N+ w" l) ~3 O
, k% V3 h! L- R, E4 i* j$ ]圖7說明了群聊場景，展示了聊天管理器如何協(xié)調(diào)專業(yè)代理之間的交互。
. K3 F6 h. G, v1 |
8 L  g& w3 A3 Z+ w  H任務(wù)流程
9 Z9 |: M7 H5 o+ i! h對于復(fù)雜的芯片設(shè)計過程，可以使用代理聊天實現(xiàn)多個任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。
- r& D4 {% ^9 `$ M4 g

圖8顯示了任務(wù)流程圖，展示了多個代理如何在軟件開發(fā)項目中協(xié)作。
; {7 z$ @! ]0 T6 O7 L
0 A& Y" R& I1 K# j- M, r, M芯片設(shè)計中的實際應(yīng)用
1. 時序報告分析：
* @6 A3 Z. F) ^# kLLM代理可用于分析和比較不同設(shè)計運行的時序報告。通過使用專業(yè)工具和提示，代理可以提供關(guān)鍵要點、設(shè)計QoR摘要和改進建議。
' c. O8 G1 Y4 Y! E: E/ V; S, m+ C9 t
  h; T+ O* V! `8 c% C7 ~2. 器件聚類優(yōu)化：
1 B: r' ~9 u3 b3 u代理可以優(yōu)化單元布局生成器的器件聚類約束。通過利用領(lǐng)域知識和ReACT規(guī)劃，這些代理可以識別重要的網(wǎng)絡(luò)、評估聚類并實現(xiàn)顯著的面積減少。
( \2 o, X- u# V9 z2 @
; u+ ?( \; {( B
3 I' V" U1 T9 D$ e: z2 V$ [圖9比較了由器件聚類優(yōu)化產(chǎn)生的原始布局和改進布局。

9 E( }+ f2 P% j, h6 I2 R3. VerilogCoder：
: c3 _' d5 ^4 Z1 X這個先進的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進，在VerilogEval（人工）基準(zhǔn)測試中實現(xiàn)了94.2%的通過率。VerilogCoder采用任務(wù)流驅(qū)動的多代理方法，配備專門用于任務(wù)規(guī)劃和代碼實現(xiàn)的工具。


9 d0 O- o5 D. K. {8 Z, }* X! z圖10概述了VerilogCoder代理系統(tǒng)，展示了其任務(wù)規(guī)劃和代碼實現(xiàn)組件。
( r0 P5 g9 k$ x* Y0 r6 m. N  k, }

結(jié)論
LLM代理正在通過提高效率和準(zhǔn)確性來革新芯片設(shè)計，解決復(fù)雜任務(wù)。代理分解問題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展，有望顯著提高設(shè)計師的生產(chǎn)力，并推動芯片設(shè)計可能性的邊界。
5 U8 {7 f! o! m! K3 N9 S
目前的LLM代理擅長處理可以分解為低到中等智力努力的任務(wù)，但未來可能會看到代理解決更具挑戰(zhàn)性的設(shè)計問題。然而，值得注意的是，這些代理的真正力量在于增強和提升人類設(shè)計師的能力，而不是完全取代人類。

. ]' \* ]0 h+ _9 d# {; i
參考文獻
  |' f9 R- S% Q5 M& M[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.

- END -
; N" U- J( O& g6 A5 [: b
) ^& m7 M" `3 a& B3 X/ x  R軟件申請我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請體驗免費版PIC Studio軟件。無論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
6 ?0 U5 K# P+ F點擊左下角"閱讀原文"馬上申請
4 r& i: }5 i! j0 y4 A3 |; T
* V) O5 |1 I  ~/ x歡迎轉(zhuǎn)載

: ~, {) v* \; b+ B, {, s* W轉(zhuǎn)載請注明出處，請勿修改內(nèi)容和刪除作者信息！



* T* f" N6 i* l( h

3 {; i9 s; d4 g# V& h關(guān)注我們
: D2 K0 J' C5 w4 Y8 C

. Z; [5 [8 h9 D1 F# W5 L3 E ! b* O2 z, T* N+ ?5 f; ~

                     

  ]0 l( r/ G% C% X
9 C. u7 q2 h8 s: C* S# {
& t5 i! u4 O/ f: ]: P& v關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計自動化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計和仿真軟件，提供成熟的設(shè)計解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對光電芯片、微機電系統(tǒng)、超透鏡的設(shè)計與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。

# w! r& O: `& x: f& K+ \3 Ehttp://www.latitudeda.com/
（點擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）