Hot Chips 2024 | 利用大語(yǔ)言模型代理推進(jìn)先進(jìn)芯片設(shè)計(jì)

逍遙設(shè)計(jì)自動(dòng)化

引言
5 ~* F; e5 P: @8 V. R2 W; m. k隨著半導(dǎo)體技術(shù)的不斷發(fā)展，大語(yǔ)言模型（LLM）和人工智能代理在芯片設(shè)計(jì)領(lǐng)域發(fā)揮著越來越重要的作用。本文旨在探討LLM代理在芯片設(shè)計(jì)中的應(yīng)用，重點(diǎn)介紹其優(yōu)勢(shì)、關(guān)鍵概念和實(shí)際實(shí)現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成，這些都使得LLM代理成為復(fù)雜芯片設(shè)計(jì)世界中的強(qiáng)大助手[1]。

代理優(yōu)勢(shì)
5 e. Y- O; S' {+ x( \" wLLM代理在芯片設(shè)計(jì)任務(wù)中展現(xiàn)出顯著的改進(jìn)。
1 c- t6 B9 q# d' a! g

圖1展示了使用LLama3和GPT4turbo在VerilogEval（人工）基準(zhǔn)測(cè)試中，非代理方法和代理方法的通過率比較。

如圖1所示，代理方法始終優(yōu)于非代理方法。例如，使用GPT4turbo時(shí)，代理方法（VerilogCoder）實(shí)現(xiàn)了94.2%的驚人通過率，而非代理方法僅為60.3%。這一顯著改進(jìn)突顯了LLM代理在解決復(fù)雜芯片設(shè)計(jì)挑戰(zhàn)方面的潛力。


代理概念
要理解LLM代理的強(qiáng)大功能，了解非代理方法和代理方法之間的基本差異非常重要。
$ x0 m  u7 H# N2 K" G$ A6 D
$ J/ r+ r& u- z! m2 c" m
4 q! i; X9 ]- o% \% {4 K. Z圖2比較了非代理和代理概念，展示了代理系統(tǒng)增強(qiáng)的復(fù)雜性和功能。

" E0 e, Y, W* }0 @0 ]1 o非代理系統(tǒng)通常涉及用戶和LLM之間的簡(jiǎn)單問答交互。相比之下，代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存，甚至多代理協(xié)作。這種增強(qiáng)的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計(jì)問題和任務(wù)。

規(guī)劃策略
有效的規(guī)劃對(duì)LLM代理將復(fù)雜的芯片設(shè)計(jì)任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略：
2 a$ F$ ?/ R" D0 U' D
1 d* N: h- G# n; {3 K* A% G/ ?1. 無(wú)反饋規(guī)劃：
( R& H0 ]' R8 S7 \' g5 Ba) 思維鏈（CoT）：這種方法涉及一次性任務(wù)分解的逐步規(guī)劃�？梢酝ㄟ^顯式指令、隱式指令或示例來實(shí)現(xiàn)。
; a+ d4 I3 e" {. p; k
b) 思維樹（ToT）：這種方法一次規(guī)劃一個(gè)步驟，在每個(gè)步驟中從多個(gè)選項(xiàng)中選擇最佳選項(xiàng)�？梢允褂脧V度優(yōu)先搜索（BFS）、深度優(yōu)先搜索（DFS）或基于圖的方法進(jìn)行擴(kuò)展。
0 o, H: m7 A) k. p2 E) y, L
8 ^  L0 r3 [" T3 m0 k
  N! O. D6 N+ }( j% d' D; v圖3說明了思維樹規(guī)劃策略，展示了如何在每個(gè)步驟評(píng)估多個(gè)選擇。

4 f! [3 b" O, Z& X2. 有反饋規(guī)劃：
a) ReACT：這種方法通過思考、行動(dòng)和觀察的循環(huán)，將規(guī)劃與環(huán)境反饋相結(jié)合。
* A; K* d8 R+ G% j% {) [
圖4描述了ReACT規(guī)劃策略，展示了思考、行動(dòng)和觀察之間的交互。
* h& X# s4 K+ p1 x9 G
+ }9 J/ L; N7 f( Kb) 自我反思：這種方法結(jié)合累積經(jīng)驗(yàn)的反饋，將短期軌跡與長(zhǎng)期經(jīng)驗(yàn)相結(jié)合。
) G- `' i8 g) n7 N: \2 l
' V4 W8 Y' b0 A1 S: ?% k  U2 ^圖5說明了自我反思規(guī)劃策略，展示了如何整合短期和長(zhǎng)期經(jīng)驗(yàn)。

內(nèi)存管理
高效的內(nèi)存管理對(duì)LLM代理處理復(fù)雜的芯片設(shè)計(jì)任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括：

5 f# @7 h  q* b1. 機(jī)制：

上下文內(nèi)存（受上下文大小限制）

外部文件存儲(chǔ)

用于檢索增強(qiáng)生成（RAG）的外部向量數(shù)據(jù)庫(kù)

結(jié)構(gòu)化內(nèi)存（如知識(shí)圖譜）用于高效搜索

2. 范圍：

單個(gè)代理的本地內(nèi)存

多個(gè)代理共享的全局內(nèi)存

* j  y" o) n2 \4 J( @6 a2 t3. 時(shí)間框架：

用于即時(shí)任務(wù)的短期內(nèi)存

用于持久知識(shí)的長(zhǎng)期內(nèi)存
# O8 k7 i% s4 E& m: W* `9 r
4. 操作：
' a' t8 R7 {: M- h+ E' q2 M

讀取、寫入和反思能力
8 ^! T6 @4 P  G2 d. z
引言工具集成
LLM代理可以通過與專業(yè)工具集成顯著增強(qiáng)功能。該過程通常包括：

定義具有明確輸入/輸出規(guī)格的工具

將工具定義納入LLM提示

將LLM響應(yīng)解釋為工具調(diào)用

執(zhí)行工具并將結(jié)果提供給LLM
[/ol]
1 G& D& ]: M7 \) s9 N5 A- }* W
/ h  y; a5 G& P1 K1 Z
9 s! _$ _7 g4 @2 @# ~8 S圖6演示了工具集成過程，展示了LLM如何與外部工具交互以執(zhí)行計(jì)算。
5 G" h9 }7 K% j4 y- c1 T
多代理協(xié)作
( p$ c6 r, \4 U5 q* \( m, H" p2 i復(fù)雜的芯片設(shè)計(jì)任務(wù)通常受益于多個(gè)專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是：
7 _, ?* z2 q# i9 e# Y0 y
/ k; @* k7 a+ `0 J/ n8 O: I6 W1. 雙代理對(duì)話：
9 ^- s8 D( o' o2 G6 G1 P這種方法涉及連接代理以形成對(duì)話，允許基于代理角色的隱式任務(wù)分解。

2. 群聊：
聊天管理器協(xié)調(diào)多個(gè)代理之間的對(duì)話，每個(gè)代理都有特定的角色和功能。


/ L( z9 P3 d2 L- Q圖7說明了群聊場(chǎng)景，展示了聊天管理器如何協(xié)調(diào)專業(yè)代理之間的交互。
8 V6 }. Y2 l" y; A. w  a) n
' A4 {+ K" E: L  O8 r任務(wù)流程
& v3 z( h( P8 K) j1 l4 P對(duì)于復(fù)雜的芯片設(shè)計(jì)過程，可以使用代理聊天實(shí)現(xiàn)多個(gè)任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。


圖8顯示了任務(wù)流程圖，展示了多個(gè)代理如何在軟件開發(fā)項(xiàng)目中協(xié)作。

芯片設(shè)計(jì)中的實(shí)際應(yīng)用
1. 時(shí)序報(bào)告分析：
( Y2 @" H& C% Z* @8 h4 p, `4 nLLM代理可用于分析和比較不同設(shè)計(jì)運(yùn)行的時(shí)序報(bào)告。通過使用專業(yè)工具和提示，代理可以提供關(guān)鍵要點(diǎn)、設(shè)計(jì)QoR摘要和改進(jìn)建議。

2. 器件聚類優(yōu)化：
. p3 K; @$ o- x( ~. M代理可以優(yōu)化單元布局生成器的器件聚類約束。通過利用領(lǐng)域知識(shí)和ReACT規(guī)劃，這些代理可以識(shí)別重要的網(wǎng)絡(luò)、評(píng)估聚類并實(shí)現(xiàn)顯著的面積減少。


! H" _  i1 t; I! B( I5 f5 P' A  h圖9比較了由器件聚類優(yōu)化產(chǎn)生的原始布局和改進(jìn)布局。

* @8 t6 {0 y! G& A( i/ D  W3 n- a* p# |3. VerilogCoder：
這個(gè)先進(jìn)的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進(jìn)，在VerilogEval（人工）基準(zhǔn)測(cè)試中實(shí)現(xiàn)了94.2%的通過率。VerilogCoder采用任務(wù)流驅(qū)動(dòng)的多代理方法，配備專門用于任務(wù)規(guī)劃和代碼實(shí)現(xiàn)的工具。


圖10概述了VerilogCoder代理系統(tǒng)，展示了其任務(wù)規(guī)劃和代碼實(shí)現(xiàn)組件。


- n1 Y8 W6 ]/ e8 z; c0 Q% h結(jié)論
LLM代理正在通過提高效率和準(zhǔn)確性來革新芯片設(shè)計(jì)，解決復(fù)雜任務(wù)。代理分解問題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展，有望顯著提高設(shè)計(jì)師的生產(chǎn)力，并推動(dòng)芯片設(shè)計(jì)可能性的邊界。

% w3 K% u! Y& Q' l6 z# ~目前的LLM代理擅長(zhǎng)處理可以分解為低到中等智力努力的任務(wù)，但未來可能會(huì)看到代理解決更具挑戰(zhàn)性的設(shè)計(jì)問題。然而，值得注意的是，這些代理的真正力量在于增強(qiáng)和提升人類設(shè)計(jì)師的能力，而不是完全取代人類。


& {0 ?  i' U3 q  x/ @參考文獻(xiàn)
[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.
7 O. a$ f. C# P0 n9 O
- END -
/ N6 X$ y( x8 J  u  h" ?! J
1 a* a; e" F/ p0 R% Z) Y軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用，PIC Studio都可提升您的工作效能。
點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)
. p; [6 D8 H! ?- R* a
0 e9 ~5 j* u6 D4 G! \/ O歡迎轉(zhuǎn)載
3 C% w8 L, n! e: h) L. M( ^
; |$ I* M& N9 H1 y3 f6 f. g轉(zhuǎn)載請(qǐng)注明出處，請(qǐng)勿修改內(nèi)容和刪除作者信息！
7 Y: F( f0 @$ P0 e


+ A/ F% S: `, Z7 N9 E/ d9 n
# u2 A4 p. P) J6 z+ B5 g1 v
2 V  j9 ~! Q7 e$ `: c  B關(guān)注我們
6 U7 R$ Q3 p# ]- D8 n( C5 E
4 Z, U8 E" ?! x# d" W2 K

' i& v- m# X1 D, l; O

                     
4 w5 z) u5 e+ \* J7 M


關(guān)于我們：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。

9 O, d% b, J& C) G: e+ Mhttp://www.latitudeda.com/
（點(diǎn)擊上方名片關(guān)注我們，發(fā)現(xiàn)更多精彩內(nèi)容）