電子產(chǎn)業(yè)一站式賦能平臺(tái)

PCB聯(lián)盟網(wǎng)

搜索
查看: 591|回復(fù): 0
收起左側(cè)

Hot Chips 2024 | 利用大語(yǔ)言模型代理推進(jìn)先進(jìn)芯片設(shè)計(jì)

[復(fù)制鏈接]

686

主題

686

帖子

5863

積分

四級(jí)會(huì)員

Rank: 4

積分
5863
跳轉(zhuǎn)到指定樓層
樓主
發(fā)表于 2024-9-20 08:00:00 | 只看該作者 |只看大圖 回帖獎(jiǎng)勵(lì) |倒序?yàn)g覽 |閱讀模式
引言
* ^9 _# s7 t% C' }6 W; M4 J隨著半導(dǎo)體技術(shù)的不斷發(fā)展,大語(yǔ)言模型(LLM)和人工智能代理在芯片設(shè)計(jì)領(lǐng)域發(fā)揮著越來(lái)越重要的作用。本文旨在探討LLM代理在芯片設(shè)計(jì)中的應(yīng)用,重點(diǎn)介紹其優(yōu)勢(shì)、關(guān)鍵概念和實(shí)際實(shí)現(xiàn)。我們將研究各種規(guī)劃策略、內(nèi)存管理技術(shù)和工具集成,這些都使得LLM代理成為復(fù)雜芯片設(shè)計(jì)世界中的強(qiáng)大助手[1]。7 S5 J* x- h2 @; E& e

. {: o& `& [: f& ~9 b  i代理優(yōu)勢(shì), e5 r/ [4 X/ C# A
LLM代理在芯片設(shè)計(jì)任務(wù)中展現(xiàn)出顯著的改進(jìn)。" s0 t( Z5 t% S4 a' g) l
( c" @' }% j4 P% n+ ~3 P

2 B5 c7 l$ z$ W9 j4 |7 p# Y圖1展示了使用LLama3和GPT4turbo在VerilogEval(人工)基準(zhǔn)測(cè)試中,非代理方法和代理方法的通過(guò)率比較。9 Y! L! \9 p) G8 t# u" f2 H2 {: p

9 b/ O. L. M' x% |: n) j' E如圖1所示,代理方法始終優(yōu)于非代理方法。例如,使用GPT4turbo時(shí),代理方法(VerilogCoder)實(shí)現(xiàn)了94.2%的驚人通過(guò)率,而非代理方法僅為60.3%。這一顯著改進(jìn)突顯了LLM代理在解決復(fù)雜芯片設(shè)計(jì)挑戰(zhàn)方面的潛力。) t; h2 ^# _- y1 u2 S* X

6 q5 z' I+ ]  j" N6 {" b

( G- t4 m; [7 z1 f/ U代理概念8 }( a5 }# m1 B
要理解LLM代理的強(qiáng)大功能,了解非代理方法和代理方法之間的基本差異非常重要。
' e7 ^: U% r+ F; t0 p! {" A' C! ?; T7 I' g

: s) w$ P: R$ `, D7 Y  u圖2比較了非代理和代理概念,展示了代理系統(tǒng)增強(qiáng)的復(fù)雜性和功能。
' L# H5 E- N; m$ f% o4 I4 E
$ }$ f, {* k3 m* O9 a$ ~非代理系統(tǒng)通常涉及用戶和LLM之間的簡(jiǎn)單問(wèn)答交互。相比之下,代理系統(tǒng)結(jié)合了規(guī)劃、工具、內(nèi)存,甚至多代理協(xié)作。這種增強(qiáng)的架構(gòu)使LLM代理能夠處理更復(fù)雜的芯片設(shè)計(jì)問(wèn)題和任務(wù)。% [3 F" B+ L; Q

. \+ [: S) s1 F, Y' n. V規(guī)劃策略
7 }% h/ V$ m. O有效的規(guī)劃對(duì)LLM代理將復(fù)雜的芯片設(shè)計(jì)任務(wù)分解為可管理的步驟非常重要。讓我們探討各種規(guī)劃策略:9 m+ f* X0 m8 [

0 m" p  s% C7 o. C  o1. 無(wú)反饋規(guī)劃:9 X4 {( b2 S+ ?0 q
a) 思維鏈(CoT):這種方法涉及一次性任務(wù)分解的逐步規(guī)劃。可以通過(guò)顯式指令、隱式指令或示例來(lái)實(shí)現(xiàn)。
* k& K, H  v; q$ ~, N# g: y
0 g, r, u! g- H' y0 k+ i3 k# jb) 思維樹(ToT):這種方法一次規(guī)劃一個(gè)步驟,在每個(gè)步驟中從多個(gè)選項(xiàng)中選擇最佳選項(xiàng)。可以使用廣度優(yōu)先搜索(BFS)、深度優(yōu)先搜索(DFS)或基于圖的方法進(jìn)行擴(kuò)展。' A3 T1 s5 Z* x! Z% s6 {5 m: z- p

" V& ^& C, T  E ' e% k" U  B* X! c2 m
圖3說(shuō)明了思維樹規(guī)劃策略,展示了如何在每個(gè)步驟評(píng)估多個(gè)選擇。6 F1 T3 |* W' B1 G4 s
" Y5 K( }- V% ?  }* w: H3 M7 v$ u) U- e
2. 有反饋規(guī)劃:
7 j4 Z) M( j5 {; R. g0 na) ReACT:這種方法通過(guò)思考、行動(dòng)和觀察的循環(huán),將規(guī)劃與環(huán)境反饋相結(jié)合。
5 @, Q7 D5 O, _& R& J2 k
1 d4 e' a7 O; u1 y圖4描述了ReACT規(guī)劃策略,展示了思考、行動(dòng)和觀察之間的交互。, J( T% q& `8 |& ^" @4 h
( c2 J3 I! r( B6 h
b) 自我反思:這種方法結(jié)合累積經(jīng)驗(yàn)的反饋,將短期軌跡與長(zhǎng)期經(jīng)驗(yàn)相結(jié)合。
) k1 h1 G1 h* a) W1 D ) q" C5 f: }0 _5 C$ S
圖5說(shuō)明了自我反思規(guī)劃策略,展示了如何整合短期和長(zhǎng)期經(jīng)驗(yàn)。/ U" Z  ]# K, e" e/ R

5 m2 U7 U" N/ r  g9 L8 L內(nèi)存管理
0 l8 r% O) a" q9 J9 E" W& ~7 B高效的內(nèi)存管理對(duì)LLM代理處理復(fù)雜的芯片設(shè)計(jì)任務(wù)至關(guān)重要。內(nèi)存管理的關(guān)鍵方面包括:7 q% r2 }" N6 J, @+ d
2 S2 S1 i$ H8 J) [) S. V
1. 機(jī)制
5 k. M0 H% S  o
  • 上下文內(nèi)存(受上下文大小限制)
  • 外部文件存儲(chǔ)
  • 用于檢索增強(qiáng)生成(RAG)的外部向量數(shù)據(jù)庫(kù)
  • 結(jié)構(gòu)化內(nèi)存(如知識(shí)圖譜)用于高效搜索, t0 @1 `( D' M; a7 l; D0 C" h
    / w! M! y* ]- Q! f8 E
    2. 范圍  G5 G8 v) T3 r  j5 s% v" |5 q
  • 單個(gè)代理的本地內(nèi)存
  • 多個(gè)代理共享的全局內(nèi)存
    % r( d' G: T7 f8 Z! l
    ' _7 c! f+ ~  _0 ]1 L' R
    3. 時(shí)間框架2 |  `% H" ^& [7 i
  • 用于即時(shí)任務(wù)的短期內(nèi)存
  • 用于持久知識(shí)的長(zhǎng)期內(nèi)存' X1 K, s  |& t$ {! o7 J$ F

    ; `# L: H  d: T$ r+ k4. 操作
      [6 R. t4 I* E$ I. }* t
  • 讀取、寫入和反思能力
    . k; W0 U+ C# s0 t+ S4 s+ y: D

    / P) d& I( t/ k; E: v引言工具集成4 k! l2 X- ?0 Y3 p# ]/ Y. m! e+ G( z' I
    LLM代理可以通過(guò)與專業(yè)工具集成顯著增強(qiáng)功能。該過(guò)程通常包括:
  • 定義具有明確輸入/輸出規(guī)格的工具
  • 將工具定義納入LLM提示
  • 將LLM響應(yīng)解釋為工具調(diào)用
  • 執(zhí)行工具并將結(jié)果提供給LLM" g) n: Z3 S, `% H$ \: X! C
    [/ol]1 R  ]) B" f& y
    % a1 H8 S: z7 {5 j5 T; t6 }
    , a, w$ \( w: h3 e5 ^
    圖6演示了工具集成過(guò)程,展示了LLM如何與外部工具交互以執(zhí)行計(jì)算。
    8 ]5 O2 x& I) K8 @' h- ]; [7 G. r
    8 T4 h/ T: a2 B6 a' M多代理協(xié)作4 s- \' M+ j4 n2 g/ ]8 S
    復(fù)雜的芯片設(shè)計(jì)任務(wù)通常受益于多個(gè)專業(yè)代理之間的協(xié)作。多代理協(xié)作的兩種主要方法是:
    . A. `( q( Q6 @( m  R- @( y4 w$ s5 i4 ^, U8 \
    1. 雙代理對(duì)話
    " _$ s+ i8 b2 Y" }2 E& N這種方法涉及連接代理以形成對(duì)話,允許基于代理角色的隱式任務(wù)分解。
    7 G1 \+ L. l/ W2 u% S# E& I- @8 h6 U9 a
    2. 群聊:
    & e, ?, H# n/ ]" l% Z- e5 V& N' D聊天管理器協(xié)調(diào)多個(gè)代理之間的對(duì)話,每個(gè)代理都有特定的角色和功能。
    , r. z3 ^+ F* F, d, K! o0 \
    4 R+ U7 H" r( F- | 2 N) B! E2 d. U2 Y8 c
    圖7說(shuō)明了群聊場(chǎng)景,展示了聊天管理器如何協(xié)調(diào)專業(yè)代理之間的交互。
    0 ?% O5 }5 K! T0 x) x, a& {* h  \& \, g) H$ `6 {* e  x& d: V* L  J
    任務(wù)流程
    1 Y6 s+ }; m( u/ Z$ ^0 a對(duì)于復(fù)雜的芯片設(shè)計(jì)過(guò)程,可以使用代理聊天實(shí)現(xiàn)多個(gè)任務(wù)的序列。這種方法允許顯式任務(wù)分解和高效的工作流管理。
    . p  Q) Z, O2 u: a# V0 v! k2 x4 T8 z: O
    & t9 `( U! z3 V1 r8 }- O: }, ^3 Y  \
    圖8顯示了任務(wù)流程圖,展示了多個(gè)代理如何在軟件開發(fā)項(xiàng)目中協(xié)作。
    ; n7 E+ J' \9 S
    , ?( d' P5 @* t. a0 ^- n$ Q芯片設(shè)計(jì)中的實(shí)際應(yīng)用
    2 t0 s. W: ]! h# a1. 時(shí)序報(bào)告分析:
    * L4 R: F- `6 D! nLLM代理可用于分析和比較不同設(shè)計(jì)運(yùn)行的時(shí)序報(bào)告。通過(guò)使用專業(yè)工具和提示,代理可以提供關(guān)鍵要點(diǎn)、設(shè)計(jì)QoR摘要和改進(jìn)建議。. x6 f) K' F5 j9 m- _5 P
    ; h+ E4 r, [4 w* J4 `! J1 y
    2. 器件聚類優(yōu)化:$ b8 H% d& i% y/ d$ H; B1 {+ X
    代理可以優(yōu)化單元布局生成器的器件聚類約束。通過(guò)利用領(lǐng)域知識(shí)和ReACT規(guī)劃,這些代理可以識(shí)別重要的網(wǎng)絡(luò)、評(píng)估聚類并實(shí)現(xiàn)顯著的面積減少。  O; T: B/ W2 M6 ^; R/ [' \- ~3 V+ I
    6 _6 W5 l" r4 _
    + n( {4 G# ]+ {/ l: |8 u- D) I- E  U
    圖9比較了由器件聚類優(yōu)化產(chǎn)生的原始布局和改進(jìn)布局。
    . j; E' s% R4 I4 {) P7 G5 ~. `1 p3 g( M1 b: U- h0 W: B0 p
    3. VerilogCoder:- b9 \% V% R" J, F; R: m  K
    這個(gè)先進(jìn)的代理系統(tǒng)在Verilog代碼生成方面顯示出顯著的改進(jìn),在VerilogEval(人工)基準(zhǔn)測(cè)試中實(shí)現(xiàn)了94.2%的通過(guò)率。VerilogCoder采用任務(wù)流驅(qū)動(dòng)的多代理方法,配備專門用于任務(wù)規(guī)劃和代碼實(shí)現(xiàn)的工具。& ^) V# d0 x, f! o' u1 o0 R. S
      Z, c6 o. Q. B% Z# l: G4 R

    : x) s6 B: b$ g1 u* J7 D圖10概述了VerilogCoder代理系統(tǒng),展示了其任務(wù)規(guī)劃和代碼實(shí)現(xiàn)組件。9 Z8 ]- K( |& W' s* [( U% r" t2 _3 w

    4 h6 j5 |8 M" V* t# `
    9 B$ K+ Q4 z4 }6 a3 Z: z- s7 n
    結(jié)論
    3 h6 [: f  |/ u. e1 b5 qLLM代理正在通過(guò)提高效率和準(zhǔn)確性來(lái)革新芯片設(shè)計(jì),解決復(fù)雜任務(wù)。代理分解問(wèn)題、利用專業(yè)工具和在多代理系統(tǒng)中協(xié)作的能力使其成為半導(dǎo)體行業(yè)中不可或缺的資產(chǎn)。隨著這些代理不斷發(fā)展,有望顯著提高設(shè)計(jì)師的生產(chǎn)力,并推動(dòng)芯片設(shè)計(jì)可能性的邊界。
    ; r/ u2 p) o& z* T, O5 \5 A4 L" h, h' w( o, g
    目前的LLM代理擅長(zhǎng)處理可以分解為低到中等智力努力的任務(wù),但未來(lái)可能會(huì)看到代理解決更具挑戰(zhàn)性的設(shè)計(jì)問(wèn)題。然而,值得注意的是,這些代理的真正力量在于增強(qiáng)和提升人類設(shè)計(jì)師的能力,而不是完全取代人類。
    ! @3 J% W+ e2 q+ x1 c* m( G
    ' k) y( N, G- ]  G! p  z& k

    % a1 P$ e0 `, l, X2 n, }參考文獻(xiàn)
    8 C9 F5 A+ j5 |9 c6 u" \; N[1] H. Ren, "LLM Agents for Chip Design," NVIDIA, Aug. 25, 2024.5 p9 \% B2 O% l/ {! z
    0 e# X5 v8 b7 ~
    - END -/ A' {, u* U9 ?! R' o: h& ?0 d9 F# v

    ( w7 G. e2 z6 s6 h# D6 a軟件申請(qǐng)我們歡迎化合物/硅基光電子芯片的研究人員和工程師申請(qǐng)?bào)w驗(yàn)免費(fèi)版PIC Studio軟件。無(wú)論是研究還是商業(yè)應(yīng)用,PIC Studio都可提升您的工作效能。' I1 A: |  A8 n
    點(diǎn)擊左下角"閱讀原文"馬上申請(qǐng)6 f( q/ J; V8 k0 m/ A) {# `3 s

      a- f7 @0 K  Y歡迎轉(zhuǎn)載
    + I9 F- {4 D8 @" R) ~' l: t
    6 `9 t5 H4 L! E1 M9 M8 q; v! b- i轉(zhuǎn)載請(qǐng)注明出處,請(qǐng)勿修改內(nèi)容和刪除作者信息!! ~6 g1 o4 q6 F2 g! t2 q& I
    5 h0 \" x( D$ T- Q* R
    ! @: T! y, V, s% H- W
    ! l5 _3 C- k# X; V- @0 W

    ; b2 H$ S: z. A. Y: o4 w3 q' I1 e1 ~. D9 W  O# ]: L
    關(guān)注我們2 o* Z7 ?8 S& H3 p

    ; g6 D9 b' {; f. O5 O* T( \: o

    0 l- ?: `& y3 O; b6 a* w5 n' ]) q1 b 5 o% w4 L. c7 i4 H
    ! k# M- f! w& R' C. e: {9 t3 d

    $ ~0 c' ]& u: q3 X7 ]+ W0 O; y9 f

    2 s# y$ ^6 s' \$ J5 G8 K
    0 v. e6 D! m! k$ {/ I9 H+ o
                          / \4 q0 a5 G% k% p, ]. N) u

    2 L, X3 c  t7 i* C# o, G

    / w+ D3 }! j8 _0 L* `' b+ A. }( ]9 w$ a; p4 b$ m: a: }
    關(guān)于我們:$ g  T+ z* F. G% n' I3 X! E: B/ }( i
    深圳逍遙科技有限公司(Latitude Design Automation Inc.)是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化(EDA)的高科技軟件公司。我們自主開發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件,提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio,分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù),廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作,推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展,致力于為客戶提供前沿技術(shù)與服務(wù)。
    6 x( i8 y9 {7 j1 z* b: e& V
    - D! _$ E+ [0 mhttp://www.latitudeda.com/  W) l& S# ^* d1 N: J; M/ b. ]2 T! r9 Q
    (點(diǎn)擊上方名片關(guān)注我們,發(fā)現(xiàn)更多精彩內(nèi)容)
  • 發(fā)表回復(fù)

    本版積分規(guī)則


    聯(lián)系客服 關(guān)注微信 下載APP 返回頂部 返回列表