高效多Chiplets系统互连网络设计

逍遥设计自动化

引言
9 W2 j, t/ Y% W1 B, E* ^  n9 @随着现代计算系统日益复杂，多chiplet架构已成为构建大规模系统的重要解决方案。通过连接多个较小的chiplet来替代制造单个大型芯片。然而，设计chiplet之间的高效互连网络仍面临挑战，特别是在维持高性能和无死锁路由方面[1]。
- x. t: n/ o- b" I4 Y

jrq1kwg1bil64033155429.png

. v$ g0 j6 B" v' q7 q8 _
网络架构与接口设计
在基于chiplet的系统中，基本构建模块通常是每个chiplet内部的二维网格片上网络(NoC)。此架构将节点分为两类：用于外部连接的边缘节点（接口节点）和用于功能模块的内部节点（核心节点），如CPU或AI核心。
0 l+ S; s- g7 n( t1 Q

sstjoepct5m64033155529.png

! B. _5 ^- B5 |图1：chiplet上的网络架构示意图，展示了(a) 6x6二维网格中的36个NoC节点，(b)节点标记方案，以及(c)具有radix-4和radix-10配置的接口分组方法。
1 e& W) s5 [" g( Z' I7 D
6 I3 ~+ K2 C' \6 t8 E: k为有效利用chiplet接口，采用接口分组方法，将相邻的边缘节点聚集成抽象接口。这种方法使chiplet的连接基数和带宽分配更加灵活。
) ?; j, D9 V( ?
高基数互连拓扑
多个chiplet可以通过不同拓扑结构互连形成更大的系统。常见配置包括：
4 U% j# Y! Q% s+ P8 Z% ]

shw1nuhjjfb64033155630.png

图2：互连拓扑示例，展示了基于相同chiplet基础构建的(a)超立方体和(b)蜻蜓网络配置。

" e8 M" p, S5 _0 d% }超立方体配置：
每个chiplet沿不同维度与其他chiplet连接
/ h$ J! d. O$ g" T6 P$ `提供平衡的连通性，直径随节点数呈对数增长
) Z$ G2 I  ?" L' {3 S9 D9 X支持高效的路由算法
- R9 t) g1 M6 f' q4 H# H
* c& A# Y! K" H

1kr5ojvzsn264033155730.png

图3：chiplet互连细节，展示了(a)5D网格的连接和标签排列，以及(b)4D网格中d0-d1平面的连接概览。

+ W/ `; W) [7 c$ f路由方法
  M7 d# A" @& s8 C; z- @路由设计采用负优先路由(MFR)算法确保无死锁运行。这种方法要求数据包在通过正向通道之前必须先通过负向通道，防止循环依赖。

hmjbj3scp4564033155830.png

图4：路由系统中通道类型（正向、负向和相等）概览，展示了不同路由路径之间的关系。

- ]/ B% X. g) i0 @. N  z* ?  l9 R9 P网络交错
' @; g# h1 _/ Q, u为最大化带宽利用率，网络交错技术在抽象接口组内的多个物理接口间分配流量。实现了两种主要方法：
  o9 e9 \7 x1 R- h- h2 O. K  H

k0rhbll2qfq64033155930.png

图5：细粒度和粗粒度交错方法的比较，展示了不同的数据包分配策略。

1. 性能分析
系统性能在各种流量模式和配置下进行了评估：
  @' k3 d% t( v) Y8 n

fce3x2jdcs564033156030.png

图6：不同流量模式下的性能评估结果，展示了延迟与注入率的关系：(a)均匀分布，(b)均匀热点，(c)位互补，(d)位反转，(e)位重排，(f)位转置。

$ Y/ n- u, s6 J7 M) F) |. z

52414c3hmkl64033156130.png

图7：不同系统规模在均匀流量下的平均延迟评估结果，展示了架构的可扩展性。

9 z4 E8 v: v' r" a" B" h与传统二维网格系统相比，结果显示显著改进：
最大注入率提升达2倍
+ a8 o0 N: D  x' b9 q7 E& ]平均延迟减少高达45%
随着chiplet数量增加，扩展性更好

$ F3 _/ Y  s% r4 {  r  A2. 能效分析

odoitwxxekp64033156230.png

图8：二维网格和超立方体配置在不同规模和NoC大小下的能耗比较。
5 b. Q6 E, |* C- t
建议的架构显示出显著的节能效果，特别是在大型系统中。对于256-chiplet配置，与传统二维网格设计相比，功耗降低约60%。

2 Z2 e% S4 R- Y- l) n( G* X8 W  |' P结论
所述方法为设计高效chiplet互连网络提供了完整解决方案。通过结合接口分组、自适应路由和网络交错，系统实现了优于传统方法的性能和可扩展性。该架构的灵活性使其能够适应各种系统规模，同时保持高效率和无死锁运行。
$ O) i  N& l$ u" K
5 S' p4 @; m4 [$ X结果表明，这种方法在大规模系统中特别有效，网络直径减小和带宽利用率提高的优势更加明显。该方法为构建具有最佳通信能力的新一代多chiplet系统提供了实用框架。
. t. w% _8 d3 K8 Z3 Q8 Q
- p" C' b, e+ l. ^3 \6 y6 J% F5 X参考文献
[1] Y. Feng, D. Xiang, and K. Ma, "A Scalable Methodology for Designing Efficient Interconnection Network of Chiplets," in 2023 IEEE International Symposium on High-Performance Computer Architecture (HPCA), Seoul, Korea, Republic of, 2023, pp. 1059-1071, doi: 10.1109/HPCA56546.2023.10070981.
( H$ ], `0 v* N) i
- i' c! \/ _) [9 B: M% jEND

7 W- l" g5 M. E
软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
) R$ @1 B( l0 d3 d* z2 A点击左下角"阅读原文"马上申请

! u. P! ~# h' f( D* o欢迎转载

8 Q) d( ]- j0 W% x& i% q' `转载请注明出处，请勿修改内容和删除作者信息！
9 l' P- ^0 Q( u3 q8 \9 F
; A9 n% l2 ^8 r  ]+ w% e

opwvqkiczxu64033156330.gif

7 l0 y5 M4 v/ |) h1 @2 W3 p6 t; M
关注我们
* d9 S. t2 ~2 Q2 P9 Q# D9 H

tpmbw1izfyo64033156430.png

3 @% F- U0 a4 a fhpmkwmxsih64033156530.png

3 ~) k# r) u" a0 B- h' k, v; B5 [5 O jdzsgtgrmgn64033156630.png

                     



! T9 O; L0 W# C3 R1 U( p关于我们：
- ~/ L, P  M2 |深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

! i) x& m; V1 D5 [: vhttp://www.latitudeda.com/
) t7 K* K/ N5 [, \& }（点击上方名片关注我们，发现更多精彩内容）