使用CNSim评估Chiplet网络

逍遥设计自动化

引言

* J( P  d& P% t7 D. MChiplet架构通过在一个封装中集成多个硅芯片，显著提升了计算密度和效率，改变了现代计算系统的设计方式。由于Chiplet网络的异构特性以及片上和片外网络的紧密耦合，评估这类网络存在独特的挑战。本文介绍CNSim（Chiplet Network Simulator），专门设计用于评估大规模Chiplet网络的周期精确、数据包并行仿真器[1]。
6 D2 O+ l  G6 t% D! ], y

dsvumwxcgh264052581101.png

/ s8 T/ S8 R( e: j% ?1 P9 b: aCNSim主要特性

+ {$ |" a* ]! LCNSim具有三个核心功能：
; M( L% n% E3 @! i/ `  {数据包中心架构：与传统的基于周期或离散事件的仿真器不同，CNSim采用新型的数据包中心架构，根据注入时间维护数据包队列。这种方法在保持周期精确性的同时实现了高效仿真。

dq4gcfkpbha64052581201.png

图1：数据包中心的CNSim架构概览，展示了关键状态值如何存储在数据包而不是网络中。
0 ~: r9 Q5 e8 m" p: _
并行仿真支持：CNSim实现了基于原子操作的超线程机制，支持高效的数据包并行仿真，保持最小的不一致性。仿真器可以通过工作线程同时处理多个数据包。
! Y9 b8 g3 ^9 S# K' m6 n

wmh51tvtnsv64052581301.png

( X( |% o; W4 V! q: ?图2：数据包并行方案，展示了每个工作线程如何从队列中获取数据包进行顺序处理。
/ S2 x: o1 z4 F; R8 x
* E/ F) d% L- H7 e2 D异构路由器和链路建模：CNSim通过可配置的多宽度FIFO和虚拟流水线级，提供了统一的异构路由器和链路建模。
1 c5 H3 E4 M1 Y4 J: Y9 r( \7 `2 v

t2gff3umcsd64052581401.png

图3：异构路由器和链路的统一建模方法，展示了多宽度FIFO和虚拟流水线级的实现。
使用CNSim进行网络评估
9 f* `, i- [$ o. P' [6 o& I* N
! t3 I. b% |$ Z3 BCNSim支持多种网络拓扑，包括2D网格/环形网络、蜻蜓网络和分层拓扑。

4yf2rnqijqa64052581501.png

图4：不同的异构链路Chiplet架构，展示了传统2D网格、基于Chiplet的2D网格拓扑和基于异构链路的2D环形拓扑。


在流量模式分析方面，CNSim可评估合成流量（均匀随机、位反转、位重排、位转置）、实际工作负载（PARSEC基准测试）以及集体通信（AllReduce模式）。
' }3 D7 j1 m, ]7 P* ]2 ]: g0 i3 j3 K
% U4 v" h/ o2 |4 q5 m% Q& d性能指标包含平均数据包延迟、网络吞吐量、资源利用率和拥塞统计数据。

nlhmulbube064052581601.png

: ~4 m, T7 F) a' X, B2 `0 t图5：在均匀流量模式下，不同网络配置的平均延迟与注入率关系的评估结果。
5 v6 O) h# f' W3 G: Y( n应用实例

案例研究1：异构链路网络
" e  V$ O; F1 F" Z6 l4 Z. yCNSim支持评估具有不同带宽和延迟的异构链路网络，包括片上链路（1 flit/周期带宽，1周期延迟）、低延迟并行链路（1 flit/周期带宽，2周期延迟）和高带宽串行链路（2 flits/周期带宽，4周期延迟）。

naarxignfxn64052581702.png

图6：不同Chiplet网络配置在各种PARSEC工作负载下的性能比较。
, e; s9 {2 d- d0 i& Q8 R. P7 I
* u" f0 n6 \& E( h1 y9 m- ~( V/ V7 ]6 ~案例研究2：大规模蜻蜓网络
CNSim可高效仿真从小规模（41组，1,312节点）到大规模（145组，18,560节点）的网络。

bfx2mic4q3f64052581802.png

图7：不同网络规模的全局性能比较，展示了平均延迟与注入率的关系。
* R/ W" M0 m5 n* r) f1 bCNSim使用最佳实践

4 F9 U9 g2 x" I7 S" J4 u% h配置设置需要定义网络拓扑和规模、配置路由器和链路参数，以及设置流量模式和仿真时长。性能优化方面，应根据网络规模使用适当数量的并行线程，配置数据包发布宽度以平衡速度和精确度，并启用重复路由计算的缓存。结果分析包括收集延迟和吞吐量指标，分析资源利用情况，比较不同配置。
总结
5 ^9 `" r+ t* j' Q7 }: s
CNSim为评估Chiplet网络提供了周期精确仿真、高效并行执行、异构组件支持和全面的分析能力。

jemftxjk1s064052581902.png

图8：在不同注入率下BookSim和CNSim的内存消耗比较，展示了CNSim的效率。
% J  {% H( w. }: b
; V# C" T; o- Z0 m8 a8 z) o7 A通过独特的功能和能力，CNSim解决了现代Chiplet网络仿真中的关键挑战，同时保持了高性能和精确性。仿真器的开源特性使研究社区能够在此基础上进行扩展，推动网络创新。
参考文献
5 ^5 v8 @5 E! w0 }$ d
[1] Y. Feng, Y. Wei, D. Xiang, and K. Ma, "Evaluating Chiplet-based Large-Scale Interconnection Networks via Cycle-Accurate Packet-Parallel Simulation," in 2024 USENIX Annual Technical Conference (USENIX ATC '24), Santa Clara, CA, USA, July 10-12, 2024, pp. 731-747.
8 r8 J$ V0 X3 |2 K8 l* bEND
! P9 t9 \8 F- I8 A6 ~' y. n' O
- W) O; B8 u) \: A+ h* K! |! [0 C) |软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
点击左下角"阅读原文"马上申请

欢迎转载

转载请注明出处，请勿修改内容和删除作者信息！
% u9 k$ C: `5 D' Z  K5 Q
. V$ U% u2 Y' ]5 D2 M; V- I" o8 q

2vkk0ys20un64052582002.gif

  e0 N/ F& o) e% L
2 _4 L. g( k$ x# D关注我们
2 e# u, V+ W5 o* Q$ {
! i& |3 n9 N( V6 z- E* ~; X% b) t7 \

dk4m4h1ku5z64052582102.png , b( L( }$ b' Y

( j& C2 J: f- f- e n0ijmx2jc1r64052582202.png

lsuipjgxnrz64052582302.png 8 ]6 H9 t: Z2 P: F

                     


( H  g" M% j* i. \: k8 c' Q
关于我们：
/ m- {: c3 L! r, J( c8 K  j深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

http://www.latitudeda.com/
) y/ j4 G% J4 J5 _4 o（点击上方名片关注我们，发现更多精彩内容）