使用CNSim评估Chiplet网络

逍遥设计自动化

引言
1 K7 W7 E* }" L5 b" B0 @" O
! J* m! Z) f7 ^  y6 WChiplet架构通过在一个封装中集成多个硅芯片，显著提升了计算密度和效率，改变了现代计算系统的设计方式。由于Chiplet网络的异构特性以及片上和片外网络的紧密耦合，评估这类网络存在独特的挑战。本文介绍CNSim（Chiplet Network Simulator），专门设计用于评估大规模Chiplet网络的周期精确、数据包并行仿真器[1]。

dsvumwxcgh264052581101.png

6 K3 n. l# |+ S# t. I- q  JCNSim主要特性

CNSim具有三个核心功能：
数据包中心架构：与传统的基于周期或离散事件的仿真器不同，CNSim采用新型的数据包中心架构，根据注入时间维护数据包队列。这种方法在保持周期精确性的同时实现了高效仿真。

dq4gcfkpbha64052581201.png

& o9 {. l: `0 y) X8 ]. K2 i. T图1：数据包中心的CNSim架构概览，展示了关键状态值如何存储在数据包而不是网络中。

; U% n* V$ o2 ?& B) Q4 S7 E5 L* w1 S并行仿真支持：CNSim实现了基于原子操作的超线程机制，支持高效的数据包并行仿真，保持最小的不一致性。仿真器可以通过工作线程同时处理多个数据包。
& R" }+ U$ t' [3 b- u9 n2 s, l, N

wmh51tvtnsv64052581301.png

图2：数据包并行方案，展示了每个工作线程如何从队列中获取数据包进行顺序处理。
7 y3 j* B( E5 ~, B/ r, `& r
; F% U4 m( m9 q7 ]% h9 H异构路由器和链路建模：CNSim通过可配置的多宽度FIFO和虚拟流水线级，提供了统一的异构路由器和链路建模。
$ m: R6 X; r9 b9 h/ v& K

t2gff3umcsd64052581401.png

图3：异构路由器和链路的统一建模方法，展示了多宽度FIFO和虚拟流水线级的实现。
使用CNSim进行网络评估

CNSim支持多种网络拓扑，包括2D网格/环形网络、蜻蜓网络和分层拓扑。

4yf2rnqijqa64052581501.png

图4：不同的异构链路Chiplet架构，展示了传统2D网格、基于Chiplet的2D网格拓扑和基于异构链路的2D环形拓扑。

) Y2 M. |/ ^% x
2 _( Q5 t4 N$ M! [6 c/ V: u在流量模式分析方面，CNSim可评估合成流量（均匀随机、位反转、位重排、位转置）、实际工作负载（PARSEC基准测试）以及集体通信（AllReduce模式）。

性能指标包含平均数据包延迟、网络吞吐量、资源利用率和拥塞统计数据。

nlhmulbube064052581601.png

, [6 k& ^0 T* x+ ?/ s8 r图5：在均匀流量模式下，不同网络配置的平均延迟与注入率关系的评估结果。
8 g" c, v5 Q+ P9 f9 n  k应用实例
+ N2 N0 t1 u( H
+ u: `$ K; a8 i% j7 q8 }3 i案例研究1：异构链路网络
CNSim支持评估具有不同带宽和延迟的异构链路网络，包括片上链路（1 flit/周期带宽，1周期延迟）、低延迟并行链路（1 flit/周期带宽，2周期延迟）和高带宽串行链路（2 flits/周期带宽，4周期延迟）。

naarxignfxn64052581702.png

图6：不同Chiplet网络配置在各种PARSEC工作负载下的性能比较。
2 H. o# b  h2 F! w& `
0 P. j$ G: W" H6 p# O5 H案例研究2：大规模蜻蜓网络
CNSim可高效仿真从小规模（41组，1,312节点）到大规模（145组，18,560节点）的网络。

bfx2mic4q3f64052581802.png

图7：不同网络规模的全局性能比较，展示了平均延迟与注入率的关系。
! v% B) f/ F4 f2 h' F6 zCNSim使用最佳实践
1 C. E* `1 S3 o
% x( V# \6 J. X" m1 v配置设置需要定义网络拓扑和规模、配置路由器和链路参数，以及设置流量模式和仿真时长。性能优化方面，应根据网络规模使用适当数量的并行线程，配置数据包发布宽度以平衡速度和精确度，并启用重复路由计算的缓存。结果分析包括收集延迟和吞吐量指标，分析资源利用情况，比较不同配置。
* p6 ]; g+ g. o* ]* g总结
, ^2 l8 @4 p) [) j6 f' u* T8 Z
CNSim为评估Chiplet网络提供了周期精确仿真、高效并行执行、异构组件支持和全面的分析能力。
* S2 @/ K; L5 `- ~' z

jemftxjk1s064052581902.png

图8：在不同注入率下BookSim和CNSim的内存消耗比较，展示了CNSim的效率。
; q3 b' Z8 Q  r
) n8 k+ s! \  S9 n+ Q# v; {  d通过独特的功能和能力，CNSim解决了现代Chiplet网络仿真中的关键挑战，同时保持了高性能和精确性。仿真器的开源特性使研究社区能够在此基础上进行扩展，推动网络创新。
参考文献

5 s3 D* Q3 X5 A% Q[1] Y. Feng, Y. Wei, D. Xiang, and K. Ma, "Evaluating Chiplet-based Large-Scale Interconnection Networks via Cycle-Accurate Packet-Parallel Simulation," in 2024 USENIX Annual Technical Conference (USENIX ATC '24), Santa Clara, CA, USA, July 10-12, 2024, pp. 731-747.
& X5 f9 M* F, x, ^3 iEND
; \- }0 x: t/ [8 V
5 \# M) q7 J8 m! u3 l6 g$ D8 @- l软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
点击左下角"阅读原文"马上申请

欢迎转载
% W# c6 w; M0 P3 n- {. _( K
/ s+ L, g0 h  Q$ [6 a转载请注明出处，请勿修改内容和删除作者信息！


9 c* M( q! A+ ]- p+ P8 b
7 Q8 v+ J+ E3 a" }8 m9 t

2vkk0ys20un64052582002.gif

( H) U9 }1 `+ a% ]$ |
关注我们
! b6 l1 ~2 q8 w

1 f" v) x' r4 e5 Q dk4m4h1ku5z64052582102.png

n0ijmx2jc1r64052582202.png

1 n2 b0 ]8 z1 b, D8 n; h lsuipjgxnrz64052582302.png

                     
- b1 v/ ^, j( O' M3 B& O
) }+ z) x4 [! W* Q- A

关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

5 x8 q- g8 s6 J+ Ihttp://www.latitudeda.com/
' [4 @) e* a7 z（点击上方名片关注我们，发现更多精彩内容）