光学片上网络的激光调制方案

逍遥设计自动化

引言
0 H9 f% R; U- J2 d' z1 {随着硅晶体管缩放接近极限，研究人员正在探索新技术以继续提高处理器性能和效率。有前途的方向是使用片上光学网络（也称为光学片上网络或光学NoC）来替代传统的电气互连。与电气网络相比，光学NoC在带宽、延迟和功耗方面具有潜在优势。然而，有效管理光学NoC的功耗带来了新的挑战[1]。

# j7 A* M7 r8 {% b本文将探讨用于最小化光学NoC静态功耗的激光调制方案。我们将介绍基于网络活动动态调制激光功率的关键概念、架构和预测技术。
  v& m; N: {6 e& @  t
% [% }( I' ^# b8 i
背景
! P5 |; F5 h: g) I5 v4 f* T光学NoC使用光来传输芯片上组件之间的数据。基本构建模块包括：
3 K* Z+ O+ R# w" z3 q

激光器：光源，可以是片外或片上

调制器：将电信号转换为光信号

波导：在芯片上引导光

光电探测器：将光信号转换回电信号
$ u8 c% v+ a& q  ], `- r! {
; l, S. o9 b; Y# C光传输本身非常高效，但产生光的激光器消耗大量功率。一个关键挑战是光子不能像电荷那样容易存储。这意味着激光器通常需要持续供电，即使不主动传输数据时也是如此。这种静态功耗可能占光学NoC总功耗的80-90%。

. x+ w) P' z2 s$ u" X为解决这个问题，研究人员开发了激光调制方案，旨在根据预测的网络活动动态调整激光功率。一般方法包括：

监控网络活动指标

预测未来活动

相应调整激光功率

重新配置网络

+ N9 _* ^% _+ k- Y/ K: W( {1 h( `, B让我们看看为不同类型处理器提出的一些具体方案。

/ R4 `% b/ H7 C# d: r2 v多核CPU设计中的激光调制方案
, u: k% M- ~; h3 _+ N7 FProbe
最早提出的激光调制方案之一是Probe。使用64核架构，核心分组为4x4块。每个块都有专用的片外激光器，可以使用单写多读（SWMR）总线广播消息。

: c/ Y& U& `# M3 [# E3 |Probe根据链路利用率和缓冲区利用率指标预测未来活动。使用两种类型的预测器：

用于低流量变化：过去和当前利用率的加权平均

用于高变化：由利用率水平索引的模式历史表
[/ol]
$ T! U6 l: C# A* \锦标赛预测器根据最近的准确性在两者之间选择。

ColdBus
ColdBus采用不同的方法，基于L1缓存未命中预测活动。关键洞察是在共享内存系统中，大部分网络流量来自L1未命中。
7 m1 |0 u' L1 s4 V7 [
使用类似于分支预测器的基于PC的预测器来识别可能导致未命中的指令。然后，一个时期预测器估计这些未命中何时发生。
# ~$ W6 f2 Z7 Q. J& l* D* \$ `
ColdBus还引入了一个"额外波导"，为需要的站点提供应急功率。
- \* u$ t5 C+ b) O
PShaRe
PShaRe在之前工作的基础上有几个关键创新：

一致性和非一致性流量的独立网络

基于神经网络的非线性预测器

站点之间的功率共享

重用浪费的光功率进行热调谐
) B/ T/ {4 v$ A" H4 s5 b/ n$ A2 ^5 |[/ol]
* w; _% N* e! K% n3 F" N图1显示了整体架构：
' L# y! q4 h- [& D
! k+ D+ B0 f1 m/ X/ g

cjhdyiznw5w64024513536.png

图1：PShaRe架构，显示连接光学站点的功率和数据波导。
0 l6 w' ~, g; ~) U7 R: B
神经网络预测器使用14个性能计数器输入，对每个站点在下一个时期的活动进行二元预测。

BigBus
对于非常大的核心数（500+），需要像BigBus这样的设计。BigBus使用分层架构，将块簇组成更大的单元。
8 E# l: h' g9 ~' |
图2说明了BigBus设计：
: u# T6 v+ ]9 a- W% U

hck0tgbp1b364024513636.png

图2：BigBus架构，显示由蛇形光链路连接的核心和缓存库的分层组织。
7 Q* ^- V( Z1 T0 v0 [
BigBus使用两阶段预测过程：

每个站点根据等待时间和待处理事件决定是否增加/减少令牌

激光控制器将当前预测与历史数据结合
[/ol]
4 w. c+ b- A  F这允许在当前条件的响应性和稳定性之间取得平衡。


多插槽系统（MULTI-SOCKET SYSTEMS）中的激光调制方案
. E4 u9 A' r" c! J, y/ G5 c  v对于像服务器这样的多芯片系统，像Nuplet这样的设计将光网络扩展到插槽之间。Nuplet同时使用片内和片间光网络。
+ r2 G' l; v/ _
片间预测机制旨在确定要流通的仲裁令牌数量。它考虑：

发送到片间光学站（ICOS）的消息

ICOS队列中的待处理事件
[/ol]
功率请求表（PRT）存储历史令牌计数。预测将PRT值与当前流量趋势和队列状态结合。

GPU设计中的激光调制方案
6 d- d7 d) p  ?) J% j6 v由于GPU侧重于内存带宽而非延迟，因此带来了独特的挑战。GPUOpt设计将光学NoC适配于GPU架构。
8 t1 u, q3 Z3 v) n
9 Z; Z( \* q1 V/ W& X图3显示了GPUOpt的整体架构：
  v6 q; d) q7 |( t) i6 M, A* L

2r1e3lybmxf64024513736.png

5 i& n) z- e/ y1 m1 u- V图3：GPU光学NoC的架构，显示由光网络连接的SM和LLC集群。
6 L" I$ O" S3 M9 t! C
  b) o. @9 f7 n8 k8 eGPUOpt对流式多处理器（SM）站点和最后级缓存（LLC）站点使用不同的预测机制：
# Z* F* _1 z% Z1. SM站点使用基于以下因素的受限预测器（Restr_Pred）：
; L) p- B/ g' j! b

接收的消息

发送的消息

等待时间

2. LLC站点使用考虑以下因素的灵活预测器（Flex_Pred）：

接收的消息

发送的消息

待处理事件

' c9 H9 {! H" H( j, ]5 ]激光控制器将这些预测结合起来，确定整体功率需求。


0 n9 m0 @$ A0 |5 a' P关键概念和趋势
& [5 C5 m/ ^4 T2 c  s/ M0 |) b虽然具体方案各不相同，但一些共同主题和最佳实践浮现出来：
8 o6 e  S. p$ x3 p7 ?* n' A8 X
5 s8 g- \7 Z* K: p( x/ Q6 q1.将时间划分为固定时期进行预测和重新配置
; J6 S9 D2 {- B* X, S, n! s. r2. 使用多个输入指标：
" ~. J# F7 N* `! w5 @

网络利用率

缓冲区占用率

缓存未命中率

指令类型

待处理事件
$ h' O, i  S( l0 A6 W. Q3. 将当前指标与历史数据结合
4. 使用非线性预测函数（如神经网络）捕捉复杂关系
" [4 q+ W+ {0 z- Z5. 对不同流量类型进行单独预测（如一致性与非一致性）
; b: u0 _$ \1 I' t& W6. 分层设计以实现可扩展性
7. 尽可能重用未使用的光功率
# w- M" l! K$ S, u/ P2 m0 R8. 为特定架构经验性地调整预测参数
4 R4 m, @% V3 w" t! f. m
' A3 T4 D3 b1 {' c- c% Z, o图4说明了有效激光调制可能带来的功率节省：
" G& T4 K3 z! y" A5 [& h& P

opnnfadxepq64024513836.png

图4：ideal、Probe和ColdBus方案在各种基准测试中的相对激光功耗。

+ o$ {3 f$ g' L( [9 Y4 ~2 B6 L, T. D
未来方向
随着光学NoC从研究转向实际实施，可以期待这些技术的进一步完善。方向包括：
4 L9 \# r6 O7 T

用于更准确预测的机器学习技术

与应用层知识的集成

在运行时调整参数的自适应方案

考虑电气和光网络的整体优化

针对新兴工作负载（如AI加速）的专门化
3 K+ `# X$ L/ H: a
- G% C2 {3 s% g, A
结论
* l; `6 R6 I+ h$ I% F4 i4 X7 h有效的激光调制对实现光学片上网络的潜在优势非常重要。通过准确预测网络活动并相应调整激光功率，可以在保持性能的同时最小化静态功耗。随着处理器架构继续发展，激光调制方案需要适应新的设计约束和流量模式。该领域的持续研究有望为未来计算系统解锁新的能效水平。


% a$ x" `$ W+ G  [参考文献
6 W1 e, T' R9 o0 S5 d$ _5 ]; J[1] M. Nikdast, S. Pasricha, G. Nicolescu, and A. Seyedi, Eds., Silicon Photonics for High-Performance Computing and Beyond, 1st ed. Boca Raton, FL, USA: CRC Press, 2021.
) v/ D. S) q! h0 C" ]
- END -
/ D- |$ F9 Y1 h, z. U
软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
2 j% z0 s+ @, u4 q  |% U点击左下角"阅读原文"马上申请
: {: V' x3 D( A2 k* U1 g7 z
欢迎转载

转载请注明出处，请勿修改内容和删除作者信息！
% M* x) l  f8 d  o5 R) N* y6 m9 @4 R


; t  Z3 g5 b% q9 h8 u; Y) H

pqequtkewc264024513936.gif

6 `  h) d5 q" ]" T. K4 x
  J1 @0 ?+ d& I" Z+ L* a2 n# f关注我们
. O+ r4 o+ H) e

f04h1q5oxrw64024514036.png 0 q2 _& K  C8 O

ckxurcq3lg364024514137.png 9 L& p. L6 j1 s

rq40zwpyofx64024514237.png

                     
- O3 o& \* [" Q
; D3 ?3 |; F" I; w% D

关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
8 Q2 ]5 r2 Q% p6 k. v+ |: k
http://www.latitudeda.com/
: ?0 X% _; ?; E9 U( b（点击上方名片关注我们，发现更多精彩内容）