人工智能集群光学连接特殊需求下的光学组件进展与创新

逍遥设计自动化

引言
随着人工智能（AI）技术的不断进步，AI系统对高速、高效数据传输的需求呈指数级增长。本文探讨了为满足AI应用新兴连接需求而设计的光学组件的最新发展。引用文献来自LightCounting在7月30日举办的Special Requirements for Optical Connectivity in AI Clusters Webinar，特此感谢！

光学组件的演进
过去几十年间，光学组件经历了显著的进步。从1998年的1G VCSEL（垂直腔面发射激光器）技术，到如今尖端的200G VCSEL和EML（电吸收调制激光器）解决方案，行业在数据传输速度和效率方面持续提升。

oqqz32rkekn64077137449.png

5 I+ h- }  F7 s1 B4 W图1：从1998年到2025年光学组件的演进，突出显示了从1G VCSEL到200G VCSEL和EML技术的进程。

这一演进的关键里程碑包括：

1998年：1G VCSEL

2004年：2.5G EML和DML（直接调制激光器）

2013年：10G VCSEL、EML和DML

2019年：25G VCSEL和50G EML/DML

2023年：50G VCSEL和100G EML

2025年（预计）：100G VCSEL、200G VCSEL和200G EML
9 s# O+ I, X: U
: o) g* L, a* i! ]) P这一进程展示了行业致力于满足现代计算和AI系统不断增长的带宽需求。

8 j$ D" L4 V; A7 U! P- y' s多模光纤技术进展：200G VCSEL技术
光学组件技术最有希望的发展之一是200G VCSEL的进步。这项技术代表了多模光纤传输能力的显著飞跃。

bqkrrtqgebl64077137550.png

图2：从850 nm VCSEL收集的200Gb/s PAM4眼图，以及在EVB（评估板）中测试的可插拔模块中的200G VCSEL工程样品。

( p7 k0 g8 b: d200G VCSEL技术具有以下优势：

每3-4年调制速率翻倍

与现有多模光纤基础设施兼容

与单模解决方案相比功耗更低

适用于数据中心短距离应用的成本效益高
[/ol]
200G VCSEL技术的发展与IEEE标准的进程一致，数据速率从1998年的1 Gb/s（802.3z）稳步增加到目前的100 Gb/s PAM4（802.3db，2022年）。业界现正致力于标准化200 Gb/s PAM4技术，以满足未来的连接需求。
: w- ?1 D6 K: c, p! d: l$ y
光电共封装系统
5 l/ X6 {! f8 }# j光电共封装代表了将光学组件直接与交换机ASIC（专用集成电路）集成的革命性方法。这种集成旨在降低功耗、提高带宽密度并改善整体系统性能。

第一代光电共封装：TH4-Humboldt
& w" C" Y; \$ E0 V% ?; n! ?

1gtklakb0eb64077137650.png

0 }8 D: ]0 ~/ K, W; O+ Y9 o图3：第一代光电共封装系统TH4-Humboldt其关键特性和组件。
2 a/ }( Y- ]4 ]
# ~2 F2 U: r$ d3 P3 o( q& m' W3 TTH4-Humboldt的特点包括：

25.6T以太网交换能力

一半光电共封装，一半电气连接

四个3.2T光学引擎（32x100Gbps DR连接）

光学引擎采用光电子集成芯片与SiGe EIC（电子集成电路）键合

每个光学引擎约250个光学组件

尽管创新，TH4-Humboldt设计仍面临一些挑战，特别是由于使用SiGe技术而导致的功耗问题。
2 L* E5 V6 [* T/ V. u
5 _4 d& G4 n, b3 @$ H2 o第二代光电共封装：TH5-Bailly

quag4lope0l64077137751.png

$ t& g" z9 p5 h, z( t& j7 G  C  x图4：第二代光电共封装系统TH5-Bailly，突出其先进特性和增强的光学集成。

TH5-Bailly相比其前代产品有显著进步：

51.2T以太网交换能力

全光学光电共封装连接

八个6.4T光学引擎（64x100Gbps FR4连接）

光学引擎采用光电子集成芯片与CMOS EIC键合

每个光学引擎约1000个光学组件
+ q2 \# l* v; S. w  l1 S) ~1 `$ D
) P' `( N9 C; S5 @3 c* oTH5-Bailly转向CMOS技术解决了前代产品的功耗问题，为高带宽应用提供了更高效的解决方案。
7 u4 a# a6 P- E; T

muss4tu3xrk64077137851.png

图5：在4RU MP3机箱内完全功能的51.2T TH5-Bailly，演示了该技术的实际应用。
2 Y! A# k; y3 c. }1 }% s) x' M
. n" y' y& \. v* x- U0 X
采用2.5D多芯片封装的AI扩展
. y8 q, t( p  K! T5 X$ P; ]随着AI系统复杂度和规模的不断增长，新型封装技术正在涌现，以支持更高的连接性和性能需求。

0nu3bhnnzac64077137951.png

: F3 g2 o/ M$ z/ f7 n0 [: M( @图6：光电共封装系统，每个光学引擎具有6.4Tbps I/O带宽，集成到带有HBM（高带宽内存）和ASIC芯片的2.5D封装中。

. R8 F  f- Z" M+ g6 ]* O这种先进封装方法的主要特点包括：
2 H+ j9 X$ p% d- X" D) J

集成每个光学引擎6.4Tbps I/O带宽的光电共封装

采用带硅中介层的2.5D封装技术

集成HBM以实现高速、低延迟的内存访问

模块化设计，分离的SerDes（串行器/解串器）芯片和ASIC芯片
  y9 D, Y/ E4 h/ l7 R0 o
+ y9 }) M% g, o这种封装方法允许光学组件与高性能计算元件更高效地集成，对AI系统的扩展至关重要。
# I$ @/ ]6 m& W# }: p
# o7 P; L) l' B- S* j! e; iBeachfront与Oceanfront：优化光学引擎布局
在封装内光学引擎的布局对系统性能和可靠性至关重要。主要出现了两种方法：beachfront和oceanfront设计。
9 W2 _9 V* T  j& C2 {1 p

ffup3kd0phq64077138051.png

图7：比较了高性能封装中beachfront和oceanfront光学引擎布局设计。
' v. x, h3 S, H7 g% j: F
Oceanfront设计优势：

能够沿单个oceanfront布置四个光学引擎

由于光学部分远离高功耗GPU，可靠性更高

通过最后附加已知良好的光学引擎，提高制造良率

, [9 H, ]  @  O* w5 dOceanfront方法在热管理和制造效率方面提供显著优势，成为未来AI系统设计的理想选择。

双向（Bidi）光学：经济高效的高基数解决方案
0 V& i" Q- a6 K* a随着AI集群扩展到数百或数千个节点，管理光纤连接变得越来越复杂和昂贵。双向（Bidi）光学为这一挑战提供了希望的解决方案。

gnbvz4vxkd564077138151.png

2 A0 r7 _- ]5 ~- ^6 Y图8：比较了采用传统DR光学和Bidi光学的12.8T光学引擎光纤I/O，展示了Bidi技术减少的光纤数量。

; a" F: R& W1 h- Y) c4 D! EBidi光学的优势：

减少光纤数量（与传统DR光学相比减少50%）

降低整体系统成本

简化光纤管理

在FTTx应用中已有20年部署经验的成熟技术

fxv5m132j0q64077138251.png

图9：展示了在不同链路长度下Bidi解决方案相比DR解决方案的潜在成本节省，显示在30米范围内可节省高达15%的光学成本。
" w7 ?5 g' L7 Z( b9 P
在大规模AI集群中，Bidi技术的成本优势尤为显著。对于具有64个光电共封装交换机和512个12.8T光电共封装引擎的512 GPU扩展集群，Bidi提供：

光纤电缆束数量减少50%

在30米范围内可节省高达15%的光学成本

简化电缆管理和安装
[/ol]
结论
* T$ P) Y7 ~+ y& R. K. C8 X$ ]随着AI持续推动对更高带宽和更高效连接解决方案的需求，光学组件技术正在快速发展以应对这些挑战。从先进的VCSEL技术到光电共封装和创新的封装设计，业界正在推动高速数据传输的极限。

将这些技术集成到AI系统中有望实现新水平的性能和可扩展性，为下一代AI应用提供支持。随着研究人员和工程师继续创新，可以期待在未来几年看到AI连接光学组件领域更多令人兴奋的发展。
, ?" W8 q7 R& o) Y$ U! K
参考文献
[1] M. Mehta, "Optical Component Progress for Emerging Connectivity Requirements for AI," Lightcounting Webinar, Jul. 30, 2024.
- d5 l4 {$ J+ Z/ G) o& r, q  |
- END -
( l( G% |- L( ]9 W  ?- D7 B: ?' D
6 N1 }6 N, P% U; \9 n( \软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
点击左下角"阅读原文"马上申请

( w/ n( p) Z* E1 b: g欢迎转载
$ m" o7 j: [5 A. O" \
转载请注明出处，请勿修改内容和删除作者信息！

lipsbckywpn64077138352.gif

关注我们
8 |  ~, _8 g+ |# Z7 Z- [- h
8 ^$ ?6 `$ y9 O

mex5plxr1j364077138452.png 8 _; Q4 V1 S7 ?$ r, [* W

" W1 Q% n7 d# V' ?) U jbukidcigqt64077138552.png 6 e+ N3 F4 J9 T2 R1 W

$ h( _: c$ w6 W9 x4 R4 S9 b ujjdleyyghr64077138652.png ) `; S4 O' \8 a8 b) F

                     

2 N1 z5 I9 H  E4 l1 p: j

2 @! ]6 e2 [+ w# X关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

http://www.latitudeda.com/
（点击上方名片关注我们，发现更多精彩内容）