人工智能如何重塑数据中心基础设施

逍遥设计自动化

引言
人工智能（AI）正在推动数据中心基础设施的变革，需要尖端技术来满足AI工作负载日益增长的需求。随着AI系统的规模不断扩大，下一代计算服务器、交换机、光电链路以及灵活、冗余的网络解决方案变得极为重要。先进的连接技术、通过chiplet实现的定制硅解决方案以及光连接的普及等关键创新正在重新定义AI集群的部署和运行方式[1]。
6 S+ Y. z7 e; f" v* [" g
3 ^/ S! `( g: ?- A/ m) r6 FAI工作负载的增长需求
随着AI系统规模的扩大，无论是集中在单个数据中心还是分布在多个位置，高性能连接技术都成为支持可扩展AI集群的关键。AI的前端网络处理数据流，后端机器学习网络处理大规模AI计算，这些都需要低延迟、高速通信。光电链路和灵活、冗余的网络正在为此提供支持，确保即使在需求增长的情况下也能顺利运行。

delexjaamw46404984316.png

连接技术：实现可扩展AI集群
6 k' H) R& E* k% j  h: g其中一项关键创新是从基于铜的系统转向先进的光连接解决方案，如可插拔光模块和光电共封装（CPO）。这些技术通过降低延迟和增加带宽来提高性能，对于需要快速数据交换的AI任务至关重要。

CPO将微型光学引擎直接集成到芯片封装中，用光纤替代电互连。结合电气I/O chiplet，CPO chiplet提供了一种针对不同应用优化的混合搭配解决方案，提高了AI处理速度和效率。
1 v' J1 u* K2 }( [8 v3 v
8 `2 U/ k5 k" ~. n# PChiplet：为AI工作负载优化的硅解决方案
) }( P) k% g/ u% q随着AI工作负载变得越来越复杂，定制硅解决方案变得非常必要。Chiplet能够为特定的AI任务提供定制硬件。Chiplet基于低成本基板构建，在不牺牲性能的情况下提高了可负担性。灵活的配置帮助数据中心满足多样化的计算需求。
" \& V3 e8 w% v+ w0 C
1 u/ s  z; f' q+ T! z' T/ U; P围绕通用芯片互连快速（UCIe）等芯片间接口构建的chiplet生态系统，实现了I/O、计算和存储chiplet之间的无缝通信。例如，I/O chiplet可能具有支持PCIe Gen6、CXL 3.0或112Gbps以太网的多标准SerDes控制器，而计算chiplet则使用基于Arm的核心进行高性能处理。具有低延迟DDR或HBM的存储扩展chiplet确保了更快的数据访问，进一步提高了AI性能。
0 L" h2 E/ Y' U9 r

t30bcdfr2w36404984417.png

' m4 ~2 ?6 \/ T& y
3 |% G8 f1 F* {9 H, x经济高效地扩展性能
9 O" t" n- L+ O; M+ r$ P( IChiplet的模块化特性允许以较低成本实现可扩展的性能。传统的单片芯片开发成本高昂且耗时，而chiplet具有预先验证的可重用组件，可以缩短开发周期并降低生产成本。这对于以AI为驱动的行业来说非常重要，因为效率和更快的上市时间是必不可少的。

* e- T  v$ M0 |; }7 z" M. r4 ]Chiplet还有助于管理功耗，这在数据中心扩展时尤为重要。芯片间接口的创新解决了与信号和电源完整性相关的挑战，如串扰和互连损耗。电源传输和封装技术的进步，以及改进的时钟解决方案，也在提高密集信号布线和时钟/数据对齐的效率。
; ]7 x( u; q6 n3 K: w
: \8 o& u  k% v0 d+ s$ ZAI基础设施中光连接的崛起
7 a& Y7 t% s1 O3 K& H光连接技术，特别是在chiplet生态系统中，正在改变AI数据中心的格局。CPO和高密度光I/O解决方案正在推动AI集群能力的边界。通过将光学组件直接集成到芯片设计中，AI系统可以处理更大的数据量，同时具有更低的延迟和更高的能源效率。
- `, K2 i4 @% {- a' o, e
密集光纤阵列、多波长和先进的扇出技术确保光I/O满足AI日益增长的数据需求。这些创新不仅提高了速度，还提高了能源效率，这在AI的高功耗环境中至关重要。能够模块化地混合光学和电气I/O chiplet，可以为各种AI应用提供定制解决方案，从大规模训练模型到实时推理。

: T/ L& J3 h3 K+ ]未来：Chiplet生态系统和芯片间接口
( W  @2 ^& y0 Q" h7 H由芯片间接口实现的扩展chiplet生态系统允许创建各种定制AI系统。这包括I/O、计算和存储扩展chiplet，每种都针对特定任务进行了优化。支持PCIe Gen6和112Gbps以太网等高速协议的多标准SerDes I/O chiplet，基于Arm的计算chiplet为AI工作负载提供处理能力。具有低延迟DDR或HBM的存储扩展chiplet确保AI模型快速访问数据。
0 Y  N6 v- Q; ~9 n. o
, c3 G3 u4 t7 M" ]像UCIe这样的芯片间接口通过管理串扰和补偿互连损耗来实现信号完整性。电源完整性和封装技术的进步进一步确保了AI系统的可扩展性和可靠性。

" X. E1 f/ |6 a0 P0 P, j' N; E总结
随着AI的发展，支持基础设施也必须随之发展。连接技术、chiplet架构以及光学和电气解决方案的生态系统正在推动AI数据中心的未来。从先进的光电链路和光电共封装到可定制的chiplet设计，AI基础设施正建立在可扩展、灵活和高效的解决方案之上。

参考文献
* C6 s( [  N* V* z2 P/ b[1] K. Rajendiran, "How AI is Redefining Data Center Infrastructure: Key Innovations for the Future," SemiWiki, Oct. 10, 2024. [Online]. Available: https://semiwiki.com/silicon-photonics/349684-how-ai-is-redefining-data-center-infrastructure-key-innovations-for-the-future/
- U. e* l) U5 D' Q* ^. A
6 a1 X( z: v0 _END


软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
1 A# v' |% u4 d) I) w) F: I# }点击左下角"阅读原文"马上申请
* _+ Y  q. U& f
欢迎转载

转载请注明出处，请勿修改内容和删除作者信息！
& h' x' Q3 R) f! B) w, u

  D1 z! P4 t) J! I& c
2 T0 w$ @) ^% F6 T  `

jwvwynmljnv6404984517.gif

关注我们
: f8 {( G  T2 {, L$ j' T

" M3 D# v* M! Q! J dp2sumoorvp6404984617.png

04dbb0h1h4l6404984717.png

sbnwlbkng3n6404984817.png 3 H; ]3 e6 A5 M* ?6 V6 k  s

                     

5 A5 Y& h6 m$ R! R6 M
# r1 a- L% z9 s; H2 y! p# u
. b. N- u4 }) [3 [  G关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
4 W( H, o% H$ t0 P& @
6 j9 y5 n( [: Yhttp://www.latitudeda.com/
: G: B$ m/ Z- p0 U' ~（点击上方名片关注我们，发现更多精彩内容）