光电子技术与人工智能

逍遥设计自动化 · 发表于 2024-9-2 08:00:00

引言人工智能（AI）和光电子技术的融合开创技术创新的新纪元，重塑光学产业的格局。本文探讨AI和光电子技术之间的复杂关系，研究这两个领域如何协同发展，以应对我们日益数据驱动的世界所面临的挑战。从硅基光电子到光纤网络等多个方面，将深入探讨处于这场革命前沿的公司所开发的尖端解决方案。

2ehe53dzwop640880422.png

$ H2 F4 K4 T+ Q
AI数据瓶颈：日益严峻的挑战随着AI应用变得越来越复杂和数据密集，一个重大挑战已经显现：即"数据瓶颈"。这种现象指的是当支持AI的处理器（如CPU、GPU和专用集成线路（ASIC））通过传统铜互连快速从封装外的计算资源摄取数据时，所导致的延迟增加和能耗上升。
挑战的规模惊人且迅速增长。到本十年末，数据中心的电力消耗预计将翻倍，主要原因是AI工作负载。像谷歌这样的科技巨头已经报告，由于AI能源需求，其排放量显著增加。事实上，维持AI快速增长所需的计算能力每100天就几乎翻一番。
为了更好地理解这一问题，可以考虑一个例子：平均而言，一次ChatGPT查询所需的处理电力是运行一次谷歌搜索的10倍。截至2024年5月，数据中心占全球总电力使用量的1%到1.5%，但由于AI驱动的需求，这一比例预计到十年末将翻倍。

ftw42p0iqq5640880522.png

图1：展示了按供应商和企业划分的数据中心能耗（以千兆瓦为单位）的预计增长，突出显示了AI应用驱动的不断增长的能源需求。
这种对能源无法满足的需求不仅是技术挑战，也是环境问题。随着业界努力解决这些问题，光学和光电子技术领域的创新解决方案正在成为实现更高效数据传输和处理的关键推动力。
硅基光电子：弥合差距为了解决数据瓶颈问题，许多公司正转向硅基光电子"Chiplet"。这些创新组件将电信号和光信号之间的转换推近GPU，使数据能够以光的形式在光纤中保持编码状态，从而在分布式计算资源之间实现更快速、更节能的连接。
Ayar Labs：光学I/O的先驱Ayar Labs是这一运动的先锋之一。该公司的journey起始于2015年，源于加州大学伯克利分校、科罗拉多大学和麻省理工学院（MIT）的突破性研究。Ayar Labs的旗舰产品TeraPHY Chiplet旨在与电子GPU或CPU集成在同一封装内，实现电信号到光信号的即时编码，通过光纤带传输。

x0cnwqhxrli640880623.png

图2：Ayar Labs的TeraPHY片上光学I/O Chiplet和SuperNova多波长光源，展示了他们在高速、节能数据传输方面的集成光互连方法。
近年来，Ayar Labs展示了令人印象深刻的能力。在2023年OFC大会上，他们展示了每比特仅使用5皮焦（pJ）的4-Tbps双向连接。这种高数据吞吐量是通过波分复用实现的，每个Chiplet有八个光纤连接，每个光纤承载八个波长的光，每个波长携带32 Gbps的数据。
公司的SuperNova片外光源补充了TeraPHY Chiplet。在2024年OFC大会上，Ayar推出了升级版的16波长SuperNova，能够驱动256个光载波，实现16 Tbps的双向带宽。这种可扩展性使Ayar Labs能够满足AI计算不断增长的需求。
Ayar Labs商业运营副总裁Terry Thorn强调，他们公开展示"实际运行的硅芯片"的重要性，这是在日益竞争激烈的市场中的一个关键优势。该公司还采用了通用Chiplet互连快速（UCIe）框架等行业标准，并与NVIDIA、爱立信、洛克希德·马丁等主要参与者，甚至包括潜在竞争对手英特尔公司在内的企业建立了合作伙伴关系。
Lightmatter：光子AI的整体方法一些公司仅专注于互连技术，但Lightmatter则采取了更广泛的方法。Lightmatter由Nicholas Harris、Darius Bunandar和Thomas Graham于2017年底创立，其愿景既包括光互连，也包括加速器芯片，旨在加速计算神经网络的运算。

2m2mizermt5640880723.png

图3：Lightmatter的机架，其中一个刀片已伸出，展示了他们将光互连和AI加速相结合的光计算集成方法。

; n$ b' I P I3 A. K# OLightmatter的技术套件包括：

Passage：晶圆级可编程光互连，集成了晶体管和光子器件，实现更高的I/O带宽和更低的封装复杂性。Lightmatter声称，Passage提供的I/O带宽是现有芯片间互连的10倍以上，并可能在五年内实现100倍以上的带宽提升。

Envise：光子AI加速器芯片，结合了光子学、电子学和新型算法，优化AI工作负载的计算平台。在之前的比较中，Lightmatter声称Envise可以执行与最先进的NVIDIA芯片相同的功能，但功耗仅为80W，而NVIDIA的功耗为450W。

Idiom：软件层，将硬件组件连接在一起，并促进与现有AI生态系统的集成。[/ol]
* e* p8 V% P8 w* z2 {* G通过同时解决数据移动和计算问题，Lightmatter旨在显著降低与AI工作负载相关的功耗。Lightmatter的首席科学家Darius Bunandar指出，在训练和部署生成式AI算法时，超过80%的功耗用于数据和内存移动，这突显了Passage技术的潜在影响。
英特尔进军光计算互连领域作为半导体行业的长期领导者，英特尔也在这一领域取得了重大进展。在2024年OFC大会上，英特尔推出了光计算互连（OCI）Chiplet，展示了通过八对光纤（每对光纤承载八个波长）实现的4-Tbps双向连接。

ft5kc0gmjgy640880823.png

图4：英特尔在2024年OFC大会展台上展示OCI Chiplet，突显了他们进入AI应用光互连市场，专注于高速、节能数据传输。

# v- u3 _9 ]- `" A/ Q' S英特尔的方法利用了其在将可靠的磷化铟基激光器直接集成到硅芯片上的专业知识。这种集成减少了外部激光器经历的耦合损耗，这对于最大化AI应用的功率效率重要。英特尔集成光子解决方案集团产品管理和策略高级总监Thomas Liljeberg强调了I/O系统的紧凑、自包含性质，该系统直接连接到CPU或GPU的I/O端口。
英特尔认为有多种途径可以扩展其技术，包括增加每根光纤的波长数量、提高每个波长的线路速率，以及扩大物理连接到Chiplet的光纤数量。这种多管齐下的方法使英特尔有信心能够通过多代产品开发支持未来AI数据传输需求。- d$ N9 r; D; e7 z; a" O* v6 \0 B) `% `
代工厂在推进硅基光电子技术中的作用半导体代工厂在推进AI应用的硅基光电子技术方面发挥着关键作用。例如，格罗方德（GlobalFoundries，简称GF）开发了GF Fotonix平台，这是一种300毫米单片硅技术，可实现光电共封装，并支持多个波长带的高数据速率。

n5ej3wbqh2t640880923.png

图5：了格罗方德的晶圆生产，展示了其制造GF Fotonix等硅基光电子平台的能力，这对于开发支持AI的光互连重要。

$ K( w, w8 i0 h" T7 O5 j: b& OGF Fotonix允许将各种光学元件（如调制器、耦合器和复用器）与基于CMOS的电子元件集成在单个芯片上。这种集成方法使GF声称实现了"业界每根光纤最高的数据速率"，使公司成为AI驱动的光电子市场的关键参与者。
GF硅基光电子产品管理副总裁Anthony Yu指出，GF Fotonix实际上是该公司的第三代产品，代表了多年来在波导集成和多个电子和光学元件单片集成方面发展的顶峰。该平台在C、L和O波段支持每波长200 Gbps，非常适合需要高带宽、低延迟数据传输的AI应用。
作为一家代工厂，GF与Lightmatter和Ayar Labs等高知名度初创公司以及NVIDIA和思科系统等大型企业合作。这种协作方法使GF能够在AI领域推动创新，同时随着合作伙伴在市场上获得牵引力而扩大代工业务。
AI的网络解决方案：超越芯片层面AI的影响不仅限于芯片级创新，还延伸到更广泛的网络基础设施。像Infinera这样的公司正在调整其产品，以满足数据中心内互连技术不断增长的需求，预计在未来四年内将增长十倍。

1nvvasgytv0640881023.png

图6：Infinera位于美国加州桑尼维尔的光半导体制造厂，他们在这里生产基于磷化铟的光电子集成芯片，这对于满足AI工作负载的带宽需求重要。
Infinera的ICE-D产品线基于单片磷化铟光电子集成芯片技术，旨在解决数据中心内AI工作负载的独特挑战。该公司声称，ICE-D组件可以将每比特功耗降低75%，同时提高连接速度，这两个因素在AI领域都非常关键。
Infinera市场营销副总裁Tim Doiron强调了公司努力扩展可用频谱以帮助网络运营商管理不断增加的带宽需求。Infinera正在寻求将C波段从目前的4.8 THz扩展到6.1 THz的传输空间，进入所谓的超级C波段。这种扩展可以在现有光纤基础设施上提供额外27%的容量，而无需部署新的光纤。
诺基亚在2024年6月以23亿美元收购Infinera进一步突显了集成光电子和光网络在AI时代的战略重要性。此举使诺基亚进入了Infinera在数据中心互连（DCI）市场和可插拔相干光学领域的产品线，使合并后的公司能够更好地服务于快速增长的AI基础设施市场。
AI作为业务优化器：超越硬件创新除了硬件创新，AI还在改变光电子公司处理业务运营和产品供应的方式。捷恩特（Jenoptik）是一家全球集成光电子公司，历史可追溯到19世纪末，自2017年以来一直将AI融入其产品和流程中。

03vpa3s2k4e640881123.png

图7：捷恩特的VECTOR摄像机，提供AI支持的自动车牌识别解决方案，展示了AI与现有光电子产品的集成，以增强功能和性能。
捷恩特成功将AI应用于多个领域，包括：

汽车行业质量控制：使用神经网络进行图像处理，检查螺丝头的缺陷。高分辨率相机系统与经过大量无缺陷组件数据集训练的神经网络相结合，可以自主准确地识别生产零件是否符合规定的质量要求。

智能移动解决方案：部署支持AI的自动车牌识别（ALPR）系统，用于民用安全和执法。捷恩特的VECTOR2 ALPR摄像机自动捕捉车辆车牌，而深度学习软件则访问现有的图像组合，以提高捕获率并成功读取完整车牌，即使在具有挑战性的环境中也能实现。

收费系统：在具有挑战性的环境中实施AI来提高捕获率和准确性，从而提高道路使用监控和收入收集的效率。
[/ol]
捷恩特数字化转型和创新总监Adrian K?nig强调，AI使公司能够增强现有产品套件并为客户创新新产品。通过将AI驱动的分析整合到光电子产品中，捷恩特可以提供更精确、更可靠的解决方案，特别是在图像处理领域。
捷恩特公司创新项目经理Subhasis Pradhan指出，公司在AI集成方面的方法侧重于找到能为客户创造价值的用例，而不是追求创新本身。这种以客户为中心的方法使捷恩特能够在多个业务领域成功利用AI。
光电子技术和AI的未来：挑战与机遇随着光电子行业与AI并行发展，出现了几个挑战和机遇：

能源效率：AI工作负载不断增长的能源需求既是一个挑战，也是光电子公司的机遇。光互连和光计算方面的创新有可能显著降低能源消耗，使AI更加可持续和可扩展。

集成复杂性：随着光子器件与传统电子系统的集成程度越来越高，管理这些混合系统的复杂性将变得非常重要。能够成功应对这一集成挑战的公司可能会获得竞争优势。

可扩展性：AI工作负载的快速增长需要能够快速高效扩展的解决方案。能够展示清晰可扩展性路径的光子技术在未来几年将特别有价值。

标准化：随着行业的成熟，光互连和光子AI加速器标准的发展对于广泛采用和互操作性重要。

人才培养：光电子技术和AI的融合创造了对具有跨学科技能的专业人才的需求。教育机构和公司需要投资培训项目，以培养能够在这个交叉领域工作的人才。

市场采用：虽然光子技术对AI的潜在好处显而易见，但说服客户采用新的架构和系统可能具有挑战性。公司需要展示明确的性能和成本优势，以推动市场采用。
[/ol]结论AI与光电子技术的融合正在重塑光学产业，推动硅基光电子、光纤网络和业务优化方面的创新。随着公司继续开发解决方案以应对AI工作负载带来的数据瓶颈和能源效率挑战，可以期待在光互连、AI加速器和光计算平台方面取得进一步进展。
初创公司、成熟的半导体公司、代工厂和网络公司的协作努力正在推动更高效、更强大的AI生态系统。从Ayar Labs的TeraPHY Chiplet到Lightmatter结合Passage互连和Envise加速器的整体方法，从英特尔的OCI Chiplet到格罗方德的GF Fotonix平台，业界正从多个角度应对挑战。
网络公司如Infinera正在扩大关注范围，以解决数据中心内部连接需求，而像捷恩特这样的公司则利用AI来增强现有产品并优化业务流程。这种多方面的方法为集成AI和光电子技术创造了丰富的解决方案生态系统，有望彻底改变计算和数据传输。
随着这些技术的成熟和广泛采用，不仅会改变光电子产业，还将推动下一代AI应用在各个领域的发展。潜在影响远远超出了科技行业，对医疗保健、金融、交通和环境监测等领域都有影响。
展望未来，光电子技术与AI之间的协同作用将在塑造未来几十年的技术格局中发挥关键作用。通过利用光的力量进行数据传输和处理，业界正为更可持续、更强大的AI系统奠定基础，这些系统能够应对我们数据驱动世界中日益复杂的挑战。
当我们站在这场光子AI革命的风口浪尖时，很明显，推动光和人工智能可能性边界的公司和研究人员不仅在解决今天的问题—他们正在照亮一条通向未来的道路，在这个未来中，计算的极限不再由电子的速度定义，而是由光子的光芒定义。
参考文献[1]H. Lanford, R. Sender, and S. Wills, "Photonics and AI: Industry Perspectives," Optics & Photonics News, vol. 35, no. 9, pp. 30-37, Sep. 2024.

- END -

软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
点击左下角"阅读原文"马上申请

欢迎转载

转载请注明出处，请勿修改内容和删除作者信息！

$ C$ y l6 F$ [7 i; t, a! T

ytv5wpk52dd640881224.gif

关注我们

wxofxj3h3ak640881324.png

vclqsfvxuxh640881424.png

v0jt1g1m134640881524.png

' y$ r& p* w! k9 \) s# F

关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

http://www.latitudeda.com/
（点击上方名片关注我们，发现更多精彩内容）

光电子技术与人工智能

发表回复

精选推荐