ISSCC2025 | 从芯片到思想：构建机器人系统的物理智能

逍遥设计自动化

引言
, K7 G$ g' D: F3 Y; G) F人工智能技术的快速发展为众多领域带来了前所未有的进步，但这种进步伴随着大量的能源需求。生成式人工智能革新了高级机器学习模型的可及性，将强大的人工智能能力直接交到普通用户手中。生成文本、图像、视频和音频的工具使人工智能更加民主化，推动了各行业的创造力、生产力和创新。
: X( N5 j& L' M, D3 Z; V& ]" E

2uwpzd41dvk6401028754.png

然而，这种广泛的可及性带来了显著的代价，特别是在训练和部署这些庞大模型所需的能源方面。像GPT、DALL-E和其他多模态人工智能系统等大型生成模型需要大量计算资源，这转化为在漫长的训练过程和实际部署中的高能耗。
2 }- D- t; S% Y5 C1 L7 q
6 h' e# c5 E- O" F虽然人工智能系统变得更加先进和强大，但快速增长带来了资源需求方面的重大挑战。训练大型人工智能模型的计算需求极其巨大，通常需要专用硬件如GPU或TPU长时间运行。这导致能源消耗增加和相当大的碳足迹。例如，训练单个2.18亿参数的语言模型可能产生与多辆汽车整个寿命周期产生的排放量相当的排放。由于复杂度差异，ChatGPT查询使用的电力是Google搜索的10倍以上。
% }1 s3 F* o- |
分析师估计，由于人工智能需求增加，到2030年，计算机服务器可能使用世界电力的10%或更多，高于今天的2%。人工智能模型的能源消耗已成为一个紧迫问题，威胁着该领域的可持续发展[1]。

u4e0lnltok06401028854.png

图1展示了美国数据中心能源消耗的增长趋势，强调了数据中心占美国总电力需求的份额到2030年将显著增长。
  {; W5 t8 |* {: v

bjqgve1syir6401028954.png

图2说明了过去二十年中训练人工智能模型的能源消耗和碳排放急剧增加，展示了人工智能对环境影响的指数增长。

y4l0uw3dpdt6401029054.png

图3展示了未来几年人工智能电力需求增长的预测，展示了预期的陡峭上升轨迹。
$ z$ C# Q1 D2 W, w

zb5wmokjkjr6401029154.png

2 M5 g/ L2 s# {' h( {* f图4显示了训练脑规模人工智能系统的预测能源需求，并识别了限制效率的三个关键内存瓶颈：内存墙、更新墙和整合墙。
! \2 [7 ^9 l& [& [0 F8 B6 V
人工智能的未来承诺在各个领域带来非凡的进步，有潜力革新从医疗保健到自主系统的一切。然而，要充分实现这种潜力，我们需要解决三个关键挑战：使人工智能显著提高能效，克服当今人工智能系统的局限性，以及开发支持物理智能的创新模型。

1
- A8 h$ R4 q$ M3 U9 X& m高能效人工智能
人工智能主要通过两个主要阶段消耗能源：训练和推理。训练是指通过向模型提供大量数据集并调整其内部参数来教授模型的过程，需要大量计算资源。这个阶段能源密集，因为需要使用高功率GPU或专用人工智能硬件在大型数据中心中重复处理和分析大量数据。

推理是指训练好的人工智能模型根据新输入数据进行预测或生成输出的阶段。这是当用户与人工智能系统交互时发生的计算，例如查询聊天机器人或使用推荐引擎。随着人工智能模型扩展并部署到数百万用户，推理逐渐成为能源消耗的重要贡献者。
4 a2 [5 ]7 A! j4 T0 d
) \0 I. |$ ^: A8 s- o& e随着模型变得更大更复杂，需要更多的层、参数和计算，能源成本急剧上升。更大的模型需要更多的计算资源，训练和推理在电力、冷却和硬件需求方面变得越来越昂贵。

为解决人工智能能源挑战，高效硬件在减少人工智能系统能源消耗方面发挥关键作用。专用硬件，如Google的张量处理单元（TPU）和边缘人工智能芯片，专为处理人工智能工作负载的计算强度而设计，与通用处理器如CPU或GPU相比消耗明显更少的能源。TPU针对深度学习模型中基础的张量操作进行了优化，可实现更快的计算并消耗更少电力。
- u+ Q4 A3 \7 s8 R& Q, m0 ?  k
8 B3 ]8 Z3 t1 b研究表明，通过设计特殊芯片，人工智能模型可以仅用一小部分计算能力运行，同时仍能提供卓越的结果。这些芯片可以消耗不到三分之一瓦的功率，比通用移动处理器能效高10倍。关键见解是通过分配任务的专用电路，最小化核心需要与远距离内存库交换数据的频率。

2wzvtezb4en6401029254.png

图5展示了核心重新分配间隔为5微秒的Shenango运行时与1毫秒核心分配器模拟相比，达到了更高的CPU效率，体现了细粒度资源管理的重要性。

1 h1 Q9 M" F/ l1 F, y+ C模型压缩是减少训练和部署大型人工智能模型相关计算和能源成本的重要方法。剪枝、量化和知识蒸馏等技术旨在减少神经网络参数，同时保持模型性能。剪枝涉及识别并移除模型中冗余或不太重要的权重或神经元，形成更高效的结构，同时不会大幅影响准确性。
9 v0 f0 E( G! T3 g' v

5k1zau4ec136401029355.png

图6显示了对三个流行数据集(MNIST、CIFAR和FashionMNIST)进行压缩后的相对误差评估，网络架构各不相同，展示了压缩如何影响性能。

zsrto0fazau6401029455.png

6 b) R' f3 x# F1 E2 C  x图7说明了随着保留的模型权重变化，测试准确率如何变化，揭示了模型可以显著剪枝同时保持合理性能。
. f8 w7 C2 F8 f5 O) d' \

vgt41dufkqt6401029555.png

图8显示了在NVIDIA V100 GPU上深度神经网络训练的归一化能源使用情况，突出了通过优化技术可以实现的能源节省。

算法优化通过减少模型训练和推理所需的计算资源，在提高人工智能系统能效方面发挥关键作用。一种关键方法是开发高效训练算法，如稀疏变换器和状态空间模型。稀疏化模型通过仅关注输入中最相关部分来优化数据处理，显著减少操作数量。

2
' i, G  q2 m/ b: d人工智能状态空间模型
2 H, t+ ~8 H4 t) y& e& x状态空间模型(SSM)正在成为人工智能的新技术。SSM设计用于处理序列数据，使用基于物理的技术捕获时间和空间依赖性。与控制理论中的传统状态空间模型不同，这些机器学习模型专注于从数据序列中学习底层表示。例子包括高级模型如液态网络、振荡网络以及像S4(用于序列建模的结构化状态空间)和Mamba等状态空间模型。
: A2 E3 Q9 A5 e9 L" B" @
$ X; ]. f- u8 W/ B- ^" W0 |这些新模型设计擅长处理长序列任务，提供内存高效的方式处理大量数据流。例如，S4和Liquid S4使用结构化状态空间矩阵处理时间序列和序列数据中的长程依赖性，比传统的循环神经网络(RNN)或变换器更高效。

. y/ }* n- K+ U$ X液态网络模型是一种状态空间模型，可以实时动态适应输入数据，允许网络结构随着新信息处理而演变。液态网络受水库计算和神经动力学原理启发，在这些原理中，内部神经状态是流动的，可以随着新刺激的出现而改变。
3 x5 }: w( p: l7 F& p

tk5mpl0nn3n6401029655.png

/ N. G; q# S9 \, {9 a图9对比了经典人工神经元(左)与液态神经元计算(右)，展示了计算方法的根本差异。

液态网络的核心是其独特能力，可以响应输入数据模式自适应连接和内部状态表示。与推理期间保持固定权重的传统神经网络不同，液态网络持续更新参数，使其能够处理更加动态、不确定或可变的环境。

3 H3 N, J. W( S; k4 g液态网络还旨在克服机器学习相关的几个技术问题，其中之一是缺乏可解释性。液态网络提供了简化神经网络架构的方法，使用户能够了解模型的决策过程。由于神经元的计算和架构，液态网络更容易查看内部运作。

rsi10v0up4p6401029755.png

) I" R2 N4 B/ R, m) x9 N5 h/ r图10比较了不同参数数量的液态基础模型与其他基础模型在MMLU-Pro基准测试上的性能，显示了LFM的最先进性能。
6 ~  ^9 j) i4 Y6 _* G* G

kmfo0azgxlh6401029855.png

! O4 `8 s7 b/ Y! d3 B图11说明了液态基础模型与其他语言模型相比的显著内存效率优势，特别是随着序列长度增加。
+ l: I8 C; _7 }( g+ j
液态网络已被证明对时间序列和序列数据任务非常有效，包括视频分析、传感器数据处理、金融交易和自然语言文本处理等应用。根据时间模式动态调整内部状态的能力使液态网络特别适合数据输入序列重要的实时应用。
5 U& ^7 U  T! y
# T. ]( m# v# `LFM(液态基础模型)与基于变换器的架构相比，特别是在处理长序列时，内存占用显著减少。这一点很重要，因为在变换器中，键值(KV)缓存随着输入长度线性扩展，导致大量内存消耗。相比之下，LFM可以高效压缩输入数据，使处理更长序列不会出现相同的指数内存增长。
" t5 b# M4 M; Q4 r
, U. G- B0 I& `, B& M3
物理人工智能
随着生成式人工智能系统持续迅速普及，这些系统大多局限于数字世界，而非我们实际生活的物理世界。物理世界具有物理定律和不精确性，对于最复杂的人工智能算法也是极具挑战性的。随着我们对人工智能的期望超越数字边界，开发和使用不仅能模拟而且能深入理解物理世界基本原理的基于物理的模型（如状态空间模型）变得非常必要。

目前，大型人工智能模型主要在基于云的基础设施上运行，这提供了必要的计算能力，但代价是显著的能源成本和碳足迹。然而，对于许多实时应用，如机器人和基于传感器的系统，依赖云计算因需要即时响应和持续数据传输的挑战而不切实际。

6 H6 X/ \5 }- w: d2 {* g物理智能或物理人工智能，是指将人工智能理解数字文本、图像和其他在线信息的能力用于使现实世界机器更智能。物理智能需要紧凑的模型，这些模型理解物理世界，无缝集成在机器内部，能够精确无误地运行。基于变换器的模型无法做到这一点，因为这些模型经常产生幻觉，无法可靠捕捉世界物理规律，且需要不适合消费设备的服务器农场。

同时处理文本和传感器信号的能力使我们能够将感知、语言和行动作为智能的基础。语言为智能机器提供了更高层次的抽象和推理。在机器人技术中，物理智能通过提供感知、行动和语言的整合使自动驾驶汽车等机器人变得智能，使机器人能够在越来越符号化的层次上解释和与环境互动。
! ]* c. u1 C- D
' t5 ^' f: Y( L, T随着人工智能不断突破可能性边界，能源效率正成为确保这些系统可持续性的关键因素，特别是当这些系统超越数字领域进入现实世界物理应用时。状态空间模型和液态基础模型等创新显示出解决这一挑战的巨大潜力。通过提供高效内存利用和精简处理，这些模型特别适用于能源消耗是主要考虑因素的应用，如移动设备、机器人和边缘系统。

- \' E* Z$ P2 o, J0 j1 K; J8 n如果2023年是文本到图像的年份，2024年是文本到视频的年份，那么2025年可能标志着物理智能时代的到来，包括文本到行动、文本到任务、文本到设备和行动到环境。这一变革时期将见证物理智能集成到广泛的物理系统中——从机器人和传感器到电网和智能家居——使这些系统能够解释并执行由文本、图像和行动派生的复杂命令，从而连接数字指令和现实世界执行之间的鸿沟。

: {8 ^1 M& |/ u8 Q: [" q! q参考文献
/ j. i7 L% L6 S; q[1] D. Rus, "From Chips to Thoughts: Building Physical Intelligence into Robotic Systems," in 2025 IEEE International Solid-State Circuits Conference (ISSCC), Feb. 2025
END
. d" l6 |- n2 Q$ @. V1 ]2 p  P
软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
  `, {' ]- D* P7 b! |点击左下角"阅读原文"马上申请

欢迎转载
3 q- ~; [+ l# W8 I. F
/ m9 O# }- g; m3 v+ x% n6 T0 B; j转载请注明出处，请勿修改内容和删除作者信息！
- ?$ q! J% C! l" f- i

* `1 \* e# V7 Z" @7 k% C

v4ms32whtnb6401029955.gif

! X- {5 }7 m% |2 p4 `8 p
关注我们

xwqqkiitgri6401030055.png 6 u+ E$ n+ h  Y/ H1 _5 g3 X$ B

9 q) l5 s2 E, q% ~0 J 4hwtpkckern6401030155.png

gx4lpdqfhgu6401030255.png

                     
1 r3 b2 P/ m0 l+ w+ ^


/ U$ J2 f. b& ~0 Q* P关于我们：
: u- N# B; Y/ @2 ~深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

5 C+ T! g; v' {1 X1 ehttp://www.latitudeda.com/
（点击上方名片关注我们，发现更多精彩内容）