|
引言
: j2 h; ]& y+ p; W近年来,计算能力的需求急剧增长,主要由ChatGPT等大型语言模型(LLMs)的日益复杂性推动。这些模型模仿人类认知,用于各种任务,需要庞大的计算资源。随着模型复杂度呈指数级增长,传统计算系统难以跟上。本文探讨新兴的神经形态计算领域及其在信息处理方面的潜力,重点关注光电子技术在这一新范式中的作用[1]。# ^" s+ o, L, s1 ?# D2 `+ x3 u
: L2 I7 h4 V6 `) M) O% p
理解神经形态计算
" G! \# j `: B* a: h8 J2 M神经形态计算旨在硬件和软件中模仿人脑的结构和功能。与传统计算机分离内存和处理单元不同,神经形态系统整合了这些功能,类似于我们大脑中的神经元和突触。这种方法有几个优势:能源效率:人脑执行极其复杂的计算,仅消耗约20瓦的功率。神经形态系统旨在实现类似的效率。并行处理:与大脑类似,神经形态计算机可以同时执行多项操作,而不是顺序执行。适应性:这些系统可以学习并适应新信息,类似于我们的大脑形成新的神经连接。内存计算:通过结合存储和处理,神经形态系统可以减少在独立内存和处理单元之间传输数据所浪费的能源。( ^; j6 {3 a# m! r( p
[/ol]! d! b4 ^$ \5 `( q% v5 S
5 C/ q& F0 X0 l$ R1 B1 U1 a0 d8 v
hxxfcmkjlef64090411656.jpg
1 s! U$ ]4 A( T& B" k8 {
图1:SpiNNcloud具有48个节点板的机架,是拥有100亿个神经元的神经形态计算机的一部分。9 J5 l0 c/ p, C5 O
/ z+ d- j) f2 Z$ G神经形态硬件的兴起
# n( U8 t7 m- k几家公司和研究机构正在开发神经形态硬件:
/ u% T2 G; M" e$ C6 y; T% l9 L [1. 英特尔的Loihi 2:英特尔第二代神经形态芯片每个芯片支持约100万个神经元。2022年,研究人员发现英特尔的神经形态硬件在深度学习任务中的能源效率是传统芯片的16倍。
1 t6 d6 A# S+ W5 C0 a' ^* W7 ~ t* ~
m4s2xlfochw64090411756.jpg
* n0 y6 }/ t: c# \* p; L, C( T
图2:英特尔的神经形态硬件,在执行深度学习任务时显示出比传统芯片高16倍的能源效率。
" n& H! a& n b+ }. m' h
' z8 C8 D: u! h2 g" N8 s+ T' U& k2. SpiNNcloud Systems的SpiNNaker2:2024年5月宣布的这个系统拥有超过69,000个互连微芯片,总计超过100亿个神经元。每个芯片包含152个基于ARM的处理器核心,每个核心支持至少1,000个神经元。
' S3 x4 Z$ h- o' W( T8 w7 M- y( W# J0 C" p4 p; L
3. 桑迪亚国家实验室:2024年,桑迪亚拥有一个由英特尔构建的11.5亿神经元系统,由1,152个Loihi 2芯片组成。该系统的神经元数量约等于猫头鹰大脑,正用于探索神经形态计算的潜在应用并开发算法。
1 V- u2 j6 K3 W1 z7 E( J ? F3 j+ |3 s
nrtscf2q4nl64090411856.jpg
8 w+ J6 Q. a ?图3:桑迪亚计算研究人员检查由1,152个英特尔Loihi 2芯片组成的新型11.5亿神经元神经形态系统。0 S0 q& [/ r+ \) r6 d
* X p( \& h+ F# I: K
光电子技术在神经形态计算中的作用& L" b. g+ Q, S) e7 h( K
随着神经形态系统的扩大,组件之间快速和高能效的连接变得至关重要。这就是光电子技术发挥作用的地方。光电子技术为神经形态计算提供了几个优势:高速互连:光连接可以以接近光速的速度在长距离传输数据,克服了电互连的限制。能源效率:特别是在较长距离上,光信号消耗的功率比电信号少。带宽密度:光互连可以实现比电连接更高的带宽密度。
2 f2 A9 R% Y8 P/ ?9 c[/ol]
% y M$ g( Z- e" B) Y3 A/ d$ ~6 p8 F
& \# i, J# O+ V& i& |% x3 Q0 p) e
5wx5bv2agk364090411956.jpg
# y8 I1 h7 p$ A+ F% ~
图4:英特尔的光计算互连,将光电子集成芯片与电子集成线路co-package的chiplet,能够以4Tb/s的速度传输和接收数据。: |3 [' a* K: d, m( E, l$ g6 n
& N. s d9 J7 D, g
英特尔的光计算互连
! b- j, | ^4 K7 \7 b1 O+ f英特尔开发了光计算互连,将光电子集成线路与电子集成线路结合。这项技术提供了几个好处:更高的带宽密度:co-package设计允许更高的数据传输率。提高功率效率:光信号在长距离传输中消耗更少的功率。长距离通信:光信号可以传输数百米而不会显著衰减。5 m" q4 A& e! O/ g& Q
[/ol]/ ?% e |5 m {8 x$ D/ h
英特尔计划将使用的波长数量从8增加到16,将线速率从32增加到128 Gb/s,并将光纤对数量从8翻倍到16。预计这些改进将在未来十年内将带宽从4 Tb/s提高到64 Tb/s。
& I$ e3 |) ?! c) o
# A+ ?% R) `' T1 t4 ?* m6 R6 ~HPE的光电子神经形态加速器% F2 ^9 g, U1 l) A. M
惠普企业(HPE)正在开发一种将光电子技术与忆阻器技术结合的神经形态加速器。该系统的主要特点包括:
K# [7 N$ c5 I- \2 E( c- n忆阻器激光器:这种器件可以电子方式改变其发射波长,并在断电后保持该调整,模仿生物突触的功能。基于波长的数据存储:信息被编码在光的波长中,允许高效的数据存储和处理。硅基光电子上的化合物半导体:这个平台能够将激光器、光检测器、放大器和调制器集成到单片线路中。5 m) X3 p1 h; a6 ~+ E
% N+ _& t2 ?1 _5 g- t
这种光电子方法的优势包括降低延迟、提高功率效率和固有的并行性。HPE计划今年向DARPA提交原型,并计划在五年内基于这项技术开发商业神经形态计算机。8 }* j2 O6 h" H" l. ^7 N
4 }! G* z' `9 W/ w神经形态计算的应用
8 B+ U1 M6 V5 D/ _神经形态系统有潜力在各种应用中表现出色:
4 B) p& H4 Z$ }5 E5 f' B大型语言模型:支持像ChatGPT这样的AI模型的日益复杂性。优化问题:解决复杂的调度和物流挑战,例如航空公司航班重新安排。科学模拟:模拟热传递、气体扩散和核聚变反应等现象。成像:提高医疗保健中图像分析的速度和准确性。金融建模:改进风险评估和市场预测。% h& o. ]$ g1 r( k" N! B+ N: m
! h5 x p9 G) {$ k) Y' M' f
挑战和未来方向
% P0 N0 ^+ f# ?尽管神经形态计算显示出巨大潜力,但仍需解决几个挑战:2 K! H6 R5 W, z9 @
算法开发:创建能够充分利用神经形态硬件独特架构的软件。可扩展性:开发高效连接和协调大量人工神经元的方法。理解大脑功能:随着我们对大脑如何编码和处理信息的认知改进,神经形态设计可能需要相应进化。与现有系统集成:在异构系统中找到神经形态加速器和传统计算组件之间的正确平衡。
& q0 x# H+ U r: N4 `) a3 |! x1 j) \9 G' \7 J
计算的未来可能是异构的,专用加速器与传统CPU和GPU一起工作。神经形态系统可能成为这个生态系统的重要组成部分,处理从类脑处理中受益的特定类型问题。5 z% w8 t7 N2 ^' w1 t
0 v5 z }' Z# B
结论
8 ]8 j% L* `9 O1 t2 r神经形态计算代表了处理信息方式的范式转变。通过模仿大脑的结构和功能,这些系统提供了在能源效率、适应性和并行处理能力方面实现显著改进的潜力。将光电子技术集成到神经形态架构中进一步增强了这些优势,有可能克服传统电互连的限制。
# ^% \6 n& Z1 l0 ^
9 {1 v' H& y: }9 l* T随着这一领域研究的进展,可以预期神经形态系统将在解决复杂计算挑战方面发挥越来越重要的作用,从支持先进的AI模型到解决各行业的优化问题。虽然传统计算仍将有其地位,但神经形态计算的兴起和光电子技术的结合可能预示着计算能力的新时代。! v) X6 G! G3 h( i" O- S
8 {7 H) s) v8 }, C参考文献
1 E, S. p2 _3 t; j- J[1] H. Hogan, "The rise of brain-like computers and the role of photonics," SPIE Photonics Focus, Sep./Oct. 2024. [Online]. Available: https://spie.org/news/photonics-focus/septoct-2024/building-brainlike-computers#_=_
1 q/ m( |2 `9 y8 rEND
! `/ |( O3 C8 C. s2 Z+ C+ E' u P6 [0 r; `2 ]+ D3 k: A+ Q
6 h* q8 S7 g% ?$ ~( n$ K软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用,PIC Studio都可提升您的工作效能。# n- | K. a; `& M5 q [
点击左下角"阅读原文"马上申请
6 c/ \& G9 H9 H& f- p `8 c
9 F* R/ W) j' K( r2 n( o, k欢迎转载4 ?9 a: _ T/ L9 h
; D3 w3 t1 @5 u: D5 p) r7 V( D' Y
转载请注明出处,请勿修改内容和删除作者信息!
( ^7 ^( x' y7 Y" F
" L2 m, }" g/ O" D* l
$ T* K2 I" ^3 U' j6 _4 e/ C( X# R
d1hstlpcjme64090412056.gif
) ^# O% O6 ^ i* [6 U
3 C9 G: o% N+ t- s: ~关注我们
2 n6 j; g7 k" u' \( Y6 W( \& R
" T' P9 I# O3 T8 g* ~; D, B' e% `) n! h# ?
pfn3bej03ke64090412156.png
8 O$ a: @& @: o( k; e# M
| 9 L h! _7 d( {/ c2 y; ~
izga3q5lg5364090412256.png
; w9 R n+ R* |) Y- _( |4 \ |
& J3 `" ?1 C) i- u: J' L
vgkquissgn364090412356.png
5 P4 s+ {5 @) H0 N
|
/ k1 i, o& V4 w3 q: g
. [' Q* g: h3 v$ p6 `
2 a5 p6 m6 U5 B7 s3 j: m m
, I) u: H* j6 g" k/ Y5 _! n关于我们:
" S; x1 ]; u+ M) {深圳逍遥科技有限公司(Latitude Design Automation Inc.)是一家专注于半导体芯片设计自动化(EDA)的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件,提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio,分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务,广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作,推动特色工艺半导体产业链发展,致力于为客户提供前沿技术与服务。: t% u- z! I. j# y2 o
: l! j1 D1 h. L* O+ {
http://www.latitudeda.com/
6 f6 m$ k4 p! W% Q(点击上方名片关注我们,发现更多精彩内容) |
|