什么是von Neumann瓶颈？

逍遥设计自动化

引言von Neumann瓶颈是由标准个人计算机架构引起的吞吐量限制。该术语以John von Neumann命名，他发展了现代计算机架构背后的理论。早期的计算机在运行时被馈送程序和数据进行处理。
! _& M; p( p- O* A1945年，von Neumann提出了基于存储程序计算机概念的计算机设计，其中程序指令和数据都保存在内存中。这种模型被称为von Neumann架构，有时也称为Princeton架构，成为了许多后续计算机的标准，并且在今天的大多数系统中仍然被使用。
% t  x" D) V8 u9 ]3 M( g在von Neumann架构中，计算机的主要组件包括中央处理器（CPU）、内存单元和输入输出设备。CPU包含控制单元、算术逻辑单元和寄存器。处理器和内存是独立的组件，数据通过系统总线在它们之间移动。内存单元，通常称为主存或主存储器，存储程序指令和数据。
: H  S9 R5 E& L: D) p% Z

3py2woynr5h64013244318.png

. N2 t' F2 s6 B% O# R7 y+ Y
6 X8 c0 A8 r/ [, R7 u

mnbi2jdsdif64013244418.png

* M" t. s4 E, b! x2 I5 ?, D* D
系统总线用于在构成von Neumann架构的组件之间传输所有数据，随着工作负载的变化和数据集的增大，这成为了一个越来越大的瓶颈。多年来，计算机组件不断发展，以试图满足这些不断变化的工作负载的需求。例如，处理器速度明显加快，内存支持更高的密度，使得可以在更小的空间中存储更多的数据。
与这些改进相比，CPU和内存之间的传输速率仅取得了适度的进展。结果，处理器花费更多的时间处于空闲状态，等待从内存中获取数据。无论给定的处理器工作速度有多快，它都会受到系统总线允许的传输速率的限制。更快的处理器通常意味着它将花费更多的时间处于空闲状态。
克服von Neumann瓶颈von Neumann瓶颈通常被认为是一个只能通过对计算机或处理器架构进行重大改变才能克服的问题。即便如此，人们已经进行了许多尝试来解决现有结构的限制：缓存。解决瓶颈的一种常见方法是在CPU中添加缓存。在典型的缓存配置中，L1、L2和L3缓存级别位于处理器内核和主存之间，以帮助加速操作。L1缓存最小、最快、最昂贵。L3缓存由多个处理器内核共享，最大、最慢、最便宜。L2缓存介于两者之间。

* a9 V/ Q, b- j: E

pul1dsjsbh364013244518.png

预取。预期将首先使用的指令和数据被预先获取到缓存中，以便在需要时立即可用。
% c! C1 v" M5 E% _  _5 m7 m推测执行。处理器在被提示执行特定任务之前执行这些任务，以便在需要时信息已经准备好。推测执行使用分支预测来估计哪些指令可能首先需要。
! o/ y( B5 O2 D4 J7 H: B! R% _4 S多线程。处理器同时管理多个请求，同时在线程之间切换执行。多线程过程通常发生得非常快，以至于线程看起来象是同时运行的。
! M' }3 W: U. h% [% Q5 a3 a新型RAM。RAM技术的当前发展有望通过更快地将数据送入总线来帮助解决至少一部分瓶颈问题。新兴的发展领域包括电阻式RAM、磁性RAM、铁电RAM和自旋传递扭矩RAM。
) i7 i2 C! J: ~) n) |近数据处理。通过NDP，内存和存储通过增强的处理能力来帮助提高性能，同时减少对系统总线的依赖。一种类型的NDP是内存中处理，它将处理器和内存集成在一个微芯片中。
硬件加速。处理被转移到其他硬件设备，以减少CPU的负载和对系统总线的依赖。常见的硬件加速类型包括GPU、专用集成电路和现场可编程门阵列。
片上系统。单个芯片包含处理、内存和其他系统资源，消除了系统总线上的大部分数据传输。移动设备和嵌入式系统广泛使用SoC技术。然而，这项技术现在正在进入计算机行业，苹果芯片引领潮流。

) C& S8 v( z/ s$ g0 O参考来源https://www.techtarget.com/whatis/definition/von-Neumann-bottleneck.
- e" A2 x' }' x) n* G3 f
- END -
0 f# e& F# I5 a" j  l5 @- X
$ U+ p9 |% j( K/ u( f' @+ F; Q% k软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
8 j* G  W$ H$ Y点击左下角"阅读原文"马上申请

3 j; N# d: l, a- X" }3 x欢迎转载
) S/ P2 l4 J' O/ N
' F4 w6 L, g2 J  j+ B4 y7 L转载请注明出处，请勿修改内容和删除作者信息！
- B( V8 U3 d* x  s0 v

4x2gaxl35hq64013244618.gif

关注我们
, C4 P! b* F# b; Q& Y
' B+ Z1 x, j8 [6 a1 I  W1 ~

& V  z  y9 y) F) { il2zpj2lvxl64013244718.png

dcqzih4lqbh64013244818.png # c! m' b" b! ?4 ]" v0 O  ^" }

3 i. w2 e0 O. A4 X( Y fnh05d4wxan64013244918.png

                     
/ a4 L8 `9 D, p" i# Q- n% y1 m


. C, y* R; c( Z: o0 X
/ ~; P0 R) b; A" }+ O
# ?* ~6 V7 d3 `* H: j* R
关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。

http://www.latitudeda.com/
（点击上方名片关注我们，发现更多精彩内容）