高带宽存储器 (HBM) 技术推动 AI 应用发展

逍遥设计自动化

引言
高带宽存储器 (HBM) 正逐渐成为 AI 加速器、图形处理单元 (GPU) 和高性能计算 (HPC) 的关键技术之一。随着 AI 模型（尤其是参数规模达数万亿的超大语言模型）对实时训练和推断性能需求的提升，存储器带宽与容量的升级变得尤为重要。本文将详细探讨 HBM 的发展历程、技术驱动因素、制造挑战及未来趋势[1]。

4 N, Q% a9 `2 x$ a; ?8 [: }; XHBM 技术的发展
HBM 的研发始于 2008 年，当时的目标是解决传统计算存储技术功耗高和占用空间大的问题。通过引入更多 I/O 通道，HBM 实现了在保持功耗稳定的前提下提升带宽。例如，与 GDDR5 DRAM 只能提供 28 GB/s 的带宽相比，HBM 第二代通过 1,024 个 I/O 通道，实现了 307.2 GB/s 的突破。

HBM 技术的持续迭代带来了 HBM3 的广泛应用以及 HBM4 的即将问世。HBM4 将数据线从 HBM3 的 1,024 条增加到 2,048 条，大幅提升带宽，同时集成更高效的堆叠技术以解决热应力与功耗问题。
4 |  [! R/ z1 j6 b
& O" O0 p# e9 E推动 HBM 技术的核心因素
1. 硅穿孔 (TSV)
$ c0 b8 h6 f7 t: PTSV 实现了垂直连接堆叠的 DRAM 芯片，增强了数据吞吐能力。底层的缓冲/逻辑芯片为数据传输提供路径。
- ^9 I: j, v4 \' X6 [3 c& h' x2 F
5 u6 u4 M; H  ]6 J2. 微凸点和底填材料
5 o2 w  P4 V, W0 p7 ~+ P+ d微凸点确保了层间连接的可靠性，非导电薄膜 (NCF) 和热压键合 (TCB) 等创新技术进一步提升了连接效率，减少了缺陷。
+ m9 m" q3 O7 M: @5 _
3. 先进封装技术
* F6 b5 @# ^! u6 QHBM采用2.5D 硅中介层技术，通过集成高密度堆叠和处理器连接，实现了比传统平面 SoC 更短、更快且更可靠的数据路径。
( R. k5 ?' r7 H6 O7 Z; ?$ i
下图展示了一个针对最大数据吞吐量优化的 HBM 堆叠结构：

meqfjjn2kag6401577921.png

图 1：HBM 堆叠结构，展现多层 DRAM 与底层逻辑芯片的集成。

( H* v! b5 u& G3 c1 Z- S- o1 \HBM 制造面临的挑战
3 F! c# _# X5 k1 v3 ^2 Y& @尽管 HBM 技术优势明显，其生产过程仍然复杂且昂贵。主要挑战包括：
2 u; Y  S" A6 n) t) p热和机械应力
TSV 和微凸点容易因热循环引发分层或金属桥接等问题。

6 S& @, h) i$ a: ~' g翘曲问题
. g0 S# s3 H5 p堆叠材料的热膨胀系数差异会导致应力集中，特别是在底层芯片和首层存储芯片之间，以及微凸点连接处。
4 _" T. K5 f- D2 {  w" K% J4 ~# |; `5 u
可靠性测试
高温寿命 (HTOL)、无偏湿度应力测试 (uHAST) 等测试用于检测潜在问题并确保长期使用可靠性。

qk5daxew40p6401578022.png

图 2：三星 DRAM 路线图，展示 HBM3E 和 HBM4 技术的进展。

$ o/ x6 K) Z3 a0 i; ]! p- `HBM 的应用与市场趋势
/ J1 N# t" f! e" T7 }( |! @- SHBM 无与伦比的带宽使其成为数据密集型应用的优选技术，例如：
AI 训练与推断
大规模 AI 基础设施依赖 HBM 进行实时数据处理和模型优化。
5 {/ s9 T% J! C
高性能计算和数据中心
( B3 J* G4 g5 f3 h/ zHBM的高性能使其在成本敏感度较低的场景中表现出色。
  `/ ^6 S1 ?4 d* j/ M
为满足市场需求，HBM 制造商正在引入混合键合技术，以取代 HBM4 的微凸点，进一步提升产量和可靠性。
% D4 x9 {1 f% |: `. |! `
未来发展方向
! Y; h4 {% z" Z, _8 C0 \7 vHBM4 的推出标志着存储器技术的重大进步，其关键特性包括：
( e! l6 T' F$ j3 E& e: c堆叠高度增加
堆叠层数从 8 层提升至 16 层，存储密度显著提高。
- K  D: I6 a( W6 @- N& c+ ]1 S
更高的带宽
传输速率可达 1 TB/s。
$ d" n& P' W; c  D
+ c* B  y$ c/ M* u% R集成逻辑功能
将存储控制器集成到底层芯片以提高效率。
3 s; {& D$ F1 c. k; }) b$ H& C
+ v! w. P& L: xJEDEC 对 HBM4 标准的定义包括模块厚度、层数和带宽的提升，有助于推动更高效的模块化设计。
& T1 L, y; S: L2 |0 Y# ~. ^
2 Y( i: R% B6 R8 S& T4 `3 `( B+ }1 r总结
随着 AI 技术的发展，对高效、高速存储器的需求将持续增长。HBM 技术通过堆叠、封装和测试的创新不断克服制造挑战，广泛应用于光电子技术、光计算等领域。未来的发展将进一步优化集成和性能，以应对 AI 驱动的工作负载需求。
- a( N4 H2 f4 c3 d/ M$ @/ ?
参考文献
+ v. O4 E2 t$ M7 h6 l, z2 e3 ^( E$ J[1] L. Peters, "HBM Options Increase As AI Demand Soars," SemiEngineering, Nov. 21, 2024. [Online]. Available: https://semiengineering.com/
6 t6 ]) Z+ Q6 |: I+ j+ Y( B
END
. f. H7 S* [9 N: L1 ~3 ~  i

+ X, L0 ^  e  k' J4 d" m软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
点击左下角"阅读原文"马上申请
6 t+ p) ]1 U- D5 I; O% U) e
欢迎转载

9 z) ?) z% C- b2 @, o% a转载请注明出处，请勿修改内容和删除作者信息！
  V6 [+ n; ~1 s3 w* I

3 e5 U$ C) ?$ ^) \, {1 {
+ X& U9 X1 \2 r7 K3 W

fivyxoqedkk6401578122.gif

关注我们

0dlqbfcdywr6401578222.png

vfd44kohz2d6401578322.png

' S2 u3 I* n4 { d0gwnmp3uut6401578422.png " t. a! F# U8 f  T& [! @) a$ p2 }

                     


/ E4 Z' R8 V; U/ g; T; X# ~; x
关于我们：
# i4 f4 P' x5 p深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
$ U2 a0 G1 g2 i) \
http://www.latitudeda.com/
9 S4 d7 m) l. I( Y* f: @/ K; L0 H（点击上方名片关注我们，发现更多精彩内容）