高带宽存储器 (HBM) 技术推动 AI 应用发展

逍遥设计自动化

引言
: u& E7 M7 `" g% C高带宽存储器 (HBM) 正逐渐成为 AI 加速器、图形处理单元 (GPU) 和高性能计算 (HPC) 的关键技术之一。随着 AI 模型（尤其是参数规模达数万亿的超大语言模型）对实时训练和推断性能需求的提升，存储器带宽与容量的升级变得尤为重要。本文将详细探讨 HBM 的发展历程、技术驱动因素、制造挑战及未来趋势[1]。

HBM 技术的发展
. @0 d1 V0 B  m! U9 e. jHBM 的研发始于 2008 年，当时的目标是解决传统计算存储技术功耗高和占用空间大的问题。通过引入更多 I/O 通道，HBM 实现了在保持功耗稳定的前提下提升带宽。例如，与 GDDR5 DRAM 只能提供 28 GB/s 的带宽相比，HBM 第二代通过 1,024 个 I/O 通道，实现了 307.2 GB/s 的突破。
" ]0 m- R4 u1 n* ]2 g9 A" t
HBM 技术的持续迭代带来了 HBM3 的广泛应用以及 HBM4 的即将问世。HBM4 将数据线从 HBM3 的 1,024 条增加到 2,048 条，大幅提升带宽，同时集成更高效的堆叠技术以解决热应力与功耗问题。
2 k& P. i6 S6 h) N1 H* P5 W1 f6 Q
/ E. C( c5 f# |% b推动 HBM 技术的核心因素
" w7 E8 ?, Z4 g# Y( z1. 硅穿孔 (TSV)
TSV 实现了垂直连接堆叠的 DRAM 芯片，增强了数据吞吐能力。底层的缓冲/逻辑芯片为数据传输提供路径。

9 e7 C: {' B( S4 J) h2. 微凸点和底填材料
2 {" u- R; @7 L0 n& L, i' K6 }% U微凸点确保了层间连接的可靠性，非导电薄膜 (NCF) 和热压键合 (TCB) 等创新技术进一步提升了连接效率，减少了缺陷。

3. 先进封装技术
( G1 [+ \& }% FHBM采用2.5D 硅中介层技术，通过集成高密度堆叠和处理器连接，实现了比传统平面 SoC 更短、更快且更可靠的数据路径。

; r& \/ E+ w! ?" k9 M- d5 L  ^# S下图展示了一个针对最大数据吞吐量优化的 HBM 堆叠结构：
  a& j1 k: s6 G/ T! a

meqfjjn2kag6401577921.png

图 1：HBM 堆叠结构，展现多层 DRAM 与底层逻辑芯片的集成。
! [, U) e& X$ S' ?9 i
6 v7 ]# O2 \1 Y( ~% ?! h/ ^HBM 制造面临的挑战
% |/ i$ o4 k) e& X4 O9 Z+ l, ?$ M尽管 HBM 技术优势明显，其生产过程仍然复杂且昂贵。主要挑战包括：
1 o" Z1 p0 x' v热和机械应力
TSV 和微凸点容易因热循环引发分层或金属桥接等问题。
/ H' T/ e2 V. E/ Z  o
翘曲问题
1 ]6 A- |5 m$ T8 W; s- B7 q4 \7 C4 b堆叠材料的热膨胀系数差异会导致应力集中，特别是在底层芯片和首层存储芯片之间，以及微凸点连接处。

4 `/ R& F1 ?/ o8 z  s8 j可靠性测试
4 S" c. U8 G  T+ u) }$ b' {高温寿命 (HTOL)、无偏湿度应力测试 (uHAST) 等测试用于检测潜在问题并确保长期使用可靠性。
$ E" O  c1 W6 y/ u7 c4 p- j

qk5daxew40p6401578022.png

图 2：三星 DRAM 路线图，展示 HBM3E 和 HBM4 技术的进展。

* e9 R1 p8 d: C, S* i, G# RHBM 的应用与市场趋势
" n  K3 F; s. b5 d. H3 ]- d9 lHBM 无与伦比的带宽使其成为数据密集型应用的优选技术，例如：
7 A/ Y& t- t4 |% f0 l% ZAI 训练与推断
大规模 AI 基础设施依赖 HBM 进行实时数据处理和模型优化。
" O* S% I3 F; \: F
( F1 v/ [# c& O+ t- T: P- n5 ?( u高性能计算和数据中心
HBM的高性能使其在成本敏感度较低的场景中表现出色。

" Q6 I% @0 F- C: P& g# X, q% W为满足市场需求，HBM 制造商正在引入混合键合技术，以取代 HBM4 的微凸点，进一步提升产量和可靠性。
; c) k: y' Q  @' p3 t
" w: \, ~( z& P3 F+ V8 r未来发展方向
HBM4 的推出标志着存储器技术的重大进步，其关键特性包括：
堆叠高度增加
堆叠层数从 8 层提升至 16 层，存储密度显著提高。

更高的带宽
传输速率可达 1 TB/s。
' c7 U( u$ m  ~/ U: H' \& d
集成逻辑功能
将存储控制器集成到底层芯片以提高效率。

1 C" Y3 L, g  h: ?  ZJEDEC 对 HBM4 标准的定义包括模块厚度、层数和带宽的提升，有助于推动更高效的模块化设计。

, T/ Q' n6 S% z% L7 _0 Y5 S总结
随着 AI 技术的发展，对高效、高速存储器的需求将持续增长。HBM 技术通过堆叠、封装和测试的创新不断克服制造挑战，广泛应用于光电子技术、光计算等领域。未来的发展将进一步优化集成和性能，以应对 AI 驱动的工作负载需求。

$ z; ?9 u# C8 }, T2 P, Q9 O7 `% p2 i参考文献
[1] L. Peters, "HBM Options Increase As AI Demand Soars," SemiEngineering, Nov. 21, 2024. [Online]. Available: https://semiengineering.com/
, E+ d$ Z- [0 C( i7 Z4 F- o
END
6 K. \3 \% S# Y: h

- s+ Z# R* |( W: h1 v! {- n软件申请我们欢迎化合物/硅基光电子芯片的研究人员和工程师申请体验免费版PIC Studio软件。无论是研究还是商业应用，PIC Studio都可提升您的工作效能。
点击左下角"阅读原文"马上申请

- k5 n4 v1 z# O9 W% X欢迎转载
( e/ ~" W- I7 [3 H/ q" p, E' y
转载请注明出处，请勿修改内容和删除作者信息！

fivyxoqedkk6401578122.gif

) X' ]5 o0 S% J( f8 O0 B+ Q+ H0 O# r
关注我们

0dlqbfcdywr6401578222.png 7 _( o# m* K" f! `

8 a2 R; e  p; c vfd44kohz2d6401578322.png

d0gwnmp3uut6401578422.png 9 c8 }! D: J* v1 s

                     
+ e9 S7 y4 f% e3 I5 M# h
  C5 O, v' ?" ?0 y
+ |& @" X6 K$ g) R& k& m) A5 u$ T, m
9 ]& c; m: s9 w% k关于我们：
深圳逍遥科技有限公司（Latitude Design Automation Inc.）是一家专注于半导体芯片设计自动化（EDA）的高科技软件公司。我们自主开发特色工艺芯片设计和仿真软件，提供成熟的设计解决方案如PIC Studio、MEMS Studio和Meta Studio，分别针对光电芯片、微机电系统、超透镜的设计与仿真。我们提供特色工艺的半导体芯片集成电路版图、IP和PDK工程服务，广泛服务于光通讯、光计算、光量子通信和微纳光子器件领域的头部客户。逍遥科技与国内外晶圆代工厂及硅光/MEMS中试线合作，推动特色工艺半导体产业链发展，致力于为客户提供前沿技术与服务。
5 T7 K: x5 }. J5 F5 t; f, _
. ^* L7 E" ^5 _2 `http://www.latitudeda.com/
" B5 T0 M1 h  M3 y- g- q' c& T2 n4 G（点击上方名片关注我们，发现更多精彩内容）