证券研究报告

电子组

分析师：樊志远 (执业 S1130518070003)

fanzhiyuan@gjzq.com.cn

分析师：邵广雨 (执业 S1130522080002)

shaoguangyu@gjzq.com.cn

存储专题三：AI时代核心存力HBM

行业观点

HBM是AI时代的必需品。HBM解决了传统GDDR遇到的“内存墙”问题，采用了存算一体的近存计算架构，通过中间介质层紧凑快速地连接信号处理器芯片，极大节省了数据传输的时间与耗能，HBM采用堆栈技术较传统GDDR节省较大空间占用。在应对未来云端AI的多用户，高吞吐，低延迟，高密度部署需求，计算单位剧增使I/O瓶颈愈加严重，使用GDDR解决代价成本越来越高，HBM使得带宽不再受制于芯片引脚的互连数量，在一定程度上解决了I/O瓶颈。综合来看，高带宽、低功耗、高效传输等性能使其成为高算力芯片的首选。

HBM核心技术在于硅通孔技术（TSV）和堆叠键合技术，对封装技术和散热材料提高需求。HBM 通过SIP和TSV技术将数个DRAM裸片垂直堆叠，在DRAM晶片上打数千个细微的孔，通过垂直贯通的电极连接上下芯片的技术，可显著提升数据传输速度。同时，SK海力士采用MR-MUF键合工艺，在芯片之间用液态环氧模塑料作为填充材料，实现了更低的键合应力和更优的散热性能，TSV+堆叠键合工艺成为当前HBM的理想方案，但随着堆叠层数增加，散热要求进一步增加，混合键合有望成为下一代HBM4选择的方案。但无论何种方案，HBM对EMC 提出分散性和散热性要求，EMC和填料价值量将大幅提升。

23年全球HBM产值约43.6亿美元，2024年有望翻4倍达到169亿美元。由于HBM售价高昂、获利高，进而导致较高资金投入，同时,HBM较DDR5同制程与同容量尺寸大35-45%、良率则比起DDR5低约20-30%;生产周期也较 DDR5多1.5-2个月，受益于AI需求强劲，GPU厂商提前锁单HBM产能，推动三大原厂持续积极扩产。根据集邦咨询数据，截至2023年底，行业内整体DRAM产业规划生产HBMTSV的产能约为250K/m，占总DRAM产能（约1,800K/m）约14%，供给位元年成长约260%。2023年HBM产值占DRAM整体约8.4%，约43.56亿美元，预估至2024年底将达169.14亿美元，占DRAM产值约20.1%。

投资逻辑

方向一：核心关注国内与 HBM上下游相关产业链厂商。我们认为 23 年是AI训练的元年，24年将是AI 推理的元年，主要归因于海外有望持续推出包括 Sora在内的AI应用产品，叠加国内国央企发力AI应用，这将有力带动AI推理的需求。芯片领域，我们认为算力和存储是两个率先受益的领域，特别是在当前国产化大趋势下，算力和存储将决定未来十年AI胜负的关键，国产HBM未来有较大的需求空间，国内与HBM相关产业链的公司有望加速发展。

方向二：HBM对DRAM先进制程造成排挤效应，有望推动主流DRAM持续涨价，重点关注存储模组。归因于三个方面：

1）三大原厂继存储器合约价翻扬后，开始加大先进制程的投片，产能提升将集中在24年下半年；2）受益于AIPC、AI手机和服务器持续升级，预期今年DDR5、LPDDR5(X)渗透率增加至5O%，将消耗更多DRAM先进制程产能；3）由于HBM3e出货将集中在今年下半年，期间同属存储器需求旺季，DDR5与LPDDR5(X)市场预期需求也将看增，但受到2023年亏损压力影响，原厂产能扩张计划也较谨慎。在各家优先排产HBM情况下，有望导致DRAM产能紧张，重点建议关注受益于主流存储涨价逻辑的存储模组公司以及相关的存储封测和材料公司。

方向三：存储大厂产能转向DDR5/HBM，有望加速退出利基存储市场，将为国内利基型存储芯片厂商带来发展机会。由于三大厂商加大投入HBM与主流DDR5 规格内存，有望减少供应DDR3等利基型DRAM的供应，而随着终端需求复苏，利基市场有望迎来短期的产能紧缺，价格有望迎来上扬，核心建议关注国内利基存储厂商。

投资建议

持续看好HBM相关产业链公司，和受益于存储器涨价的模组及利基存储芯片公司，重点关注香农芯创、联瑞新材、通富微电、兆易创新、江波龙等。

风险提示

产能扩产不及预期、AI发展不及预期、技术提升不及预期等。

内容目录

一、HBM 是什么？ 4
1.1 HBM 是AI 时代的必需品. 4
1.2 NVIDIA 和AMD 依靠 HBM 持续提升 GPU 性能. 6
二、HBM 对半导体产业链的影响， 8
2.1 HBM 的核心工艺在于硅通孔技术（TSV）和堆叠键合技术， .8
2.2 HBM 对散热材料 EMC 提出分散性和散热性要求， 10
三、HBM 的供需及空间市场情况 11
3.1 SK 海力士持续领先，三星和美光加紧追赶. 11
3.2预计 2024年 HBM产值将翻4倍，达到169亿美元. 14
3.3投资建议. 15
风险提示.. 17

图表目录

图表1：HBM 通过硅中介层和 TSV 来运行.. 4
图表2：传统打线与TSV穿孔区别. 4
图表3：GDDR 与 HBM 结构分布.. 5
图表4：GDDR 与 HBM 占用空间对比.. 5
图表5： HBM 架构详解.. 5
图表6： HBM3 在 NVIDIA Hopper 架构的应用. 5
图表7：GDDR 与 HBM 性能对比.. 6
图表8：不同内存类型之间 DRAM 容量和带宽的差异. 6
图表9：HBM 在GPU 中搭配.. 6
图表10： HBM与GPU集成在一起.. 6
图表11：NVIDIA 不同GPU 型号搭载 HBM 情况.. 7
图表12：AMD 不同GPU型号搭载 HBM 情况. 7
图表13：随着搭载 HBM 容量提升GPU 效能倍数提升. 8
图表14： H200 较 H100 在大模型领域性能提升情况.. 8
图表15：NVIDIA和AMD AI芯片发展历程及HBM 规格比较.. 8
图表16： HBM 通过TSV 技术内部连接情况.. 9
图表17: 英伟达A100 SEM 扫描图.. 9
图表18： SK海力士MR-MUF 技术.. 9
图表19： MR-MUF比NCF 导热率高出2倍左右. 9
图表20：三星HBM4预计采用混合键合技术. 10
图表21：HBM对 EMC 性能提出新要求，所用填料也需要改变.. 11
图表22： HBM封装需要用到GMC 和LMC 两类偏高端的 EMC. 11
图表23：HBM版本迭代情况.. 11
图表24： 2022-2024E三大存储厂商在 HBM 领域的份额情况.. 12
图表25：当前 SK海力士在 HBM领域布局情况. 12
图表26：当前三星电子在 HBM 领域布局情况. 12
图表27：当前美光在 HBM领域布局情况. 13
图表28：三大厂商关于HBM的代际规划.. 14
图表29：美光在 HBM领域技术路线.. 14
图表30：2024年HBM产值及占DRAM 产值比重.. 15
图表31：三大存储原厂在HBMTSV 的产能布局. 15

HBM 是什么？

1.1HBM是AI时代的必需品

作为行业主流存储产品的动态随机存取存储器 DRAM针对不同的应用领域定义了不同的产品，几个主要大类包括LPDDR、DDR、GDDR 和HBM 等，他们虽然均使用相同的 DRAM 存储单元（DRAMDie)，但其组成架构功能不同，导致对应的性能不同。手机、汽车、消费类等对低功耗要求高主要使用LPDDR，服务器和PC 端等有高传输、高密度要求则使用DDR，图形处理及高算力领域对高吞吐量、高带宽、低功耗等综合性要求极高则使用GDDR 和HBM。

HBM（HighBandwidthMemory)，意为高带宽存储器，是一种面向需要极高吞吐量的数据密集型应用程序的DRAM，常被用于高性能计算、网络交换及转发设备等需要高存储器带宽的领域。

那么HBM到底优势在哪呢？

1，通过TSV技术，堆叠方案解决内存墙的问题。

基于冯·诺依曼理论的传统计算机系统架构一直存在“内存墙”的问题，主要归因于：第一存储与计算单元分离，存储与处理器之间通过总线传输数据，这容易导致存储的带宽计算单元的带宽，从而导致AI算力升级较慢；第二，是高功耗，在处理器和存储之间频繁传输数据，会产生较多的能耗，也会使传输速率下降。

相较于传统GDDR，HBM具有更高速，更低耗，更轻薄等诸多优点。

HBM 凭借独特的TSV信号纵向连接技术，其内部将数个DRAM 芯片在缓冲芯片上进行立体堆叠，其内部堆叠的DDR 层数可达4层、8层以至12层，从而形成大容量、高位宽的 DDR组合阵列。TSV是在DRAM芯片上搭上数千个细微孔并通过垂直贯通的电极连接上下芯片的技术。该技术在缓冲芯片上将数个DRAM芯片堆叠起来，并通过贯通所有芯片层的柱状通道传输信号、指令、电流。相较传统封装方式，该技术能够缩减30%体积，并降低 50%能耗。凭借TSV方式，HBM大幅提高了容量和位宽（I/O数量)。与传统内存技术相比，HBM具有更高带宽、更多I/0数量、更低功耗、更小尺寸等特征。具体来看

（1）存储带宽问题：由于存储的制成与封装工艺与CPU的制成封装工艺不同，CPU使用的是SRAM寄存器，速度快，双稳态电路，而存储器使用的是DRAM寄存器，速度慢，单稳态电路。这样的工艺不同拉大了两者间的差距，在过去20 年内，CPU的峰值计算能力增加了90000 倍，内存/硬件互存宽带却只是提高了30 倍。存储的带宽通过总线一直限制着计算单位的带宽，最新型的GDDR6 单颗带宽上限在 96GB/s，而最新型的单栈HBM3E带宽上限近1.2TB/s，在AI应用中，每个SoC的带宽需求都会超过几TB/s，上百倍的数据传输差距使得传统DRAM远不能满足AI训练所需的算力缺口。

（2）传输效能问题：由于分离距离问题，数据存算间（VO）会有很大的延误，一步数据计算过后的大部分时间都在读取内存，查询所用的大量时间与吞吐量影响用户体验，数据传输能量消耗占总数据存算的60-90%，严重浪费效能。

(3）占用空间问题：传统GDDR由于是2D平面分布，占用空间大，无法满足目前消费电子轻量化与便携化的需求。

图表1：HBM通过硅中介层和TSV来运行

来源：Semiconductor Engineering，国金证券研究所

图表2：传统打线与TSV穿孔区别

来源：SK海力士，国金证券研究所

图表3：GDDR与HBM结构分布

来源：AMD官网，国金证券研究所

图表4：GDDR与HBM占用空间对比

来源：AMD官网，国金证券研究所

HBM 包括多层DRAM芯片和一层基本逻辑芯片，不同DRAM以及逻辑芯片之间用TSV与微凸块技术实现通道连接，每个HBM芯片可与多达8条通道与外部连接，每个通道可单独访问1组DRAM阵列，通道间访存相互独立。逻辑芯片可以控制DRAM芯片，并提供与处理器芯片连接的接口，主要包括测试逻辑模块与物理层（PHY）接口模块，其中PHY接口通过中间介质层与处理器直接连通，直接存取(DA)端口提供 HBM中多层DRAM 芯片的测试通道。中间介质层通过微凸块连接到封装基板，从而形成SiP系统。

图表5：HBM架构详解

来源：《高宽带的技术演进和测试挑战》，国金证券研究所

图表6：HBM3在NVIDIAHopper架构的应用

来源：NVIDIA官网，国金证券研究所

2，AI时代存力的首选。

自 ChatGPT爆火之后，国内外大厂争相竞逐AI大模型。而AI大模型的基础，就是靠海量数据和强大算力来支撑训练和推理过程。其中一些模型有 1000 亿字节的数据，参数量越大，AI模型越智能，以GPT-4模型为例有近1.76万亿参数量。对于每次重新训练的迭代，都必须从数据中心背板的磁盘上取出 1000 亿字节的数据并进入计算盒，在为期两个月的训练中，必须来回调取数百万次如此庞大的数据。如果能缩短数据存取，就会大大简化训练过程。但在过去20年中，存储和计算并没有同步发展,硬件的峰值计算能力增加了90000倍，而内存/硬件互连带宽却只是提高了30 倍。当存储的性能跟不上处理器，对指令和数据的搬运（写入和读出）的时间将是处理器运算所消耗时间的几十倍乃至几百倍，这就要打破“内存墙”。此时，高带宽内存HBM应运而生，被认为是AI计算的首选内存。

图表7：GDDR与HBM性能对比

来源：AMD，国金证券研究所

图表8：不同内存类型之间DRAM容量和带宽的差异

来源：Synopsys，国金证券研究所

HBM解决了传统GDDR遇到的“内存墙”问题，采用了存算一体的近存计算架构，不通过外部连线的方式与GPU/CPU/SoC 连接，而是通过中间介质层紧凑快速地连接信号处理器芯片，极大的节省了数据传输所使用的时间与耗能。而在空间占用上，HBM采用的堆栈技术会使得在空间占用要比同比传统GDDR节省94%。在应对目前云端AI的多用户，高吞吐，低延迟，高密度部署需求所带来的计算单位需求，VO数量也需要不断突破满足计算单位的需求。使用GDDR 所适配的PCB 技术并不能突破VO数量瓶颈，而HBM的TSV 技术带来的存储器集成度极大提升，使得带宽不再受制于芯片引脚的互联数量，在一定程度上解决了VO瓶颈，成为高算力芯片的首选。

图表9：HBM在GPU中搭配

来源：美光官网，国金证券研究所

图表10：HBM与GPU集成在一起

来源：美光官网，国金证券研究所

1.2NVIDIA和AMD依靠 HBM持续提升GPU性能

HBM 新型存储器较传统GDDR具有更高的带宽，更低的延迟和更好的等效比。随着AI对算力的高要求，高带宽内存显然是高性能GPU 的最佳搭配，AMD 和NVIDIA 两家尖端的 GPU都陆续配备了 HBM。

图表11：NVIDIA不同GPU型号搭载HBM情况

	NVIDIA GPU型号	HBM型号	内存带宽(GB/s)	容量(GB)	颗数
2017Volta架构	Tesla V100 NVL2	HBM 2	900	32/16	4
	Tesla V100 PCle	HBM 2	900	32/16	4
	Tesla V100s PCle	HBM 2	1134	32	4
2020Ampere架构	A100 PCle	HBM 2e	1555/1935	40/80	5
2020Ampere架构	A100 SXM	HBM 2e	1555/2039	40/80	5
2022Hopper架构	H100 PCle	HBM 2e	2048	80	5
	H100 SXM5	HBM 3	3430	80	5
	H100 NVL	HBM 3	3994*2	94*2	5
	H200 SXM	HBM 3E	4915	141	6
2024Blackwell架构	GB100	HBM 3e	8192	192	8
2024Blackwell架构	GB200	HBM 3e	8192*2	192*2	8
2024GraceHopper架构	GH200	HBM 3	4096	96	4
	GH200	HBM 3e	5018	144	4
	Dual GH200	HBM 3e	4096*2	144*2	4

来源：NVIDIA官网，国金证券研究所

图表12：AMD不同GPU型号搭载HBM情况

	AMD GPU型号	HBM型号	带宽 (GB/s)	每颗容量（GB)	容量(GB)	颗数	层数
2015年Fiji架构	Fury X	HBM1	512	1	4	4	4+1
2015年Fiji架构	R9 Nano	HBM1	512	1	4	4	4+1
2022年CDNA2架构	MI250/MI250X	HBM2e	3277	24	128	8	8+1
2023年CDNA3架构	MI300A	HBM3	5325	24	128	8	8+1
2023年CDNA3架构	MI300X	HBM3	5734	24	192	8	12+1
2024年E	MI350	HBM3E	未知	未知	未知	未知	未知

来源：AMD官网，国金证券研究所

NVIDIA已在搭载HBM的GPU型号上迭代5次，性能也在不断跟进以适配AI模型与训练的需求。在7年时间内，从V100 架构时代搭载的 HBM2已经演化到了GB200的 HBM3E，而内存宽带与容量则是在这几年内翻了数倍。以同一Hopper 架构下的H100 SXM 和H200 SXM为例，在其他硬件条件与接口协议相同的情况下，搭载了HBM3E的H200 SXM要比搭载了HBM3 的H100 SXM 在带宽速率上提升了43%，在容量上也是扩增了76%。而对比落后了一整代，搭载了HBM2E的 A100 SXM，带宽速率更是提高了141%，所有的这一切提升都是HBM 性能迭代带来的优势。

图表13：随着搭载HBM容量提升GPU效能倍数提升

来源：NVIDIA官网，国金证券研究所

图表14：H200较H100在大模型领域性能提升情况

来源：NVIDIA官网，国金证券研究所

归因于AI大模型的逐步迭代，GPU迭代速度加快。核心供应商NVIDIA和AMD 新品性能竞争，预计2025年加速HBM规格需求大幅转向HBM3e，且将会有更多12hi的产品出现，带动单芯片搭载 HBM的容量提升。根据TrendForce 集邦咨询预估，2024年的HBM 需求位元年成长率近200%，2025年可望将再翻倍。

图表15：NVIDIA和AMDAI芯片发展历程及HBM规格比较

来源：集邦咨询，国金证券研究所

二、HBM对半导体产业链的影响

2.1HBM的核心工艺在于硅通孔技术（TSV）和堆叠键合技术

HBM 核心技术在于硅通孔技术（TSV）和堆叠键合技术。

硅通孔：TSV(Through-SiliconVia）是一种能让3D封装遵循摩尔定律演进的互连技术，芯片与芯片之间（Chip to Chip）、芯片与晶圆之间（Chip toWafer）、晶圆与晶圆之间（WafertoWafer）实现完全穿孔的垂直电气连接，可像三明治一样堆叠晶片。这些垂直连接可用于互连多个芯片、存储器、传感器和其他模块，硅通孔互连赋予了各种 2.5D/3D封装应用和架构芯片纵向维度的集成能力，以最低的能耗/性能指标提供极高的性能和功能，以打造更小更快更节能的设备。通过更薄的硅芯片缩短互连长度和短垂直连接，有助于减少芯片的整体面积和功耗、将信号传播延迟减少几个数量级。同时可以实现异构集成，将来自不同技术和制造商的多个芯片组合到一个封装中，从而使它们能够提供更好的功能和性能。这使其非常适合用于不同的高速应用,如数据中心、服务器、图形处理单元 (GPU)、基于人工智能（AI）的处理器和多种无线通信设备。

HBM 通过SIP和TSV技术将数个DRAM裸片像楼层一样垂直堆叠，在DRAM芯片打上数千个细微的孔，并通过垂直贯通的电极连接上下芯片的技术，可显著提升数据传输速度，适用于高存储器带宽需求，成为当前AIGPU 存储单元的理想方案和关键部件。

图表16：HBM通过TSV技术内部连接情况

来源：SK海力士，国金证券研究所

图表17:英伟达A100SEM扫描图

来源：与非网，Semianalysis，国金证券研究所

堆叠键合技术：在 HBM产品开发之初，HBM主要采用“TSV+Bumping”+TCB 键合方式堆叠(TSV 一般由晶圆厂完成，封测厂可在堆叠环节进行配套)。其中，热压键合主要用于创建原子级金属键合，它利用力和热量来促进原子在晶格之间迁移，从而形成清洁、高导电性和坚固的键合。通常，TCB被用于垂直集成器件的CMOS工艺、金引线和表面之间固态键合的顺应键合（compliantbonding)、用于将芯片凸块键合到基板的倒装芯片应用以及用于连接微型组件的热压键合。随着层数变高，晶片会出现翘曲和发热等因素，但又要满足 HBM 芯片的标准厚度——720 微米（μm)，这就对封装工艺提出较高要求。

三星采用 TC-NCF 焊接法，在 DRAM之间夹上一层不导电的粘合剂薄膜(NCF)，然后进行热压，但随着堆叠层数的增加散热效率很差，TCB不再满足需求，但TCB技术仍有着一定的优势，如其解决了标准倒装芯片的基板翘曲问题。同时，这种键合方式确保均匀粘合，没有间隙变化或倾斜；而且这种粘合几乎没有空隙，也没有污染。

海力士从HBM2e开始放弃了TC-NCF工艺，改用批量回流模制底部填充（MR-MUF）工艺，即芯片之间用液态环氧模塑料作为填充材料,导热率比TC-NCF中的导热率高出2倍左右，实现了更低的键合应力和更优的散热性能，这无论对于工艺速度，还是良率等都有很大影响。预计海力士HBM3e将采用改进的MR-MUF工艺，进一步降低键合应力，提升散热性能，增加堆叠层数。

图表18：SK海力士MR-MUF技术

来源：Semianalysis，国金证券研究所

图表19：MR-MUF比NCF导热率高出2倍左右

来源：Semianalysis，国金证券研究所

然而，无论是TCB 技术还是MR-MUF工艺均存在着一定的局限性，难以实现更小的间距，行业内在尝试用混合键合技术。混合键合互连方案，是指在一个键合步骤中同时键合电介质（dielectric）和金属键合焊盘(metalbond pads)，可以显著降低整体封装厚度，在多芯片堆叠封装中甚至可能高达数百微米。但混合键合对环境要求非常高，要达到class1clean room（非常的清洁)，这对厂商带来较大的挑战。随着 HBM 历次迭代，HBM中的DRAM 数量也同步提升，堆叠于 HBM2 中的 DRAM 数量为 4-8 个，HBM3／3E 则增加到8-12 个，HBM4 中堆叠的 DRAM 数量将增加到16个。

如2024年4月7日，三星电子先进封装团队高管 DaeWooKim 在 2024 年度韩国微电子与封装学会年会上表示,三星电子成功制造了基于混合键合技术的 16 层堆叠 HBM3 内存，该内存样品工作正常，未来 16 层堆叠混合键合技术将用于 HBM4 内存量产。

图表20：三星HBM4预计采用混合键合技术

来源：IT之家，国金证券研究所

2.2HBM对散热材料EMC提出分散性和散热性要求

HBM 对EMC 提出分散性和散热性要求，EMC 和填料价值量大幅提升。

环氧塑封料（EMC，Epoxy MoldingCompound)，是一种常见的半导体封装外壳材料，也是半导体封装中主要的包封材料，EMC中主要组分来自填料，其中调料主要用于降低膨胀系数和内应力、提高散热性能。

HBM独特的叠构形态使得外围用于塑封的EMC及内部填料也需要相应的升级，具体逻辑在于：

1）HBM采用芯片垂直叠构的框架，使得塑封的高度显著高于传统单芯片的塑封高度，较高的高度要求外围塑封料要有充分的分散性，则EMC 就要从传统注塑饼状变为撒粉颗粒状的颗粒状环氧塑封料（GMC，Granular MoldingCompound）和液态塑封料（LMC,LiquidMoldingCompound)，对于EMC厂商，这样的升级需要在配方中同时兼顾分散性和绝缘性，配方难度较大。

2）由于1颗HBM中将搭载4-8层甚至更多层的存储芯片，单颗HBM中所涉及到的数据存储和数据运输量较大，将带来发热量大的问题,散热方案的优劣将决定整颗HBM性能，因此HBM的EMC中将开始大量使用IoWα球铝和球硅来保证快速散热和控制热膨胀问题。

当前运用 TSV 技术的场景主要在 2.5D 硅中阶层和 3D 垂直叠构，其中 3D TSV 的特点在于通过垂直叠构的方式缩短了芯片间通信距离，相较于传统水平排布的方式，外围用于塑封的 EMC 及内部填料料也需要相应的升级，一方面垂直叠构导致塑封的高度显著高于传统单芯片的塑封高度，较高的高度要求外围塑封料要有充分的分散性，则 EMC 就要从传统注塑饼状变为撒粉颗粒状的颗粒状环氧塑封料 (GMC，Granular Molding Compound)和液态塑封料（LMC，Liquid MoldingCompound)，对于 EMC 厂商，这样的升级需要在配方中同时兼顾分散性和绝缘性，配方难度较大；另一方面采用 TSV方式连接的芯片需要一起塑封，则单个塑封体中的运算量急剧上升，从而带来较大的发热问题，需要大量使用low α球铝和球硅来保证快速散热和控制热膨胀问题。以 HBM 为例，1颗 HBM 中将搭载4-8 颗甚至更多芯片，封装高度高且存储带宽大，需要用添加lowα球硅/球铝的GMC/LMC 来做塑封外壳。

图表21：HBM对EMC性能提出新要求，所用填料也需要改变

来源：速石科技，国金证券研究所

图表22：HBM封装需要用到GMC和LMC两类偏高端的EMC

材料类型	基本情况
颗粒状环氧塑封料（GMC）	颗粒状环氧塑封料在塑封过程采用均匀撒粉的方式，在预热后变为液态，将带有芯片的承载板浸入到树脂中而成型，凭借操作简单、工时较短、成本较低等优势，GMC 有望发展成为主要的晶圆级封装塑封材料之一，市场发展前景良好
液态塑封料（LMC）	LMC 是通过将液态树脂挤压到产品中央，在塑封机温度和压力的作用下增强液态树脂的流动性，从而填充满整个晶圆。LMC具备可中低温固化、低翘曲、模塑过程无粉尘、低吸水率以及高可靠性等优点，是目前应用于晶圆级封装的相对成熟的塑封材料

来源：华海诚科招股说明书，国金证券研究所

三、HBM的供需及空间市场情况

3.1SK海力士持续领先，三星和美光加紧追赶

自2014年首款硅穿孔HBM产品发布至今，HBM技术已经发展至第五代，分别是：HBM（第一代）、HBM2（第二代）、HBM2E（第三代）、HBM3（第四代）、HBM3E（第五代），BM 代际升级主要体现在数据速率和容量密度上，HBM芯片容量从1GB 升级至24GB，带宽从128GB/s提升至1.2TB/s，数据传输速率从1Gbps提高至9.2Gbps。

图表23：HBM版本迭代情况

类别	HBM	HBM2	HBM2E	HBM3	HBM3E
带宽（GB/s）	128	307	460	819	1000
堆叠高度（层）	4	4/8	4/8	8/12	8/12
容量（GB）	1	4/8	8/16	16/24	24/36
VO速率（Gbps）	1	2.4	3.6	6.4	9.6
工艺节点	29nm	21nm	10nm	5nm	10nm

来源：SK海力士，中国半导体行业协会，国金证券研究所

从竞争格局来看，HBM领域的主要供应商仍是存储器三大巨头SK 海力士、三星以及美光，为应对全球GPU 需求持续高增长的趋势。根据Trendforce 数据，预计 2024 年SK 海力士在 HBM市场中的市占率预计为47-49%,三星电子的市占率为47-49%、美光的市占率为3-5%。

图表24：2022-2024E三大存储厂商在HBM领域的份额情况

	2022	2023E	2024E
海力士	50%	46~49%	47~49%
三星	40%	46~49%	47~49%
美光	10%	4~6%	3~5%

来源：集邦咨询，国金证券研究所

1）HBM3及以前产品，海力士稳居行业龙头，三星和美光跨越式追赶

2013年，SK海力士联合AMD 宣布成功研发 HBM1，并应用在 2015年AMD的R9 Nano，FuryX，FiJiXT显卡，但当时在以消费端芯片为导向的市场上，因存储运算一体化带来的维修不便以及可忽略不计的性能优势使得AMD 重新启用GDDR 系列产品。这使得海力士暂时作出搁置HBM的战略部署。但SK海力士定义的这一新型显存在2016年AI元年大放异彩。这一波需求热潮使得 SK 海力士在随后的 2018 年推出了 HBM2，并在 2020 量产了扩展版HBM2E，赶上了三星的研发进度，自2018年后NVIDIA数据中心基本都采用海力士HBM，这使得 SK海力士逐渐在HBM市场成为最大供应商。

SK 海力士在2022年率先三星推出了HBM3，并与NVIDIA实行了强绑定，在2022-2023年NVIDIA的主攻H100 的存储器解决方案为SK海力士的HBM3，导致SK海力士目前于HBM3的占比愈9成。在23年下半年，SK 海力士向NVIDIA送去了8Hi 24GB HBM3E以供验证。

图表25：当前SK海力士在HBM领域布局情况

	海力士
产品	HBM2E				HBM3		HBM3E
封装	KGSD	KGSD	KGSD	KGSD	KGSD	KGSD	KGSD	KGSD	KGSD	KGSD
架构1VO	1024	1024	1024	1024	1024	1024	1024	1024	1024	1024
容量	16GB	16GB	16GB	16GB	16GB	16GB	24GB	24GB	36GB	36GB
层数	4	4	8	8	8	8	8	12	8	12
带宽速度/GBs	460	460	460	460	819	819	1208	1208	1208	1208
VO速率/Gbps	3.2	3.6	3.2	3.6	5.6	6.4	9.2	9.2	9.2	9.2
生产状态	在产	在产	在产	在产	在产	研发	研发	研发	研发	研发

来源：SK海力士官网，国金证券研究所整理

2016年，三星推出了首代HBM产品：HBM2。并在2019 年量产HBM2E,但在HBM3 的赛道上，因在2019年错判低估HBM市场成长率，解散了HBM小组，导致在研发力度上三星落后于海力士，在2023年下半年才进行了HBM3 的量产计划，直到 2024年才陆续通过AMDMI300系列验证，因此有望2024Q1后才能逐渐放量HBM3产品。而在HBM3E上，三星仍不敌海力士，在2023年下半年送去的12Hi36GB HBM3E，仍未等到NVIDIA的技术验证通过，推测可能是TC-NCF技术HBM良率同比SK海力士较低所致。这一技术代差在HBM3 就得以体现，SK 海力士的良率在 60-70%左右，而三星只在10-20%左右。

图表26：当前三星电子在HBM领域布局情况


产品	HBM2Flarebolt			三星 HBM2 Aquabolt						HBM2E Flashbolt			HBM3 Icebolt			HBM3P Snowbolt
封装	MPGA MPGA			MPGA MPGA			MPGA			MPGA MPGA			MPGA MPGA			MPGA MPGA
架构1/0	1024	1024	MPGA 1024		1024	1024	1024	MPGA	1024	1024	1024	MPGA	1024	1024	1024	1024
容量	4GB	8GB		4GB		8GB			8GB		16GB		16GB		24GB		1024 36GB
层数	4	4	4	4		4	4	8		8	8	8	12	12		12
带宽速度/GBs	256	256	307.2		307.2	307.2	307.2		460	460	460	460		819	819	819	5120
VO速率/Gbps	2	2		2	2.4	2	2.4		3.2	3.6	3.2	3.6		6.4	6.4	6.4	7.2
生产状态	停产	停产	在产	在产	在产		在产	在产	在产	在产		在产	在产	在产	样本	研发

来源：三星官网，国金证券研究所整理

此前，在高速传输技术的起步阶段，业内存在两种技术方案，一种是SK海力士与AMD合作的 HBM技术，另一种是美光研发的混合内存立方体技术（HMC)。HMC 类似于HDM将DRAM堆叠，使用TSV硅穿孔技术互连，但不同与HDM 技术通过中介层与GPU互连，HMC 是通过高速 SERDS 数据链路进行连接，所以在DRAM与GPU 的距离上相比会比 HDM长,延迟更大。

且 HMC 未通过JEDEC（电子元器件工业联合会）标准，未被JEDEC 内的数百会员公司承认为行业标准，因此HMC 技术已经在研发上被逐步废弃。

由于美光在前期因为技术误判在HMC技术上投入过多资金，直到2018年才从HMC 转向HBM方向。因此，不想错过末班车的美光跳过了HBM2，直接于2020年进行了HBM2E的量产，以后起之秀的身份进入了市场，随即加速迈过HBM3直接在2023年进行了HBM3E的研发，并在2024年2月份宣布开始量产HBM3E，并应用在SK海力士的长期合作厂商NVIDIA的H200芯片上，将在今年第二季度为NVIDIA供应HBM3E8Hi24GB的芯片，而HBM3E12Hi36GB则已经在样本阶段了，这两种型号的带宽将超过1.2TB/s。

图表27：当前美光在HBM领域布局情况

	美光
产品	HBM2E			HBM3E
封装
架构V/O	1024	1024	1024	1024	1024
容量	4GB	8GB	16GB	24GB	36GB
层数	8	8	8	12	12
带宽速度/GBs	410	410	410	1228	1228
V/O速率/Gbps	3.6	3.6	3.6	9.2	9.2
生产状态	停产	停产	停产	研发	样本

来源：美光官网，国金证券研究所整理

2)三家争相送样 HBM3E。为了更妥善且健全的供应链管理，NVIDIA也规划加入更多的 HBM供应商，其中三星（Samsung）的HBM3（24GB）已于23年12月在NVIDIA完成验证。而HBM3e 进度依据时间轴排列如下表所示，美光(Micron)已于23年7月底提供 8hi(24GB)NVIDIA样品、SK海力士（SKhynix）已于23年8月中提供8hi（24GB）样品、三星则于23年10月初提供 8hi（24GB）样品。2024年Q1，三星HBM3产品也陆续通过AMDMI300系列验证，其中包含其8h与12h 产品，故自2024年第一季以后，三星HBM3产品将会逐渐放量。据TrendForce集邦咨询报告，24Q1SK海力士率先通过NVIDIA验证，美光紧跟其后，并于第一季底开始递交HBM3e量产产品，以搭配计划在第二季末铺货的NVIDIAH200。三星由于递交样品的时程较其他两家供应商略晚，预计其HBM3e将于第一季末前通过验证，并于第二季开始正式出货。由于三星HBM3 的验证已经有了突破，且HBM3e的验证若无意外也即将完成，这也意味着该公司的出货市占于今年末将与SK海力士拉近差距。

3）此外，在角逐HBM3E 的同时，三大存储原厂已经开始排布下一代存储产品HBM4。

目前，SK 海力士已宣布研发HBM4，并与台积电就HBM4 研发和下一代封装技术合作签署谅解备忘录，计划从2026年开始批量生产HBM 第六代产品—HBM4。SK海力士有望采用台积电的先进逻辑工艺来提高HBM4 的性能，针对搭载于HBM封装内最底层的基础裸片进行优化。台积电此前也表示，将采用N5和N12FFC+工艺制造基础裸片，为HBM4 提供更强的性能和能源效率。

在 HBM4 研发上，三星和美光也加紧追赶。尽管 SK海力士目前稳居HBM市场龙头，但三星正加速追赶 SK 海力士。24年年初以来，三星已成立两个全新HBM 团队，并将HBM工作小组转为芯片部门下的一个常设办公室，以弥补其在2019 年解散 HBM 业务和团队的市场误判。三星HBM 团队计划于今年下半年量产HBM3E，并于2025 年生产HBM4，2026年实现量产。

作为 HBM市场后起之秀的美光也在积极布局HBM4。23年11月，美光在投资者会议发布包括GDDR7和HBM4E内存技术在内的显存路线图，美光计划在2026年至2027年间，推出容量在36GB 到 48GB、12/16层垂直堆叠的 HBM4 产品，并于2028年推出带宽增加至2TB/s以上的 HBM4E。

图表28：三大厂商关于HBM的代际规划

	Brand	Speed(Gbps)	Tech Nodes	2022	2023	2024	2025	2026
				1Q222Q22 3Q224Q22	1Q232Q233Q234Q231	Q242Q24 3Q244Q24	1Q252Q253Q254Q251	Q262Q263Q264Q26
HBM2e	Samsung	3.2-3.6	1Y 16Gb	8/16GB ： EOLTime:NotFixed
	SK hynix	3.6	1Y 16Gb	8/16GB ：
	Micron	3.2-3.6	1Z 16Gb	16GB EOL
HBM3	Samsung	6.4	1Z 16Gb	16GB24GB
	SK hynix	5.6.6	1Z 16Gb	16GB24GB
HBM3e	Samsung	8	lalpha 24Gb	24GB36GB
	SK hynix	8	1beta 24Gb	24GB36GB
	Micron	8	1beta 24Gb	24GB36GB
HBM4		TBD	TBD	Full spec may be released in 2H24-2025; C/S in 2026

来源：TrendForce，Aug,国金证券研究所

图表29：美光在HBM领域技术路线

来源：美光官网，国金证券研究所

3.2预计2024年HBM产值将翻4倍，达到169亿美元

由于HBM售价高昂、获利高，进而导致较大资本开支，市场一般从产值和产能两个角度关注 HBM 的成长空间。根据集邦咨询数据，截至2023年底，行业内整体DRAM产业规划生产HBMTSV的产能约为250K/m，占总DRAM产能（约1,800K/m）约14%，供给位元年成长约260%。这主要归因于：

1）HBM 较常规DRAM面积较大、产线良率低。以HBM及DDR5生产差异来看，其DieSize较DDR5同制程与同容量（例如24Gb对比24Gb）尺寸大35-45%；良率（包含TSV封装良率）则比起 DDR5 低约 20-30%。

2）HBM生产周期更长，锁单较早，三大原厂加大产能规划。HBM生产周期较DDR5更长，从投片到产出与封装完成需要两个季度以上，生产周期（包含TSV）较DDR5多1.5-2个月不等上。因此，急欲取得充足供货的买家需要更早锁定订单量，目前三大厂商大部分针对2024年度的订单都已经递交给供应商，除非有验证无法通过的情况，否则目前来看这些订单量均无法取消。

另外，以HBM产能来看，三星、SK海力士至今年底的HBM产能规划最积极，三星HBM总产能至年底将达约130K（含TSV)；SK海力士约120K，但产能会依据验证进度与客户订单持续而有变化。另以现阶段主流产品HBM3产品市占率来看，目前SK海力士于HBM3 市占率超90%，而三星将随着后续数个季度AMDMI300 逐季放量持续紧追。

集邦咨询数据显示,2023年HBM产值占DRAM整体产业约8.4%,市场规模约43.56亿美元；
预估至2024年底将达169.14亿美元，占DRAM 整体产值约20.1%。

图表30：2024年HBM产值及占DRAM产值比重

来源：集邦咨询，国金证券研究所

图表31：三大存储原厂在HBMTSV的产能布局

	三星	SK 海力士	美光
2023年	45k/m	45k/m	3k/m
2024年	130k/m	120-125k/m	20k/m

来源：集邦咨询，国金证券研究所

3.3投资建议

投资建议一，核心关注国内与HBM上下游相关标的。

我们认为23年是AI训练的元年，24年将是AI推理的元年，主要归因于海外有望持续推出包括Sora在内的AI应用产品，叠加国内国央企发力AI应用，这将有力带动AI推理的需求，看好AI推理芯片及数据中心的建设需求。芯片领域，我们认为算力和存储是两个率先受益的领域，特别是在当前国产化大趋势下，算力和存储将决定未来十年AI胜负的关键，这将带动HBM 强劲需求，国内HBM 相关产业链有望加速发展，相关标的如香农芯创（海力士企业级存储代理商）、联瑞新材（HBM 散热材料供应商）、通富微电、华海诚科、深科技等。

投资建议二，HBM对DRAM先进制程造成排挤效应，有望推动主流DRAM 持续涨价，重点关注存储模组。归因于三个方面：

1）自2023年下半年存储器涨价以来，三大存储厂商回收资金加大对存储先进制程产线的投入，这些产能预估在24年下半年释放，集邦咨询预计1alphanm（含）以上投片至年底将占DRAM总投片比重约 40%，但 HBM晶圆面积较同等 DRAM大60%，且良率较低（约50-60%)，因此将有望吃掉较多的DRAM产能，根据集邦咨询预估至今年底HBM将占先进制程比重 35%，其余则用以生产 LPDDR5(X)与 DDR5 产品。

2）除了HBM需求占比持续增加，AI手机、AIPC 及通用服务器升级均刺激存储容量需求，特别是随着Intel、AMD 新平台SapphireRapids、Genoa 量产后，其存储器规格仅能采用DDR5，集邦咨询预告今年DDR5 渗透率将提升至50%。故对于先进制程的消耗量也逐季提升。

3）由于HBM3e 出货将集中在今年下半年，期间同属存储器需求旺季，其他终端对DDR5与LPDDR5(X)均有较好需求，但目前看三大厂商对扩产积极性不高，在HBM 投片继续加大情况下，先进制程产能有望吃紧。

我们重点建议关注受益于主流存储涨价逻辑的存储模组公司江波龙、德明利、香农芯创、佰维存储、朗科科技等，以及相关的存储封测和材料公司如深科技、长电科技、通富微电、雅克科技、安集科技等。

投资建议三：存储大厂产能转向 DDR5/HBM，有望加速退出利基存储市场，将为国内利基型存储芯片厂商带来发展机会。

5月13日，根据台媒《经济日报》报道，全球前二大DRAM供应商韩国三星、SK海力士全力冲刺HBM与主流DDR5 规格内存，下半年起将停止供应DDR3利基型DRAM，同时中国台湾最大DRAM芯片制造商南亚科目前产能主力也开始大幅转向 DDR4及DDR5，DDR3仅开始接受客户代工订单，引起市场抢货潮，导致近期DDR3价格飙涨，最高涨幅达二成，且下半年报价还会再上扬。

从供需两个角度看，我们认为这有望为国内利基存储芯片厂商带来机会，归因于：

1）供给端，我们认为，随着主流存储持续涨价，三大厂商库存持续消化，资金回笼后重点投向DDR5及HBM等未来需求强劲的领域，将加快退出利基存储市场。利基存储市场主要包括利基 DRAM（DDR2、DDR3、小容量 DDR4)、Nor FIash 和 SLC NAND 等。从市场格局上看，主要为三大原厂，其他为台湾的南亚科、华邦电、旺宏以及大陆的长鑫、兆易创新、北京君正、普冉股份、东芯股份、恒烁股份等。

2）需求端，利基存储器主要应用于TV、家电、安防、IOT等消费类需求以及基站、工业、汽车等，今年一季度以来非手机类消费电子特别是家电、耳机、I0T、电子烟等终端需求较快复苏，有望对利基存储器带来需求。

我们认为随着大厂产能加速转向DDR5、HBM等大容量高带宽存储器，而随着终端需求复苏，利基市场将迎来短期的产能紧缺，价格迎来上扬。

核心看好：

1）利基存储龙头（DRAM+NorFIash+SLCNAND)：兆易创新;

2）NorFlash厂商：普冉股份、恒烁股份；

3）SLC NAND厂商：东芯股份；

4）汽车及工业类DRAM龙头：北京君正

风险提示

产能扩产不及预期。由于HBM需求强劲，但产线良率不高，虽然三大原厂在积极扩产，但如果产能扩产不及预期及良率不能进一步改善，可能会影响HBM产值。

AI发展不及预期。HBM强劲需求的底层逻辑是AI持续向前发展，大模型持续改进及AI终端应用等均进一步拉动对算力芯片的需求进而增加对HBM的需求，但如果AI发展不及预期，则对 HBM 也将造成影响。

技术提升不及预期。由于HBM处于存储技术的最前沿，各家均是摸着石头过河，当前各家对部分技术方案也存在分歧，如果技术提升遇阻，也将影响HBM 新品的放量进度。

行业投资评级的说明：

买入：预期未来3一6个月内该行业上涨幅度超过大盘在15%以上;

增持：预期未来3一6个月内该行业上涨幅度超过大盘在5%一15%;

中性：预期未来3一6个月内该行业变动幅度相对大盘在-5%一5%;

减持：预期未来3一6个月内该行业下跌幅度超过大盘在5%以上。

特别声明：

国金证券股份有限公司经中国证券监督管理委员会批准，已具备证券投资咨询业务资格。

形式的复制、转发、转载、引用、修改、仿制、刊发，或以任何侵犯本公司版权的其他方式使用。经过书面授权的引用、刊发，需注明出处为“国金证券股份有限公司”，且不得对本报告进行任何有悼原意的删节和修改。

本报告的产生基于国金证券及其研究人员认为可信的公开资料或实地调研资料，但国金证券及其研究人员对这些信息的准确性和完整性不作任何保证。本报告反映撰写研究人员的不同设想、见解及分析方法，故本报告所载观点可能与其他类似研究报告的观点及市场实际情况不一致，国金证券不对使用本报告所包含的材料产生的任何直接或间接损失或与此有关的其他任何损失承担任何责任。且本报告中的资料、意见、预测均反映报告初次公开发布时的判断，在不作事先通知的情况下，可能会随时调整，亦可因使用不同假设和标准、采用不同观点和分析方法而与国金证券其它业务部门、单位或附属机构在制作类似的其他材料时所给出的意见不同或者相反。

本报告仅为参考之用，在任何地区均不应被视为买卖任何证券、金融工具的要约或要约邀请。本报告提及的任何证券或金融工具均可能含有重大的风险，可能不易变卖以及不适合所有投资者。本报告所提及的证券或金融工具的价格、价值及收益可能会受汇率影响而波动。过往的业绩并不能代表未来的表现。

客户应当考虑到国金证券存在可能影响本报告客观性的利益冲突，而不应视本报告为作出投资决策的唯一因素。证券研究报告是用于服务具备专业知识的投资者和投资顾问的专业产品，使用时必须经专业人士进行解读。国金证券建议获取报告人员应考虑本报告的任何意见或建议是否符合其特定状况，以及 (若有必要)咨询独立投资顾问。报告本身、报告中的信息或所表达意见也不构成投资、法律、会计或税务的最终操作建议，国金证券不就报告中的内容对最终操作建议做出任何担保，在任何时候均不构成对任何人的个人推荐。

在法律允许的情况下，国金证券的关联机构可能会持有报告中涉及的公司所发行的证券并进行交易，并可能为这些公司正在提供或争取提供多种金融服务。

本报告并非意图发送、发布给在当地法律或监管规则下不允许向其发送、发布该研究报告的人员。国金证券并不因收件人收到本报告而视其为国金证券的客户。本报告对于收件人而言属高度机密，只有符合条件的收件人才能使用。根据《证券期货投资者适当性管理办法》，本报告仅供国金证券股份有限公司客户中风险评级高于C3 级(含C3级）的投资者使用；本报告所包含的观点及建议并未考虑个别客户的特殊状况、目标或需要，不应被视为对特定客户关于特定证券或金融工具的建议或策略。对于本报告中提及的任何证券或金融工具，本报告的收件人须保持自身的独立判断。使用国金证券研究报告进行投资，遭受任何损失，国金证券不承担相关法律责任。

若国金证券以外的任何机构或个人发送本报告，则由该机构或个人为此发送行为承担全部责任。本报告不构成国金证券向发送本报告机构或个人的收件人提供投资建议，国金证券不为此承担任何责任。

上海

电话：021-80234211

北京

电话：010-85950438

深圳

电话：0755-86695353

邮箱：researchsh@gjzq.com.cn

邮箱：researchb j@gjzq.com.cn

邮箱：researchsz@gjzq.com.cn

邮编：201204

邮编：100005

邮编：518000

地址：上海浦东新区芳甸路1088号

地址：北京市东城区建内大街26号

地址：深圳市福田区金田路2028号皇岗商务中心

紫竹国际大厦5楼

新闻大厦8层南侧

18楼1806

【小程序】国金证券研究服务

【公众号】国金证券研究

国金证券-电子行业研究存储专题三：AI时代核心存力HBM-240528.pdf