始于光器件，洞察大AI算力架构

2023下半年AI算力产业链投资策略

证券分析师：李国盛 A0230521080003 杨海晏 A0230518070003 黄忠煌 A0230519110001联系人：李国盛 ligs@swsresearch.com

2023.7.3

每日免费获取报告 □

每日微信群内分享7+最新重磅报告;

每日分享当日华尔街日报、金融时报;

行研报告均为公开版, 权利归原作者所有,起点财经仅分发做内部学习。

ICT三要素—— 计算、网络、存储

在AI算力需求爆发的背景下，技术架构、需求弹性、供给格局均在发生深刻变化。市场对AI算力产业链的认知或许在23H1始于光器件，站在23H2进一步洞察大AI算力架构，我们认为，产业趋势明确而持续，各环节均有增量机会：

1）计算为王

AI大模型引发算力变革，英伟达等产业链上下游多环节迎机遇；

• 外部不确定性犹在，国产替代正当时。

2）网络为基

• 吞吐带宽与连接架构是算力性能不可忽视的决定因素，网络的价值在于延续了集群算力的摩尔定律；

• 算力大厂正应用高速/高密/无损等网络、光通信等新架构，带来增量网络需求；

• 中国产业链的全球定位凸显。

3）存储角力

. AI服务器有望带动SSD、DDR5、HBM需求成长。

相关标的：中际旭创、华工科技、新易盛、天孚通信、剑桥科技、紫光股份、锐捷网络、中兴通讯、浪潮信息、中科曙光、工业富联、海光信息、软通动力等。

风险提示：中后期的软硬件技术变革，可能影响需求量；产业链供应（产能、贸易限制等）难以应对需求爆发。

主要内容

计算为王：AI算力需求飙升，GPU当道
网络为基：通信网络的价值在于延续了
集群算力摩尔定律
存储角力：服务器带动SSD、DDR5、
HBM需求成长
相关标的与风险提示

AI进入基于Transformer架构的大模型时代，训练算力需求陡峭攀升

根据英伟达，Transformer大模型训练算力需求将以275倍/2年的速度增长。

英伟达+微软合作开发的5300亿NLP大模型Megatron-Turing NLG训练计算量已超10^9 PFlops，是Resnet模型的一百万倍。

GPU计算性能10年内将再翻1000倍

. CPU SoC的摩尔定律即将结束，CPU计算性能进入滞缓期。

. GPU内含更多计算单元，计算性能未来10年可翻1000倍。

大模型训练算力需求2年翻275倍

GPU计算性能未来10年再翻1000倍

英伟达 Q1 财报营收72亿美元，Q2 营收指引 110 亿美元，较预期高 53%

面向AI高性能计算，从硬件到软件打出全栈组合拳

• GPU：A100迭代至H100，针对中国市场推出A800/H800。

云和数据中心：24年将推出新一代数据处理器及面向AI HPC的CPU Grace。

• 超级计算机网络DGX升级，推出CPU+GPU的GH200，引入InfiniBand网络，NVLink延伸至设备间互联。

面向未来应用的软件库：23年发布计算光刻cuLitho、量子计算cuQuantum库。

英伟达面向HPC已发布/计划发布产品

英伟达AI全栈布局

AI大模型引发算力变革，英伟达产业链上下游多环节迎机遇。

内存与封装：HBM存储容纳超大参数模型，Chiplet封装产业受益。

光模块：InfiniBand高速网络推动高速率光模块（400G/800G）量价齐升。

算力出租：英伟达 DGX 算力云推动 AIGC 快速发展，算力出租将成为面向中小厂商新趋势。

. 液冷：服务器集群网络功耗提升，液冷散热需求明确。

英伟达算力产业链 “遍地都是黄金”

AI芯片供给安全是大模型基础。

2022年9月后，A100/H100进口受限；AI芯片供应链安全是行业中长期发展基础。

对标A100/H100的国产产品仍未大规模放量。

华为昇腾910规模出货、寒武纪思元590在流片阶段、燧原邃思2.0、沐曦MXC500即将流片。

国产推理芯片品类丰富，可满足下游需求。

华为昇腾310，寒武纪100、270、370、燧原、沐曦、天数、壁仞等均有产品可用。

国内训练端芯片参数

训练	型号	功耗	显存	带宽	上市时间	INT8 (TOPS)	FP16	FP32	FP64	TF32	工艺
华为	昇腾910	310W				640	320				7nm
寒武纪	思元290	350W	32GB HBM2	1228GB/s	2021年	512					7nm
	思元590	350- 550W			2023年			80			7nm
壁仞科技	BR100	300W	32GB HBM2E	819GB/s	预计2023年	1920（峰值）		240（峰值）		480（峰值）	7nm
隧原	邃思2.0	300W	32GB HBM2E	300GB/s	预计2023年	256	128	300	300		7nm
百度	昆仑1	150W	16GB HBM2	512GB/s	2019年11月	256	64	16			14nm
	昆仑2	120W	32GB	512GB/s	2021年8月	256	128				7nm

资料来源：华为官网，寒武纪官网，壁仞科技官网，百度昆仑芯官网，阿里平头哥官网，申万宏源研究

华为多产品出新，带动产业链软硬件供应商积极变化。

5月，华为MetaERP宣布成功在华为内部完成替换；

6月，华为发布新一代分布式数据库GaussDB，实现核心代码100%自主研发，深耕金融场景；

预计H2，华为将更新盘古大模型、推出新一代中高旗舰手机Mate 60等；

昇腾芯片是华为AI算力体系中的核心。

昇腾910 是为数不多性能能够对标英伟达 A100 的国产化 AI 芯片；

• 华为昇腾方案在国内超算中心数量市占率第一。

华为昇腾算力支持多地智算中心

超算中心	计划/上线时间	计算能力
南京鲲鹏·昇腾人工智能计算中心		2021/7/6上线总规划800P OpS，一期40P
		杭州人工智能计算中心2022/5/20上线一期40PF，(后期100PF)
西安未来人工智能计算中心	2021/9/9	一期300PF(FP16)
中原人工智能计算中心	日上线	2021年10月21 计划100PF(FP16)，预计扩容至300PF(FP16)
北京昇腾人工智能计算中心	上线	2023年2月13日一期100PF(计划短期算力达到500PF，远期达到1000PF)
沈阳人工智能计算中心	2022年8月9日上线	总规划300PF，一期100PF
天津人工智能计算中心深圳鹏城云脑II	2022年12月30 日一期完工 2020/9/1	总规划300PF，第一批上线 100PF
广州人工智能公共算力中心2022年6月挂牌		1000PF(FP16) 一期100PF，未来5年计划
全国一体化算力网络国家		1000PF
（贵州）主枢纽中心		计划274PF

www.swsresearch.com 资料来源：中国电子报，IDC圈，申万宏源研究；注：上表未展示全部昇腾算力智算中心

主要内容

计算为王：AI算力需求飙升，GPU当道
网络为基：通信网络的价值在于延续了集群算力摩尔定律
存储角力：服务器带动SSD、DDR5、HBM需求成长
相关标的与风险提示

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

（一）通用/传统场景：PCIe是服务器内部通信的总线标准，制约了电口通信速率的提升。

• 经典的通用服务器内，CPU、图形卡、硬盘驱动器、SSD、Wi-Fi 、以太网设备等主要基于PCIe（PCI express）协议相互连接。

• 相较于4.0版本，PCIe 5.0传输速度更高，x16带宽（双向）从64 GB/s提升到了128 GB/s；目前规范制定已迭代至6.0版本，带宽再翻倍。

异构计算的初步创新：在PCIe物理架构和电气接口的基础上，英特尔等牵头成立CXL联盟并最新推出CXL 2.0-3.0规范，用于AI、高性能计算等场景中CPU与GPU等的互联，通过“内存池化” 等方式优化内存调用，进而提升系统整体性能。（据Compute Express Link官网）

资料来源：Prodigy，申万宏源研究

设备I/O带宽每三年翻倍，PCIe目前主流5.0版本，已迭代至6.0

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

我们认为，芯片层高速连接方案的推广，是宏观设备层面高速网络、光网络等需求的底层逻辑。

（二）Nvidia代表，已对标PCIe推出NVLink解决异构计算与AI算力网络瓶颈。

NVLink是Nvidia专门设计用于点对点链路高速互联的网络方案（例如GPU to GPU连接）。据Nvidia白皮书，NVLink的开销比传统网络更低。

传统网络中复杂网络功能（例如端到端重试、自适应路由、数据包重新排序等），在NVLink体系下可以在增加端口数的情况下进行权衡。

此外，基于NVLink的网络接口更加简单，允许将应用程序层、表示层和会话层功能直接嵌入到CUDA本身中，从而进一步减少通信开销。

左图：传统GPU服务器基于PICe连接的架构，片间互联依赖于PCIe Switch

右图：此前Nvidia A100 GPU为例，已兼用PCIe和NVLink解决片间网络性能瓶颈

www.swsresearch.com 资料来源：Nvidia，申万宏源研究

NVIDIA在2016-2022年迭代4代的NVLink满足了其算力方案的两大需求（专用连接方案解决专业问题），使GPU具有尽可能高的性能、使用专用协议和系统设计以实现更高的性能。

• 据PCI-SIG及Nvidia技术文档，目前的PCIe gen5每通道仅为32Gbps，而NVLink每通道高达100Gbps、多个通道连接其GPU系统。

最新的NVLink gen4下，每个H100 GPU的连接数从上一代的12 Links升级至18 Links，每个GPU提供900GB/s（7200Gbs）的双向带宽（bidirectional bandwidth）。

H100 GPU的NVLink可以贡献900GB/s的带宽

资料来源：Nvidia，申万宏源研究

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS RESEARCH

此外Nvidia发布适用于超算服务器内部的NVSwitch芯片（最早2018 GTC大会发布第一代，作用类似于交换机ASIC），进一步通过上述NVLink协议接口将多个GPU高速互联到一起。

据技术文档，在H100芯片+NVLink gen4协议这一代，Nvidia配套了NVSwitch gen3芯片方案，采用台积电4N工艺，满足GPU间的点对点连接，内嵌ALU使NVSwitch提供FP32的400GFLOPS计算吞吐，每个芯片64个NVLink 4接口。

依据技术文档，NVSwitch3芯片大小50mm*50mm，包括一个 SHARP 控制器，可并行管理多达128 个 SHARP 组；内嵌ALU可帮助NVSwitch提供FP32的400GFLOPS计算吞吐，并且支持FP16、FP32、FP64和BF16等精度计算。

NVSwitch3芯片提供64个NVLink4接口，每个NVLink4通道x2即200Gbps单向带宽，单个芯片可提供64 x 200Gbps=12.8Tbps（1.6TB/s）单向带宽、或3.2TB/s双工带宽。

Nvidia的NVSwitch芯片，本身起到了网络交换机的作用

资料来源：Nvidia，申万宏源研究
New Hopper NIC functions ensure request is legal & maps to GPU physical addresspace

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

进一步，英伟达发布Grace Hopper架构，将NVLink应用场景从GPU to GPU拓展至GPU to CPU。 Chip-to-chip的NVLink延伸至GPU与CPU互联

因为芯片维度，制约AI算力性能释放的因素，除了单个芯片的性能外，还包括片间带宽（例如A100对比A800）、内存调用机制等。

除了相较于 PCIe 更高的带宽NVLink在Grace Hopper架构下，使CPU和GPU线程能够“共享”访问所有内存（GPU除了可以利用自身的HBM3内存，还可以借助NVLink访问CPU的LPDDR5X内存）。

最终，NVLink彻底打通了GPU toGPU和GPU to CPU之间的高速连接（右下图），GPU可以以450GB/s的速度拓展至最高至150 TB的内存，进而释放出更强的超算性能。（据技术文档）

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

（三）类似地，AMD的Infinity Fabric也强化了chip内外部网络连接的性能。

AMD Infinity Fabric包括Scalable Control Fabric（负责控制，类似大脑）和Scalable Data Fabric（负责数据传输，类似神经）。Infinity Fabric是AMD Raven、Vega、Ryzen等芯片系列的核心。

以最新的MI300系列为例，Infinity Fabric用于内存共享机制：

1）MI300A（CPU+GPU）

• 3个5nm CPU dies（24个Zen4 cores, Infinity Cache）

• 6个5nm GPU dies（CNDA3）

. 搭载8 × HBM3总共128 GB容量，UnifiedMemory架构（见右图）

2）MI300X（作为GPU，针对LLM场景）

• 192 GB HBM3 内存

. 5.2 TBps 内存带宽

• 896 GBps Infinity Fabric带宽（可以类比NVLink）

. 据AMD 2023年6月新品发布会，MI300X提供的HBM密度最高是Nvidia H100的2.4倍，其HBM带宽最高是H100的1.6倍。

Infinity Fabric在AMD MI300系列中扮演重要作用

资料来源：AMD，申万宏源研究

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

结合实际情况，我们认为：单SoC性能提升，不意味着算力集群整体性能的提升；单纯“堆砌”集群芯片数量，而不优化网络连接，集群性能提升很快就会遇到瓶颈。

传统云计算场景下，算力设备以同构计算和简单的异构计算为主，通用的以太网很难满足大规模GPU集群的连接需求。

英伟达解决集群性能瓶颈的方式是引入 InfiniBand 网络，并将C2C场景下应用的NVLink延伸至设备间互联。

集群中GPU数量

• 据Nvidia，2020年公司以69亿美元的价格收购网络芯片厂商Mellanox，后者致力于数据中心InfiniBand和以太网互联产品的研发。

2022-2023 年 DGX H100SuperPOD集群完善，重要变化体现在NVLink从板上/片间互联走向不同Server或板卡的互联，同时Nvidia也相应发布了NVLink交换机（Hot chip等公开资料）。

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

InfiniBand是一种专为RDMA（远程直接内存访问）设计的网络。

RDMA主要用于解决网络传输中服务器端数据处理的延迟问题，能直接通过网络接口访问内存数据，无需操作系统内核的介入（相比于传统TCP/IP），尤其适合在大规模并行计算机集群中使用。

InfiniBand网络需要使用专用的IB网卡和IB交换机。

RDMA网络可以直接通过网络接口访问内存数据

资料来源：华为，申万宏源研究

Nvidia的InfiniBand设备覆盖网络适配器、DPU、交换机等

Adapter NDR400G InfiniBand ProgrammableDatapath

DPU PCle Gen4and Gen5,DDR5 Al Application Accelerators ProgrammableDatapath In-Network Computing

Switch 64-ports NDR 400G InfiniBand 128-ports200GNDR200 In-Network Computing Modular:2048×400G，4096×200G
资料来源：Nvidia，申万宏源研究

以Nvidia H100为例，其网络架构的基础是InfiniBand NDR 400Gb网络。

• 据Nvidia技术文档，Mellanox InfiniBand NDR产品是第7代的InfiniBand产品，利用100Gb/s的PAM4 Serdes技术, 实现了400Gb/s单端口传输带宽。NDR InfiniBand交换机可以支持64个400Gb/s端口或128个200Gb/s端口，提供32个800G OSFP接口，是400G/800G网络来源。

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

下面以Nvidia DGX H100系统为例，解释AI网络设备需求弹性的根源：

设备组网的基本原则——GPU的通信以NVLink为基础，CPU/存储的通信+跨集群通信以InfiniBand为基础。

NVIDIA的DGX H100服务器，每台服务器拥有8个H100 GPU、4个NVSwitch 3，且相互连接。

• 在服务器发布的同时，NVIDIA还发布了搭载2个NVSwitch 3芯片的NVLink交换机，连同GPU服务器和NVLink 4协议组成NVLink网络。

（一）H100 GPU发布后，服务器架构变化较大：

DGX H10O: DATA-NETWORK CONFIGURATION

· All 8 GPUs can simultaneously saturate 18 NVLinks to other GPUs within server

■ Limited only by over-subscription from multiple other GPUs

■ All 8 GPUs can half-subscribe 18 NVLinks to GPUs in other servers

■ 4 GPUs can saturate 18 NVLinks to GPUs in other servers

■Equivalent of full-BW on AllReduce with SHARP

■ Reduction in All2All BW is a balance with server complexity and costs

■All 8 GPUs can independently RDMA data over its own dedicated 400 Gb/s HCA/NIC

■ 800 GBps of aggregate full-duplex to non-NVLink Network devices

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

DGX H100服务器架构：GPU Tray和Motherboard分离，背后是NVLink和InfiniBand网络的分离。

如右图，DGX H100服务器背面接口以Motherboard Tray为主。

如左图，DGX H100服务器机柜内大致包括了GPU Tray、
Motherboard Tray、 Power系统、Front Cage等部分。

DGX H100 System View: Rear

-Systempullout tab-includessystemserial number Motherboardtraypullouttab-includesmotherboardserialnumberandMACaddress

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

DGX H100服务器架构：GPU Tray中，拥有8x H100 GPU + 4x NVSwitch芯片，芯片端4-5-5-4共18组OSFP接口（基于NVLink）负责不同DGX H100服务器之间的连接。

DGX H100 GPU Tray

Midplane connectivity Power,PCle,sensorsand signaling communications

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

（二）NVLink交换机是H100体系的创新，也是800G光通信方案应用的亮点。

Nvidia发布新的NVLink交换机，1U尺寸设计，32个OSFP接口的设计；

和普通交换机不同，每台NVLink交换机搭载2个NVSwitch3芯片，提供128个NVLink4接口（单个NVSwitch3提供64个NVLink4），双工带宽6.4TB/s（单个NVLink4单向200Gbps，128 x 200Gbps =25.6Tb/s单向带宽)。

NVLink交换机搭载了OSFP等接口

DGX H1OO SUPERPOD: NVLINK SWITCH

·Standard 1RU 19-inch formfactor highly leveraged from InfiniBand switch design

· Dual NVLink4 NVSwitch chips

■128 NVLink4 ports

32 OSFP cages

6.4 TB/s full-duplex BW

■Managed switch with out-of-band management communication

■ Support for passive-copper,active-copper and optical OSFP cables (custom FW)

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

据Nvidia设计，每套SuperPOD集群32台服务器折合256个H100 GPU，AI性能高达1EFlops；每套系统配18台NVLink交换机，系统双向带宽57.6TB/s；（网络需求增加）

依照技术文档推荐方案，每套系统的32台DGX H100服务器中的400Gb/s ConnectX-7网卡对外与IB交换机连接，用于连接多套SuperPOD系统。

两层NVSwitch芯片设计：一层交换芯片位于服务器内，二层交换芯片位于交换机内。

128个L1层芯片（32台服务器，每台4个）+36个L2层芯片（18台NVLink交换机，每台2个）。一个集群内所有256个GPU的互联，都通过NVLink和NVLink交换机单独完成，不经过CX-7 PCIe网络。

我们认为，从通信网络角度看， DGX H100 SuperPOD高算力、高吞吐升级的精髓，在于：将过去A100及之前用于服务器内部GPU高效连接的NVLink，外化到整个集群，借助新的NVLink交换机，搭建L1、L2两层网络，实现跨服务器、跨机柜的GPU to GPU连接。

即便是同样的H100芯片底座，NVLink的加入可以显著提升集群性能

2.3 IDC层面网络：AI与通用云计算架构核心差异在于组网 SWS

依据实际情况，数据中心中，拥有较大外部客户群、提供XaaS的数据中心更可能由南北向的流量主导；另一方面，对计算和存储有大量内部需求时，在服务器之间看到更多的东西向流量，可以将他们的数据中心运营成具有较高径向的巨大集群。

• 两种主要的典型数据中心架构类型：

1）超大规模数据中心。这些架构相对庞大，层与层之间有一定的收敛性，例如3:1，并且在spine层以上依靠相干ZR光模块互连（DCI）。800G网络的一个重要边界约束是，在服务器到TOR层使用200G互连。而TOR-leaf/spine层通常使用PSA；spine层通常依靠PSM4 4x200G。

（层层汇聚，类似毛细血管到主静脉，带宽汇聚、连接数减少、网络架构金字塔形。）

典型的云计算中心，金字塔架构组网

超算胖树架构网络更扁平化，但带宽更高

2.3 IDC层面网络：AI与通用云计算架构核心差异在于组网 SWS

2）AI的数据中心网络以胖树fat-tree架构为主。比超大规模网络的层数少、在各层之间几乎无收敛。

fat-tree是业界普遍认可的实现无阻塞网络的技术，对于任意的通信模式，总有路径让他们的通信带宽达到网卡带宽，且用到的所有交换机都是相同的；

fat-tree无带宽收敛：传统的树形网络拓扑中，带宽是逐层收敛的，树根处的网络带宽要远小于各个叶子处所有带宽的总和。而fat-tree则更像是真实的树，越到树根，枝干越粗，即：从叶子到树根，网络带宽不收敛。尤其在训练侧，数据、算力以内部流转为主，较多依赖内部径向流量的统一高带宽。高速网络设备/器件的需求量更大。

胖树架构下的负载均衡

Scenario	Server to Leaf	Leaf to Spine
Bandwidth	400G	800G
Distance	4m within rack; 20m cross-rack	500m
Module size	QSFP-DD/OSFP	QSFP-DD/OSFP
Latency	92ns (IEE PMA layer)	92ns (IEEE PMA layer)

资料来源：MSA，申万宏源研究
资料来源：OpenFlow based Load Balancing for Fat-Tree Networks with Multipath Support，申万宏源研究

主要内容

计算为王：AI算力需求飙升，GPU当道
网络为基：通信网络的价值在于延续了
集群算力摩尔定律
存储角力：服务器带动SSD、DDR5、
HBM需求成长
相关标的与风险提示

DGX GH200超算系统集成 256 个 GH200 芯片，内存容量首次突破100TB，AI性能达到了1 exaFLOPS。

Grace Hopper超级芯片是英伟达开发的基于Arm架构的CPU+GPU集成方案，它将72核的Grace CPU、Hopper GPU、96GB的HBM3和512 GB的LPDDR5X集成在同一个封装中，共有2000亿个晶体管。

通过NVLink，超算GPU共享内存从DGX H100的640GB跃升至DGX GH200的144TB，支持更大模型的训练；通过GPU与CPU共封，内存带宽提升了7X。CPU和GPU之间数据带宽高达1TB/s，为某些内存受限的工作负载提供了巨大的优势。（据英伟达公开数据）

NVLink技术进步GPU内存容量快速提升

资料来源：Nvidia，申万宏源研究
超级算计算机内存带宽代际提升

资料来源：Nvidia，申万宏源研究

AI模型需要大量Server DRAM、SSD与HBM，高性能存储品种价格率先修复：

服务器市场占DRAM/NAND市场应用比例分别为31%、26%（CFM数据）。

AI服务器DRAM、HBM和SSD容量相比普通服务器倍速成长。根据TrendForce集邦咨询，服务器DRAM普遍配置约为500\~600GB左右，而AI服务器平均容量可达1.2\~1.7TB之间，约为3倍；HBM需求快速上升，以NVIDIA A100 80GB配置4或8张计算，单台服务器HBM用量约为320\~640GB；SSD容量非必要扩大。美光则认为，AI服务器的DRAM含量是普通服务器的6-8倍，NAND含量是普通服务器的3倍。

价格方面：我们预计DDR5产品23Q3小幅报涨5%；高性能计算的高带宽内存(HBM) 今年需求非常强劲，HBM资源供应来源极其有限，年初以来价位已较高，预计23Q3小幅报涨。

NAND Flash下游应用

资料来源：CFM，申万宏源研究

DRAM下游应用

一般服务器与AI服务器平均存储容量

	服务器	AI服务器	未来AI服务器
DRAM	500-600GB	1.2-1.7TB	2.2-2.77B
SSD	4.1TB	4.1TB	8TB
HBM		320-640GB	512-1024GB

资料来源：TrendForce，申万宏源研究

HBM作为高端显存芯片，用于AI加速器及高效能服务器上，2021年以来HBM在数据中心应用快速增长。

HBM（高带宽存储器，High Bandwidth Memory）是AMD和SK Hynix发起的基于3D堆栈工艺的高性能DRAM，适用于高存储器带宽需求的应用场合。以位元计算，目前HBM占整个DRAM市场比重约1.5%，为新型高性能存储产品。

2023年2月以来，HBM3规格DRAM价格上涨。根据TrendForce咨询，2023-2025年HBM市场规模CAGR有望成长至40-45%以上，至2025年市场规模有望快速增至25亿美元。

高性能系统催生超高带宽HBM需求

Traditional Gaming

Professional Visualization
资料来源：美光，申万宏源研究

Al Inference &Training

High-Performance Computing

HBM技术路线图

资料来源：SK海力士，申万宏源研究

显存带宽=显存等效频率×显存位宽/8，所以频率和位宽决定显存性能。

HBM显存可以提供1024bit起跳的显存位宽，4颗粒堆叠式的显存可达到128GB/s的带宽。HBM能大幅提高数据处理速度，每瓦带宽比GDDR5高出3倍多，且HBM2比GDDR5节省了94%的表面积，减少20%+的功耗。

2022年发布的HBM3技术指标较HBM2和HBM2E标准有巨大的提升，芯片单个引脚速率达到6.4Gbit/s，实现了超过1TB/s的总带宽，支持16-Hi堆栈，堆栈容量达到64GB。

HBM3带宽较DDR5高出10倍以上。2023下半年伴随NVIDIA H100与AMD MI300的搭载，存储原厂也已规划相对应规格HBM3的量产，SK海力士是目前唯一量产新世代HBM3产品的供应商。

DDR与HBM参数对比

	DDR4	DDR5 LPDDR4
服务器、应用消费	、服务器、PC、手机、汽车、 PC、消费消费
带宽（Gb/s) 102 102
136 205 512 512 速率（Gbps) 3.2 6.4 4.266 6.4 16
成本（美元） 32 50 32 带宽成本之比
50 64 160 160
3.2 2.04 4.25 4.1 8 3.2 (Gb/s/USD)

资料来源：芯动科技，申万宏源研究
HBM单位功耗低

资料来源：美光，申万宏源研究

主要内容

计算为王：AI算力需求飙升，GPU当道
网络为基：通信网络的价值在于延续了
集群算力摩尔定律
存储角力：服务器带动SSD、DDR5、
HBM需求成长
相关标的与风险提示

在AI算力需求爆发的背景下，技术架构、需求弹性、供给格局均在发生深刻变化。

市场对AI算力产业链的认知或许在23H1始于光器件，站在23H2进一步洞察大AI算力架构，我们认为，产业趋势明确而持续，各环节均有增量机会，计算为王、网络为基、存储角力。

资料来源：申万宏源研究

风险提示：

中后期的软硬件技术变革，可能影响需求量；产业链供应（产能、贸易限制等）难以应对需求爆发。

行业部分重点上市公司估值表

证券代码	证券简称	2023/6/30		预测净利润		PE
证券代码	证券简称	收盘价（元）	总市值（亿元）	2023E	2024E	2023E	2024E
600941.SH	中国移动	93.30	12,930.47	1,373.64	1,478.02	9.41	8.75
601728.SH	中国电信	5.63	4,850.35	309.10	347.57	15.69	13.96
600845.SH	宝信软件	50.81	1,029.33	25.58	32.01	40.24	32.16
000988.SZ	华工科技	38.01	382.19	12.10	15.52	31.59	24.63
688777.SH	中控技术	62.78	493.40	10.97	14.40	44.98	34.26
000938.SZ	紫光股份	31.85	910.94	26.97	33.09	33.77	27.53
300628.SZ	亿联网络	35.07	442.68	29.74	39.09	14.88	11.32
002396.SZ	星网锐捷	22.59	133.94	7.45	9.22	17.98	14.53
300308.SZ	中际旭创	147.45	1,183.77	15.08	20.45	78.49	57.88
300502.SZ	新易盛	67.97	482.53	12.59	16.58	38.33	29.11
301165.SZ	锐捷网络	61.72	350.68	7.54	10.17	46.54	34.49
000977.SZ	浪潮信息	48.50	713.99	27.16	30.45	26.29	23.45
603019.SH	中科曙光	50.90	745.18	19.02	22.61	39.18	32.96
601138.SH	工业富联	25.20	5,005.45	216.95	1	23.07	1
688041.SH	海光信息	68.27	1,586.83	12.26	17.69	129.43	89.70
301236.SZ	软通动力	27.21	259.30	12.92	15.03	20.07	17.25
600050.SH	中国联通	4.80	1,526.61	86.30	100.14	17.69	15.24

资料来源：Wind，申万宏源研究
注：紫光股份、星网锐捷、中际旭创、新易盛、锐捷网络、中国联通净利润取Wind一致预测。

信息披露

证券分析师承诺

本报告署名分析师具有中国证券业协会授予的证券投资咨询执业资格并注册为证券分析师，以勤勉的职业态度、专业审慎的研究方法，使用合法合规的信息，独立、客观地出具本报告,并对本报告的内容和观点负责。本人不曾因，不因，也将不会因本报告中的具体推荐意见或观点而直接或间接收到任何形式的补偿。

与公司有关的信息披露

本公司隶属于申万宏源证券有限公司。本公司经中国证券监督管理委员会核准，取得证券投资咨询业务许可。本公司关联机构在法律许可情况下可能持有或交易本报告提到的投资标的，还可能为或争取为这些标的提供投资银行服务。本公司在知晓范围内依法合规地履行披露义务。客户可通过compliance@swsresearch.com索取有关披露资料或登录www.swsresearch.com信息披露栏目查询从业人员资质情况、静默期安排及其他有关的信息披露。

机构销售团队联系人

华东A组茅炯 021-33388488 maojiong@swhysc.com

华东B组李庆 18017963206 liqing3@swhysc.com

华北组肖霞 15724767486 xiaoxia@swhysc.com

华南组李昇 15914129169 lisheng5@swhysc.com

A股投资评级说明

证券的投资评级：

以报告日后的6个月内，证券相对于市场基准指数的涨跌幅为标准，定义如下：

买入（Buy）：相对强于市场表现20％以上；

增持（Outperform）：相对强于市场表现5％～20％；

中性 (Neutral) ：相对市场表现在－5％～＋5％之间波动；

减持 (Underperform) ：相对弱于市场表现5％以下。

行业的投资评级：

以报告日后的6个月内，行业相对于市场基准指数的涨跌幅为标准，定义如下：

看好（Overweight）：行业超越整体市场表现；

中性 (Neutral) ：行业与整体市场表现基本持平；

看淡 (Underweight) ：行业弱于整体市场表现。

本报告采用的基准指数：沪深300指数

港股投资评级说明

证券的投资评级：

以报告日后的6个月内，证券相对于市场基准指数的涨跌幅为标准，定义如下：

买入（BUY）：：股价预计将上涨20%以上；

增持（Outperform）：股价预计将上涨10-20%；

持有（Hold）：股价变动幅度预计在-10%和+10%之间；

减持（Underperform）：股价预计将下跌10-20%；

卖出（SELL）：股价预计将下跌20%以上。

行业的投资评级：

以报告日后的6个月内，行业相对于市场基准指数的涨跌幅为标准，定义如下：

看好（Overweight）：行业超越整体市场表现；

中性 (Neutral) ：行业与整体市场表现基本持平；

看淡（Underweight）：行业弱于整体市场表现。

本报告采用的基准指数：恒生中国企业指数（HSCEI）

我们在此提醒您，不同证券研究机构采用不同的评级术语及评级标准。我们采用的是相对评级体系，表示投资的相对比重建议；投资者买入或者卖出证券的决定取决于个人的实际情况，比如当前的持仓结构以及其他需要考虑的因素。投资者应阅读整篇报告，以获取比较完整的观点与信息，不应仅仅依靠投资评级来推断结论。申银万国使用自己的行业分类体系，如果您对我们的行业分类有兴趣，可以向我们的销售员索取。

法律声明

本报告由上海申银万国证券研究所有限公司（隶属于申万宏源证券有限公司，以下简称“本公司”）在中华人民共和国内地（香港、澳门、台湾除外）发布，仅供本公司的客户（包括合格的境外机构投资者等合法合规的客户）使用。本公司不会因接收人收到本报告而视其为客户。有关本报告的短信提示、电话推荐等只是研究观点的简要沟通，需以本公司http://www.swsresearch.com网站刊载的完整报告为准，本公司并接受客户的后续问询。

本报告是基于已公开信息撰写，但本公司不保证该等信息的准确性或完整性。本报告所载的资料、工具、意见及推测只提供给客户作参考之用，并非作为或被视为出售或购买证券或其他投资标的的邀请或向人作出邀请。本报告所载的资料、意见及推测仅反映本公司于发布本报告当日的判断，本报告所指的证券或投资标的的价格、价值及投资收入可能会波动。在不同时期，本公司可发出与本报告所载资料、意见及推测不一致的报告。

客户应当考虑到本公司可能存在可能影响本报告客观性的利益冲突，不应视本报告为作出投资决策的惟一因素。客户应自主作出投资决策并自行承担投资风险。本公司特别提示,本公司不会与任何客户以任何形式分享证券投资收益或分担证券投资损失，任何形式的分享证券投资收益或者分担证券投资损失的书面或口头承诺均为无效。本报告中所指的投资及服务可能不适合个别客户，不构成客户私人咨询建议。本公司未确保本报告充分考虑到个别客户特殊的投资目标、财务状况或需要。本公司建议客户应考虑本报告的任何意见或建议是否符合其特定状况，以及（若有必要）咨询独立投资顾问。在任何情况下，本报告中的信息或所表述的意见并不构成对任何人的投资建议。在任何情况下，本公司不对任何人因使用本报告中的任何内容所引致的任何损失负任何责任。市场有风险，投资需谨慎。若本报告的接收人非本公司的客户，应在基于本报告作出任何投资决定或就本报告要求任何解释前咨询独立投资顾问。

本报告的版权归本公司所有，属于非公开资料。本公司对本报告保留一切权利。除非另有书面显示，否则本报告中的所有材料的版权均属本公司。未经本公司事先书面授权，本报告的任何部分均不得以任何方式制作任何形式的拷贝、复印件或复制品，或再次分发给任何其他人，或以任何侵犯本公司版权的其他方式使用。所有本报告中使用的商标、服务标记及标记均为本公司的商标、服务标记及标记，未获本公司同意，任何人均无权在任何情况下使用他们。

简单金融成就梦想 A Virtue of Simple Finance

申万宏源研究微信订阅号

申万宏源研究微信服务号

上海申银万国证券研究所有限公司(隶属于申万宏源证券有限公司）

李国盛ligs@swsresearch.com

StartYourFinance

起点财经，网罗天下报告

始于光器件，洞察大AI算力架构

2023下半年AI算力产业链投资策略

每日 免 费 获取 报告 □

ICT三要素—— 计算、网络、存储

1）计算为王

2）网络为基

3）存储角力

主要内容

AI进入基于Transformer架构的大模型时代，训练算力需求陡峭攀升

GPU计算性能10年内将再翻1000倍

英伟达 Q1 财报营收72亿美元，Q2 营收指引 110 亿美元，较预期高 53%

面向AI高性能计算，从硬件到软件打出全栈组合拳

AI大模型引发算力变革，英伟达产业链上下游多环节迎机遇。

AI芯片供给安全是大模型基础。

昇腾芯片是华为AI算力体系中的核心。

主要内容

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

（一）通用/传统场景：PCIe是服务器内部通信的总线标准，制约了电口通信速率的提升。

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS RESEARCH

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

2.1 芯片层面网络：chip-to-chip场景，从PCIe到高速连接 SWS

（三）类似地，AMD的Infinity Fabric也强化了chip内外部网络连接的性能。

1）MI300A（CPU+GPU）

2）MI300X（作为GPU，针对LLM场景）

• 896 GBps Infinity Fabric带宽（可以类比NVLink）

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

InfiniBand是一种专为RDMA（远程直接内存访问）设计的网络。

以Nvidia H100为例，其网络架构的基础是InfiniBand NDR 400Gb网络。

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

（一）H100 GPU发布后，服务器架构变化较大：

DGX H10O: DATA-NETWORK CONFIGURATION

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

DGX H1OO SUPERPOD: NVLINK SWITCH

2.2 设备层面网络：InfiniBand、NVLink等正迭代通用算力下的以太网需求

2.3 IDC层面网络：AI与通用云计算架构核心差异在于组网 SWS

2.3 IDC层面网络：AI与通用云计算架构核心差异在于组网 SWS

主要内容

DGX GH200超算系统集成 256 个 GH200 芯片，内存容量首次突破100TB，AI性能达到了1 exaFLOPS。

AI模型需要大量Server DRAM、SSD与HBM，高性能存储品种价格率先修复：

显存带宽=显存等效频率×显存位宽/8，所以频率和位宽决定显存性能。

主要内容

风险提示：

信息披露

证券分析师承诺

与公司有关的信息披露

机构销售团队联系人

A股投资评级说明

港股投资评级说明

法律声明

简单金融 成就梦想 A Virtue of Simple Finance

StartYourFinance

每日免费获取报告 □

简单金融成就梦想 A Virtue of Simple Finance

计算机行业2023下半年AI算力产业链投资策略：始于光器件，洞察大AI算力架构-20230703-申万宏源-35页