ChatGPT引发算力革命，AI芯片产业链有望率先受益—从ChatGPT看芯片产业机遇

中泰电子王芳团队

分析师：王芳

执业证书编号：S0740521120002

分析师：李雪峰

执业证书编号：S0740522080004

分析师：杨旭

执业证书编号：S0740521120001

分析师：游凡

执业证书编号：S0740522120002

中泰证券研究所专业|领先|深度|诚信

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长…全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

收钱文案、增长黑客、产品运营、品牌企划、营销战略、办公软件、会计财务、广告设计、摄影修图、视频剪辑、直播带货、电商运营、投资理财、汽车房产、餐饮烹饪、职场经验、演讲口才、风水命理、心理思维、恋爱情趣、美妆护肤、健身瘦身、格斗搏击、漫画手绘、声乐训练、自媒体打造、效率软件工具、游戏影音...

扫码先加好友，以备不时之需

ChatGPT是由OpenAI公司开发的人工智能聊天机器人程序，于2022年11月发布，推出不久便在全球范围内爆火。根据World of Engineering数据显示，ChatGPT达到1亿用户量用时仅2个月，成为史上用户增长速度最快的消费级应用程序。与之相比，TikTok达到1亿用户用了9个月，Instagram则花了2年半的时间。从用户体验来看，ChatGPT不仅能实现流畅的文字聊天，还可以胜任翻译、作诗、写新闻、做报表、编代码等相对复杂的语言工作。

ChatGPT爆火的背后是人工智能算法的迭代升级。ChatGPT是基于GPT-3.5微调得到的新版本模型，能够借助人类反馈的强化学习（RLHF）技术来指导模型训练，实现模型输出与人类预期的需求，使对话内容更加人性化和富有逻辑性。从2008年第一代生成式预训练模型GPT-1诞生以来，GPT系列模型几乎按照每年一代的速度进行迭代升级，未来随着大语言模型(LLM）技术的不断突破，AI相关应用有望加速落地，AI产业或将迎来新一轮发展机遇。

图表：应用程序达到1亿用户量所需时间（月数）

图表：GPT模型迭代过程

ChatGPT是生成式人工智能技术（AIGC）的一种，与传统的决策/分析式AI相比，生成式AI并非通过简单分析已有数据来进行分析与决策，而是在学习归纳已有数据后进行演技创造，基于历史进行模仿式、缝合式创作，生成全新的内容。AIGC的应用非常广泛，包括自然语言生成、图像生成、视频生成、音乐生成、艺术创作等领域。

AIGC产业链主要分为上游算力硬件层、中游数据/算法软件层和下游行业应用层。硬件层依靠高性能AI芯片、服务器和数据中心为AIGC模型的训练提供算力支持，是承载行业发展的基础设施；数据/算法层软件层主要负责AI数据的采集、清洗、标注及模型的开发与训练，多方厂商入局自然语言处理、计算机视觉、多模态模型等领域；行业应用层目前主要涉及搜索、对话、推荐等场景，未来有望在多个行业呈现井喷式革新。

图表：AIGC产业链全景图

多模态大模型有望成为AI主流，赋能下游行业智能升级。生成式AI主要依赖于人工智能大模型，如Transformer、BERT、GPT系列等。这些模型通常包含数十亿至数万亿个参数，需要庞大的数据集进行训练，致使AI算力的需求也呈现出指数级的增长。多模态是一种全新的交互、生成模式，集合了图像、语音、文本等方式，因其可以结合多种数据类型和模态的学习，将有望彻底改变我们与机器互动的方式，快速占据人工智能主导地位。我们认为多模态大模型长期来看不仅可以从成本端降本增效，需求端也将通过快速渗透推广为下游行业带来持续增长需求，从而快速推动下游行业智慧化应用升级。

图表：国外部分AIGC预训练模型一览

厂商	预训练模型	应用	参数量	领域
谷歌	BERT	语言理解与生成	4810亿	NLP
	PaLM	语言理解与生成、推理、代码生成	5400亿	NLP
	Imagen	语言理解与图像生成	110亿	多模态
	Parti	语言理解与图像生成	200亿	多模态
微软	Florence	视觉识别	6.4亿	CV
	Turing-NLG	语言理解、生成	170亿	NLP
	Gato	多面手的智能体	12亿	多模态
Deep Mind	Gopher	语言理解与生成	2800亿	NLP
	AlphaCode	代码生成	414亿	NLP
	GPT3	语言理解与生成、推理等	1750亿	NLP
	CLIP&DALL-E	图像生成、跨模态检索	120亿	多模态
Open Al	Codex	代码生成	120亿
	ChatGPT			NLP
		语言理解与生成、推理等	13-1750亿	NLP

■从GPT-1到ChatGPT，模型参数与训练数据量不断增加，所需算力资源不断提升：

》 GPT-1：最早的GPT模型之一，包含了1.17亿个参数，预训练数据量约为5GB。

》 GPT-2：参数数量达到了1.5亿个，预训练数据量达40GB。

GPT-3：是目前为止最大的语言模型之一，包含了1750亿个参数，预训练数据量为45TB。

》 ChatGPT：基于GPT-3模型的变种之一，参数量预计与GPT-3相近。

图表：四代GPT模型参数与预训练数据量对比

模型	发布时间	参数量	预训练数据量	预估成本	消耗资源
GPT-1	2018年6月	1.17亿	约5GB		在8个GPU上训练一个月
GPT-2	2019年2月	15亿	40GB		在256个Google Cloud TPUv3上训练一周
GPT-3	2020年5月	1750亿	45TB	训练一次460万美元，总成本1200万美元	在355个GPU上训练一年
ChatGPT	2022年11月	未公布	未公布	训练一次成本超过1200万美元	根据参数量而定

大模型成熟度：					初级尝试接近成熟	成熟应用
	2020年之前	2020年	2022年	2023年	2025年	约2030年
文本领域	垃圾信息识别翻译基础问题回答	基础文案初稿撰写	更长的文本二稿撰写	垂直领域文案撰写实现可精调（论文等）	终稿，水平高于人类平均值	终稿，水平高于专业写手
代码领域	单行代码不足	多行代码生成	更长的代码更精确的表达	支持更多语种领域更垂直	根据文本生成初版应用程序	根据文本生成终版应用程序
图像领域			艺术、图标摄影	模仿（产品设计、建筑等）	终稿（产品设计、建筑等）	终稿，水平高于专职艺术家
视频/3D/ 游戏领域				视频和3D文件的基础版/初稿	二稿	AI版Roblox

」多模态模型是实现人工智能应用的关键。3月14日OpenAI发布GPT-4多模态大模型，拥有1）强大的识图能力；2）文字输入限制提升至2.5万字；3）回答准确性显著提高；4）能够生成歌词、创意文本、实现风格变化。在各种专业和学术基准上，GPT-4已具备与人类水平相当表现。如在模拟律师考试中，其分数在应试者前10%，相比下GPT-3.5在倒数10%左右。多模态大模型在整体复杂度及交互性上已有较大提升，模型升级有望加速细分垂直应用成熟，赋能下游智慧化升级，带动需求快速增长。

1 AIGC下游市场渗透率低，增长空间广阔。根据Gartner数据，目前由人工智能生成的数据占所有数据的1%以下，预计2023年将有 20%的内容被生成式AI所创建，2025 年人工智能生成数据占比将达到10%。根据前瞻产业研究院数据，2025年中国生成式商业AI应用规模将达2070亿元，CAGR（2020-2025）为84.06%。

图表：AIGC下游应用落地时间预测
图表：中国生成式商业AI应用规模

AI人工智能的发展主要依赖两个领域的创新和演进：一是模仿人脑建立起来的数学模型和算法，其次是半导体集成电路AI芯片。AI的发展一直伴随着半导体芯片的演进过程，20世纪90年代，贝尔实验室的杨立昆（YannLeCun）等人一起开发了可以通过训练来识别手写邮政编码的神经网络，但在那个时期，训练一个深度学习卷积神经网络（Convolutional NeuralNetwork，CNN）需要3天的时间，因此无法实际使用，而硬件计算能力的不足，也导致了当时AI科技泡沫的破灭。

1 AI芯片是AI发展的底层基石。英伟达早在1999年就发明出GPU，但直到2009年才由斯坦福大学发表论文介绍了如何利用现代GPU远超过多核CPU的计算能力（超过70倍），把AI训练时间从几周缩短到了几小时。算力、模型、数据一直是AI发展的三大要素，而AI芯片所代表的算力则是人工智能的底层基石。

图表：AI人工智能与半导体计算芯片发展历程

■算力硬件层是构成AIGC产业的核心底座，主要包括AI芯片、AI服务器和数据中心。

》AI芯片是算力硬件层的基石。AI芯片主要分为CPU、GPU、FPGA和ASIC四类，CPU是AI计算的基础，GPU、FPGA、ASIC作为加速芯片协助CPU进行大规模计算。目前AI芯片主要被国际厂商垄断，根据Counterpoint、IDC数据，Intel和AMD共计占2022年全球数据中心CPU市场收入的92.45%，Nvidia占2021年中国加速卡市场份额的80%以上。

AI服务器是AI芯片的系统集成。AI服务器采用CPU+加速芯片的架构形式，在进行模型的训练和推断时会更具有效率优势。与国外AI芯片厂商的垄断局面不同，中国AI服务器水平位于世界前列。据IDC数据，在2021H1全球 AI服务器市场竞争格局中，浪潮信息以20.2%的份额排名第一，联想和华为分别以6.1%和4.8%的份额位列第四、五名。

数据中心的计算服务是承接AI算力需求的直接形式。AIGC的模型训练是通常是通过云计算服务完成的，其本质是AIGC模型厂商借助IDC的算力资源，在云端实现模型的训练。目前国内的数据中心厂商主要包括三大运营商、华为、联想、中科曙光等，提供云计算的厂商主要有阿里、腾讯等互联网企业。

图表：2022年全球数据中心CPU市场份额

图表：2021H1全球AI服务器市场份额

ChatGPT单次训练所需算力约27.5PFlop/s-day，单颗NVIDIAV100需计算220天。

》根据OpenAI数据，GPT-3 XL参数规模为13.2亿，训练所需算力为27.5PFlop/s-day。由于ChatGPT是在13亿参数的InstructGPT基础上微调而来，参数量与GPT-3XL接近，因此预计ChatGPT训练所需算力约为27.5PFlop/s-day。

》以NVIDIAV100芯片为例，一颗NVLink版本V100芯片的深度学习算力为125TFlops，则ChatGPT模型的训练至少需要1颗V100芯片计算220天才能完成。

■随着模型参数的不断增加，模型训练所需算力将进一步提升，将进一步拉动对算力芯片的需求。根据OpenAI数据，随着GPT-3系列模型参数规模由1.25亿增加至1746亿，训练所需算力从2.6PFlop/s-day上升至3640PFlop/s-day，规模参数（1396.8倍）与算力需求（1400倍）呈同比例增长。

图表：不同NLP模型参数量及训练算力对比

模型	总计算量（PFlop/s-day)	总计算量（Flops)	参数量 (百万个)
T5	T5-Small	2.08E+00	1.80E+20	60
	T5-Base	7.64E+00	6.60E+20	220
	T5-Large	2.67E+01	2.31E+21	770
	T5-3B	1.04E+02	9.00E+21	3,000
	T5-11B	3.82E+02	3.30E+22	11,000
BERT	BERT-Base	1.89E+00	1.64E+20	109
	BERT-Large	6.16E+00	5.33E+20	355
	RoBERTa-Base	1.74E+01	1.50E+21	125
	RoBERTa-Large	4.93E+01	4.26E+21	355
	GPT-3 Small	2.60E+00	2.25E+20	125
	GPT-3 Medium	7.42E+00	6.41E+20	356
GPT-3	GPT-3 Large	1.58E+01	1.37E+21	760
	GPT-3 XL	2.75E+01	2.38E+21	1,320
	GPT-3 2.7B	5.52E+01	4.77E+21	2,650
	GPT-3 6.7B	1.39E+02	1.20E+22	6,660
	GPT-3 13B	2.68E+02	2.31E+22	12,850
	GPT-3 175B	3.64E+03	3.14E+23	174,600

来源：《Language Models are Few-Shot Learners》，中泰证券研究所
中泰证券研究所专业|领先|深度|诚信

ChatGPT单月运营所需算力成本约667万美元。根据Fortune数据，每次用户与ChatGPT互动产生的算力云服务成本约0.01美元。Similarweb数据显示，2023年1月ChatGPT访问量达6.67亿次，因此我们粗略推算2023年1月ChatGPT运营算力成本约为667万美元。此外，2023年1月ChatGPT访问量环比增长119.4%，用户访问量的激增导致ChatGPT发生了因云算力不足而宕机的情况。据OpenAI数据，1月ChatGPT重大停机（Major outage）时长为5小时30分钟，部分停机（Partial outage）16小时21分钟，运营算力不足已经开始影响ChatGPT的稳定性和响应速度。

■我们预测随着ChatGPT等新兴AI应用的落地，将会不断打开下游市场需求，而伴随算力的增长，也将带来对上游半导体芯片的需求量快速提升。

图表：ChatGPT月访问量（亿次）

图表：ChatGPT2023年1月停机情况

时间	状态	时长
2023.1.5	部分停机	2小时46分钟
2023.1.7	部分停机	1小时7分钟
2023.1.8	部分停机	1小时27分钟
2023.1.10	部分停机	1小时47分钟
2023.1.11	部分停机	2小时8分钟
2023.1.11	部分停机	1小时6分钟
2023.1.25	重大停机	4小时20分钟
2023.1.30	重大停机	13分钟
2023.1.31	重大停机	57分钟

■算力需求的快速增长与芯片计算能力的增长形成剪刀差。根据OpenAI数据，2012-2018年期间，人工智能训练任务中使用的算力正呈指数级增长，速度为每3.5个月翻一倍，人们对于算力的需求增长了超过300,000倍。相比之下，摩尔定律是每18个月翻倍，如果是以摩尔定律的速度，这期间只会有12倍的增长。因此，当前模型计算量的增长远超人工智能硬件算力的增长，模型算力需求增长与芯片计算性能增长之间的不匹配，剪刀差的扩大将带来对算力基础设施供给需求的不断增长。

图表：2012至2019年算力需求增长情况

图表：后摩尔时代对芯片算力要求

一、ChatGPT激起AI浪潮，多场景创新产业链空间广阔
二、芯片是ChatGPT底层土壤
2.1AI芯片有望率先受益，CPU+XPU异构形式成为主流
2.2国产芯片厂商加速布局
2.3AI算力需求，存储芯片受益
三、芯片需求增长拉动产业链机会
四、投资建议及风险提示

■机器学习主要包括训练（training）和推断（inference）两个步骤，通常需要不同类型的AI芯片来执行。训练是指通过大数据训练出一个复杂的神经网络模型，通过大量标记过的数据来训练相应的系统，使其能够适应特定的功能；推理是指利用训练好的模型，使用新数据推理出各种结论。

训练芯片：通过大量的数据输入，构建复杂的深度神经网络模型的一种AI芯片。需要较高的计算性能、能够处理海量的数据、具有一定的通用性，以便完成各种各样的学习任务，注重绝对的计算能力。

》推断芯片：推断芯片主要是指利用训练出来的模型加载数据，计算“推理”出各种结论的一种AI芯片，注重综合指标，侧重考虑单位能耗算力、时延、成本等性能。

图表：AI芯片代表企业
训练AI芯片代表企业
推理AI芯片代表企业

■ AI芯片是AI算力的核心，需求有望率先扩张。AI芯片是用于加速人工智能训练和推理任务的专用硬件，主要包括GPU、FPGA、ASIC等，具有高度并行性和能够实现低功耗高效计算的特点。

■随着AI应用的普及和算力需求的不断扩大，AI芯片需求有望率先扩张。根据IDC预测，中国AI算力规模将保持高速增长，预计到2026年将达1271.4EFLOPS，CAGRA（2022-2026年）达52.3%。在此背景下，IDC预测异构计算将成为主流趋势，未来18个月全球人工智能服务器GPU、ASIC和FPGA的搭载率均会上升，2025年人工智能芯片市场规模将达726亿美元。

图表：中国AI算力规模及预测

图表：全球AI芯片市场规模及预测

■深度学习的应用开发可分成云端与边缘侧两大部分。云端指的是数据中心或超级计算机，具有强大的计算能力，利用海量数据进行模型训练，也可以进行推理。边缘侧指的是数据中心外的设备，如自动驾驶汽车、机器人、智能手机、无人机或IoT设备，用训练好的模型进行推理。根据场景不同，形成了两种不同要求的AI芯片：

》云端芯片：具有最大的计算能力和最高的性能，主要对深度学习算法模型进行训练，有时也进行推断。目前云端主要以CPU+GPU异构计算为主，根据wind数据，在机器学习服务器和高性能服务器中，CPU+GPU的成本占比分别为83%与51%。

边缘端芯片：计算性能有限，主要使用从云端传来的训练好的模型和数据进行推断。在边缘侧或手机等端侧设备中，很少有独立的芯片，AI加速通常由 SoC上的一个IP实现。例如，苹果智能手机里最大的应用处理器（Application Processor，AP)芯片就是一块带有AI核的SoC，这类SoC的性能一般可以达到5～10 TOPS。

图表：各类型服务器成本构成

来源：赛迪顾问，Wind，《AI芯片前沿技术与创新未来》，中泰证券研究所

图表：云端与边缘端AI芯片规模

■云端训练和推断计算主要由AI服务器完成，底层算力芯片包括CPU、GPU、FPGA、ASIC等。

》 CPU是AI计算的基础，负责控制和协调所有的计算操作。在AI计算过程中，CPU用于读取和准备数据，并将数据来传输到GPU等协处理器进行计算，最后输出计算结果，是整个计算过程的控制核心。根据IDC数据，CPU在基础型、高性能型、推理型、训练型服务器中成本占比分别为32%、23.3%、25%、9.8%，是各类服务器处理计算任务的基础硬件。

V GPU、FPGA、ASIC是AI计算的核心，作为加速芯片处理大规模并行计算。具体来看，GPU通用性较强，适合大规模并行计算，且设计及制造工艺较成熟，目前占据AI芯片市场的主要份额；FPGA具有开发周期短、上市速度快、可配置性等特点，目前被大量应用于线上数据处理中心和军工单位；ASIC根据特定需求进行设计，在性能、能效、成本均极大的超越了标准芯片，非常适合AI计算场景，是当前大部分AI初创公司开发的目标产品。

图表：AI加速芯片特点及应用场景对比

技术架构种类	定制化程度	可编程性	算力	价格	优点	缺点	应用场景
GPU	通用型	不可编辑	中	高	设计和制造工艺成熟		高级复杂算法和通用性人工智能平台
FPGA	半定制化	容易编辑	高	中	可通过编程灵活配置芯片架构适应算法迭代，平均性能较高;功耗较低；开发时间较短(6个月)	量产单价高;峰值计算能力较低;硬件编程困难	适用于各种具体的行业
ASIC	全定制化	难以编辑	高	低	通过算法固化实现极致的性能和能效、平均性很强:功耗很低;体积小;量产后成本最低	前期投人成本高;研发时间长(1年)；当客户处在某个特殊场景,可以为其技术风险大	独立设计一套专业智能算法软件

1目前CPU+XPU异构形式成为AI服务器主流架构。传统的CPU单元对于AI计算任务的处理能力有限，而XPU（包括GPU、FPGA、ASIC等）则可以提供更强大的计算能力，因此将CPU和XPU结合起来使用可以实现计算任务的高效处理和资源的最优利用。一般来说，CPU负责整个系统的管理和控制，而加速芯片则负责AI计算任务的加速，两者相互协作，共同提升整个系统的性能。

1服务器计算架构从单核的串行走向多核的并行，又进一步从同构并行走向异构并行，未来或将从异构并行走向超异构并行。目前在AI服务器中，常见的异构组合有8x GPU+2x CPU、4x GPU+ 2x CPU、8xFPGA+1xCPU、4xFPGA+1xCPU。在异构计算的趋势下，AI加速芯片搭载率将持续增高。根据IDC全球范围调研显示，2022年每台AI服务器上普遍多配置2个GPU，未来18个月GPU、ASIC、FPGA的搭载率均会上升。根据IDC数据，2021H1全球AI服务器市场规模达66.6亿美元，同比增长率超过全球AI整体市场增长率22.4%。预计在2025年全球AI服务器市场规模将达到277亿美元，CAGR（2020-2025）为20.3%。

图表：AI服务器异构形式演进趋势

图表：AI芯片特点及具体参数对比

特点	CPU	GPU	FPGA	ASIC
基本架构	60%逻辑单元 40%计算单元	60%-70%计算单元 30%逻辑控制单元	门电路资源	固化的门电路资源
架构图	（时票失量）田	于天的SD
定制化程度	通用型	GPU 通用型	半定制化	定制化
延迟	高	较高	低（约为GPU的1/10)	低（约为GPU的1/10)
优势	复杂逻辑运算能力强, 擅长逻辑控制	擅长并行计算，浮点数据计算能力强，软硬件体系一致	可进行数据并行和流水线并行，可编程，灵活度高	AI运算效率高，功耗低，体积小
劣势	核数少，不擅长处理并行任务	面积大，功耗高，由于通用性要求难以专一面对某一模型深度优化	开发周期长, 复杂算法开发难度大	灵活性差，算法支持有限，算法迭代后需重新开发
AI训练效果	效果较差	唯一量产可用于训练的硬件	效率不高	可能是用于训练的最佳芯片，
应用场景	主要用于推断场景	在云端和边缘端均占据主导地位，云	主要用于推断场景	但目前没有量产产品主要应用于推断场景
具体芯片对比	E5-2699V3	端训练份额最高 Tesla K80	Virtex7-690T	Google TPU
计算单元个数（个)	18 (256bit)	7804 (32bit)	3600 (32bit)	65536 (8bit)
峰值运算能力 (TOPS)	1.33（单精度浮点)	8.74（单精度浮点）	1.8(单精度浮点)	92(8bit整点）
功耗（W)	145	300	30	40
能耗比(GFLOPS/W)	9	29	60	2300

CPU（Central ProcessingUnit）中央处理器：是计算机的运算和控制核心（Control Unit)，是信息处理、程序运行的最终执行单元，主要功能是完成计算机的数据运算以及系统控制功能。

■ CPU擅长逻辑控制，在深度学习中可用于推理/预测。在深度学习中,模型的训练和推理是两个不同的过程：

》在训练过程中，模型需要进行大量的矩阵运算，因此通常使用GPU等擅长并行计算的芯片进行处理；

》在推理过程中，需要对大量的已经训练好的模型进行实时的推理/预测操作，而这种操作通常需要高效的逻辑控制能力和低延迟的响应速度，这正是CPU所擅长的。

图表：CPU内部架构

图表：CPU工作原理概况

■AI服务器中CPU成本占比及市场规模测算：

根据IDC数据，CPU在推断型服务器中的成本占比为25%，在训练型服务器中的成本占比为9.8%。此外据IDC对于人工智能服务器推理和训练工作负载的预测，2021用于推断和训练的占比分别为40.9%和59.1%，2025年推断和训练的占比调整为60.8%和39.2%，我们测算出2021年和2025年CPU在AI服务器中的成本占比分别为16.02%和19.04%。

根据观研报告网数据，2021年全球AI服务器市场规模为156亿美元，预计于2025年增长至318亿美元。2021年中国AI服务器市场规模为350.3亿元，预计2025年将增长至701.8亿元。因此我们合理推算2021年，全球AI服务器CPU市场规模约为25亿美元，中国市场约为56亿元，到2025年全球AI服务器CPU市场规模约为61亿美元，中国市场规模为134亿元。

图表：全球服务器成本结构拆分

图表：AI服务器中CPU市场规模测算

	中国AI服务器市场规模 (亿元)	全球AI服务器市场规模 (亿美元)	中国AI服务器中 CPU市场规模（亿元）	全球AI服务器中 CPU市场规模 (亿美元)
2021年	350.3	156	56.11	24.99
2025年	701.8	318	133.63	60.55
复合增长率 (2021-2025)	19%	19%	24%	25%

GPU（GraphicsProcessingUnit）图形处理器：GPU最初是为了满足计算机游戏等图形处理需求而被开发出来的，但凭借高并行计算和大规模数据处理能力，逐渐开始用于通用计算。根据应用场景和处理任务的不同，GPU形成两条分支：

》传统GPU：用于图形图像处理，因此内置了一系列专用运算模块，如视频编解码加速引擎、2D加速引擎、图像渲染等。

GPGPU：通用计算图形处理器（general-purposeGPU）。为了更好地支持通用计算，GPGPU减弱了GPU图形显示部分的能力，将其余部分全部投入到通用计算中，同时增加了专用向量、张量、矩阵运算指令，提升了浮点运算的精度和性能，以实现人工智能、专业计算等加速应用。

图表：GPU技术演变历程

时间	类型	相关标准	代表产品	基本特征	意义
20世纪80年代	图形显示（传统GPU）	CGA,VGA	IBM 5150	光栅生成器	最早图形显示控制器
20世纪80年代末	2D加速	GDI,DirectFB	S386C911	2D图元加速	开启2D图形硬件加速时
20世纪90年代初	部分3D加速	OpenGL	3DLabs Glint300SX	硬件T&L	第一颗用于PC的3D图形加速芯片
20世纪90年代后期	固定管线	(1.1~4.1), DirectX	NVIDIA GeForce256	shader功能固定	首次提出GPU概念
2004~2010	统一渲染	(6.0~11)	NVIDIA G80	多功能 shader	CUDA与G80一同发布
2011~至今	通用计算 (GPGPU)	CUDA,Open CL1.2~2.0	NVIDIA TESLA	完成与图形处理无关的科学计算	NVIDIA正式将用于计算的GPU产品线独立出采

GPU在AI模型构建中具有较高的适配性。GPU的高并行性可以更好地支持AI模型训练和推理过程中大量的矩阵或向量计算，以NVIDIAGPU系列旗舰产品A100为例：根据NVIDIA公布的规格参数，A100的深度学习运算性能可达312Tflops。在AI训练过程中，2048个A100 GPU可在一分钟内成规模地处理BERT的训练工作负载；在AI推理过程中，A100可将推理吞吐量提升到高达CPU的249倍。

■ AI模型与应用的加速发展推动GPU芯片放量增长。根据VerifiedMarket Research数据，2021年全球GPU市场规模为334.7亿美元，预计2030年将达到4773.7亿美元，CAGR（2021-2030）为34.35%。从国内市场来看，2020年中国大陆的独立GPU市场规模为47.39亿元，预计2027年市场规模将达345.57亿美元，CAGR（2021-2027）为32.8%。

图表：NVIDIAA100GPU在AI训练和推理工作中的加速能力

来源：NVIDIA官网，Verified Market Research,中泰证券研究所

图表：全球GPU市场规模及增速

■预测“文心一言”等LLM模型的推出将给国内GPU市场带来28.51亿美元的增量。据百度官方数据，“文心一言”基于文心大模型，参数规模为100亿，计划3月份面向公众开放，并将与搜索引擎业务整合。

》我们假设短期国内将出现5家与百度“文心一言”相似的企业，模型参数量与训练算力需求成比例。根据OpenAI公布的GPT-3系列参数量及训练算力需求数据，可推算出文心大模型的单次训练算力需求为208.48PFlop/s-day。据Similarweb数据，2023年1月百度搜索引擎的访问量为4.9亿次，假设“文心一言”将整合到百度搜索引擎中，单日运营算力需求为125.08PFlop/s-day。

根据NVIDIA数据，A100的FP64 Tens0rCore算力为19.5 TFlops，单价为1万美元。根据经验假设日常算力利用率为30%，则短期LLM模型将给国内GPU市场带来28.51亿美元的增量。长期LLM模型有望与搜索引擎结合，为GPU带来447.51亿美元的增量空间。假设未来ChatGPT将与搜索引擎结合，日活跃用户数量参考Google。根据Similarweb数据，2023年1月Go0gle访问量为883亿。假设其他数据与测算方式不变，则ChatGPT与搜索引擎结合能够给GPU市场带来447.51亿美元的增量空间。

图表：短期国内GPU增量测算

增量动因	测算模型依据	参数量（亿)	单月访问量（亿次）	企业数
国内LLM模型的推出	ERNIE-ViLG	100	以百度浏览量代替： 4.9	5
训练算力 (PFlop/s-day)	单日运营算力 (PFlop/s-day)	单日运营+训练总算力	所需A100芯片（颗）	GPU增量（亿美元）
208.48	125.08	333.55	285088	28.51

图表：长期全球GPU增量测算

增量动因	测算模型依据	参数量（亿）	单月访问量（亿次）	企业数
LLM有望与搜索引擎结合	ChatGPT	1746	以谷歌浏览量代替：假设谷歌仅采用1 883	家企业的LLM
训练算力	单日运营算力	单日运营+训	所需A100芯片	GPU增量
(PFlop/s-day)	(PFlop/s-day)	练总算力	（颗）	（亿美元）
3640.00	22539.34	26179.34	4475102	447.51

1FPGA（Field Programmable Gate Array）现场可编程门阵列：FPGA最大的特点在于其现场可编程的特性，无论是CPU、GPU还是ASIC，在芯片制造完成后功能会被固定，用户无法对硬件功能做出更改，而FPGA在制造完成后仍可使用配套软件对芯片进行功能配置，将芯片上空白的模块转化为自身所需的具备特定功能的模块。

可编程性、高并行性、低延迟、低功耗等特点，使得FPGA在AI推断领域潜力巨大。FPGA可以在运行时根据需要进行动态配置和优化功耗，同时拥有流水线并行和数据并行能力，既可以使用数据并行来处理大量数据，也能够凭借流水线并行来提高计算的吞吐量和降低延迟。根据与非网数据，FPGA（Stratix10）在计算密集型任务的吞吐量约为CPU的10倍，延迟与功耗均为GPU的1/10。

》云端推断：在面对推断环节的小批量数据处理时，GPU的并行计算优势不明显，FPGA可以凭借流水线并行，达到高并行+低延迟的效果。根据IDC数据，2020年中国云端推理芯片占比已超过50%，预计2025年将达到60.8%，云端推断市场广阔。

》边缘推断：受延迟、隐私和带宽限制的驱动，FPGA逐渐被布署于IoT设备当中，以满足低功耗+灵活推理+快速响应的需求。

图表：密集计算任务场景下各芯片表现参数对比

图表：密集计算任务场景下各芯片表现参数对比

体系结构	吞吐量	延迟	功耗	灵活性
CPU	~1T	N/A	~100W	很高
GPU	~10T	~1ms	~300W	高
FPGA(Stratix V)	~1T	~1us	~30W	高
FPGA(Stratix10)	~10T	~1us	~30W	高
ASIC	~10T	~1us	~30W	低

FPGA是AI时代下解决暗硅效应的有效途径。暗硅效应（Dark Silicon）指由于芯片工艺和尺寸的限制，芯片上只有一小部分区域可以同时运行，其余的区域被闲置或关闭，这些闲置或关闭的区域被称为“暗硅”。在AI计算领域，由于摩尔定律的限制和散热问题，先进高效的硬件设计会更容易导致暗硅效应，限制了芯片的计算能力和应用范围。据相关论文，在22nm制程下，暗硅面积将达21%。在8nm制程下，暗硅面积将提升至50%以上。由于暗硅效应，预计到2024年平均只能实现7.9倍的加速比，与每代性能翻倍的目标相比差距将近24倍。

FPGA的可编程性和可重构性使其能够灵活地部署和优化计算任务，从而在一定程度上缓解了暗硅效应的影响。简单来说，FPGA减少暗硅效应的方法有两个方向，一是通过优化电路结构，尽可能减少不活跃区域的数量；二是通过动态重构电路，使得不活跃区域可以被重用。

图表：暗硅效应的产生原因

图表：暗硅面积的增长趋势及对芯片性能的影响

中泰证券研究所专业|领先|深度|诚信

■ASIC（Application Specific Integrated Circuit）专用集成电路：是一种为专门应特定用户要求和特定电子系统的需要而设计、制造的集成电路。ASIC具有较高的能效比和算力水平，但通用性和灵活性较差。

能效方面：由于ASIC是为特定应用程序设计的，其电路可以被高度优化，以最大程度地减少功耗。根据BobBroderson数据，FPGA的能效比集中在1-10MOPS/mW之间。ASIC的能效比处于专用硬件水平，超过100MOPS/mW，是FPGA的10倍以上。

》算力方面：由于ASIC芯片的设计目标非常明确，专门为特定的应用场景进行优化，因此其性能通常比通用芯片更高。根据头豹研究院数据，按照CPU、GPU、FPGA、ASIC顺序，芯片算力水平逐渐增加，其中ASIC算力水平最高，在1万-1000万Mhash/s之间。

■随着技术、算法的普及，ASIC将更具备竞争优势。ASIC在研发制作方面一次性成本较高，但量产后平均成本低，具有批量生产的成本优势。目前人工智能属于大爆发时期，大量的算法不断涌出，远没有到算法平稳期，ASIC专用芯片如何做到适应各种算法是当前最大的问题。但随着技术、算法的普及，ASIC将更加具备竞争优势。

图表：芯片方案性能比较

来源：头豹研究院，BobBroderson，中泰证券研究所

图表：FPGA方案及ASIC方案成本比较

■ ASIC主要应用在推断场景，在终端推断市场份额最大，在云端推断市场增速较快。

训练：AI模型在训练过程中需要对模型参数进行不断调整，ASIC由于专用性强、灵活性低，因此不适用于云端训练。根据赛迪顾问数据，2019年GPU、FPGA、ASIC在云端训练市场占比分别为63.9%、22.6%、13.5%，云端训练仍以GPU为主。

推断：与训练场景不同，推断场景模型参数较为固化，ASIC在推断市场场景中的应用前景较为广阔。在早期，ASIC的下游应用场景主要为各领域智慧终端设备，因此在终端推断市场规模较大。目前，随着云端算力需求的不断增加，ASIC凭借出色的算力水平开始在云端推断领域快速渗透。根据赛迪顾问数据，2019年ASIC在终端推断的市场份额为41%，远超GPU与FPGA。2019-2021年在云端推断的市场年均增速均保持在60%以上，高于CPU与FPGA。

图表：中国云端训练芯片市场（左）/云端推断市场（中）/终端推断市场（右）产品规模及增速

1全球服务器CPU市场目前被Intel和AMD所垄断，国产CPU 在性能方面与国际领先水平仍有差距。根据Counterpoint数据，在2022年全球数据中心CPU市场中，Intel以70.77%的市场份额排名第一，AMD以19.84%的份额紧随其后，剩余厂商仅占据9.39%的市场份额，整体上处于垄断局面；目前国内CPU厂商主有海光、海思、飞腾、龙芯、申威等。通过产品对比发现，目前国产服务器CPU性能已接近Intel中端产品水平，但整体上国内CPU厂商仍在工艺制程、运算速度（主频）、多任务处理（核心与线程数）方面落后于国际先进水平。

图表：国内外AI芯片产品对比（3）—服务器CPU

厂商	产品型号	发布时间	核心数	主频	工艺制程	内存类型	内存通道数	最高内存频率	超线程	产品定位
AMD	EPYC 7542	2019Q3	32	2.9GHz	7nm	DDR4	8	3200MHz	64	服务器
Intel	至强Gold 6354	2021Q2	18	3.0GHz	10nm	DDR4	8	3200 MHz	36	服务器
海光	海光7285	2020Q1	32	2.0GHz	14nm	DDR4	8	2666MHz	不支持	服务器
海思	鲲鹏920-7260	2019Q1	64	2.6GHz	7mm	DDR4	8	2933MHz	不支持	服务器
飞腾	S2500	2020Q3	64	2.2GHz	16nm	DDR4	8	3200MHz	不支持	服务器
龙芯	3C5000	2022Q2	16	2.2GHz	12nm	DDR4	4	3200MHz	不支持	服务器
申威	申威1621	2018	16	2.0GHz	28nm	DDR3	8	2133MHz	不支持	服务器

■全球GPU芯片市场主要由海外厂商占据垄断地位，国产厂商加速布局。全球GPU市场被英伟达、英特尔和AMD三强垄断，英伟达凭借其自身CUDA生态在AI及高性能计算占据绝对主导地位；国内市场中，景嘉微在图形渲染GPU领域持续深耕，另外天数智芯、壁仞科技、登临科技等一批主打AI及高性能计算的GPGPU初创企业正加速涌入。

1图形渲染GPU：目前国内厂商在图形渲染GPU方面与国外龙头厂商差距不断缩小。芯动科技的“风华2号”GPU采用5nm工艺制程，与Nvidia最新一代产品RTX40系列持平，实现国产图形渲染GPU破局。景嘉微在工艺制程、核心频率、浮点性能等方面虽落后于Nvidia同代产品，但差距正逐渐缩小。

图表：国内外AI芯片产品对比（1）—图形渲染GPU

产品类型

厂商

产品型号

发布年份

制作工艺

显存类型

显存位宽

显存容量

显存带宽

核心频率

像素填充速率浮点性能 (FP32)

总线接口

图形渲染 GPU

Nvidia

RTX4090

2022

5nm

GDDR6X

384bit

24GB

2230MHz

PCIe 4.0 x 16

GTX1050

2016

14nm

GDDR5

128bit

2GB

112GB/s

1354MHz

43.3G Pixel/s

1.8TFLops

PCIe 3.0 x 16

芯动科技

风华1号

2021

12nm

GDDR6X

128bit

16GB

304GB/s

160G Pixels/s

5TFLops

PCIe 4.0 x 8

风华2号

2022

5nm

LPDDR5X

8GB

102.4GB/s

48G Pixels/s

1.5TFLops

PCle 3.0 x 8

景嘉微

JM7200

2018

28nm

DDR3

64bit

4GB

17GB/s

1300MHz

5.2G Pixels/s

0.5TFLops

PCIe2.0 x16

JM9231

2021

14nm

8GB

256GB/s

1500MHz

32G Pixels/s

2TFLops

PCIe 3.0 x 16

1在GPGPU方面，目前国内厂商与Nvidia在GPGPU上仍存在较大差距。制程方面，目前Nvidia已率先到达4nm，国内厂商多集中在7nm；算力方面，国内厂商大多不支持双精度（FP64）计算，在单精度（FP32）及定点计算（INT8）方面与国外中端产品持平，天数智芯、壁仞科技的AI芯片产品在单精度性能上超过NVIDIAA100；接口方面，壁仞科技与Nvidia率先使用PCle5.0，其余厂商多集中在PCle4.0；生态方面，国内企业多采用OpenCL进行自主生态建设，与NvidiaCUDA的成熟生态相比，差距较为明显。

图表：国内外AI芯片产品对比（2）- -GPGPU

产品类型

厂商

产品型号

发布时间

工艺制程

浮点算力-Tflops INT8定点算力

互联带宽 (TOPS)

显存

接口

功耗

生态

FP64 FP32 BF16

GPGPU

NVIDIA

H100 SXM5

2022

4nm Hopper

500 1000

2000

900GB/s

80GB

SXM5

700W

CUDA

H100 PCle

2022

4nm Hopper

800 1600

900GB/s

80GB

PCle5.0

350W

CUDA

A100 PCle

2020

7nm Ampere

9.7

19.5 312

624

600GB/s

80GB

PCle4.0

400W

CUDA

Tesla V100

2017

12nm Volta

7.8 15.7

125

150GB/s

32GB

PCle4.0

300W

CUDA

Instinct MI250X

2021

6nm CNDA 2

47.9

47.9 383

383

128GB

PCle 4.0

560W

AMD ROCm

AMD

Instinct M1250

2021

6nm CNDA 2

47.9

45.3 362

362

128GB

PCle 4.0

560W

AMD ROCm

Instinct MI100

2020

7nm CNDA 1

11.5

23.1 92.3

184.6

32GB

PCle 4.0

350W

AMD ROCm

天数智芯

天垓100

2021

7mm

37 147

295

64GB/s

32GB

PCIe 4.0

250W

SIMT

壁仞科技

壁砺100P

2022

7mm

240 960

1920

448 GB/s

64GB

PCIe 5.0

550W

BIRENSUPA

壁砺104P

2022

7nm

112 ×

448

896

192GB/s

32GB

PCIe5.0

300W

BIRENSUPA

登临科技

Goldwasser-L

2020

12nm

× ×

512

64GB

PCle 3.0

120W

■ FPGA全球市场呈现“两大两小”格局，Altera与Xilinx市占率共计超80%，Lattice和Microsemi市占率共计超10%；整体来看，安路科技、紫光同创等厂商处于国际中端水平，仍需进一步突破。工艺制程方面，当前国产厂商先进制程集中在28nm，落后于国际16nm水平；在等效LUT数量上，国产厂商旗舰产品处于200K水平，仅为XILINX高端产品的25%左右。

1 ASIC不同于CPU、GPU、FPGA，目前全球ASIC市场并未形成明显的头部厂商，国产厂商快速发展；通过产品对比发现，目前国产厂商集中采用7nm工艺制程，与国外ASIC厂商相同；算力方面，海思的昇腾910在BF16浮点算力和INT8定点算力方面超越Googel最新一代产品TPUv4，遂原科技和寒武纪的产品在整体性能上也与Googel比肩。未来国产厂商有望在ASIC领域继续保持技术优势，突破国外厂商在AI芯片的垄断格局。

图表：国内外AI芯片产品对比（4）- -FPGA/ASIC

产品类型

厂商

产品型号

发布时间

工艺制程

浮点算力（Tflops） FP32 BF16

INT8定点算力 (TOPS)

互联带宽

显存

接口

功耗

生态

FP64

ASIC

Googel

TPUv4i TPUv4

2020

7mm

138

400GB/s

8GB

TensorFlow XLA

昇腾910

2021

7mm

275

1000GB/s

32GB

TensorFlow XLA

海思

2018

7mm

320

640

PCle 4.0

350W

MindSpore

隧原科技

T20(32GB)

2021

12mm

128

256

300 GB/s

32GB

PCIe 4.0

300W

寒武纪

MLU370-X4 MLU370-S4

2021 2021

7mm 7nm

× ×

24 18

96 72

256 192

200GB/s 200GB/s

24GB 24GB

PCIe 4.0 PCIe 4.0

150W 75W

Cambricon Neuware Cambricon Neuware

产品类型	厂商名称	产品型号	工艺制程	系统逻辑单元	等效LUT数量	分布式RAM	DSP数量	User IO
FPGA	XILINX	Artix UltraScale+ AU25P	16nm	308K	141K	4.7Mb	1200	304
		Kintex UltraScale+ XCKU19P	16nm	1843K	842K	11.6Mb	1080	540
		PG2L200H	28nm		239.7K	2.528Mb		500
		PG2T160H		160K		2.188Mb		400
		PH1A180SFG676	28nm		210.24K	3.277MB	600	396
	安路科技	EF3LA0CG642	55mm		11.776K	94K		475

■公司主要从事处理器（CPU）及配套芯片的研制、销售及服务。主要产品包括龙芯1号、龙芯2号、龙芯3号三大系列处理器芯片及桥片等配套芯片，系列产品在电子政务、能源、交通、金融、电信、教育等行业领域已获得广泛运用。

1坚持自主研发指令系统、IP核等核心技术。龙芯中科掌握指令系统、处理器核微结构、GPU以及各种接口IP等芯片核心技术，在关键技术上进行自主研发，拥有大量的自主知识产权，已取得专利400余项。

1 GPU产品进展顺利，正研制新一代图形及计算加速GPGPU核。公司在2022年上半年完成了第一代龙芯图形处理器架构LG100系列，目前正在启动第二代龙芯图形处理器架构LG200系列图形处理器核的研制。根据公司在2022年半年度业绩交流会信息，第一代GPU核(LG100)已经集成在7A2000中，新一代GPGPU核(LG200)的研制也取得了积极进展。

图表：高性能通用图形处理器芯片及系统研发项目情况及进程安排

项目	建设内容	Q1	2022年 Q2Q3	Q4 Q1	Q2	2023年 Q3	Q4	Q1	Q2	2024年 Q3 Q4
场地装修改造	通过对现有场地进行装修，为项目研发提供场地支持，优化现有研发环境
软硬件设备购置	购置研发软硬件设备，以进一步优化现有研发环境，为公司技术的创新提供支持
研发人员招募	招募掌握行业最新技术的研发人员，完善研发队伍建设，提升研发软实力。
芯片研发	重点进行高性能通用图形处理器芯片的研发，并研究其在AI领域的应用，与公司的 CPU产品形成协同效应，共同构建更有竞争力的信息化基础设施核心平台

■公司主营产品包括海光通用处理器（CPU）和海光协处理器（DCU）。

》　海光CPU 主要面向复杂逻辑计算、多任务调度等通用处理器应用场景需求，兼容国际主流 x86处理器架构和技术路线。从应用场景看，海光CPU分为7000、5000、3000三个系列，分别定位于高端服务器、中低端服务器和边缘计算服务器。

》海光DCU是公司基于GPGPU架构设计的一款协处理器，目前以8000系列为主，面向服务器集群或数据中心。海光DCU全面兼容ROCmGPU计算生态，能够较好地适配国际主流商业计算软件，解决了产品推广过程中的软件生态兼容性问题。

CPU与DPU持续迭代，性能比肩国际主流厂商。CPU方面，目前海光一号和海光二号已经实现量产，海光三号已经正式发布，海光四号目前进入研发阶段。海光CPU的性能在国内处于领先地位，但与国际厂商在高端产品性能上有所差距，接近Intel中端产品水平；DCU方面，深算一号已实现商业化应用，深算二号已于2020年1月启动研发。在典型应用场景下，公司深算一号指标达到国际上同类型高端产品的水平。

图表：海光CPU与Intel产品性能对比

产品名称	Intel8380HL	Intel8380H	Intel8376HL	海光7285	Intel8360HL	Intel8360H
4路测试结果	Speccpu INT	784	784	765		690	688
4路测试结果	Speccpu FP	657	653	641		599	597
双路测试结果	Speccpu INT	392	392	383	348	345	344
双路测试结果	Speccpu FP	329	327	321	308	300	299
性能差异 (Intel数据/海光数据-1)	Speccpu INT	12.64%	12.64%	9.91%		-0.86%	-1.15%
性能差异 (Intel数据/海光数据-1)	Speccpu FP	6.66%	6.01%	4.06%		-2.76%	-3.08%

图表：深算一号与国际同类型产品性能对比

项目	海光	NVIDIA	AMD
产品	深算一号	Ampere 100	MI100
生产工艺	7nm FinFET	7nm FinFET	7nm FinFET
核心数量	4096 (64 CUs)	2560 CUDA processors 640 Tensor processors	120CUs
内核频率	Up to 1.5GHz (FP64) Up to 1.7Ghz (FP32)	Up to 1.53Ghz	Up to 1.5GHz （FP64) Up to 1.7Ghz (FP32)
显存容量	32GB HBM2	80GB HBM2e	32GB HBM2
显存频率	2.0 GHz	3.2 GHz	2.4 GHz
TDP	350W	400W	300W
CPU to GPU 互联	PCle Gen4 x 16	PCle Gen4 x 16	PCle GEN4 x 16
GPU to GPU 互联	xGMI x 2, Up to 184 GB/s	NVLink up to 600 GB/s	Infinity Fabric x3，up to 276 GB/s

■公司主要从事高可靠电子产品的研发、生产和销售，产品主要涉及图形显控领域、小型专用化雷达领域、芯片领域等。图形显控是公司现有核心业务，也是传统优势业务，小型专用化雷达和芯片是公司未来大力发展的业务方向。

■GPU研发进程平稳推进，新产品可满足AI计算需求。

》公司以 JM5400 研发成功为起点，不断研发更为先进且适用更为广泛的GPU 芯片。2014年公司推出JM5400，核心频率550MHz；2018年推出JM7200系列，核心频率1300MHz；2021年推出JM9系列，核心频率1.5GHz。

根据公司2022年中期报告，公司JM9系列第二款图形处理芯片于2022年5月成功研发，可以满足地理信息系统、媒体处理、CAD 辅助设计、游戏、虚拟化等高性能显示需求和人工智能计算需求，可广泛应用于用于台式机、笔记本、一体机、服务器、工控机、自助终端等设备。

图表：景嘉微与NvidiaGPU性能对比

厂商	型号	发布年份	制作工艺	显存类型	显存位宽	显存容量	显存带宽	核心频率	像素填充速率	浮点性能	总线接口
景嘉微	JM5400	2015	65nm	DDR3	128bit	1GB	9.6GB/s				PCI
	JM7200	2018	28nm	DDR3	64bit	4GB	17GB/s	1300MHz	5.2G Pixels/s	0.5TFLops	PCIE2.0 x16
	JM9231	2021	14nm	1	1	8GB	256GB/s	1500MHz	32G Pixels/s	2TFLops	PCIE 3.0X16
Nvidia	GT640	2012	28nm	DDR3	128bit	2GB	80GB/s	950MHz	7.22G Pixels/s	0.69TFLops	PCIE 3.0
	GTX1050	2016	14nm	GDDR5	128bit	2GB	112GB/s	1354MHz	43.3G Pixel/s	1.8TFLops	PCIE 3.0
	GTX1080	2016	16nm	GDDR5	256bit 8/	8GB	320GB/s	1607MHz	102.8Pixels/s	8.9TFLops	PCIE 3.0X16

1寒武纪是AI芯片领域的独角兽。公司成立于2016年3月15日，专注于人工智能芯片产品的研发与技术创新，产品广泛应用于消费电子、数据中心、云计算等诸多场景。公司是AI芯片领域的独角兽：采用公司终端智能处理器IP的终端设备已出货过亿台；云端智能芯片及加速卡也已应用到国内主流服务器厂商的产品中，并已实现量产出货；边缘智能芯片及加速卡的发布标志着公司已形成全面覆盖云端、边缘端和终端场景的系列化智能芯片产品布局。

1人工智能的各类应用场景，从云端溢出到边缘端，或下沉到终端，都离不开智能芯片的高效支撑。公司面向云端、边缘端、终端推出了三个系列不同品类的通用型智能芯片与处理器产品，分别为终端智能处理器IP、云端智能芯片及加速卡、边缘智能芯片及加速卡。

图表：公司主要产品情况

应用场景	芯片需求	典型计算能力	典型功耗	典型应用领域
终端	低功耗、高能效、推理任务为主、成本敏感、硬件产品形态众多	<8TOPS	<5瓦	各类消费类电子、物联网产品等
云端	高性能、高计算密度、兼有推理和训练任务、单价高、硬件产品形态少	>30TOPS	>50瓦	云计算数据中心、企业私有云等
边缘端	对功耗、性能、尺寸的要求常介于终端与云端之间、推理任务为主、多用于插电设备、硬件产品形态相对较少	5TOPS 至 30TOPS	4瓦至15 瓦	智能制造、智能家居、智能零售、智慧交通、智慧金融、智慧医疗、智能驾驶等众多应用领域

图表：AI芯片市场竞争格局情况

ChatGPT激起AI浪潮，多场景创新产业链空间广阔
二、芯片是ChatGPT底层土壤
2.1AI芯片有望率先受益，CPU+XPU异构形式成为主流
2.2国产芯片厂商加速布局
2.3AI算力需求，存储芯片受益
三、芯片需求增长拉动产业链机会
四、投资建议及风险提示

■ ChatGPT带动AI服务器需求，存储芯片受益。

》ChatGPT的数据获取、数据整理、训练、推理除大算力芯片外，还需存储芯片支持。

服务器成本构成：服务器成本包括算力芯片、存储器等，根据IDC2018年服务器成本构成，在高性能服务器/推理型服务器/机器学习型服务器中存储占比29%/25%/16%。AI服务器，除了内存需要128GB或更大容量的高性能HBM和高容量服务器DRAM,还需硬盘去存储大量数据。

存储下游市场：智能手机+服务器+PC是主要下游。智能手机端出货量增速有限，单机容量提升是主要推动力；服务器端，受益人工智能、物联网和云计算等应用兴起，服务器出货量及单机容量提升推动增长。

图表：服务器成本构成

图表：DRAM下游应用构成（按需求量）

图表：NAND下游应用构成（按需求量）

AI大算力需要的内存：大容量服务器DRAM和高带宽内存HBM。

按照应用场景，DRAM分成标准DDR、LPDDR、GDDR三类。JEDEC定义并开发了以下三类SDRAM标准，以帮助设计人员满足其目标应用的功率、性能和尺寸要求。

1）标准型DDR：针对服务器、云计算、网络、笔记本电脑、台式机和消费类应用程序，与CPU配套使用

2）LPDDR: Low Power DDR，针对尺寸和功率非常敏感的移动和汽车领域，有低功耗的特点。

3）GDDR:Graphics DDR，针对高带宽(例如显卡和AI)的两种不同的存储器架构是GDDR 和HBM。

注：根据DRAMexchange数据，目前DDR44GB\DDR4 8Gb 512M*16属于利基型DRAM

GDDRDRAM是专为GPU和加速器设计的，HBM是GDDR的替代品，也适用于GPU与加速器，与主芯片配套，可以提高机器学习和计算性能，如英伟达“A100"就最高配备了80GBHBM2内存。

■ HBM（HighBandwidthMemory）是将多个DDR芯片3D堆叠在一起后和主芯片封装在一起，有高带宽、低功耗等特点。

1）HBM与主芯片合封在一起：DRAM颗粒和和GPU/CPU合封，缩短了DRAM和主芯片之间的通信距离，同时跨越封装对芯片引脚数目的限制，几十倍提高传输线数量，降低传输损耗，提高传输带宽。

》2）HBM采用3D堆叠技术，中间层连接内存与主芯片：不同于DRAM颗粒与算力芯片平铺，HBM将DRAM颗粒堆叠在一起，一方面增加了DRAM容量，另一方面直接增加带宽，DRAM颗粒通过“硅透”(TSV)的微型导线相互连接，主芯片和DRAM通过中间层连通，HBM具备的特性几乎和芯片集成的RAM一样，具有更高速、更高带宽的特点

图表：HBM的立体结构
图表：HBM与GDDR5的比较

DRAM全球三大家垄断，HBM市场由三星、海力士主导，目前已迭代至HBM3

》 2021年全球DRAM市场三星、海力士、美光三巨头合计市占率高达94%。HBM市场，以SK海力士、三星为主，SK海力士HBM技术起步早，占据较大市场。

V SK海力士：AMD意识到DDR的局限性并产生开发堆叠内存的想法，与SK海力士联手研发HBM；2013年，SK海力士将TSV技术应用于DRAM，在业界首次成功研发出HBM；2015年，AMD在Fury系列显卡上首次商用第一代HBM技术。2018年发布HBM2，2021年发布全球首款HBM3，目前在研HBM4

》三星：三星从HBM2开始布局，2016年量产HBM2，2021年2月，三星电子推出了HBM-PIM（存算一体），将内存半导体和AI处理器合二为一，2022年HBM3已量产。

图表：全球DRAM竞争格局（2021年）

图表：HBM产品演进

品牌	代号	标准	速率	带宽	堆叠
三星	Flarebolt	HBM2	2.0Gbps	256GB/s
三星	Aquabolt	HBM2	2.4Gbps	307.2GB/s
三星	Flashbolt	HBM2E	3.6Gbps	460GB/s	8层*16Gb
三星	Icebolt	HBM3	6.4Gbps	819GB/s	12层*16Gb
SK Hynix		HBM2E	3.2-3.6Gbps	410-460GB/s	4/8*16Gb
SK Hynix		HBM3	6.4Gbps	819GB/s	8/12*16Gb

■AI助力企业级SSD市场扩容

SSD为固态硬盘，由NAND颗粒、主控芯片等构成，其中NAND颗粒占成本的70%。SSD按照用途分为消费级、企业级及其他行业级产品。近年来随着云计算、大数据发展，互联网服务加速普及，企业加快数字化转型，数据呈现井喷状态，企业级SSD市场需求与规模不断攀升。

IDC 数据显示，企业级 SSD全球出货量将从2020年的约4750万块增长到 2021年的5264 万块左右，年均增长率为10.7%，预计到 2025年，将增加到7436万块左右。

图表：企业级SSD与消费级SSD对比

		企业级SSD	消费级SSD
使用对象及功能		多用于IT、动画设计等行业，在满足使用要求的同时能够保障数据安全性、速度稳定性和长期耐用性	个人电脑使用，能够实现高速流畅操作
关注点		注重随机性能、延迟、IOQoS的保证以及稳定性，要求可靠性、长时间运作、高MTBF	注重顺序性能、功耗、价格等因素
性能	颗粒材质	稳定系数较高的颗粒材质	对材质要求相对较低
	性能稳定性	读写低延迟，要求SSD读写速度以及快速响应等	初始读写性能较高，随着使用时间的增加而逐步降速
	延迟	以最少的延迟量访问存储设备，要求极低延迟	对于用户而言，可接受的延迟相对较长
可靠性	数据完整性	在各种恶劣环境都不能出现数据丢失	只保护FTL数据，但不需要保护DRAM缓存中其他用户数据
可靠性	断电保护配置	配备专用电容，突然断电时，SSD控制器将从专用电容中获取电能	只能做到基础断电保护
耐久性	负载周期	24小时不间断访问，24x7负载周期	约8小时充分利用，80%左右的时间处于空闲状态
耐久性	额定MTBF	大约200万-250万小时	大约150万小时

图表：全球企业级SDD出货量(出货量，千块)

■企业级SSD海外垄断，大陆厂商主要布局模组和主控芯片

全球竞争格局：22Q1，全球前五大企业级SSD品牌厂商分别是三星电子、SK海力士（含Solidigm）、美光科技、铠侠与西部数据，合计全部份额。

大陆厂商布局：长江存储是大陆少有的NANDFlash原厂，除了向企业级SSD厂商供货闪存颗粒，近期也推出了企业级PCIe 4.0 SSD产品，其余厂商则主要集中在主控芯片软硬件设计（包含主控芯片、固件）以及成品模组领域。

图表：22Q1全球企业级SSD竞争格局

图表：大陆布局

类型	闪存	主控芯片	SSD成品	代表企业
组合：原厂+成品	√		√	长江存储
组合：主控+成品		√	√	大普威、得瑞领新、亿联、华澜微、江苏华存电子等
专业领域：主控芯片		√		联芸科技、得一微、国科微、忆芯科技、英韧科技等
专业领域：成品			√	忆恒创源、宝存科技等

■当前AI芯片呈现几大趋势：

》 1）制程越来越先进。从2017年英伟达发布Tesla V100 AI芯片的12nm制程开始，业界一直在推进先进制程在AI芯片上的应用。英伟达、英特尔、AMD一路将AI芯片制程从16nm推进至4/5nm。

》2）Chiplet封装初露头角。2022年英伟达发布H100AI芯片，其芯片主体为单芯片架构，但其GPU与HBM3存储芯片的连接，采用Chiplet封装。在此之前，英伟达凭借NVlink-C2C实现内部芯片之间的高速连接，且Nvlink芯片的连接标准可与Chiplet业界的统一标准Ucle共通。而AMD2023年发布的Instinct MI300是业界首次在AI芯片上采用更底层的Chiplet架构，实现CPU和GPU这类核心之间的连接。

》3）2020年以来头部厂商加速在AI芯片的布局。AI芯片先行者是英伟达，其在2017年即发布Tesla V100芯片，此后2020以来英特尔、AMD纷纷跟进发布AI芯片，并在2022、2023年接连发布新款AI芯片，发布节奏明显加快。

图表：当前主要AI运算芯片

年份	厂商	芯片	制程	Chiplet相关技术
2017	英伟达	Tesla V100	12nm	SoC
2020	英伟达	A100	7nm	SoC
2020	英特尔	Habana Gaudi	16nm	SoC
2020	AMD	Instinct MI100	7nm	SoC
2022	英特尔	Habana Gaudi2	7nm	SoC
2022	英伟达	H100	4nm	GPU与HBM3的封装采用Chiplet
2023	AMD	Instinct MI300	5nm	用Chiplet连接CPU和GPU

AI产业机会-封测：Chiplet是AI芯片大势所趋

■据相关论文，芯片成本变化有以下规律：

》封装形式越复杂，封装成本、封装缺陷成本占芯片成本比重越大：具体来说，SoC

》芯片面积越大，芯片缺陷成本、封装缺陷成本占比越大；

》制程先进，芯片缺陷成本占比越高，而Chiplet封装能有效降低芯片缺陷率，最终达到总成本低于SoC成本的效果。

图表：不同制程/芯片面积下SoC（单芯片）与Chiplet（MCM/InFO/2.5D）封装之间的成本比较

■制程越先进、芯片组面积越大、小芯片（Chips）数量越多，Chiplet封装较SoC单芯片封装，成本上越有优势：

》Chiplet主要封装形式有MCM/InFO/2.5D这三种。

14nm制程下，当芯片面积超过700mm²时，Chiplet封装中的MCM成本开始较SoC低，当面积达900mm²时，MCM较SoC成本低近10%（2颗chips）、或低20%（3颗chips）、或低25%（5颗chips）；

7nm制程下，芯片面积超过400mm²时，MCM成本开始低于SoC，面积超过600mm²时，InFO成本开始低于SoC，当面积达
900mm2时，5颗chips情况下，MCM较SoC成本低40%、InFO较SoC成本低20%；
5nm制程下，芯片面积超过300mm²时，MCM成本开始低于SoC，成本超过500mm²时，InFO成本开始低于SoC，当面积达
900mm²时，5颗chips情况下，MCM较SoC成本低50%、InFO较SoC成本低40%、2.5D较SoC成本低28%。

■鉴于当前AI芯片朝高算力、高集成方向演进，制程越来越先进，Chiplet在更先进制程、更复杂集成中降本优势愈发明显，未来有望成为AI芯片封装的主要形式。

图表：不同制程/面积下SoC与Chiplet封装之间的成本平衡点

制程/面积	2颗Chips	3颗Chips	5颗Chips
14nm	面积<700mm²，单芯片SoC成本最低；面积≥700mm²，MCM<SoC<InFO/2.5D 小于400mm²，单芯片SoC成本最低；	面积<600mm²，单芯片SoC成本最低；面积≥600mm²，MCM<SoC<InFO/2.5D 小于400mm²，单芯片SoC成本最低;	面积<500mm²，单芯片SoC成本最低；面积≥500mm²，MCM<SoC<InFO/2.5D 小于300mm²，单芯片SoC成本最低；
7nm	400-700mm²，MCM<SoC<InFO/2.5D; ≥800mm²，MCM<InFO<SoC<2.5D 小于300mm²，单芯片SoC成本最低； 300-400mm²，MCM<SoC<InFO/2.5D;	400-500mm²，MCM<SoC<InFO/2.5D; ≥600mm²，MCM<InFO<SoC<2.5D 100mm²，单芯片SoC成本最低; 200-300mm²，MCM<SoC<InFO/2.5D;	300-500mm²，MCM<SoC<InFO/2.5D; ≥600mm²，MCM<InFO<SoC<2.5D 100mm²，单芯片SoC成本最低； 200-300mm²，MCM<SoC<InFO/2.5D;
5nm	500mm2-600mm²，MCM<InFO<SoC<2.5D; ≥700mm²，MCM<InFO<2.5D<SoC	400mm2-500mm²，MCM<InFO<SoC<2.5D; ≥600mm²，MCM<InFO<2.5D<SoC	400mm²-500mm²，MCM<InFO<SoC<2.5D; ≥600mm²，MCM<InFO<2.5D<SoC

■国产封测龙头，在Chiplet领域已实现技术布局：

》通富微电已为AMD大规模量产Chiplet产品；

》长电科技早在2018年即布局Chiplet相关技术，如今已实现量产，2022年公司加入Chiplet国际标准联盟Ucle，为公司未来承接海外Chiplet奠定了资质基础；

》华天科技Chiplet技术已实现量产，其他中小封测厂商已有在TSV等Chiplet前期技术上的积累。

图表：国产封测厂商在Chiplet方面的布局

公司	Chiplet技术积累	具体商业进展
通富微电	在多芯片组件、集成扇出封装、2.5D/3D等先进封装技术方面的提前布局，可为客户提供多样化的Chiplet封装解决方案	已为AMD大规模量产Chiplet产品
长电科技	1）2018年启动研发以RDLFirst为基础的高密度扇出型多芯片Fan-out FCBGA，具备大尺寸、 2um现款、高密度倒装键合、2-3粒7nm芯片集成等特点 2）2020年将扇出型封装技术、关键人员、设备转移到长电绍兴分公司，后续实现量产; 3）2021年突破FO-InterposerMCM的chiplet封装技术，并进入量产；
长电科技	4）2022年突破2.5DSi Interp0SerMEM的大尺寸FCBGA技术，并进入小批量量产，同年加入Ucle产业联盟； 5）2022年对2.5DSiInterposer（Si-TSI-MCM）的MEOL晶圆级技术进行投资	已量产
华天科技	已具备chiplet封装技术平台，并已量产	已量产
晶方科技	晶圆级TSV技术是chiplet技术重要组成部分，晶方科技在研究该技术方向	技术积累阶段
大港股份	控股孙公司苏州科阳主要从事TSV晶圆级封装业务，截至22年11月未涉及Chiplet相关业务	技术积累阶段

ChatGPT带来了算力需求的激增，与之对应亦带来相应服务器/交换机等作为算力核心载体和传输的硬件，带来PCB需求大幅增长，同时随着对算力的要求越来越高，对于大容量、高速、高性能的云计算服务器的需求将不断增长，对PCB的设计要求也将不断升级，提升对于高层数、大尺寸、高速材料等的应用。

以23年发布的新服务器平台为例，Pcie5.0服务器用PCB层数、材料、设计工艺均有升级，PCB价格提升显著，其层数从4.0的12-16层升级至16-20层，根据 Prismark 的数据，2021年8-16 层板的价格为 456 美元/平米，而18 层以上板的价格为 1538美元/平米，PCB 价值量增幅明显；另外配套新服务器，交换机、传输网产品都需要同步升级，预计400G、800G交换机对PCB板子拉动巨大，进一步带动数通板景气度提升。

图表：服务器平台标准

平台名称	Whiteley	Eagle Stream
Intel	CPU代号	Ice Lake Sapphire Rapids	Sapphire Rapids
	工艺制程	10nm Intel 7	Intel 7
	总线标准	PCle4.0 PCle5.0	PCle5.0
	发布时间	2021Q1 2023年	2023年
	PCB层数	12-16 16-20	16-20
AMD	CPU代号 Milan		Genoa
	工艺制程	7nm	5nm
	总线标准	PCle4.0	PCle5.0
	发布时间	2020Q4	2023年
	PCB层数	12-16	16-20

■ChatGPT带动服务器用量增长及平台升级，预计2025年服务器PCB市场超160亿美元，2021-2025CAGR达21%。

》随着ChatGPT对服务器用量增长及平台升级，对应PCB的板材、层数、工艺复杂的均显著提升，预计2025年全球服务器PCB市场规模超160亿美元，2021-2025年CAGR达21%，成为PCB增长最快的下游之一。

图表：服务器PCB市场空间广阔

	2020 20212022E2023E2024E2025E
服务器出货量（万台）	1220	1354	1400	1450	1500	1600
YOY	3.92%	10.98%	3.40%	3.57%	3.45%	6.67%
PCle5.0渗透率	0%	1%	5%	20%	40%	50%
PCle4.0及以下服务器PCB价值量（美元）	560	567	570	575	570	570
PCle5.0服务器PCB价值量（美元）	-	1500	1520	1550	1550	1530
服务器PCB市场空间（亿美元)	68	78	86	112	144	168
YOY	6%	14%	11%	29%	29%	16%

图表：PCB在服务器领域的应用

一、ChatGPT激起AI浪潮，大算力芯片迎来产业机遇
二、芯片是ChatGPT底层土壤
2.1AI芯片有望率先受益，CPU+XPU异构形式成为主流
2.2AI算力需求，存储芯片受益
三、芯片需求增长拉动产业链机会
3.1PCB：AI服务器基石
3.2封测：Chiplet是Al芯片大势所趋
四、投资建议及风险提示

算力是AI发展的底层土壤。在ChatGPT等概念影响下，AIGC关注度火热。芯片作为人工智能行业的基础层，为其提供算力支持，未来越来越多AI应用的落地离不开庞大算力的支撑，因此也将推动算力产业链快速增长。据IDC指出，2021年中国AI投资规模超100亿美元，2026年将有望达到267亿美元，全球占比约8.9%，排名第二，其中AI底层硬件市场占比将超过AI总投资规模的半数。AI发展的海量数据对数据处理提出极高要求，AI芯片需求快速增长，看好国产AI芯片供应商在产业创新趋势向上以及国产替代背景下进入快速增长通道；

Chiplet有望成为国产高端芯片的破局之路。据Gartner，受益于Al产业需求激增，2024年全球Chiplet芯片产值有望达505亿美元，2020-24年CAGR接近100%—一按Chiplet封装+测试占芯片产值20%计算，2024年全球Chiplet封测市场空间有望达100亿美元。国产Chiplet有望实现较全球平均水平更快成长：1）中国大陆封测产业居全球领先，具备良好的产业基础承接来自全球的Chiplet封测需求—AMD等关键Al芯片厂商，已将其Chiplet工艺委外给国产封测厂生产；2）美国制裁局面下，Chiplet有助于国产芯片同制程下性能的提升，被看作是国产芯片突破先进制程的“赶超利器”，且国产设计厂商采用Chiplet的需求较海外同行更为迫切；3）国产AI公司有望加速在AI领域软硬件的投入，进一步扩大市场需求。

多模态大模型推动下游应用侧智慧升级。多模态是一种全新的交互、生成模式，背后是大模型深度学习能力的提升。多模态的发展有利于带动下游行业厂商AI能力提升，长期来看不仅从成本端降本增效，需求端也有望快速渗透带动供应链厂商业绩快速增长。

■建议关注：

多模态应用：大华股份、海康威视；封测：通富微电；

AI芯片：龙芯中科、海光信息、景嘉微、寒武纪、瑞芯微、乐鑫科技；

AI服务器：工业富联、沪电股份、胜宏科技、深南电路、景旺电子。

行业需求不及预期的风险：若包括手机、PC、可穿戴等终端产品需求回暖不及预期，则产业链相关公司的业绩增长可能不及预期。

■下游技术迭代不及预期：存在行业技术迭代速度不及预期从而对需求造成影响的风险。

1产能瓶颈的束缚：2021年缺芯潮带来产业链公司业绩快速增长，产能成关键限制因素，若包括代工厂、封测厂等产能扩张进度不及预期，则可能影响公司业务的增速速度。

1去库存不及预期、大陆厂商技术进步不及预期、中美贸易摩擦加剧、研报使用的信息更新不及时的风险、报告中各行业相关业绩增速测算未剔除负值影响，计算结果存在与实际情况偏差的风险、行业数据或因存在主观筛选导致与行业实际情况存在偏差风险。

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长…全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

ChatGPT引发算力革命，AI芯片产业链有望率先受益—从ChatGPT看芯片产业机遇

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

致终身学习者社群

扫码先加好友，以备不时之需

目录

目录

目录

■AI服务器中CPU成本占比及市场规模测算：

目录

目录

AI大算力需要的内存：大容量服务器DRAM和高带宽内存HBM。

■AI助力企业级SSD市场扩容

■企业级SSD海外垄断，大陆厂商主要布局模组和主控芯片

目录

■当前AI芯片呈现几大趋势：

AI产业机会-封测：Chiplet是AI芯片大势所趋

目录

目录

■建议关注：

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

致终身学习者社群

扫码先加好友，以备不时之需

从ChatGPT看芯片产业机遇，ChatGPT引发算力革命，AI芯片产业链有望率先受益-中泰证券-2023.3.19-58页-WN4