中国AI算力行业发展报告-全面拥抱智算时代的生产力

出品机构：甲子光年智库

智库院长：宋涛

报告撰写：刘瑶、郭瑶琴、王艺霖

发布时间：2024.12

Part 01 时代动力，AI新世代繁荣的发动机
甲子光年
Part 02 层见叠出，复杂工程需要多样手段解决
Part 03 各取所需，市场激发AI算力的选择思考
Part 04 实践落地，AI算力应用的新标杆
甲子光年
Part 05 来日方长，AI新世代下的不断探索

□ 2015-2016年左右开启了大模型时代，整体的训练计算量较之前的时期大2到3个数量级。从2022年底，随着ChatGPT成功带来大规模参数通用大模型相继发布。这些大模型的训练需要干亿、甚至万亿级参数，以及上干GB的高质量数据，大模型的训练迭代将极大地拉动了智能算力的需求。

□2012-2023年算力需求翻了数十万倍，AI算力需求远超摩尔定律，大模型对算力的需求每年持续增长，未来10年AI算力需求将再增长500倍。

2010前

深度学习时期之前，训练计算算力需求缓慢增长，算力翻倍需要21.3个月

2010-2022

深度学习不断取得进展，算力翻倍仅需要5.7个月，所需算力量级由TFLOPs增至EFLOPs

训练算力（FLOPS）需求与人工智能发展关系图

模型规模指数级增长推动算力需求爆发

□ 技术层面上，基础模型通过迁移学习（Transfer Learning）和规模（scale）得以实现；Transformer的应用标志着基础模型时代的开始（基础模型的庞大规模和应用范围突飞猛进），模型参数量指数级增长，带动算力超过摩尔定律。

Sora等视频生成类模型相较于大语言模型消耗的算力提升20倍。随着海量数据的积累，大模型需要处理的数据量也在不断增长，进一步加剧了对算力的需求。

Transformer结构对于基础模型训练算力需求的推动作用

推理消耗算力对比(单位：FLOPS)

□从产业规模看，全球人工智能快速增长。2023年全球人工智能市场收入达5381亿美元，同比增长18.5%，到2026年市场规模将达9000亿美元。

□从投融资看，2024年Q1全球AI领域完成1779笔融资交易，筹集的风险投资总额达216亿美元。

□ 从企业发展看，全球人工智能呈现“中美主导”格局。截至2023年三季度，全球人工智能企业有29542家。美国有9914家，占比为34%；中国有4469家，占比为15%；中美人工智能企业数占全球总数约49%。

图1：2022-2026年全球AI市场规模 (单位：亿美元)

图3：全球AI企业数量国家分布

□ 在现代人工智能领域，算力扮演着推动创新、实现突破的核心驱动力。算力、算法、数据和系统架构等多个方面的综合优化对于大规模模型训练的成功至关重要。从技术层面看，在大模型的研发过程中，预训练、微调和模型推理等环节是核心关键因素和主要计算特征。

算法跨模态融合

数据数据巨量化

算力内容创造力

算法层面

数据层面

算力层面

核心技术突破

中美情况不同，中国更应关注AI支持百模千态，繁荣干行万业。

建议构建清晰的架构、明确的标准和统一的数据规范。聚焦行业价值场景，解决行业的核心生产共性问题，从标杆示范到行业推广，从打造好用易用的平台到促进生态体系构建，打造繁荣的生态底座。

此外，还应持续推动行业生态建设，培养“行业AI复合型人才”，构建以开发者为起点和终点的价值正循环。

全息立体应用场景

边缘计算

AI 生态

AI快速发展正在推动各行业的数智化转型，大模型为干行百业提供了创新解决方案。通用大模型侧重发展通识能力，行业/场景大模型侧重发展专业能力，模型赋能行业有效的提升了效率、降低成本及优化决策过程。

□ 算力支撑成为了AI产业发展的关键，也是实现AI技术在各行业广泛应用的基础。目前大模型在广告、传媒、教育、金融等领域快速落地应用，AI算力与各行业深度融合，将加速产业升级和数字化转型进程。

图1：大模型赋能各行各业

数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

图2：主要行业大模型应用阶段示意图

□ 数字经济成为全球经济增长的活力所在。2022年，全球51个主要经济体数字经济同比名义增长7.4%，高于同期GDP名义增速3.2%，持续为全球经济平稳回升注入动力。数字经济快速发展推动数字基础设施建设步伐加快。算力作为重要的数字基础设施，算力结构不断调整。

□ 全球算力主要由通用算力、智能算力和超算算力组成。通用算力作为基础，满足广泛的日常计算需求；智能算力则在新兴技术领域发挥关键作用；超算算力针对特定高端需求提供强大计算能力。数据显示，2023年底全球算力总规模约910EFLOPS，其中，智能算力从2021年的113EFLOPS增长至2023年的335EFLOPS，增速远超其他。

图1：2021-2023年全球算力规模(单位：EFLOPS)

图2：不同算力的重点应用领域

	通用算力	智能算力	超算算力
电子光年技术特点电子	一-般主要由CPU芯片提供计算能力，适合计算复杂度适中的云计算、边缘计算类场景。	一般由GPU为代表、FPGA、ASIC等AI芯片的加速计算平台提供的算力，侧重于处理和分析大量数据，执行复杂计算任务。	由超级计算机等高性能计算集群所提供的算力，注重双精度通用计算能力，追求精确的数值计算。
应用场景光年	应用范围广泛，如科学研究、工程设计、商业分析、医学诊断等。	主要用于人工智能的训练和推理计算，如语音、图像和视频的处理等。	主要用于尖端科学领域的计算，如行星模拟、药物分子设计、基因分析等。

国内重要的算力政策文件内容

时间	发文部门	文件名称	主要内容
2024.10	国家发展改革委员会	《国家数据标准体系建设指南》	要强化基础设施互联互通、算力保障和流通利用标准建设，为数据资源、数据技术、数据流通、融合应用提供支撑。到2025年底，普惠易用、绿色安全的综合算力基础设施体系初步成型，东西部算力协同调度机制逐步完善，通
2024.12	国家发展改革委员会	《关于深入实施“东数西算”工程加快构建全国一体化算力网的实施意见（发改数据 [2023]1779号)》	用算力、智能算力、超级算力等多元算力加速集聚，国家枢纽节点地区各类新增算力占全国新增算力的60%以上，国家枢纽节点算力资源使用率显著超过全国平均水平。1ms时延城市算力网、5ms时延区域算力网、20ms 时延跨国家枢纽节点算力网在示范区域内初步实现。算力电力双向协同机制初步形成，国家枢纽节点新建数据中心绿电占比超过80%。用户使用各类算力的易用性明显提高、成本明显降低，国家枢纽节点间网络传输费用大幅降低。算力网关键核心技术基本实现安全可靠，以网络化、普惠化、绿色化为特征的算力网高质量发展格局逐步形成。
2024.9	国务院办公厅	《国务院办公厅关于加快公共数据资源开发利用的意见》	繁荣数据产业发展生态。将数据产业作为鼓励发展类纳入产业结构调整指导目录，支持数据采集标注、分析挖掘、流通使用、数据安全等技术创新应用，鼓励开发数据模型、数据核验、评价指数等多形式数据产品。围绕数据采存算管用，培育高水平数据要素型企业。聚焦算力网络和可信流通，支持数据基础设施企业发展。落实研发费用加计扣除、高新技术企业税收优惠等政策。支持数据行业协会、学会等社会团体和产业联盟发展，凝
2024.3	中央人民政府	《政府工作报告》	聚行业共识，加强行业自律，推动行业发展。适度超前建设数字基础设施，加快形成全国一体化算力体系，培育算力产业生态。
2023.10	工业和信息化部	《算力基础设施高质量发展行动计划》	推动算力结构多元配置。结合人工智能产业发展和业务需求，重点在西部算力枢纽及人工智能发展基础较好地区集约化开展智算中心建设，逐步合理提升智能算力占比。推动不同计算架构的智能算力与通用算力协同发展，满足均衡型、计算和存储密集型等各类业务算力需求。
2023.3	科技部	《关于开展国家新一代人工智能公共算力开放创新平台申报工作的通知》	为贯彻落实《国家新一代人工智能发展规划》(国发〔2017]35号),做好“国家新一代人工智能公共算力开放创新平台”（简称“公共算力平台”）启动建设工作，根据《国家新一代人工智能公共算力开放创新平台建设指引（试行)》(国科办高[2022]89号，简称《建设指引》)，结合我国人工智能技术发展和算力基础设施建设的需求，现
2022.8	科技部财政部	《企业技术创新能力提升行动方案（2022- 2023年）》	启动“公共算力平台”建设申报工作。推动国家超算中心、智能计算中心等面向企业提供低成本算力服务。支持建设一批重大示范应用场景，鼓励创新型城市、国家自创区、国家高新区、国家农高区、国家新一代人工智能创新发展试验区等发布一批应用场景清单，向企业释放更多场景合作机会。

口各省市通过政策引导和支持，推动地方算力资源的开放共享、数据中心的集约化发展、算力网络的一体化建设，以及算力与实体经济的深度融合，从而加速AI应用的落地和数字经济的发展。

国内典型城市大力发展算力的相关政策汇总

省市	时间	文件名称	主要内容强化多元算力协同部署。引导通用算力、智能算力、高性能算力中心等合理梯次布局，支持重点企业建设智算中心，适度超前提高智
山东	2024.6	山东省算力基础设施高质量发展行动方案	能算力占比。推进通用算力中心规范有序、规模集约发展。重点在人工智能发展基础较好、产业需求旺盛的地区集约化开展智算中心建设，支持济南、青岛等市用好人工智能创新应用先导区、创新发展试验区，构建多元异构的千卡级别、万卡级别智能算力集群。引导济南、青岛国家级超算中心深度融入国家分布式超算互联网系统，争取建设中国算网山东节点，打造国际一流的超算中心。
河北	2024.5	关于进一步优化算力布局推动人工智能产业创新发展的意见	到2025年，全省算力规模达到35百亿亿次/秒(EFLOPS)以上，智能算力占比达到35%左右，新增算力基础软硬件设施自主可控比例60%以上。在智能制造、医疗局指动人工智能产业创新健康等优势领域孵化一批行业应用大模型，培育典型应用场景30个。智能产业合作进一步深化，在环京区域打造人工智能产业集聚区，指动一批人工行能合作项目落地实施。
北京	2024.4	北京市算力基础设施建设实施方案 (2024-2027)	到2025年，基本建成智算资源供岭集群化、有算设施建设自主化、有算能力赋能精准化、街算中心运营绿色化、们算生态发展体系化的格局。到2027年，优化京津冀象算力供给质量和规模力命自主可控算力满足大模型训账高求，算力能耗标准达到图内领光水平。
江苏	2024.4	江苏省算力基础设施发展专项规划	全市“613”产业体系重点企业和在扬从事人工智能研发应用的科研统所，在运河城市算力平台积用非关联方的智能算力资源凭已签订的算力服务合同获取算力券。算力写求方通过平台购买使用智能算力资源服务的，按服实际支付智能算力费用30%给予支持，给予同一主体每年最高200万元补贴，算力养有效期为12个月。
黑龙江	2024.3	黑龙江省支持智算中心和超算中心建设奖励政策实施细则	省工信厅负责对照绩效目标做好事后绩效评价工作，聚焦注重投入产出效益，对政策实施效果和资金使用情况开展“双评价”，提升绩效评价质量和实效。健全评价指标体系，将包括但不限于新增智算、超算规模，新增算力服务营收等个性化指标作为产出效益评价重点。加强绩效评价结果应用，将评价结果作为政策调整、预算安排和资金分配的重要依据，对于产出效益未达预期的，对政策延续实施的必要性开展评估，根据评估结果提出应用措施。
上海	2024.3	上海市智能算力基础设施高质量发展“算力浦江”智算行动实施方案（2024-2025年)	力争到2024年，信息通信行业基本形成布局合理、算网协同、软硬协同、低破高效、数字化特型带动能力突出、产业链更加充备的新型数据中心发展体系，初步建成全图一体化算力网络上海枢组节点，形成与本市数字经济发展方贰相运应，长三南地区协同发展的算力服务发展格局，建成具有跟太乃至全球影响力的高能级算力枢细中心。
广东	2024.3	广东省算力基础设施高质量发展行动暨“粤算”行动计划	2025年，在计算方面，算力规模达到38EFLOPS，智能算力占比达到50%，建成智能计算中心10个。
浙江	2024.3	关于发展计算产业打造算力强区的若干政策 (征求意见稿)	力争到2025年，全区集成电路产业规模达400亿元，网络通信产业规模达850亿元。报进机州人工智能计算中心建设扩容，基于全核肉主技术路绒的公共算力规模达到500P，培育等化5个具有行业影响力的专用模型，人工智能赋能标杆企业8家、其型应用场景10个。
南京	2024.3	南京市推进算力产业发展行动方案	2025年，全市数据中心总规模达到25万标准机架,总算力超8.5EFLOPS(FP32),可统筹智能算力超6000PFL0PS(FP16)。
贵州	2024.2	贵州省算力基础设施高质量发展行动计划 (2024-2025)	推动算力结构多元配置。结合人工智能产业发展和业务需求，重点在西部算力枢纽及人工智能发展基础较好地区集约化开展智算中心建设，逐步合理提升智能算力占比。推动不同计算架构的智能算力与通用算力协同发展，满足均衡型、计算和存储密集型等各类业务算力需求。

Part 01 时代动力，AI新世代繁荣的发动机
Part 02 层见叠出，复杂工程需要多样手段解决
甲子光
Part 03 各取所需，市场激发AI算力的选择思考
甲子光年
Part 04 实践落地，AI算力应用的新标杆
甲子光年
Part 05 来日方长，AI新世代下的不断探索

□ 满足大模型需求的算力是一项涉及多层面复杂系统工程，因为它不仅需要在计算能力上实现指数级增长，以应对大模型的庞大惨数量，还要在数据传输、存储和处理等多个维度深度优化。

□ 算力系统的设计远非简单的算力资源堆砌，而是需要解决低时延数据交换、节点间计算负载的均衡分配、消弥算力堵点，预防硬件故障等一系列技术难题。且不同应用场景对算力效率、调度灵活性、扩展性、安全稳定、成本效益等方面有着各自独特的需求。这些需求的多样性和复杂性要求在构建算力基础设施时，需要进行综合规划和设计，以实现高效、经济且可持续的算力供给。

大模型的研发、部署及集成是一项复杂的系统工程

大模型在不同场景的算力需求及工程难度

训练
	预训练	二次训练		全参微调		局部微调
算力需求	超大规模干卡~万卡	大规模数百卡~千卡单		较小规模卡8卡起步		小规模单卡1卡起步
工程难度	很高TP/DP/PP并行，海量数据	高基模选择，高十质量数据		较高万~百万条指令集		一般<万条指令集
	推理
	To C推理		To B中心		To B边缘
算力需求	超大规模千卡以上		大规模数百卡		小规模数十卡
工程难度	很高极致性能		光年高融合高效		较高灵快轻易

以上数据为通常情况下的示例
数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

基于AIGC的技术栈，算力层作为上层模型及应用的重要支撑

应用层

中间层（接口层）

模型层

框架层

算力层

数据层

闭源模型应用

从模型到应用闭源

基于公共网络平台的应用，单一平台应用

数据中心与模型API数据中心工具与模型部署和调用API

非开源预训练模型商业化的预训练模型，通过API调用

模型Hub开源模型共享平台

边缘或端侧应用提供基于本地边缘或端侧交互的应用

Prompt优化与模型微调基于预训练模型的场景/产品适配

深度学习框架与中间件等用于训练或云部署的深度学习框架和中间件等，包括PyTorch、TensorFlow

开源模型代码及权重开源的预训练模型，般可免费试用

云服务（智算云服务）层PaaS、MaaS，边缘计算等

数据中心（智算中心）层

智算服务平台

通用算力中心、智算中心、超算中心

通过软硬件结合方式实现算力资源使用效率提升

服务器层

服务器、路由器、交换机、光模块等IT设备及机架其他非IT设备

服务器管理软件等

芯片层

单芯片、多卡互联、存储、网卡、PCB、BMC、电源等

芯片软件栈，解决卡内、卡间的互联及加速

数据资源 (数据采集、清洗、标注等)

算力优化解决方案

提升算力在AI应用时的利用率

·AI算力仍旧是建设在过往的算力架构基础上，市场概念可以覆盖芯片、服务器、智算中心、云服务以及相关的产业链相关方案

·由于构建A/算力底层的硬件产品的复杂性 (计算芯片、存储产品的架构、方案等多样性），结合用户需求的多样性，因此可衍生出大量的产品方案

□AI技术在实际应用中包括两个环节：训练（Training）和推理（Inference），AIGC的算力需要考虑训练及推理两个方面。

口训练是指通过数据开发出AI模型，使其能够满足相应的需求，一般为AI技术的研发。因此参数量的升级对算力的需求影响大。

□推理是指利用训练好的模型进行计算，利用输入的数据获得正确结论的过程，一般为AI技术的应用。推理部署的算力主要在于每个应用场景日数据的吞吐量。

当下模型参数量大规模提升，同时影响训练数据量及训练次数，推动训练阶段算力及对应的微调阶段算力提升

算力

模型参数数值基本确定，随着应用场景、适用人群数量增加，导致推理数据量及模型数量增多，进而使推理算力需求井喷发展

□ 应用落地的算力选择，更应该强调最优解，而非最大解。在实现AIGC的技术落地过程中，模型的参数量及涌现结果固然重要，但模型在运行过程中所需的算力成本、能耗成本、运营成本等是否能匹配AIGC技术提供的效果及价值突破更为重要。

以终为始，贴合行业需求，实现目标与资源平衡，是A新世代下的算力选择依据

资源分配：通过选择合适的技术路径实现算力的成本优化

功能需求决定推理能力，推理能力取决训练水平，有限算力资源要进行主次的优先选择

其他成本制约因素

训练需求（一次开发)

考虑到模型训练“黑盒” 机制与多次调优，所需算力与开发过程强相关

时间成本(是否尽快抢到实践化的落地)

能耗成本(云服务或者算力的使用成本)

人员成本(工程化协作的团队)

技术实现路径

算法结构

训练数据量

参数量规模

预训练

基于需求进行fine-tune

推理需求（长期运营）

模型推理阶段的算力主要为运行模型和数据处理，并且需要考虑产品的使用体验

模型规模 (参数稀疏程度)

模型种类 (算力需求系数相关)

数据吞吐量

时延

网络通信

安全性与稳定性

核心目标：基于行业Know-How需要实现的AIGC技术功能拆分，实现精准的需求分析

行业Know-How不仅仅表现在丰富的行业实践经历，而是深入理解客户的业务需求，并且通过管理项目开发的流程完成，在细化需求中寻找到主要矛盾并解决。

Why (用户分析)

·基于用户的细分行业属性，熟悉细分行业的需求价值

·基于用户的业务流程细节，对用户的需求矛盾分析

·基于用户的资源能力，明确用户的负担上限

How (项目执行)

在不同阶段和层面对项目的工作内容从主项、分项、子项甚至单体的各个部分进行拆分（例如采用WBS），实现项目关键节点的管理，

·完成项目人员的协同、管理、分工及时间资源调配

·对风险的预知、判断及合理控制

AIGC模型在处理输入和输出时，其计算资源消耗与输入输出的数据量成正比，费用计算基于输入输出的Token数量。

以OpenAI为例，在过去两年里，它将API访问成本降低了99%。具体来看，GPT-3的API推理成本从2021年的每千Token0.06美元降至2022年的0.02美元，降幅达66%。到2023年，GPT-3.5Turbo的APl推理成本与2021年相比下降了86%。

根据英伟达财报，其数据中心的推理占比已经达到40%

英伟达FY2024数据中心推理与训练占比

未来，AI服务器的工作负载可能以推理为主
数据来源：公开资料、甲子光年智库总结整理，2024.12

2022-2027年中国AI服务器工作负载及预测

□未来AI应用推理的成本可能会远超训练。大模型训练是阶段性的需求，训练数据通常是固定的，比如几万亿、几十万亿token的量级，且客户集中度高。但做推理，可能每天都是几万亿到10万亿Token，一周就超过了训练的计算量。
□模型推理成本下降是超级应用爆发的前提条件之一。

推理成本

2N FLOPs/token

Prompt数量/生成Token

ChatGPT推理生成超1TTokens/天

成本/FLOP

Model FLOPs Utilization

训练成本

6N FLOPs /token

训练Tokens数量

推理成本远超训练成本

GPT 3.5\~2T Tokens GPT4\~10TTokens

推理所需Token数远超训练所需Token数

提高MFU，推理场景比训练场景面临更多技术挑战

当前AI应用需求正在发生变迁，大模型正从ToVC泡沫炒作阶段走向ToB落地阶段，未来可能走向ToC阶段，当前制约在于AI推理成本，成本降低后将迎来应用爆发。

企业可以进行推理成本优化，包括硬件降本（如硬件梯次利用）、算力调度（按需求波峰波谷配置资源）和推理加速。

推理算力未来可能爆发的示意图

算力消耗

推理算力爆发

训练算力爆发

推理成本大幅下降(10X-100X)

AI推理成本

2024

Part 01 时代动力，AI新世代繁荣的发动机
Part 02 层见叠出，复杂工程需要多样手段解决
子光年
Part 03 各取所需，市场激发AI算力的选择思考
甲子光年甲子光
Part 04 实践落地，AI算力应用的新标杆
甲子光年
Part 05 来日方长，AI新世代下的不断探索

算力资源的维度不仅包括算力规模大小，要考虑算力部署及运营过程中可以利用的程度。算力是工程化结果，是从芯片到资源服务的多层次构造，需要算力服务方自身在自身专业能力及经验案例上的实际Know-How作为基础。

不同需求程度的用户不能唯算力的参数而论，而是要结合自身对于算力部署的能力进行进一步探究。

影响算力资源利用的维度（算力提供方在AI算力领域的Know-How及经验）

算力直接使用者所需技术要求

云服务

智算中心

智算硬件

·核心计算单元的算力参数

·接入方式、算力调度、需求分配、弹性扩展、高效稳定、算法优化、通讯传输、第三方生态、故障排查、大模型相关数据及训练工具包(生态）、模型的纳管及生态合作、云边端协同

芯片

·智算硬件的选择及适配

·智算中心的选择及适配

数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

·芯片的选择及适配

·单元数量

·对应的运算精度

·芯片的选择及适配

·智算硬件的选择及适配

·租户管理、配额管理、运维管理、资源及作业调度管理、系统监控、安全及稳定

·芯片的选择及适配

·内存/显存、片内互联及片间互联、AI适配生态工具（包括适配算法及其他硬件）、物理环境支撑、折旧速率

·硬件选型及适配（如内存）、异构算力的调度及配合、网络传输、软件优化、集群架构、环境优化

★★

可按需适配资源及弹性适配，部署时间更快，可以选择适配AIGC产品/服务的算力资源，减少对于AI算力环境优化的时间及人力成本

★★★

按需取用、灵活扩展、无需各IT系统的复杂运维，直接在完成优化的环境下进行开发

★★★★

通过服务器等硬件完成自有算力的部署，环境调试，完成大量不同硬件设备的选型、优化及稳定性保障，需要具备成熟的项目案例经验

#

需要从芯片层面解决工程问题，包括芯片互联、构建网络、适配从应用到硬件的环境，工作量大且繁杂，需要具备从0到1的经验丰富的技术团队支持

□ 芯片作为算力产业的基石，为智能算法和应用提供了不可或缺的计算能力。在服务器成本中，核心芯片如GPU占据了超过80%的比重。掌握自主可控的AI芯片技术，对于智算产业的持续发展至关重要。

□ 随着人工智能应用场景的不断拓展，市场对高性能AI芯片的需求日益增长。同时，存算一体、光通信等前沿技术的突破，为AI芯片产业注入了强劲的增长动力。数据显示，2023年中国AI芯片市场规模已达到约652亿人民币。预计到2026年，市场规模将显著增长至1611亿人民币，AI芯片市场正迎来快速发展的黄金时期。

图1：服务器主要成本构成

图2：2020-2026年中国AI芯片市场规模（单位：亿人民币）

□在中美科技博弈的背景下，AI芯片的国产化既是技术发展的需求，也是国家战略的一部分，对于提升国家的科技实力和产业竞争力具有重要作用。

图1：近年美国对华半导体管制措施

2023.10	美国商务部将壁仞科技、摩尔线程等公司列入实体名单。
2023.03	美国商务部将浪潮信息、龙芯中科等公司列入实体名单。
2022.10	BIS对中国实体超级计算机计算芯片和包含此类芯片的计算机商品的禁令，对收到许可证要求限制的外国生产项目的范围扩大到实体名单上中国境内的28家现有实体；针对<=18nm的DRAM>=128层的NAND存储芯片增加了新的许可证要求；限制美国人员在没有许可证的情况下支持中国某些半导体制造设施的研发和集成电路的制造；将包括长江存储、中国科学院大学等科研院校在内的31家实体列入未经核实名单（UVL)。
2022.08	美国通知英伟达向中国和俄罗斯出口A100和H100芯片需新的许可证要求。
2022.08	BIS公告美国准备对EDA等四项技术实行出口管制。
2022.07	美国半导体厂商收到美国商务部规定，要求不得向中国供应用于制造<=14nm芯片的设备。
甲子光年2022.07	美国众议院通过《芯片与科学法案》，主要内容包括：分5年提供527亿美元用于半导体制造激励计划、研发投资、税收抵免，其中美国芯片基金共500亿美元，390亿美元用于鼓励半导体制造企业，110亿美元补贴芯片研发；法案要求获得补贴的半导体企业未来10年内不得在中国大陆新建或扩建先进制程的半导体工厂。
2020.12	中芯国际被纳入实体名单，对用于<=10nm技术节点的产品或技术，美国商务部采取"推定拒绝”的审批政策进行审核。
!2019-2020	2019年5月，华为及69家附属关联公司被美国列入"实体名单”，2020年5月，BIS限制华为购买使用美国技术、软件设计制造的半导体；2020年8月，BIS在实体清单中新增38家华为附属公司，并修订外国制造直接产品规则，进一步限制华为使用基于美国软件/技术生产的半导体。
2018.04	美国商务部发布公告，在未来7年内禁止中兴通讯向美国企业购买敏感产品。

数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

图2：被美国列入“实体清单”的中国半导体企业

2023.10.17	壁仞科技及其附属关联公司川甲电子光年
2023.10.17	摩尔线程及其附属关联公司
2023.03.02	龙芯中科技术股份有限公司
2023.03.02	浪潮集团
2022.12.15	长江存储科技有限责任公司
	寒武纪及其附属关联公司
	合肥兆芯电子有限公司
2021.12.17	长沙景嘉微电子股份有限公司
2021.11.26	新华三半导体技术有限公司光年
2021.07.09	杭州华澜微电子股份有限公司
2021.03.08	国家超级计算深圳中心
2020.12.18	中芯国际及其附属关联公司
2020.12.18	深圳云天励飞技术有限公司
2019.06.24	曙光信息产业股份有限公司
2019.05.16	华为及其附属关联公司

在AI技术快速发展的背景下，AI芯片已成为美国政府卡中国脖子的新武器。自2018年以来，被美国列入“实体清单”的中国AI芯片企业持续增加。同时，美国聚焦于高算力芯片，限制英伟达、AMD等企业的GPU出口，试图全面遏制我国AI产业发展。

□ 美国的限制措施激发了中国AI芯片产业的自主创新和研发，加速了国产替代的进程。中国企业面对外部压力。加大研发投入，努力构建自主可控的产业链。

被列入“实体清单”的AI芯片企业数量

美国商务部工业和安全局对华高算力芯片出口限制

目前主流AI芯片为GPU和ASIC。尤其是GPU在AI训练市场上的重要性。国际上，Nvidia的H200TensorCoreGPU以其卓越的计算性能和能效比领先市场，而Google的第六代TPUTrilliumASIC芯片则以其专为机器学习优化的设计提供高速数据处理。而国内芯片企业正在追赶。

□并随着推理市场的增加及其他更高的方案提出，非GPU的时长份额也在增加。

国产芯片与NVIDIA性能差距正在缩小

公司	型号	GPU架构	峰值INT8 计算性能	峰值半精度 (FP16)性能	显存容量	最大功耗	工艺制程	发布时间
? nVIDIA	H100 SxM	Hopper	3958TOPS	1979TFLOPS	80GB	700W	4nm	2022Q1
? nVIDIA	A100 80GB PCle	Ampere	624 TOPS	312 TFLOPS	80GB HBM2	300W	7nm	2020Q2
兴 HUAWEI	昇腾910B	达芬奇		376TFLOPS	2023年H1VS 2024年H1中国AI芯片市场份额	400W 310W	7nm 7nm	2023 2019Q3
兴 HUAWEI	昇腾910		达芬奇 640TOPS	320TFLOPS	2023年H1VS 2024年H1中国AI芯片市场份额	400W 310W	7nm 7nm	2023 2019Q3
	2023年上半年，中国加速芯片的市场规模超过 50万张，GPU卡占有90%市场份额，非GPU卡占据10%市场份额。中国本土AI芯片品牌出货								2018Q4
Cambricor 寒武红	量近5万张，占整个市场的10%。2024年上半年，中国加速芯片市场规模超过90万张。GPU 卡占据80%市场份额，非GPU卡占据20%市场			GPU 90%	GB	75 GPU	80%	20非GPU
Cambricor 寒武红				GPU 90%	DR非GPU GB 10%	75 GPU	80%	20%
3 壁仞科	份额。中国本土AI芯片品牌出货量近20万张，约占整个市场的20%。 DI\IV			32GB HBM2e	BM2e	300		2022Q3
3 壁仞科	份额。中国本土AI芯片品牌出货量近20万张，约占整个市场的20%。 DI\IV			32GB HBM2e	300W	300		2022Q3
天数智芯 ILuvatarCorex	天垓100	GPGPU	256TOPS	2023H1 128TFLOPS	32GB	250W	2024H1 7nm
					DRAM HBM2			2021Q3

数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

□ GPU拥有高并行计算能力，适用于多种任务，但功耗和成本较高，在特定应用的优化上不如FPGA和ASIC灵活。FPGA可以针对特定应用进行编程，以实现硬件级别的优化，提供极高灵活性。但FPGA需要硬件描述语言（HDL）编程，比GPU编程更复杂和困难，开发周期较长。高性能FPGA的成本通常高于GPU，尤其是在大规模部署时。ASIC为特定应用定制，可以实现极高的性能和效率，且功耗通常低于GPU和FPGA。但ASIC一旦制造完成，就很难更改，这限制了其适应新算法或任务的能力。设计和制造周期较长。

AI芯片类型

芯片类型	GPU	FPGA	ASIC
定制化程度	通用型	半定制化	定制化
灵活性	好	好	不好
成本	高	较高	低
编程语言/架构	CUDA、OpenCL等	Verilog/VHDL等硬件描述语言、OpenCL、HLS	/ 甲子光
功耗	偏大	较大子光年	偏小
延迟	1ms	1us	1us
主要优点	峰值计算能力强、产品成熟	平均性能较高、功耗较低、灵活性强	平均性能很强、功耗很低、体积小
主要缺点	功率不高、不可编辑、功耗高	量产单价高、峰值计算能力较低、编程语言难度大	前期投入成本高、不可编辑、研发时间长、技术风险大
主要应用场景	云端训练、云端推理	云端推理、终端推理	云端推理、推断推理、终端推理

数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

能效王者，TPU算力利用率较高

	发布机构	算力产品	产品数量(片)	算力利用率(%)
GPT-3	OpenAl	NVIDIA v100	10000	21%
GPT-4	OpenAl	NVIDIA A100	25000	34%
Gopher	DeepMind	TPU v3	4096	33%
PaLM	Google	TPU v4	6144	46%

TPUv4和A100在各种模型上的训练效果

TPU v4和A100在训练上的成本比较

□ AI快速发展推动智能时代的到来，对算力的需求爆发式增长。传统数据中心以CPU为核心，主要负责数据处理及应用承载，已无法满足当前大规模并行计算的需求。因此，智算中心应运而生，专注于提供AI模型训练和推理所需的高性能计算能力。

□ 智算中心以xPU为核心，单机柜功率密度达到20\~100kW，耗电量大，在建设规划时需重点考量地理位置、能源条件、算力规模、网络能力、能耗问题等关键因素。

图1：传统数据中心VS智算中心

图2：不同时期数据中心机柜的典型功率 (单位：kW每机柜)

传统数据中心

得益于个人数字化的高速发展，互联网行业的公有云及应用需求是拉动IDC业务快速增长的核心驱动力。

以CPU为中心，适用于一般性的计算需求。

采用冯·诺依曼的主从架构，面对大量并行任务时存在“计算墙”“内存墙”等问题。

单机柜的功率密度通常在3\~8千瓦之间，可装载的服务器设备数量有限，算力密度相对较低，一般次啊用传统的风冷散热。

主要承载企业级应用和数据存储，如Web服务、数据库管理和文件存储等常规信息处理任务。

智算中心

AI降低编程门槛，迭代速度快，让懂业务与懂编程的融合，开发出更好的应用，推动企业数字化。

以xPU为中心，提供并行计算，处理AI模型训练所需的大量矩阵运算。

采用多元算力融合架构，利用异构计算与分布式系统，提供弹性、可伸缩扩展的算力聚合能力。

单机柜功率密度通常在20\~100千瓦之间，主要采用液冷或风液混合的散热技术。

主要承载AI模型的训练与推理，高效提供算力资源，并支持大数据的处理。

□我国大力推动智算中心建设，截至2024年6月，我国数据中心超过830万标准机架，算力规模达246EFLOPS（FP32），智算同比增速超过65%。

□ 2022年，我国数据中心平均上架率为58%，华东、华北、华南地区上架率超过65%，西北、西南地区分别约为30%和40%。“东数西算”工程实施以来，算力集群的整体上架率快速提升，西部地区的算力规模增长显著。在用算力中心平均PUE为1.48，与2022年的1.52相比有所改善。

图1：2023年中国数据中心机架规模(单位：万个)

图2：中国在用算力中心PUE值

图3：2023年末国家重点数据中心集群上架率

□2022年中国智能算力规模为259.9EFLOPS（基于FP16计算），预计2027年达到1117.4EFLOPS，五年复合增长率达33.9%。

智算中心建设提速，数据显示，2024年上半年，全国已经建设和正在建设的智算中心超过250个，招投标事件791起，已有超20个城市建设了智算中心。

图1：2022-2027年中国智能算力规模及预测(基于FP16计算，单位：EFLOPS)

图2：中国智算中心项目建设现状

	项目数量占比	项目投资规模	项目地区分布	主要应用领域
>1000P大型智算中心	20%	百亿元及以上甲子光年	京津冀、长三角、珠三角	AI大模型、自动驾驶、空间地理等人工智能技术领域
300~1000P中型智算中心	70%	10亿元以上	一线、新一线及二线城市	人工智能产业链或细分行业智能化集群
<100P小型智算中心	C%	10亿元以下	二线及以下城市	企业智能化建设或小型人工智能产业集群

从目前建设情况看，根据算力规模，智算中心可划分为三大类:

口超级智算中心：1000P以上的多为公共用途，承担枢纽节点角色。

□中型智算中心：100P到1000P多服务于产业集群类需求，当前落地项目数量更多。

□小型智算中心：100P以下更多以企业级零散需求为

目前建设运营模式主要有政府投资建设、企业建设运营、政府购买服务、政府和社会资本合作等模式，主要产业合作方如下:

√云厂商及AI科技企业

具备智算中心操作系统和AI算法的开发部署能力。

√ 三大通信运营商

拥有全国布局的网络基础资源、数据中心资源和云资源池。

√第三方数据中心厂商

具备高标准等级的算力硬件和运维能力，为高性能算力和节能方案提供支撑。

政府投资+企业运营

□ 政府或通过平台公司投资建设智算中心。

□ 运营上由平台公司运营，或引入第三方企业参与运营。该模式多适用于发达地区，本地有强算力需求。

企业自投自运+政府补贴

□引入运营商或第三方企业投资运营。

□ 政府提供电力、土地等优惠政策，如每年购买不少于2000万算力补贴，连续购买5年。

□平台公司投资建设智算中心。

□ 企业与平台公司或地方性国资企业成立合资公司，负责公司人、财、物管理，其他部门可采用外包等方式。

AI服务器是智能算力的重要载体，在全球范围内迅速扩张。2023年，全球AI服务器市场规模突破500亿美元，增幅高达95.8%，预计到2018年，市场规模有望突破1000亿美元，五年的年复合增长率预计为14.5%。

□ 中国AI服务器在AI及智算产业的高速发展下持续攀升，从2020年的149亿人民币增长至2023年的692亿人民币。随着AI应用的成熟和普及，市场对于AI服务器的需求预计继续增长。预计到2028年，中国AI服务器的市场规模达到1433亿人民币。

图1：2020-2028年全球AI服务器的市场规模(单位：亿美元)

图2：2020-2028年中国AI服务器的市场规模(单位：亿人民币)

□ AI服务器的出货量从2020年的15万台激增至2023年的36万台，实现了显著的增长。其中，训练型服务器占据市场主体地位，但随着生成式AI应用的发展，推理型服务器预计将逐渐成为市场主流。

□ 互联网行业在大模型训练和推理方面处于领先地位，占据了AI服务器年出货量的半壁江山。随着垂直领域大模型在金融、能源、交通、教育、政务以及智能制造等行业的广泛应用，对AI服务器等智能计算资源的需求预计将持续稳步上升。

图1：2020-2028年中国AI服务器出货量（单位：万台）

图2：2020-2028年中国AI服务器出货量行业分布

□ 纵观整个行业，我国云计算市场展现出强劲的增长势头。2023年，我国云计算市场规模达6165亿元，同比增长35.5%。随着AI原生带来的云计算技术革新和大模型规模化应用逐步落地，云计算产业预计将开启新一轮增长周期。到2027年，市场规模有望达到21404亿元，增长潜力巨大。

□ 在市场格局方面，阿里云、天翼云、移动云、华为云、腾讯云和联通云六大云服务商共占据了我国公有云71.5%的市场份额。随着AI应用的落地，中腰部厂商凭借创新技术与行业经验在推动产业升级方面将发挥重要作用，云厂商竞争格局或将产生新变化。

图1：2021-2017年中国云计算市场规模及增速(单位：亿人民币，%)

图2：2023年中国公有云laaS厂商占比

□ 从投入端来看，2005-2023年，Amazon、Micosoft、G00gle及Meta四大云厂商资本开支整体呈现扩大趋势。2005-2022年，海外云厂商资本开支的增长驱动是云计算业务（laaS+PaaS+SaaS）的持续增长；进入2023年，云计算+AI成为新的双轮引擎，云厂商通过加强AI算力建设来满足大模型训练及推理需求。

□ 从收入端来看，得益于MaaS服务带动，Micosoft、Google、Amazon云收入增速自2023Q3逐步企稳，2024Q1三家公司的云收入同比增速分别为31%、28%、17%。MaaS成为云厂商新的增长动力。

图1：AI成为推动海外云厂商资本开支增长的驱动力 (单位：亿美元)

数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

□ 全球云厂商正在围绕生成式AI重新布局MaaS服务架构，构建大模型端到端服务体系。以AI芯片为核心构建基础设施，提供大模型训练、推理所需的算力；利用模型平台集成自研、第三方或开源大模型，支持应用开发；直面业务，将大模型深度赋能行业/场景，构建“AI+”创新生态。

海内外云厂商在过往的基础架构上围绕AI构建新的创新生态

数据来源：公开资料、专家访谈、甲子光年智库总结整理，2024.12

代表MaaS可以提供的服务

MaaS可以基于模型能力直接提供基于AI的云服务方案

调研数据显示，企业的大模型部署中72%的企业选择的使用模型API服务，其中52%来自云厂商托管。由此可见，云服务商在模型购买中具有较大的影响力，企业出于安全考虑等因素会通过现有云服务商购买模型。Azure用户更喜欢OpenAl，而Amazon用户更喜欢Anthropic或Cohere。

□ 此外，使用AI云服务有诸多优势：按需付费，灵活调用资源，实现成本控制；推理服务可就近接入，实现低时延；满足云、边、端多样化算力部署；提供了丰富的API和开发工具，使得开发者可以快速开发和部署新应用等。

图1：云在模型购买决定中具有较大影响力

图2：云服务的优势

提升资源利用率

通过资源整合技术，将分散算力池化管理，依据不同应用需求灵活调度，极大提高了资源利用率。这种管理方式使得无论是深度学习模型训练所需的强大并行计算能力，还是多项目并行时的资源动态分配，智算中心都能展现出其不可或缺的作用。

推动产业数字化转型

对于优势型产业集群，AI集群管理通过构建区域行业云的数字化底座，提供行业特定能力的平台和应用，服务区域特色行业，实现全产业链场景的覆盖。

价值分析

降低企业运营成本

增强企业市场竞争力

通过更先进的管理方式，实现计算资源的共享和动态分配，从而降低企业在硬件设备上的投入成本。同时，智算集群的自动化管理和维护功能，可以减少企业在IT设备维护方面的人力投入，进一步降低企业的运营成本。

通过高效计算和分析能力，企业可以更快地利用AI响应市场需求变化，抢占市场先机。降低初始门槛，加速产品的研发和迭代。

绿色低碳发展

通过优化调度算法和资源管理系统，实现了智能与通用算力资源的高效协同，实现了绿色算力的区域发展，协同赋能产业绿色低碳转型

推动企业创新发展

帮助企业探索新的商业模式，通过生成式AI技术，挖掘出更多的商业机会和市场空间。此外，高效的智算集群为企业提供了强大的创新平台，支持企业进行产品和服务创新，满足消费者不断变化的需求。

彩讯股份AI原生云计算解决方案AICloud，集合了下一代AI原生云计算网络架构、超大规模算力集群管理平台、高性能大模型训推平台三层架构，旨在帮助企业快速构建大规模算力集群、部署运营专属大模型。基于此方案，GPU集群峰值算力利用率最高可达55%，可节省25%以上网络设备成本投入。

Part 01 时代动力，AI新世代繁荣的发动机
甲子光年
Part 02 层见叠出，复杂工程需要多样手段解决
Part 03 各取所需，市场激发AI算力的选择思考
Part 04 实践落地，AI算力应用的新标杆
子光年
Part 05 来日方长，AI新世代下的不断探索

说明：文中的智算服务平台一般指为解决算力调度、管理、资源匹配及性能优化的一类型解决方案提供商，可根据用户需求提供多类型、不同交付模式的解决方案。

备注：

□ 公司简介：博大数据作为领先的融合算力基础设施服务商，核心团队拥有超过20年的行业运营管理经验，积累了丰富的通用算力、智能算力及边缘算力资源，并具有强大的算力建设能力、平台服务能力以及算力运营能力，致力于打造一体化数据与算力融合的数字基础设施平台，赋能数字经济可持续发展。

□ 博大数据已在全国范围内部署了以北京、上海、广州、深圳、成都、武汉为核心的环首都、长江经济带、粤港澳大湾区及成渝区域的超大规模算力基础设施集群，其总面积超过30万平方米，拥有机柜数近6万个。不仅满足企业在核心城市的业务布局，还将进一步助力企业核心与边缘形态共存的算力集群演变。此外，博大数据积极进行国际化布局，不断通过资源整合打造全球数字生态，加速拓展海外市场。

算力基础设施及服务

BODADATA博大数据

基础服务：

遵循模块化设计理念设计并建造超大规模算力中心展现出极高的灵活性和可扩展性，配备有定制化的机电和制冷设备，为客户提供安全可靠且具备容错能力的数据中心环境。

连接类服务：

算力中心通过全光网络连接所有主流运营商，并与领先的云计算公司和互联网公司互联互通，帮助客户快速建设算力中心、云和客户办公室之间的高速互联网络。

算力及运维服务：

基于自建的智算中心，为客户设计和建造智算中心销售和租赁算力设备、提供算力租赁服务、优化算力网络。同时通过AI赋能针对所有数据中心客户提供监控、巡检、IT运维和机房改造服务。

增值服务及解决方案：

为客户提供灾备、云迁移、安全等增值服务，构建服务生态，推动产业数字化；根据各行业客户需求为其量身定制上云下云、数字韧性、数据安全等解决方案。

量身定制

AI算力中心机柜级交付算力级交付

AI智能运维管理平台隔笼定制

AI垂直制冷能效控制

自有资源

AI服务器

模块级交付

楼层级交付

全楼定制

20年+可靠运营

共有资源

提质增效

算力调度

全楼定制

数据来源：博大数据，甲子光年智库整理。

算力网络

客户资源代建代维

算力服务

核心能力

6w+机柜最佳实践

工程化交付+预制化交付

热管氟泵

分布式制冷

光伏

供电模块

头部供应商生态平台

其他

多产业客户交付

自身资金雄厚

多梯队人才建设

竞争优势

融合

-是拥有传统数据中心、大型智算中心和边缘智算中心，可以满足客户通用算力、智能算力和边缘算力的需求；是国内业务与国际业务的融合，拥有全球化经验；三是生态合作的融合，能够同时支持多种GPU服务器。

打造最佳TCO

博大数据通过搭建智算算力平台、进行技术创新，依托高弹性、高管理、高可靠、高算力、高能效、高安全的六大智算理念，为客户降低TCO。

绿色低碳

综合采用液冷、蒸发冷热管系统、电力模块、光伏、余热回收等技术，降低PUE，提升效能，提升算力供应能力。

高效运维服务

拥有500余名专业运维人员，核心团队经验丰富，熟知行业规范。依托全国15个数据中心，形成互补互备网络，应急响应迅速。

多元化客户

博大数据已服务超过2000家优质客户，涵盖金融、互联网、云厂家、游戏等多个行业。

□ 项目背景：博大数据与恒为科技合作，在前海智算中心建立了“恒为智云·前海智算中心”，旨在为粤港澳大湾区构建集高效能、智能化与安全性于一身的算力高地，树立全区域智算中心产业标杆。“恒为智云·前海智算中心”是广东省第一个由民企投资、民企运营的华为昇腾集群，也是第一个支持深圳上海两地实现大带宽低延时专网打通计算资源的华为昇腾集群。该算力集群面向大湾区用户，辐射全国，为各行各业的数智升级提供算力服务。

BODADATA博大数据

恒为科技EmbedWay

博大数据深圳前海智算中心整体规划容量约为15000个标准机柜，一期可支持算力规模达40000P。

采用创新的冷却架构结合风冷和液冷技术，提高整体能效，延长设备寿命。长年

分布式系统，弹性模块化设计，适配企业级服务器、云、智算服务器的弹性需求。

高算力

高能效

高弹性

恒为智云·前海智算中心位于博大数据深圳前海智算中心M区，使用率已超过80%。凭借专业优势以及智能可视化系统的技术优势，已发展成为“小而美”的国产精品智算中心。

博大数据深圳前海智算中心

A 基础设施投资20亿元，总面积超过5万平方米，并支持高功率深度定制，整体按照国家A级标准建设，一期可支持算力规模达40000P。已于2024年3月开园，并且首批算力已经成功启用。

高可靠

高安全

高管理

多层次技术架构，为多场景应用提供稳定可靠的服务保障。

采用高级身份验证、加密协议和入侵检测系统等，确保智算服务器的安全管理。

AI驱动的自动化管理系统，实现智能调度、负载均衡、i故障预测等功能。

建设难点

弹性需求：为产业服务的智算中心需要能够灵活扩展，满足不同业务增长和变化需求，需要与云服务等无缝集成，提供灵活的计算资源和存储解决方案。

配电系统：需要极高可靠性，能够适应不同设备的电力需求，以及快速部署和调整。

实践效果

算力规模：首批投产300P算力，出租率已超过80%，并计划迅速扩展至2000P。智能可视化系统：拥有自身独具优势的核心产品“智算可视化系统”的应用，实现训推可视化，为智算中心提供资源调度、运维管理、数字孪生、训推可视化、集群测试工具等一体化服务。赋能专业转型升级：作为科技与产业的深度融合体，通过强大的算力支撑，加速人工智能在各行业中的深度融合与应用。

构建力布式省算去服务汇集模型API服务、ServerlessGPUs、GPU容器实例等产品，结合云原生、分布式计
算、推理加速等技术，提供更高性价比的一站式AI云服务模型API服务
产品特性全模态API服务，一站式解决性能极致的推理加速引擎集成LLM、图像、视频、音自研推理加速算法，将
频等多种模态大模型API LLM推理性能提升10+倍 Serverless GPUs
产品特性按需付费，节省成本弹性伸缩，高可用性私有镜像，快速部署
仅需为实际运行时长付费，按 √ 业务高峰自动扩容，低峰私有镜像部署，无需对代码秒计费自动缩容，支持负载均衡进行大量适配，切换门槛低 GPU容器实例
产品特性全球覆盖，模型下载加速 OpenAPI管理
便捷的多框架AI开发支持丰富的一键部署镜像，涵盖主流机器学依托PPIO分布式智算网络，习框架（如TensorFlow、PyTorch）、提供大容量带宽，实现底层镜像（如cuDNN、CUDA），及 Hugging Face、Docker 推理框架（如TensorRT）和即开即用 Hub等大模型极速下载，的Llama3、StableDiffusion 网速提升100+倍
整合广覆盖智算资源
1500+ 4000+ 10+ 国内外城市县级覆盖全球分布式算力节点智算中心

□公司简介：PPIO派欧云是中国领先的分布式云计算服务商，由PPTV创始人姚欣和前PPTV首席架构师王闻宇于2018年联合创立，公司秉承“汇聚全球计算资源，并为全世界提供服务”的使命，致力于为人工智能、音视频、元宇宙等新一代场景提供高性价比、稳定可靠、高效弹性的一站式智算、大模型及边缘计算服务，助力客户专注应用创新与增长，推动下一个智能时代的加速到来。

PPIO派欧云

构建分布式智算云服务

数据来源：PPIO派欧云，甲子光年智库整理。

项目背景：中国铁塔是由国务院推动成立的国有大型通信基础设施服务企业，是我国移动通信基础设施建设的“国家队”和5G新基建的“主力军”。中国铁塔依托全国基站和机房资源，提出“算力入园”战略，通过构建统一算力管理平台提升资源融合与场景应用效率。PPIO派欧云助力中国铁塔盘活分布式算力资源，构建全国算力网络，推动人工智能技术在科创园区、高校科研、大型商超、智慧社区、云游戏等场景的应用落地。

需求痛点与解决方法

节点分散，资源统一管理难

算力资源分散且设备类型多样，导致管理复杂。

通过研发分布式节点纳管技术，结合自动化监控与故障检测，实现资源状态实时可视化与问题快速定位，提升运维效率。

跨时空和场景，提升资源利用率难

面对跨区域、跨时间、跨场景的多样化需求，异构资源性能差异大，利用率低。

大型商超

通过智能调度算法结合负载预测技术，实现任务需求与算力资源的动态匹配，显著提升系统资源利用效率。

大模型推理性能瓶颈

智慧社区

AI大模型推理对显存、算力和带宽要求极高，传统方法难以兼顾性能和成本，导致响应速度慢、用户体验差。

通过协同大模型推理加速技术，可突破性能瓶颈，有效降低资源占用，提升资源分配效率，以满足AIGC应用对低延时、高稳定性的需求。

CHINA TOWER中国铁塔

项目方案与实施效果

云游戏

PPIO派欧云

降本

依托算力管理调度平台，对全国算力节点进行统一接入、纳管、调度、管理运营和维护，构建铁塔智算网络，已接入北京、天津、广东、陕西、山东、湖北5个省市、8个节点智算资源。

资源整合与优化：通过规模化部署和资源共享，运营成本降低35+%。

√ 投资回报周期缩短：单台设备回报周期由5年以上缩短至约3年。

·已服务数十家客户，涉及科创园区、高校科研、大型商超、智慧社区、云游戏等场景。

增效

提升算力服务响应效率：通过全链路FP8量化、KVCache稀疏压缩、投机采样及其他无损优化，大幅提升推理性能，吞吐提速20倍以上。

√ 提高设备利用率：引入负载预测与智能调度算法，在闲时充分挖掘资源潜力，设备平均利用率提升50%。

升级

√ 战略转型：将传统通信机房升级为分布式智算节点，实现从基础设施租赁向高附加值智算服务的跨越。

/ 推动智算商业模式落地：通过标准化产品与商业模式验证，形成可复制的智算样板案例，推动分布式云计算在各场景的普及应用。

□公司简介：北京青云科技集团股份有限公司（简称：青云科技，股票代码：688316）自2012年创立以来，坚持核心代码自研，围绕“数字化、AI算力、信创、云原生”四大场景，打造核心业务线，帮助企业构筑坚实的数字基石，以中国科技服务数字中国。公司于2021年3月登陆上交所科创板，被称为“混合云第一股”。

□ 顺应算力基建、人工智能等趋势与需求，结合青云公有云十余年的技术积累和运营经验，青云科技打造了统一调度、统一管理、统一运营多元异构算力的AI智算平台，推出了灵活高效、全栈可靠、生态开放的AI算力云服务，联合生态伙伴共建AICloud，服务企业的数智化创新，助力数字经济发展。

QingCloud

AI智算平台

打造算力中心建设的新模式，建立从建设到运营的闭环，像管理本地资源一样管理AI基础设施。

AI应用	A			OCR	白自动驾驶
算力
	WEB

	公共服务			开放场景
	算力总览	订单管理	Jupyter		分布式训练
	数据存储	账单管理	VS Code		专园
	镜像仓库	钱包管理	容器实例		有储服务
算力
调度
	裸金属算力		算力纳管

算力
底座

	计算服务(CPU/GPU/DPU)

多元算力统一调度：对多元算力进行统一调度管理，算力池化和切分，包括多样显卡、高速计算网路InfiniBand以及RoCE、本地NVME与并行文件存储支持，实现算力资源按应用、按需求随时匹配，自动切换。

智能算力调度管理：具备分布式调度与管理能力，划分不同资源组，自动分配和管理算力资源，与调度系统结合，能大幅缩短任务执行时间，让客户专注于应用开发和业务创新。

国产芯片异构支持：统一管理多种异构服务器、存储、安全等设备，提供多厂商的GPU统一管理分发，为上层不同的应用提供蓬勃算力。

智简运维，精细运营：通过统一运营和运维管理平台，规范化、可视化高效运维资源，帮助管理员实现精细化资源分配，实现多种计算场景服务的标准化运营。结合多维资源监控，提高算力利用效率。

智能生态支撑应用：提供开放的应用框架和模型服务，提供丰富的AI计算环境，集成行业内多家厂商生态应用，打造丰富的SaaS应用服务，助力用户实现全场景AI业务落地。

AI算力云

完备的云上AI基础资源与应用支持，用户即来即用，释放强大算力。

具备AI模型训练、模型推理、模型管理等服务，为用户提供一站式算力服务平台，平台为用户提供灵活、高性能的算力服务，同时具备并行存储、容器推理、高性能网络等能力，满足用户在多场景下的计算需求

弹性

好用

弹性扩容，根据业务情况，可以不间断弹性增加云上的AI算力资源

内置主流环境、模型，一键部署环境，轻松快速接入业务

性价比

无建设运维成本，按需租用，专业品质，低廉价格

场景化解决方案

智算中心

青云打破传统数据中心建设与运营的诸多瓶颈，实现算力资源的高效利用与可持续发展，为区域智算中心、行业智算中心等不同规模智算中心建设提供全方位支持。

大模型/多模态

青云为企业提供了一个全面、高效、灵活的模型训练与推理环境，支持从数据预处理到模型部署的全流程，满足不同规模和需求的AI训练与推理任务。

高校

青云通过通算+智算+超算实现一体化管理，小规模部署到逐步扩张，以混合云完成资源不足时调用公有云，上下课资源自动分配和删除，并通过GPU的切分与共享的提高资源利用率，满足高校多维需求。

金融

青云通过金融GPU池化解决方案、金融Al算力调度解决方案、金融智算行业云等丰富的场景解决方案，成为金融数智化转型的坚实基石。

具身智能

青云针对具身智能研发运维成本高、迭代慢和业务部署复杂等痛点，从资源调度、自动化提升、边缘智能等多方面，减轻产研运维压力、加快模型迭代、支持业务实际部署。

□ 项目背景：随着AI技术及应用的发展，国家超算济南中心需要为更多行业及场景提供算力及技术支持。面对多样化的算力需求和软硬件协同的挑战，国家超算济南中心与青云科技合作，通过青云AI智算平台实现了算力的高效调度与运营，打造了创新的超算云服务模式。这一模式不仅提高了资源利用率和运行效率，还为用户提供了更灵活、高效的计算服务。合作进一步将超算中心的价值从提供算力资源扩展到解决行业数字化创新的实际问题，实现了从运营到服务的全面优化。

需求痛点

算力需求多元化

不同行业和应用场景根据自身特点和业务需求对算力有不同要求，从而形成通用算力、智能算力、专用计算、超算算力等多元化算力需求格局。

软硬件协同

在业务运营中，软件和硬件需要紧密合作以满足业务需求，这包括解决兼容性、性能匹配、资源调度、能耗优化和软硬件维护升级等挑战。

管理与运维提效

多元化的算力需求增加了超算中心在资源分配和管理上的复杂性；软硬件之间兼容性和协同不足，增加了管理难度和成本，限制其应用范围。

项目亮点

基于青云AI智算平台实现多元异构算力统一调度与管理，同时通过开放架构向上支撑其在金融、科研、教育、工业、民生等多个领域的应用拓展

》多元异构算力的统一调度与管理：以一个平台提供多种算力服务，一站式统一管理。借助先进计算调度系统（EHPC）、智能计算子系统（GPU计算）、存储子系统、服务子系统，提供完整的业务和科研支撑服务。通过云应用中心、超算应用中心、AI应用中心，加速科研类应用在平台上的开发、计算、交付和管理。

》成本与效率完美平衡：青云科技核心代码自研，中立开放，与包括CPU、GPU、NPU等不同架构的硬件广泛兼容，让济南超算调度管理效率获得更大优化。

降低技术应用门槛：方案屏蔽了底层硬件复杂度的同时，内置了大量的主流AI开发环境和分布式计算框架，能够让济南超算的用户开箱即用，既加速业务启动，也减少人员学习成本。

生态环境

智慧工业

科学研究

高校教育

药物开发

工业仿真

航空航天

医药研发

能源化工

应用商店

大气海洋

建筑土木

地理勘测

科学计算

作业管理与调度

集群资源管理

AI&EHPC控制台

作业、资源可视化

用户计费管理

3000+PFLOPS算力

高性能网络

300PB+高性能存储

高性能主机14000台

HDR高速IB网络VPC专有网络

文件存储NFS专用Lustre高性能存储

实践效果

提升算力管理效率

济南超算以极少人力高效统一管理与调度超过3000P算力资源，实现了云计算、高性能计算、人工智能计算集群之间的算力资源的弹性扩展；

承载了约30个省直单位近300个政务信息系统上云，提供了超120项云服务。

减少运营运维压力

通过流程自动化、服务自动化、提升故障自愈力等手段减少运维压力。

形成产业聚集效益

配合济南超算的产业园建设运营，通过便捷的算力服务及应用支撑聚集了高校、工业仿真、科研等众多企业，共同推动山东全省的区域创新能力。

□ 公司简介：中昊芯英自2018年成立以来，便致力于打造AI大模型计算所需的、国产自主可控的、能够匹配海外先进水平的AI算力基石。作为国内唯一掌握TPU架构AI芯片核心技术并实现芯片量产的公司，中昊芯英以自研的、专为AI/ML而生的、面向AI计算场景时算力性能超越国际知名GPU芯片产品近1.5倍的高性能TPU架构AI芯片「刹那?」为基石，打造支持1024片芯片片间高速互联的大规模AI计算集群「泰则?」，集群的系统性性能超越传统GPU架构数十倍，能耗较传统GPU可节省30%，可支撑超千亿参数AIGC大模型计算与推理，同时自研AIGC预训练大模型并携手行业合作伙伴进行金融、教育、医疗等垂直领域专业大模型的探索落地。通过「自研AI芯片+超算集群+AIGC预训练大模型」的三位一体化方案，为全球客户提供具备生产变革能力的AI创新技术方案，加速AI工程落地与产业化进程。

汇聚全球AI芯片及AI算法顶尖人才

密歇根大学电子信息与计算机学士

斯坦福大学计算机硕士

中昊芯英

√师从Subhasish Mitra院士

3篇

54项

17项

顶级国际论文中国发明专利欧美发明专利

曾在Google作为芯片研发核心团队深度参与GoogleTPU2/3/4的设计与研发

√ 在甲骨文公司参与主导了12款包括SPARCT8/M8在内的顶级高性能CPU的设计与产出

创始人及CEO杨龚轶凡

10+年高端芯片领域从业经验，产业生涯中已成功流片十余次，掌握从28nm到7nm各代制程工艺下大芯片设计与优化完整方法论，带领不同公司团队完成多次从芯片架构设计、流片生产到客户交付的全流程

核心团队由来自谷歌、微软、甲骨文、三星、英伟达、亚马逊、Facebook等顶尖科技公司的A软硬件设计专家组成，全栈式的技术梯队覆盖芯片设计、电路设计、软件栈研发、系统架构、大模型算法等各类技术领域，公司研发人员占比85%以上

54项发明专利

3项实用新型专利

注：以上专利及资质数量统计截止至2024年10月并在持续高速增长中

116项软件著作权

40+ 国家/省/市级资质认证与荣誉

全自研TPUAI芯片+AI服务器+超算集群

中国首枚高性能TPU架构AI芯片刹那?

全自研自主可控

历时四年多100%自研，完全自主可控的IP核、全自研指令集与计算平台，目前已量产交付

高能效比

能耗仅为传统GPU的70%，单位算力成本仅为海外领先GPU芯片50%，

1024片芯片高速片间互联

系统集群性能远超传统GPU数十倍，集群扩容时性能可线性增长，以构建干卡万卡规模超算集群

泰则人工智能服务器

国内一流水平的高性能

高效负载均衡与高性能计算

行业领先的低能耗

易用，可靠，高兼容

比GPU更适合大模型训练

可重构的多级存储，存算一体设计，以强大的并行处理能力实现大模型计算速度和精度的双重提升

国内顶尖的计算性能

同等制程下性能3-4倍跃升

用于AI大模型计算场景时，算力性能可匹配国际第一梯队芯片产品水平

TPU为AI/ML而生的架构+Chiplet技术+2.5D封装，实现跨制程代际级别的算力跃升

泰则?大规模AI计算集群系统

强大的算力支持

√ 顶尖的集群扩展性

√ 灵活的算力调度

√多场景大模型适配

√ 快速高效的部署

√ 安全可靠的防护措施

□ 项目背景：2024年9月，中昊芯英与深圳联通联合举办「智算基建，加速未来」高性能AI智算中心项目启动仪式，双方合作共建的广东地区首个全采用国产TPU芯片的智算中心即将投入运营。项目一期由32个算力节点通过高效互联构建而成，整体算力不低于50P，后期将扩容至千卡规模，形成训推一体化的枢纽，成为中国联通在深圳的核心智算高地的重要组成部分。

中昊芯英此次提供搭载自主研发的高性能TPUAI芯片「刹那?」的人工智能服务器及大规模AI计算集群系统「泰则?」，为项目搭建坚实的AI计算底座。

深圳联通凭借其强大的网络资源和丰富的运营经验，将配合政府及行业伙伴，建设针对特定行业的智算节点，预部署相应软件和模型，为社会提供智能算力服务或MaaS服务，赋能产业发展。

创新技术

集中训练

分布推理

统一管控

绿色低碳

弹性调度

中昊芯英× 深圳联通

支撑智算中心建设

中昊芯英全自研TPUAI芯片+AI服务器+超算集群，打造AI计算底座推动产学研深度融合

青海·海东“丝绸云谷”低碳算力产业园项目

以打造西北数据云谷为目标，在“丝绸云谷”产业园中设立“唐古拉”AI算力实验室。项目总投资约230亿元，分两期建设，总体规划用地面积约100公顷，将建设400MW液冷加余热回收型集装箱数据机房，建成后容纳约20万台高性能AI服务器运行。

与浙江大学、太极股份合作推动产学研深度融合

浙江大学与太极股份、中昊芯英开展三方合作，引入了基于中昊芯英全自研的TPU架构高性能AI芯片「刹那?」构建的人工智能服务器「泰则?」。该服务器成功应用于浙江大学多个科研项目中，如深度学习模型的训练与优化、图像处理技术的研发与应用等。同时为机器学习、数据科学等课程的教学实验提供了有力支持，使科研周期得以缩短，创新成果加速涌现。

中昊芯英提供的搭载中国首枚高性能TPU AI芯片“刹那?”的人工智能服务器以及大规模AI计算集群系统“泰则?”，为项目提供算力底座。

√ 该园区将有望成为国内最大规模零碳数据中心余热回收利用一体化项目，也是国内首个完全定位于“大算力+大模型”形态的大型人工智能计算中心。

√ 成功打破高校对进口高端算力设备的依赖，实现算力资源的自主可控。

√ 在完成同等AI运算量时的算力成本节约超50%，有效减轻了高校的财务负担。

√ 助力太极股份成功入选中国互联网协会2024年度互联网助力经济社会数字化转型特色案例。

中山大学中山眼科中心首创国产眼科大模型，以“三级诊疗”模式推进均质普惠医疗

□ 案例简介：我国眼科医疗资源的供需矛盾极为突出。中山大学中山眼科中心创新性地研发了第一个国产眼科大模型ChatZOC，从眼病的筛查、诊断、治疗、随访、预测全流程进行了探索和研发，并成功验证了其可行性和可靠性。ChatZOC眼科大模型的构建，以高质量眼病诊疗知识库为基础，链接中山眼科中心大数据平台，结合最新眼科指南和文献，并依托华为基础AI计算框架，以基础模型的部分参数高效微调、分段检索增强生成等多种先进技术，进行数据多维度，训练多阶段的标准化模型学习。华为提供的算力支持，协助ChatZOC更高效地处理海量数据，更精确地完成复杂的计算任务，增助ChatZOC知识问答科学性的大幅提升，在眼科领域任务达国际先进水平。

解决眼科面临的问题

患病率高，普筛率低

老年性眼疾如白内障、青光眼等的发病率正逐年攀升

》青少年近视问题日益严峻

眼科定期体检比例不足10%；70%患者就诊时已较严重

医疗资源不足

全国范围内超过9亿人遭受眼病困扰VS5.4万眼科医生总数

#

医疗资源分布不均

医疗资源70%分布于沿海大城市，眼病患者70%处于内陆西部地区、广大农村及偏远地带，眼科诊疗服务的可及性更是微乎其微，患者往往难以获得及时有效的治疗

临床真实对话数据微调并作为知识库引导答案生成

眼科大模型解决方案

创新性

ChatZoC眼科大语言模型

可行性

统一呼叫运维平台

中山眼科中心优质数
据支持
华为算力支持

业务中台

数字化手术室

微服务

云原应用

互联网+服务系统

互联网医疗平台

中台

数据中台

互联网科普平台

技术中台

中间件

PaaS平台

AI/大数据

云原生平台

AI中台

边缘/loT

统一云管理平台

弹性计算资源池

弹性存储资源池

弹性网络

华为算力底座

统一规划，统一运维，数据免迁移，支持医疗AI大模型高效利用

实践效果

覆盖智能新型三级诊疗模式，实现“设备+专家+人工智能"的融合，推进优质眼科医疗资源扩容、下沉和外溢，让患者享有触手可及的智慧医疗服务

10万+电话咨询服务

5倍患者服务效率

150万次/年

7万住院患者服务

20%)医学生问诊能力

50%医疗文书书写时间

广大患者

√基于移动智能终端的智能数字眼科医生基于百万语音数据的数字智能客服助手√婴幼儿眼病智能筛查系统

基层医院巡诊车

√联合全国多家单位，构建眼病智能防筛诊治三级诊疗体系逐步实现涵盖眼科筛查、诊断、治疗、随访和预测全流程眼科智能诊疗决策系统

√终端普筛：走过12万+公里，16省60城市，未来2-3年拟覆盖干万人次

ChatZoc

√提升眼科知识的准确性

√眼病辅助诊断&生成报告

□ 案例简介：云鼎科技股份有限公司联合华为技术有限公司，在前期矿山+人工智能成功实践沉淀的云边协同、边用边学的统一架构及统一数据规范的基础上向化工行业横向扩展。聚合国家流程制造智能调控技术创新中心、青岛科技大学、南京凯奥思、中国石油和化学工业联合会等20余家“政产学研用投”生态伙伴进行技术的联合创新攻关及持续运营。通过与山东能源集团、万华化学等头部企业化艺专家的联合研讨、工厂需求调研等方式梳理化工工艺优化+AI应用场景，其中，甲醇精馏装置工艺智能优化、低温甲醇洗装置溶液循环运行优化等场景已完成模型训练及应用开发。

AI全流程深入融合化工价值场景

与华为合作建成矿山领域首个人工智能大模型开发和应用平台，应用场景从矿山向化工、装备制造、新材料等行业扩展

70+推广单位

13家
化工学科头部高校，
联合攻关

》化工产品生产需要多个装置和复杂的工艺流程

目前缺乏整体环节优化，普遍存在生产物料成本高、产品收率低等问题

》化工生产过程中的节能减排也面临严峻挑战

气化炉温度异常

40+化工场景

低温甲醇洗溶液循环优化

储罐泄漏检测

甲醇精馏装置工艺智能优化

特殊作业安全检测

管线滴漏监测

焦化配煤优化

设备故障监测

特种车辆及车牌识别

燃烧炉火焰状态监测

水煤浆浓度、粘度预测

工业大模型平台

领域模型

研发大模型

设计大模型

过程控制大模型

安全大模型设备维护模型

基础大模型

能源管理大模型

A14S

预测大模型

NLP大模型

视觉大模型

决策大模型

算力平台底座

化工从大模型向高质量转型诉求强烈

甲醇精馏装置工艺智能优化场景

利用大模型预测能力精准预测甲醇精馏、低温甲醇洗、焦化配煤等流程的最优工艺参数，稳定产品质量，降低生产成本

环境温度

进料流量

精馏塔温度

多元源数据融合分析

压

2%平均每吨甲醇蒸汽消耗量降低

最佳回流比

192万元蒸汽成本降低

(以2023年全国甲醇产量8300万吨估算)

预测大模型

工艺流程参数精准预测

大小模型与工业机理结合构建多变量工艺优化模型

AI赋能化工价值空间巨大

Part 01 时代动力，AI新世代繁荣的发动机
子光年
Part 02 层见叠出，复杂工程需要多样手段解决
甲子光年
Part 03 各取所需，市场激发AI算力的选择思考
Part 04 实践落地，AI算力应用的新标杆
甲子光年
Part05 来日方长，AI新世代下的不断探索

□ AI应用下载量和内购收入都呈现快速增长态势。2024年1月至8月份，全球下载量同比增长26%，达到22亿次，预估全年下载量将达到33亿，同比增长26%。在收入端，全球AI应用同比激增51%，规模至20亿美元。

□ 随着AIGC技术发展，IDC预测2024年全球将涌现出5亿个智能化应用，相当于过去40年间应用数总和。

图1：2023-2034年全球AI应用下载量及AI应用内购收入趋势（单位：亿；亿美元）

AI软件及服务+AI智能硬件快速发展激发AI算力需求

图2：2024-2028年全球AIPC及AI手机的出货量占比增长情况 (单位：%)

整体市场的算力核心判断指标取决于市场发展阶段对应的训练及推理需求，当下是AIGC产业技术与商业结合的重要拐点，一方面，国内外均有商业落地的场景及对应模型出现，技术路线实现大方向确认；另一方面，具体场景的商业模式及盈利模式仍待寻找，需要大量算力支持各行各业企业持续探索。

·算力的核心指标变化：重训练一关注模型参数量，重推理一一关注应用的用户数据吞吐量。

数据来源：公开资料、甲子光年智库总结整理，2024.12

商业模式突破关键点之一

建议构建清晰的架构、明确的标准和统一的数据规范。

口当前从算力平台建设到模型应用部署面临诸多挑战，新型算力服务呼之欲出。新兴的智能算力平台需要从规划、建设、集成、模型训练到推理的落地，整个过程是一个复杂的系统工程，需要包括：

1）大规模集群、软硬一体强耦合的复杂交付，大幅提升了算力平台的设计与实施难度，以及成本、高能耗等挑战；

2）模型训练底层机制，理论上决定了训练中断是不可避免，如何稳定训练的时长，故障快速恢复也是重点考虑的问题；

3）新兴技术领域，各类软硬件技术都在快速迭代，客户模型训练和应用开发过程中，对底层软硬件的适配调优及专业人才获取上也面临巨大的挑战。

用户需要实现算力和应用的顺畅衔接

"自如式”算力服务能够高效整合算力资源并灵活满足客户在不同层次的需求，解决AI应用落地的“最后一公里”难题。

如果把智算中心比作房源，传统的算力运维就像传统二房东样通过重资产的模式参与智算中心建设，而对后续应用开发的模型调优、应用开发等环节渗透不足，而新型算力服务将业务重点着手于模型调优与算力运维一体化的纯软业务，同时具备在应用侧赋能企业定制开发的高业务扩展性。

新型算力服务

只做纯软业务，现金流压力小

传统算力运维

需要参与到算力中心硬件层面建设，现金流压力大

结合企业数据提供优化的大模型应用能力

自如

通常不涉及模型和应用层面服务通常不涉及模型和应用层面服务模型调优与算力运维一体化，做到开箱即用且好用

供给侧

智算中心

传统二房东

自如仅需先行支付"保底租金”，现金流压力小

需要自行先整租房源再分包，现金流压力重

模型

自如统一装修，实现标准化、保证质量

业主出钱装修，装修质显参差不齐

应用

需求侧

提供房屋清洁、家具维修等各类增值服务

通常无法提供增值服务

供给侧

房源

增值服务

需求侧

随着智能驾驶水平的提高，对算力的要求不断增长；如L5级别的自动驾驶最低算力要求为500TOPS。

1芯片厂商生产高算力车规芯片，可用于自动驾驶与AI应用，车企推出装配高算力芯片的智能汽车。

部分新能源车型算力

高等级自动驾驶对芯片算力的要求变化

智能座舱SoC芯片算力变化

□ 车厂与科技公司发力车端AI大模型，随着新能源汽车对智能化的要求不断提高，将AI大模型接入整车已经成为行业趋势；车厂与科技公司均发力自研AI大模型，以期提高智能化水平。

部分厂商车端大模型布局

蔚来	NomiGPT：端云融合架构，多模态感知，支持第三方API调用，搭载情感引擎和长期记忆能力
小鹏	AI天玑大模型：集成感知大模型、规控大模型、生活助理、出行助理
理想	Mind GPT：训练数据总量超过3万亿tokens，多模态认知模型，采用 taskformer架构
广汽	广汽AI大模型平台：AI大模型平台成为全场景应用的入口，重塑智能汽车场景交互范式
华为	干悟引擎大模型：以华为云盘古大模型、MindSpore异思计算框架和昇腾 Al基础硬件平台等技术为基础底座
百度	智舱大模型2.0：采用全新MoE架构，可支持本地化部署!支持车企高效定制品牌特色
商汤	日日新SenseNova50：基于超过10TBtokens训练、覆盖数干亿量级的逻辑型合成思维链数据
科大讯飞	星火大模型：基于“讯飞星火+汽车”模式，创造性地将犬模型与汽车产业深摩整合

各车企、智驾供应商智算中心算力布局情况

企业类型	企业名称	算力布局
车企	特斯拉	100EFLOPS(2024年10月)
	理想	4.5EFLOPS
	小鹂	2.5EFLOPS
	长城	1.64EFLOPS
	长安	1.42EFLOPS
	蔚来	1.4EFLOPS
	吉利	0.81EFLOPS

多元异构算力

多元异构架构融合，满足不同精度要求，推进算力多元化供应商用国产芯片并行推进，精准匹配智算业务需求

绿色低碳

降低PUE以达到国家及当地政策要求降低数据中心耗电量，降低运行成本现有机房改造方案，灵活应对改造需求

运营平台提升效益

多视角运营工具全面支撑精细化运营多态服务灵活满足用户需求智算中心运营增效，达成预期ROI

智算中心

05智能化运维

统一智能运维平台，提高运维效益和质量指定标准化运维流程及组织，提供体系化服务保障

一站式开发平台

融合AI开发的多个环节，推动人工智能规模化落地实现大模型到具体业务场景之间的打通，促进其行业化应用

06安全合规保障体系

等级保护机制，构建网络安全纵深防御体系智算数据安全，保证数据全生命周期安全AI服务合规，完善内容安全管理体系

图：中国智能算力用电量增长预测(用电量：亿度)

□ 全球碳中和趋势下，中国明确提出“碳达峰、碳中和”（“双碳”目标）的战略目标，以应对气候变化和推动可持续发展。在此背景下，国家通过《算力基础设施高质量发展行动计划》和“东数西算”等政策，推动算力基础设施绿色化，优化能源结构和布局。算力行业作为支撑AI、大数据等数字经济发展的核心基础设施，因其高能耗特性在碳中和进程中具有独特作用，不仅直接影响自身能源消耗和碳排放，还能通过技术创新赋能其他行业实现减排目标，成为实现“双碳”目标的重要抓手。

图：中国碳中和时间线

三大驱动因素

·国内政策：《算力基础设施高质量发展行动计划》

·国际政策：欧盟绿色协议、EuroHPC计划

·企业绿色供应链管理

·客户对绿色算力中心的高要求：PUE、可再生能源比例、绿色SLAs需求

·可再生能源成本下降带来的经济性：光伏和风电的发电成本在全球范围内持续下降，部分地区已低于煤电和天然气发电成本。

·提升竞争力的绿色技术应用：液冷技术（冷板式液冷和浸没式液冷）、储能系统 (锂电池和热能储存)

□ 随着AI算力中心等数据中心规模的不断扩大，绿色节能数据中心已从概念走向实践，越来越多的数据中心在建设时将PUE值（平均电能使用效率Power UsageEffectiveness）等指标作为关键指标，建立追求更低的PUE值的目标。

指标名称	定义与计算公式	意义	技术优化方向
PUE	电能使用效率。数据中心总能耗/IT设备能耗	数值越接近1，表示能效越高，冷却和辅助设施的能耗更低	提高冷却效率：采用液冷或间接蒸发冷却技术优化电力分配：使用高效UPS和电力模块智能化管理：AI优化能耗调度
CUE	碳使用效率。数据中心总碳排放量／IT设备能耗	反映算力中心的碳排放水平，数值越低越环保	引入可再生能源：使用太阳能、风能等提高能源使用效率：优化IT设备的能效
WUE	水使用效率。数据中心总用水量／IT设备能耗	评估冷却系统对水资源的依赖程度，数值越低表示水资源使用更高效	提高冷却效率：采用液冷技术减少水耗优化水资源管理：循环利用水资源
RUE	可再生能源利用率。可再生能源消耗量/数据中心总能耗	数值越高，表示可再生能源使用比例越高，能源结构越绿色	引入可再生资源：建设太阳能、风能发电设施优化能源结构：提高可再生能源使用比例
ERE	能源再利用效率。（总能耗-再利用的能源量）/IT设备能耗	数值越低，说明废热再利用水平越高，整体能效越高	废热回收利用：利用废热进行供暖或发电提高能源转换效率：优化能源转换技术
GEC	绿色能源系数。使用的绿色能源量／数据中心总能耗	反映绿色能源的使用比例，强调能源供应的绿色化程度	引入可再生能源：使用绿色能源供电优化能源采购：购买绿色能源证书
ITUE	IT设备使用效率。实际使用的IT负载／IT设备总容量	评估资源利用效率，数值越高表示设备使用更充分，资源浪费更少	提高设备利用率：优化资源调度算法虚拟化技术：提高服务器利用率
Energy-to-Solution	能耗-解决方案效率。总能耗／任务完成时间	专注于任务完成效率，适用于高性能计算（HPC）和AI算力中心评估	提高计算效率：优化算法和硬件配置减少任务完成时间：提升硬件性能
TUE	总体使用效率。IT设备能耗／数据中心总能耗	数值越高，表示IT设备能耗占比越高，冷却和辅助设施能耗占比越低	优化电力分配：提高电力使用效率减少非IT设备能耗：优化建筑和辅助系统

基础设施节能

可再生能源使用

绿电交易绿证交易和碳交易

智能化运维

IT设备节能

算力-电力协同

PUE是最基础和常用的指标，广泛用于衡量能效水平。我国的平均PUE值基本在1.8\~2.0之间，中小型数据中心的PUE值甚至更高，大多在2.5以上，优化空间极大

CUE、WUE、RUE、ERE等绿色化指标为算力中心提供了环境友好性和可持续发展的参考

ITUE和 Energy-to-Solution更关注设备利用率和计算任务的效率

·TUE用于综合评价整体能源利用效率，与PUE互为补充

口核心技术：能效调优（AI动态优化），通过实时监控和分析算力中心的运行数据，利用人工智能算法对资源、能源的使用进行动态调整，以达到节能和提升效率的目的。

√数据采集与建模：部署传感器和监控系统，采集硬件使用率、温湿度、电耗等数据、基于历史数据和实时数据，建立能耗与负载的数学模型。

√AI模型训练：使用机器学习算法训练AI模型，识别能耗与计算任务之间的关系；输入变量包括任务负载、电力消耗、冷却参数等；输出目标为最优的资源分配和冷却策略。

√动态优化与部署：实现AI模型与算力中心管理系统的集成；动态调整服务器任务分配、供电和冷却参数。

√持续优化与迭代：持续监控优化结果，收集新数据，不断迭代AI模型以适应新需求。

实时监控与数据采集

CPU/GPU利用率

人工智能算法

机器学习预测

内存和存储使用率

强化学习优化

电力消耗 (PUE指标)

智能优化算法（遗传算法、模拟退火算法)

温湿度、冷却系统状态

动态资源分配

AI弹性分配

负载优化

关闭空闲设备

资源利用最大化

冷却系统优化与预测性维护

动态调控

自然冷却利用

AI故障预测

预防性维护

□ 核心技术：数据分析与提前预警，数据分析与提前预警是通过实时采集和分析算力中心运行数据（如设备状态、环境数据、历史记录等），利用人工智能和大数据技术，预测潜在的风险或故障，并发出预警信号，防止问题恶化或影响系统运行。

实时监控与数据采集：通过传感器和物联网（loT）技术，采集环境温度、湿度、电流、电压、设备运行状态等数据；实现对算力中心全方位的实时监控，确保数据完整和实时性。

大数据分析：分析历史数据和实时数据趋势，识别异常模式；基于设备的运行规律，构建正常运行的模型，快速识别偏离标准状态的行为。

人工智能算法：利用分类算法和时间序列分析算法预测设备状态变化；通过聚类算法或深度学习发现隐藏的风险信号，检测出潜在问题。

预警机制：综合分析设备数据和环境数据，判断风险等级（低、中、高）；通过短信、邮件、系统通知等方式向管理员发出预警信号，提前干预。

实施过程	数据采集	部署传感器，采集包括设备状态、环境参数等实时数据。
	数据分析	利用大数据平台和AI模型分析数据，识别异常和潜在风险。
	风险预测	预测设备老化、故障趋势或系统瓶颈。
	预警触发	根据风险等级，启动相应的预警机制。
实际应用	设备过载预警	检测关键服务器或设备的过载风险，避免宕机。
	环境异常预警	实时监控温湿度或供电系统异常，防止因环境问题导致设备故障。
	能耗异常预警	发现能耗突然增加的设备，定位问题源头，及时处理。
优点	提前防控风险	通过预测减少意外停机和重大故障发生概率。
	节约成本	提前发现问题，避免因故障导致的高额维修和停机损失。
	高效运维	智能化的预警机制减少人工干预，提升运维效率。

thANKs 谢谢

北京甲子光年科技服务有限公司是一家科技智库，包含智库、媒体、社群、企业服务版块，立足于中国科技创新前沿阵地，动态跟踪头部科技企业发展和传统产业技术升级案例，致力于推动人工智能、大数据、物联网、云计算、AR/VR交互技术、信息安全、金融科技、大健康等科技创新在产业之中的应用与落地 01

分析师

刘瑶18401669467

智库院长

宋涛微信stgg_6406

关注甲子光年公众号

扫码联系商务合作

2024年中国AI算力行业发展报告-甲子光年