2024 AI “下凡”

——端侧AI深度跟踪报告

行业评级：看好

2023年11月7日

分析师蒋高振

邮箱 jianggaozhen@ stocke.com.cn

证书编号 S1230520050002

研究助理安子超

邮箱 anzichao@ stocke.com.cn

研究助理苗霄寒

邮箱 miaoxiaohan@ stocke.com.cn

研究助理陈诗含

邮箱 chenshihan@ stocke.com.cn

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长 …… 全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

收钱文案、增长黑客、产品运营、品牌企划、营销战略、办公软件、会计财务、广告设计、摄影修图、视频剪辑、直播带货、电商运营、投资理财、汽车房产、餐饮烹饪、职场经验、演讲口才、风水命理、心理思维、恋爱情趣、美妆护肤、健身瘦身、格斗搏击、漫画手绘、声乐训练、自媒体打造、效率软件工具、游戏影音……

扫码先加好友，以备不时之需

02 02 白求 03 03

01 软硬融合，端侧AI技术蓄势待发
提质增效，论端侧AI渗透之必然
龙头先行，科技企业已竞相布局
04 相关标的及投资建议
05 风险提示

01 软硬融合，端侧AI：技术爆发

ChatGPT带动云侧AI产业链史诗级爆发

ChatGPT热潮席卷全球，云侧AI产业链史诗级爆发。ChatGPT (Chat Generative Pre-trained Transformer) 是由OpenAI于2022年12月推出的对话AI模型，一经面世便受到广泛关注。获得千亿、万亿级别参数的大语言模型需要超大规模AI服务器集群进行训练，且随着模型不断迭代，对云端算力的需求增加。2023年以来，以英伟达为代表的AI芯片、通信网络和服务器产业链相关企业股价涨幅明显。

ChatGPT发展历程

美股AI芯片龙头英伟达年初至今涨幅较大

AI不止于云：端侧是模型应用不容忽视的重要场景

（1）云侧AI：数据云端汇集训练，模型通用性强。从终端采集和感知到的声音、视频等数据都通过网络传输到云中心侧进行后续处理，云侧的资源高度集中，存储和计算能力强，并且具有很高的通用性；

（2）端侧AI：终端设备上进行的轻型模型运用。越来越多的 AI计算和推理工作负载在手机、笔记本电脑、XR 头显、汽车和其他边缘终端上运行，端侧硬件具备一定的计算能力，以及低延迟、个性化、隐私安全的特征。

√在设备本地进行如图像/语音识别等小模型、低功耗的AI任务

√结合用户个人数据实现个性化AI

√AI数据本地化，隐私信息更安全

端侧AI使用场景手机/PC等终端设备

中度 AI — RTX GPU更大的模型 | 按需使用 | 更高性能表现
重度 AI — CLOUD
随时可用• 低延迟 • 数据本地化/保护隐私 • 无服务器成本

1 混合AI大势所趋，AI处理重心向边缘转移

➢ 云端推理成本极高，生成式AI规模化拓展难以持续。AI推理规模远高于训练，尽管训练单个模型会消耗大量资源，但大型生成式AI模型预计每年仅需训练几次；推理成本将随着日活用户数量及其使用频率的增加而增加。

➢ 终端侧AI能力是赋能混合AI并让生成式AI实现全球规模化扩展的关键。在生成式AI出现之前，AI处理的重心正向边缘转移，越来越多的AI推理工作负载在手机、PC、XR 头显、汽车和其他边缘终端上运行。

➢ 混合式AI（云端协同）成为规模化应用未来的解决路径。在一些场景下，计算将主要以终端为中心，在必要时向云端分流任务。而在以云为中心的场景下，终端将根据自身能力，在可能的情况下从云端分担一些AI工作负载。

AI处理的重心正在向边缘转移

场景丰富而深化，端侧AI无远弗届

➢ 端侧AI场景广泛，包括智能手机、PC、汽车、XR以及物联网等终端品类。不同产品类型也对芯片性能与成本提出更多的要求。

AI终端场景

智能驾驶

• 功能需求：图像识别、数据融合、SLAM定位等、路径规划功能

• 算力要求：20-4000 TOPS (L3-L5)

• 功耗需求：中等，不过分追求低功耗

• 可靠性需求：高

• 成本敏感性：低

智慧安防

• 功能需求：图像/视频识别、图像/视频检测

• 算力要求：4-20 TOPS

• 功耗需求：追求较低低功耗

• 可靠性需求：偏高，尤其在识别的准确性方面

• 成本敏感性：较高

智能家具

• 功能需求：图像识别、语义识别与理解、语音助手等功能

• 算力要求：<1 TOPS

• 功耗需求：较高，家用小型产品多追求更低功耗

• 可靠性需求：较高

• 成本敏感性：较高

消费电子

• 功能需求：图像/场景识别、拍照美化、语音助手等功能

• 算力要求：1-8 TOPS

• 功耗需求：追求低功耗来保证设备续航时间

• 可靠性需求：高

• 成本敏感性：高

端侧AI落地的软硬件基础逐步夯实

生成式AI模型通过多种“瘦身”方式正在变小，同时终端侧硬件处理能力持续提升，二者共同助力端侧AI落地。AI大模型的压缩和端侧推理框架的轻量化，加上边缘算力的跃升，实现大模型在边缘-端侧部署、加速AI与智能终端融合的核心技术条件目前已基本就绪。

软件层面：已实现对大模型进行量化、剪枝、蒸馏，轻量化、小型化以适应移动端场景，并结合稀疏计算等方式降低对边缘端侧算力需求。高通表示，当前生成式AI模型所支持的参数日益增加，Stable Diffusion等参数超过10亿的模型已能够在手机上运行，且性能和精确度达到与云端处理类似的水平；未来拥有100亿或更多参数的生成式AI模型将能够在终端上运行。

数量可观的生成式AI模型可分流到终端上运行
端侧模型通过降低精度以实现相对更快的运算

Darknet cuDNN Perf:11.3ms
YOLOv2 with INT8

TensorRTFP32 Perf:4.80ms

TensorRTINT8 Perf:2.34ms

以对象监测算法YOLO为例，FP32与INT8的图片精度相差甚小，但是INT8八位整型仅占用一个字节，数据量小、能耗低、计算速度相对更快，更符合端侧运算特点。

1 硬件层面：端侧AI芯片性能快速提升

从几GOPS到数千TOPS的芯片算力能够支持的AI应用

硬件层面：近年来端侧AI芯片算力性能快速提升，为端侧大模型落地做好准备。

➢ 以手机为例，全球主流手机厂NPU性能近两年显著提升。根据AI-Benchmark榜单，不同手机SoC在INT8、FP16精度下NLP模型的计算能力在2021-2023年提升较快。AI能增强手机处理图像、语音、自然语言处理等任务的能力，显著增强手机性能，更灵活响应用户需求，提升用户体验。

主流手机SoC芯片AI性能迭代

高通骁龙8Gen 2

注：AI-Benchmark对各手机型号的AI性能综合评价，此处选取
① 纵坐标为INT8 NLP测试结果（单位 Tops）
② 搭载同一主芯片的不同机型取其均值

高通晓龙8Gen1

手机SoC的AI性能快速提升
联发科天玑9200

资料来源：AI-Benchmark，Synopsys，浙商证券研究所

<100 GOPS

AoN(面部检测、语音触发)，可听戴设备，引擎控制，雷达后端处理

100 GOPS - 1 TOPS中端视觉(面容识别)，图像，动力调校，机器人控制

1-10 TOPS

视觉(检测、识别)，图像(术中光学成像)，雷达，激光雷达，无人机

10-100 TOPS

自动驾驶视觉和图像处理，观测系统，AR/VR等

100-1000+ TOPS视觉(目标探测、全景分割)，传感器融合，服务器推理 9

NPU为芯片性能支撑，广泛用于端侧AI加速

高效低耗特性的NPU是一种专门用于进行人工神经网络计算的芯片，被广泛用于加速AI任务。其克服了CPU、GPU等通用处理器在深度学习等领域数据吞吐量、算力的限制。目前NPU集中在推理芯片领域，NPU的出现代表芯片从通用化逐渐开始走向专用芯片的异构混合计算。

NPU实现存算一体化，矩阵乘法功能提升芯片运行效率。1）对于CPU和GPU的冯·诺伊曼结构中，存储和处理是分离的，分别由存储器和运算器来实现，跑神经网络应用时受到存储和处理分离式结构的制约，因而影响效率。NPU通过突触权重实现存储和计算一体化，从而提高运行效率。2）NPU可以比传统CPU或GPU更高效地执行复杂的矩阵/向量/张量计算和并行处理，它们广泛应用于计算机视觉、自然语言处理和语音识别等各种应用中。

NPU在测试展示出高效低耗的性能

NPU特点

高通Hexagon NPU架构图

√ 高效性能

√ 低功耗

√ 专门化设计

√ 硬件加速

√ 弹性及可扩展性

用Meteor Lake跑 Stable Diffusion

CPU：43秒，功耗40WGPU：14.5秒，功耗37WNPU：20.7秒，功耗10WGPU+NPU：11.3秒，功耗30W

Figure3. Hexagon block diagram. The architecture features a four-wide ver long instruction word (VLiW) with dual load/store and dual single-instruction, multiple-data (SIMD) execution units and supports hardware multithreading.

02 提质增效，论端侧AI渗透之必然

2 技术角度：端侧AI相比云侧优势明显

端侧AI的四大优势：隐私和安全、低延时、可靠性、低成本。

✓ 隐私和安全：端侧AI从本质上有助于保护用户隐私，因为查询和个人信息完全保留在终端上。数据的存储计算等都在本地，避免了传到云端可能带来的数据安全问题。对于企业和工作场所等场景中使用端侧AI，这有助于解决保护公司保密信息的难题。例如，用于代码生成的编程助手应用可以在终端上运行，不向云端暴露保密信息。

✓ 低延时：当生成式AI查询对于云的需求达到高峰期时，会产生大量排队等待和高时延，甚至可能出现拒绝服务的情况数据的存储计算在本地处理、本地响应方面时间更短速度更快。

端侧AI具有隐私、可靠、低延时、高效、个性化等特点

边缘AI处理器延迟-ResNet50 v1.5（以毫秒为单位）

2 技术角度：端侧AI相比云侧优势明显

✓ 可靠性：与云端互联的网络可能不稳定、甚至断线。决策在本地大幅降低了数据经过更长的通路产生错误的几率。终端侧AI处理能够在云服务器和网络连接拥堵时，提供媲美云端甚至更佳的性能。根据《Cloud vs On-device AI?Maybe something in between!》的测算，如果所有的推理案例都在云服务器上进行，准确率是79.31%；如果49.88%的推理案例在移动端进行，其余在云端进行，仍可达到79.31%的云级准确率。

✓ 低成本：随着生成式AI模型使用量和复杂性的不断增长，仅在云端进行推理并不划算。将一些处理从云端转移到边缘终端可减轻云基础设施的压力并减少开支。此外与云端相比，端侧AI能够以很低的能耗运行生成式AI模型。

分类精度与决定在移动设备上推断的测试输入的百分比之间的关系

生成式人工智能搜索的成本

2 用户角度：成本增加有限，端侧硬件先行

从购买行为和增量成本两个角度与早期的5G手机对比，AI手机/PC具备快速渗透的逻辑基础。相比19年5G手机高达万元的售价，目前AI手机/PC的BOM成本增加集中在主芯片和内存等环节，售价十分接近现有高端型号。消费者为了享受未来可通过OTA迭代的AI操作系统和应用软件，可遵循先购机再升级的通用模式。

1）硬件先行：5G手机商用后，渗透率快速提升。2020年国内5G基站批量建设刚刚起步，但5G手机出货量在20年底就已接近70%。

2）成本分析：相比早期5G手机， AI手机/PC成本增加并不明显。5G手机的增量成本包括射频、AP&BP、闪存和专利费等，而AI手机/PC在BOM层面基本只增加了主芯片和DRAM。据高通预测，SoC价格提升幅度在10%左右。

5G手机先于基站快速渗透

5G手机发布后，价格不断向高端机均价回归

03 科技企业已龙头先行，竞相布局

3 AI PC：产业落地转折点渐行渐近

AI PC为各领域提供创新解决方案：

✓ 1）高速AI处理：AI PC能快速处理图像识别、语音识别、自然语言处理等AI任务，提高生产力和娱乐体验；

✓ 2）增加AI应用：ISV有望提供NPU应用程序，将AI功能整合到现有应用程序中；

✓ 3）新用例开发：AI PC推动新的业务用例和服务，包括医疗诊断、自动驾驶等多领域；

✓ 4）提升用户体验：通过语音、手势互动、AI个性化支持和高级安全功能改善用户体验。

AI PC已接近产业落地的转折点。支持人工智能的PC市场有望在2025年和2026年大幅扩张。根据Canalys预测，到2027年60%的PC将具备人工智能功能。

AI PC的功能

300 款AI赋能的游戏

AI赋能创意产业100款AI创造力&设计应用
AI赋能视频

AI赋能生产力

Al-capable PCs will bemainstreamby 2025;by2027, two out of every three PCs will be Al-enabled

• 数字资产生成

• 视频超高分辨率

• 帧数生成

降噪

• 自动字幕

• 超高分辨率

• 智能角色替身

• 视频和图片编辑

• 超高分辨率

• 自动翻译

• 视频会议

文档 & 演示文稿起草

AI PC的发展预测

• 数据分析和见解

for(inta=aBegin,b=bBegin;a< //Declaration of the shared enor //store the sub-matrx of A shared_float As[BLOCK_SIZE][B //Declaration of the shared //store the sub-matrix of 8 shared_float Bs[BLOCK_SIZE][BL //Load the matrices fron device //to shared enory;each thread /ane element of each matrix
As[ty][tx]=A[a+wA·ty+tx]; Bs[ty][tx]=B[b+w*ty+tx]; //Synchronize to make sure the ma _syncthreads(）;

Global Al-enabled PC adoption curve

AI赋能程序开发

AI FOR EVERYDAY

• 自动编程

• 代码调试

• 训练AI模型

• 提炼网页内容

• 制定旅行计划

• 数字个人助理

3 AI 手机：产业爆发前夜

AI手机有望成为个人智能助理，为手机行业带来创新：

✓ 1）智能化和便利的服务体验：手机作为使用频率最高，使用时间最长的电子产品，也是链接智能汽车、PC、耳机以及其他智能终端的中枢，植入AI大模型后能成为真正的个人智能助理。例如语音助手能提供更自然的交互与更精准的意图识别服务，图像识别和处理功能可以为手机带来更出色的拍照和图像处理能力，文本生成能力可用于快速撰写购物评价、生成发言稿等场景。

✓ 2）数据更加安全精确：AI手机需要的数据保存在端侧更安全，较云有隐私优势，手机用户自己生成的数据对于智能助理的训练更加精确。

✓ 3）从单个AI应用到统一AI生态：融入手机系统中的大模型，可以打破各APP之间的壁垒，比如邮件、备忘录、日历的互相调用，在某一工作节点发送特定邮件。

对比苹果2011年推出的手机助手Siri：Siri采用一问一答的形式，而AI手机具有人格化、记忆、感知和管理能力，触发主动服务。

AI手机功能
图像填充

相册检索

文本生成

图像生成

语音助理实现交互

3 AI PC进展：英特尔

10月19日“英特尔on技术创新大会2023”官宣将在今年12月14日正式发布面向下一代的AI PC的英特尔酷睿Ultra处理器Meteor Lake ，以加速“AI PC”时代的到来。此外，英特尔提出“AI PC加速计划”，宣布将为软件合作伙伴提供工程软件和资源，以在2025年前实现为超过1亿台PC实现人工智能特性。

➢ 首次引入了针对人工智能加速的NPU：NPU能与所有计算引擎的内置AI功能结合实现更高能效的AI计算，通过NPU降低CPU和GPU的AI工作负载，带来高能低耗的表现。通过GPU、NPU、CPU不同层级的AI算力网络，Meteor Lake能很好的将AI从云端引入到客户端PC和企业边缘PC。

➢ “AI PC加速计划”，旨在为软件合作伙伴提供工程软件和资源。

➢ 酷睿Ultra处理器“Meteor Lake” 将于12月14日正式发售。

Meteor Lake首次引入AI加速的NPU模块

CPU+GPU+NPU形成不同层级算力网络

3 AI PC进展：联想

10月24日，联想举行了主题为“AI for All”的“2023联想Tech World创新科技大会”，重点展示了联想在端侧大模型方面的能力，以及联想的首款AI PC产品。出席嘉宾包括联想集团董事长兼CEO杨元庆、英伟达CEO黄仁勋、AMD CEO苏姿丰博士等。

➢ 个性化优势凸显：相比云端公用大模型，联想PC级大模型Lenovo AI Now在面对“去斯德哥尔摩的音乐节的行程规划”问题时表现出更加个性化，能够将家庭地址、酒店偏好等考虑进去。

➢ AI PC预计2024年9月后上市，未来还将进入车端。杨元庆会后表示，搭载端侧大模型的PC要明年9月以后才上市，按照规律前期将占有10%的市场份额，日后会成为主流。此外，联想表示未来端侧大模型还将进入车端。

➢ 推出针对企业用户的混合人工智能计划，旨在保护数据安全。通用训练后大模型可通过企业的特定数据进行额外的训练和微调；在端侧再加入企业知识矢量数据库中的特定知识，最后链接旧有ERP系统、CRM系统、MES系统等供应商数据库，得到混合AI系统。

联想PC大模型在时效上略有延迟，但更具个性化

联想•混合人工智能计划--混合AI系统

3 AI手机进展：高通2023年成功将AI布局在安卓手机

2023年2月23日，高通技术公司成功在搭载了骁龙芯片的安卓手机上运行了Stable Diffusion，这在全球还是首次。作为一款现象级应用，Stable Diffusion可以基于大模型从文本生成图片，神奇的背后是复杂的模型和巨大的运算量，其模型参数超过10亿个。

➢ 由于模型庞大、算力需求高、能耗高企，此前主要局限在云端运行。高通布局在手机上，并在15秒内完成终端侧运行的全栈研究和优化，表现出流畅的性能。它的里程碑意义正在于瞄准了市场需求，同时针对成本、能耗、可靠性、时延、隐私等问题，为各个参与方提供了一个整体解决方案。

手机端Stable Diffusion根据文本提示生成的图片

资料来源：高通《混合AI是AI的未来》，DeepTech深科技，浙商证券研究所

高通AI发展复盘

福 L

3 AI手机进展：谷歌Pixel8

10月4日，Made by Google 2023硬件发布会发布全新Pixel 8系列手机，搭载谷歌自研Tensor G3处理器和Titan M2安全芯片，在手机上首次应用AI智能大模型。谷歌还发布了新版安卓系统Android 14，以及生成式AI加持的谷歌助手Assistant with Bard。

➢ 自主研发芯片Tensor G3：能够在手机摄像头等领域利用其人工智能和机器学习资源。Tensor G3芯片包括最新一代ARM架构CPU、升级的GPU、新的ISP和成像DSP以及TPU（专为运行Google的AI模型而定制设计）。与Pixel 6上的第一代Tensor相比，Tensor G3运行更复杂的ML（机器学习）模型，在设备上运行的机器学习模型数量是前者的两倍多。

➢ 生成式AI谷歌助手Assistant with Bard：可与Gmail和Docs等Google应用程序集成，并让它帮助执行照片创建标题、创建购物清单以及在电子邮件收件箱中查找信息等一系列操作。

➢ AI编辑工具：1）Magic Editor：将物体移动到别处后Magic Editor还会精准填充原本的空间位置。2）Best Take：可以将多张集体照片组合在一起，从不同的图片中选择不同人物的表情来创建完美合影。3）Video Boost视频增强：它将让Tensor G3芯片利用谷歌的数据中心，为用户提供最先进的视频处理。

Tensor G3新一代ARM架构CPU+GPU+TPU

Best Take工具可以从不同照片选择不同表情进行照片拼合

3 AI手机进展：华为/小米/OPPO/VIVO

华为鸿蒙OS 4

8月4日华为开发者大会，华为发布HarmonyOS 4：通过盘古大模型的底层能力加持，华为将为用户带来智慧终端交互、高阶生产力效率、个性化服务的全新AI体验变革。

百亿内参数大模型排名第一*

小米澎湃OS

自研端侧大模型MiLM，轻量化语言模型（ 13 亿参数），手机端侧大模型部分场景效果媲美云端，进一步实现“人/车/家全生态”智能化。

小爱输入助手（生成式AI）

AI妙画、AI搜图、AI写真和AI扩图

✓ 实时字幕及总结

✓ WPS随手拍&理解文意

OPPOAndes GPT模型

Andes GPT作为OPPO自主训练的生成式专属大模型，以端云协同为基础架构设计思路，推出从10亿至千亿多种不同参数规模的模型规格。

10月11日，联发科宣布携手 OPPO 、 ColorOS ，合作共建轻量化大模型端侧部署方案，共同推动大模型能力在端侧逐步落地。

VIVO OriginOS 4

联发科与VIVO在AI领域展开深度合作，率先实现了10亿和70亿参数AI大语言模型、10亿参数AI视觉大模型在手机端侧的落地。

11月1日举办开发者大会，发布VIVO自研AI大模型，引领手机智慧体验变革。10月更新的中文大模型测评C-Eval榜单中，VIVO大模型排名第一。

3 AI手机进展：荣耀/苹果/三星

荣耀 Magic 6

10月26日高通峰会上，荣耀正式官宣，荣耀Magic6系列将搭载高通骁龙8 Gen 3移动平台，支持荣耀自研70亿参数的端侧AI大模型。

基于个人化理解和感知来完成场景化任务闭环

可生成孩子从小到大跳舞的视频

苹果 iPhone 15

直观人工智能：iPhone 15系列中，Pro和Pro Max搭载了苹果最新一代自研芯片A17 Pro，包含六核CPU和六核GPU。A17 Pro是整个手机行业中首款应用3纳米制程的芯片，它的性能核心速度提高10%，能效核心速度也提升，神经引擎速度加快两倍。A17 Pro可以帮助支持更准确的预测输入等功能。

介入AI大模型：2023财年第三财季财报发布会上，苹果CEO库克表示未来几个月内，苹果公司用于生成式AI的研发支出将进一步增加。

三星Galaxy S24

据Sammobile 报道，三星计划在其下一代旗舰手机GalaxyS24系列上全面投入人工智能技术。三星希望Galaxy S24、Galaxy S24+和Galaxy S24 Ultra成为有史以来最智能的AI手机，甚至超越谷歌在Pixel系列上提供的功能。

3 AI汽车——极越

2023年10月27日，吉利控股旗下品牌极越推出全球首台AI汽车机器人极越01，共推出极越01 Max和极越01 Max Performance两款配置车型，售价为24.99万\~33.99万元，是全球首个大模型“上车”的智能汽车。

➢ 百度Apollo赋能软件算法：极越01高阶智驾由百度Apollo高阶自动驾驶全套能力和安全体系赋能，Apollo的L4级自动驾驶安全测试里程已超过7000万公里。依靠BEV+Transformer的纯视觉感知算法，实现点到点领航辅助PPA+代客泊车。此外，极越01融入文心一言的大模型能力，是全球首个大模型“上车”的智能汽车，拥有逻辑推理、策略规划和内容生成等诸多能力。

➢ 英伟达和高通供应自动驾驶和智能座舱芯片：自动驾驶方面，极越01基于双NVIDIA DRIVE Orin芯片，AI算力508 TOPS；智能座舱方面，极越01是国内首发搭载高通第4代骁龙汽车数字座舱平台8295芯片，并首次完全启用双NPU（60TOPS），是当下市面上主流芯片算力的8倍左右。

百度Apollo赋能大模型上车

资料来源：极越汽车官方发布会，浙商证券研究所

极越01智能驾驶技术全球领先

端侧AI需要强大芯片硬件支持

模型训练需要巨大的算力，一定都会在云端进行，与云端大模型不同，手机无法支撑通用大模型百万亿甚至千亿级别的参数，在此类消费级终端需要做适配处理，提升用户体验。考虑到硬件配套、隐私安全、用户体验等，“云侧+端侧”的协同设计思路成为手机行业共识。

1、明确云侧和端侧的特点和功能，各取所长，协同工作。云侧→大模型训练；端侧→推理。

2、需要对手机SoC芯片做一定的升级，增加大模型所需的GPU、NPU、APU等单元。

3、精简参数，降低内存占用，以适配手机硬件。减小参数量、量化技术调整、有争对的精调模型等，使模型能够在端侧流畅应用。

e.g.高通使用AI模型增效工具包（AIMET）将模型从FP32缩小到INT8。

高通骁龙8Gen3芯片高通首个专为生成式AI而精心打造的移动平台

• NPU：性能提升98%，能效提升40%

• 支持100亿参数的模型

联发科天玑9300旗舰芯片（未发布）

天玑 9300 平台将采用Arm 最新的 Cortex-X4超大核和Cortex-A720大核，基于相同工艺的全新高能效微架构可降低功耗达40%

天玑9300将进一步提升CPU及GPU性能，并配备为运行生成式AI的大型语言模型而优化的强大AI处理单元（APU）。

• 首款AI手机将会于今年年底前上市。

3 持续关注各大厂商端侧AI产品进展

11月6日联发科：天玑旗舰芯片天玑9300等新品发布会

2024年1月三星计划在其下一代旗舰手机Galaxy S24系列全面投入人工智能技术。

2024年底苹果计划最早于2024年底在iPhone和iPad中加入生成式AI技术。

12月14日英特尔发布首款AI PC产品Meteor Lake

2024年9月联想计划推出第一款真正意义上AI PC。

04 相关标的及投资建议

4 重点标的

股票代码	公司简称	22营收 (亿元或亿美元）	23营收一致预期	24营收一致预期	22归母净利润	23归母一致预期	24归母一致预期
INTC.O	英特尔(INTEL)	631	540	617	80.1	-4.9	4.2
AMD.0	超威半导体(AMD)	236	231	287	13.2	15.3	37.5
0992.HK	联想集团	716	619	585	20.3	16.1	13.1
603296.SH	华勤技术	926	873	983	25.6	26.2	28.8
603890.SH	春秋电子	38	32	44	1.6	0.7	2.1
301387.SZ	光大同创	10	11	15	1.1	1.5	2.2

注1：预测值均使用wind一致预期（180天），美股和港股数据均使用报表原始数据单位（美元）。
注2：联想集团已披露2023财年年报，故其23年经营数据为实际数据，非预测值。

AI+PC

⚫ 英特尔（美）：全球最大的CPU龙头之一，数据中心及AI业务占比约30%，深度受益PC需求复苏及AI PC放量。

⚫ AMD（美）：全球最大半导体厂商之一，产品覆盖CPU、GPU，Ryzen AI引擎支持7040系列PC，是AI PC领域强大参与者。

⚫ 联想集团（H）：PC龙头厂商之一，预计将于2024年9月推出AI PC整机产品，有望随AI PC市场扩大打开增量新空间。

⚫ 华勤技术：笔记本、手机、平板、服务器等品类核心ODM厂商，深度绑定部分客户，有望充分受益端侧AI产业应用及放量。

⚫ 春秋电子：长期聚焦于消费电子精密结构件业务，PC结构件供应商，深度受益AIPC未来放量趋势及传统PC复苏。

⚫ 光大同创：笔记本碳纤维背板龙头，主要客户包括联想集团、立讯精密等，有望随着AI PC产业推广，业务弹性提升。

4 重点标的

股票代码	公司简称	22营收 (亿元或亿美元)	23营收一致预期	24营收一致预期	22归母净利润	23归母一致预期	24归母一致预期
GO0G.0	谷歌(ALPHABET)-C	2,828	3,051	3,398	599.7	722.8	845.2
QCOM.0	高通(QUALCOMM)	442	358	378	129.4	72.3	87.6
2454.TW	联发科	5,533	一	一	1,181.4	一	一
603501.SH	韦尔股份	201	215	257	9.9	11.9	27.9
300782.SZ	卓胜微	37	43	54	10.7	11.8	16.1
688153.SH	唯捷创芯	23	28	36	0.5	1.9	4.5
002387.SZ	维信诺	75	91	114	-20.7	-12.5	-3.6
688259.SH	创耀科技	9	10	12	0.9	0.9	1.3

注1：预测值均使用wind一致预期（180天），美股数据均使用报表原始数据单位（美元），联发科使用新台币为计量货币。

AI+手机

⚫ 谷歌：全球互联网龙头公司，在深度学习框架、大模型等方面技术领先，Pixel 8系列AI手机正式发布，有望充分受益AI手机需求崛起。

⚫ 高通：全球知名芯片设计厂商，无线通信3G\4G\5G技术领导者，手机SoC龙头厂商，有望充分受益混合式AI趋势。

⚫ 联发科：全球知名SoC芯片设计厂商，与国内手机厂商OPPO、VIVO等联合推动手机侧AI落地，有望获得较大市场需求。

⚫ 韦尔股份：国内手机CIS龙头，深度受益AI手机+空间计算对摄像头在内的传感器及算法的广阔需求。

⚫ 卓胜微/唯捷创芯：国内射频芯片双子星，AI端侧算力提升背景下5.5G等通信新技术需求迅速攀升。

⚫ 维信诺：国内头部品牌直板及折叠屏面板核心供应商，AI手机+折叠屏双赛道有望助力公司面板业务进一步放量。

⚫ 创耀科技：具备较为深厚星闪通讯技术布局，伴随AI端侧对通信端要求的进一步提升，有望迅速受益。

05 风险提示

5 风险提示

产业进展不及预期：端侧AI市场仍处于培育期，软件/硬件都还在持续探索，无论是大模型的持续优化还是AI芯片算力提升及能效控制都是较大的挑战，若产业研发进展不及预期，有可能会影响产业链上各公司经营预期。

下游需求不及预期：当前全球经济尚未完全复苏，若下游端侧AI设备需求不及预期，可能影响产业链各公司的订单、备货、销售等环节。

地缘政治关系恶化：若中美贸易环境持续恶化，可能影响关键技术及关键原材料在国内外的流通，进而影响端侧AI产品的采购、研发、制造、销售环节。

行业的投资评级

以报告日后的6个月内，行业指数相对于沪深300指数的涨跌幅为标准，定义如下：

1、看好：行业指数相对于沪深300指数表现＋10%以上；

2、中性：行业指数相对于沪深300指数表现－10%～＋10%以上；

3、看淡：行业指数相对于沪深300指数表现－10%以下。

点击此处添加标题添加标题点击此处添我们在此提醒您，不同证券研究机构采用不同的评级术语及评级标准。我们采用的是相对评级体系，表示投资的相对比重。

标题点击此处添加标题点击此处添加标建议：投资者买入或者卖出证券的决定取决于个人的实际情况，比如当前的持仓结构以及其他需要考虑的因素。投资者不应仅仅依靠投资评级来推断结论

法律声明及风险提示

本报告由浙商证券股份有限公司（已具备中国证监会批复的证券投资咨询业务资格，经营许可证编号为：Z39833000）制作。本报告中的信息均来源于我们认为可靠的已公开资料，但浙商证券股份有限公司及其关联机构（以下统称“本公司”）对这些信息的真实性、准确性及完整性不作任何保证，也不保证所包含的信息和建议不发生任何变更。本公司没有将变更的信息和建议向报告所有接收者进行更新的义务。

本报告仅供本公司的客户作参考之用。本公司不会因接收人收到本报告而视其为本公司的当然客户。

本报告仅反映报告作者的出具日的观点和判断，在任何情况下，本报告中的信息或所表述的意见均不构成对任何人的投资建议，投资者应当对本报告中的信息和意见进行独立评估，并应同时考量各自的投资目的、财务状况和特定需求。对依据或者使用本报告所造成的一切后果，本公司及/或其关联人员均不承担任何法律责任。

本公司的交易人员以及其他专业人士可能会依据不同假设和标准、采用不同的分析方法而口头或书面发表与本报告意见及建议不致的市场评论和/或交易观点。本公司没有将此意见及建议向报告所有接收者进行更新的义务。本公司的资产管理公司、自营部门以及其他投资业务部门可能独立做出与本报告中的意见或建议不一致的投资决策。

本报告版权均归本公司所有，未经本公司事先书面授权，任何机构或个人不得以任何形式复制、发布、传播本报告的全部或部分内容。经授权刊载、转发本报告或者摘要的，应当注明本报告发布人和发布日期，并提示使用本报告的风险。未经授权或未按要求刊载、转发本报告的，应当承担相应的法律责任。本公司将保留向其追究法律责任的权利。

浙商证券研究所

上海总部地址：杨高南路729号陆家嘴世纪金融广场1号楼25层

北京地址：北京市东城区朝阳门北大街8号富华大厦E座4层

深圳地址：广东省深圳市福田区广电金融中心33层

邮政编码：200127

电话：(8621)80108518

传真：(8621)80106010

浙商证券研究所：http://research.stocke.com.cn

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长 …… 全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

2024 AI “下凡”

——端侧AI深度跟踪报告

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

致终身学习者社群

扫码先加好友，以备不时之需

02 02 白求 03 03

01 软硬融合， 端侧AI：技术爆发

ChatGPT带动云侧AI产业链史诗级爆发

AI不止于云：端侧是模型应用不容忽视的重要场景

1 混合AI大势所趋，AI处理重心向边缘转移

场景丰富而深化，端侧AI无远弗届

➢ 端侧AI场景广泛，包括智能手机、PC、汽车、XR以及物联网等终端品类。不同产品类型也对芯片性能与成本提出更多的要求。

AI终端场景

智能驾驶

智慧安防

智能家具

消费电子

端侧AI落地的软硬件基础逐步夯实

1 硬件层面：端侧AI芯片性能快速提升

从几GOPS到数千TOPS的芯片算力能够支持的AI应用

<100 GOPS

1-10 TOPS

10-100 TOPS

NPU为芯片性能支撑，广泛用于端侧AI加速

NPU特点

用Meteor Lake跑 Stable Diffusion

02 提质增效， 论端侧AI渗 透之必然

2 技术角度：端侧AI相比云侧优势明显

2 技术角度：端侧AI相比云侧优势明显

2

用户角度：成本增加有限，端侧硬件先行

03 科技企业已 龙头先行，竞相布局

3

AI PC：产业落地转折点渐行渐近

AI PC为各领域提供创新解决方案：

AI PC的功能

AI PC的发展预测

3

AI 手机：产业爆发前夜

AI手机有望成为个人智能助理，为手机行业带来创新：

3

AI PC进展：英特尔

3

AI PC进展：联想

3

AI手机进展：高通2023年成功将AI布局在安卓手机

3

AI手机进展：谷歌Pixel8

3

AI手机进展：华为/小米/OPPO/VIVO

华为鸿蒙OS 4

百亿内参数大模型排名第一*

小米澎湃OS

OPPOAndes GPT模型

3

AI手机进展：荣耀/苹果/三星

荣耀 Magic 6

苹果 iPhone 15

三星Galaxy S24

3 AI汽车——极越

端侧AI需要强大芯片硬件支持

3 持续关注各大厂商端侧AI产品进展

04 相关标的及投资建议

4

重点标的

AI+PC

4

重点标的

AI+手机

05 风险提示

5

风险提示

行业的投资评级

法律声明及风险提示

浙商证券研究所

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

致终身学习者社群

扫码先加好友，以备不时之需

01 软硬融合，端侧AI：技术爆发

02 提质增效，论端侧AI渗透之必然

03 科技企业已龙头先行，竞相布局

电子行业端侧AI深度跟踪报告：2024 · AI“下凡”-20231107-浙商证券-34页