专家解读AI PC产业趋势20240605_智能速览

2024年06月06日 00:54

关键词

AIPC AI power computing NPU GPU 英伟达显卡功耗电池轻薄本模型部署游戏本多媒体张量计算端侧模型算力 AI应用模型能力应用生态用户偏好微软

全文摘要

本次讨论集中于人工智能驱动的计算（AIPC）的定义、应用范围及其对未来技术的重要意义。AIPC不仅涉及AI与个人电脑的结合，而且是基于AI的应用解决方案的计算方式，其中神经处理器（NPU）在不同设备上的实现和应用被特别关注。讨论强调了NPU在提高能效和执行特定AI任务方面的优势，尤其是在低功耗场景下的表现。随着市场竞争加剧，GPU和NPU之间的关系引发了讨论，尤其是在端侧设备上，低功耗成为一个关键因素。此外，AI计算增强的功能（AIC）对个人知识库（REG）处理的影响、以及高通骁龙AED芯片在提升Windows阵营轻薄本续航能力方面的作用也被考察。PC厂商通过利用自身算力优势来开发和优化端侧大模型，体现了在充分利用硬件优势的同时面临的挑战。最后，讨论涵盖了AIPC的成本、性能和对消费者的影响，预测了技术进步将导致AIPC的单价上升，但毛利率可能因市场竞争保持稳定。此次讨论揭示了AIPC技术的发展趋势及其对各行业从业者的潜在影响。

章节速览

● 00:00 AIPC概念探讨及其在计算领域的应用

本次讨论重点关注了AIPC的定义和应用范围，强调了AI驱动的计算在未来技术中的重要性。首先，解释了AIPC不仅仅是AI与个人电脑的简单结合，而是一种由AI驱动的应用解决方案的计算方式。随后，讨论区分了泛化的AIPC概念和更具体的、以NPU为核心的AIPC应用，指出NPU在不同的计算设备中有不同的实现和应用方式，如独立的NPU架构以及集成在GPU中的张量计算单元。最后，提到了英伟达等公司如何通过软件和硬件优化，进一步推动AIPC在端侧的应用和发展。

● 03:21 AI推理：GPU vs NPUs的竞争与权衡

随着越来越多的厂商加入AI推理领域的竞争，GPU和NPU成为了焦点。GPU因其强大的多任务处理能力在一段时间内保持领先，但NPU以其较低的功耗和专用计算能力逐渐受到重视。这引发了一个关于短期和长期竞争关系的讨论，尤其是在端侧设备上，如轻薄本和平板电脑，低功耗成为关键考量因素。此外，对于不同应用场景的差异化需求，比如基础文本处理就不需要图形处理能力，进一步强调了选择合适硬件的重要性。尽管目前市场上尚未大规模推广独立的NPU卡，但随着技术的发展和应用场景的扩大，NPU在AI推理领域的作用日益凸显，可能成为未来主流的选择之一。

● 06:18 AI计算对功耗的影响及其对电池大小的考量

讨论集中在如何AI计算增强功能(AIC)影响个人知识库(REG)处理的功耗, 指出AI计算带来的功耗增加相对可控, 主要得益于NPU低功耗特性。同时, 提及未来随着集成度提高, 如何通过制程及先进封装优化性能以减少对散热和电池尺寸的要求。另外, 探讨了为什么轻薄本与游戏本在电池容量上有不同选择, 受使用时长和便携性等因素影响, 而非单一的物理限制。

● 10:43 探讨高通骁龙AED芯片对Windows阵营轻薄本续航的影响

高通骁龙AED芯片被期待能大幅提高Windows阵营轻薄本的续航能力，尤其是在与苹果M7芯片进行比较时显示出显著优势。尽管Intel通过优化也缩小了与高通之间的性能差距，但高通凭借其芯片的新特性，如AIPC和AI加速器，在市场上占据了有利地位。多家品牌宣布将采用该芯片，得益于微软的支持和高通成功填补了处理器市场的空缺期。此外，讨论还涉及了APC的问题和高通芯片在促进AI模型方面的潜力。

● 14:01 PC厂商与大模型：自研与开源的选择

PC厂商如联想，在大模型领域采取的策略是利用自身算力优势进行端侧大模型的开发和优化，而不是追求云端大数据量级别的模型。这是因为PC端的算力相对充足，适合部署和运行规模较大的模型。例如，联想的小天产品背后的天使大模型包含了多个规模在百亿级的子模型，通过参数量化等手段减少模型对硬件资源的占用，提高推理速度，从而提升用户体验。然而，尽管端侧模型能够在一定程度上满足用户需求，但由于模型本身的限制，其在复杂度和性能上仍存在短板。整体来看，PC厂商在大模型领域的努力反映了它们在充分利用自身硬件优势的同时，也面临着模型能力和应用场景之间平衡的挑战。

● 18:09 笔记本功耗与算力增长：影响AI应用性能

讨论了笔记本电脑的功耗范围及其对算力的影响，指出功耗与算力成正比，从而提高AI应用性能。特别指出了提升至42P算力后，AI应用将变得更加流畅，并探讨了未来向更高算力发展的可能性。同时，分析了不同应用场景下AI计算的分布，强调了端侧与云侧计算资源的应用差异，以及人机交互体验中算力的重要性。

● 22:36 探讨云计算与端计算的成本及优缺点

随着云端大模型的价格快速降低，人们开始考虑将原本倾向于端侧处理的任务转移到云端，但这面临速度延迟、隐私保护和数据壁垒等问题。尽管如此，设备加云的方式如苹果iCloud仍然受到用户的青睐，因为它们提供了更好的用户体验和数据同步。此外，国内厂商也在寻求与国际科技公司合作，以适应日益增长的市场需求，同时也面临着如何本土化和合规化的挑战。

● 30:29 品牌厂商与技术巨头的竞争与合作：以AI和操作系统为例

在国外市场上，品牌厂商如联想面临着来自技术巨头如微软的竞争与合作局面。尽管微软在操作系统框架和基本服务上占据优势，但品牌厂商通过提供本地化AI功能、构建独立的用户生态系统等方式进行差异化竞争。双方在账户整合、操作系统定制等方面也有合作。品牌的未来竞争将更多地体现在用户生态和软件生态的建设上，而非仅仅依靠硬件差异。

● 37:52 探讨软件和应用生态在国内外市场的竞争与布局

随着技术的发展，国内外的软件和应用生态市场竞争日趋激烈。头部企业因拥有更大的资源进行投入，其优势逐渐显现。在国内市场，特别是在智能设备和应用程序领域，品牌厂商和模型公司之间的合作变得尤为重要。尽管存在一些技术和标准的差异，如端侧应用开发的规范化程度不足，但国内厂商正在通过自身的能力抢占市场份额，并努力形成各自的行业标准。此外，对于海外技术的依赖，特别是像Microsoft那样因政治原因难以进入国内市场的企业，为国内企业提供了机会去发展和创新，从而在未来的市场竞争中占据有利地位。

● 42:45 探讨AIPC的未来发展与消费者吸引力

本次讨论集中在AIPC的未来售价和毛利率变化，以及对消费者的影响。一方面，随着技术升级带来的性能增加和新应用的引入，预计AIPC的单价将会上升，但毛利率可能因市场竞争保持稳定。另一方面，虽然普通消费者可能对AIPC的具体功能不甚了解，但对于行业从业者来说，如开发者、设计师等，AIPC提高工作效率的特点可能会成为其更换设备的主要动力。此外，讨论还涉及了消费者在面对技术进步时的自然换机周期，及其对市场增长的潜在影响。

问答回顾

发言人问：在AIDC的概念界定上，商家或业界是如何理解笔记本是否被归类为AIPC的？

发言人答：从泛化意义上来讲，AIDC（AI-powered computing）指的是AI驱动的计算应用。而在目前更加狭义上的AIPC定义上，则主要关注产品是否主要由NPU（神经网络处理器）来驱动计算。NPU通常具有独立的计算单元或具备张量计算特征，具备此类特点的设备可被称为AIPC。

发言人问：在端侧（如手机和平板电脑）和云端，GPU和NPU在AIPC推理中的竞争关系是怎样的？

发言人答：GPU在AIPC推理中的能耗较高，特别是在与多媒体无关的应用场景下，如创作剧本或写文章时。因此，短期来看，在这些低功耗、高性能需求的场景下，以NPU为主来做专用计算可以显著降低功耗。NPU区别于GPU的典型特征是功耗更低，这使得在普及AIPC时，特别是在常规轻薄本上，更倾向于使用功耗更低的NPU。

发言人问：使用AI功能时，如个人知识库做REG，使用AIPC与常规CPU相比，功耗会增加多少？

发言人答：虽然没有直接的量化数据，但NPU在相关应用中的功耗极低，通常在5瓦到10瓦之间，不会大幅增加功耗。这与显卡相比有很大优势，因为显卡在执行AI任务时功耗会明显增加。

发言人问：AIPC对电池大小和散热技术有何影响？

发言人答：在短期内，通过制程和封装优化，AIPC并不会显著增加电池大小或要求更大的散热技术。但随着芯片集成度的提高，如48P以上，功耗增加可能会导致电池容量增长。而在轻薄本的设计层面，电池大小的限制主要考虑平均使用时长和便携性，而非单纯的空间限制。

发言人问：在轻薄本和游戏本市场中，续航对于用户体验的影响如何？

发言人答：续航在轻薄本市场中可能成为最影响用户使用体验的一个因素，特别是在Windows阵营。这次高通骁龙AED芯片的一个主要提升就是续航，对于同样的任务和配置，其续航提升会非常显著。如果这种续航能够应用到Windows阵营，将对用户体验产生很大提升。

发言人问：高通新的PK芯片目前的测试情况如何？与其他厂商如英特尔相比有何优势？各大品牌厂商对于高通新芯片的接受程度如何？

发言人答：高通新PK芯片目前的测试情况是，其功耗优化已不是像过去那样有明显优势，但与英特尔下一代芯片相比也不会有太大的差异。高通的优势在于先进封装和指令集优化后的差异化不明显。目前市面上只有正在预售的Surface搭载了该芯片，其他厂商如华硕、戴尔等也有宣称将推出相关产品。各大品牌厂商如联想至少会推出2到4款产品搭载高通新芯片，部分原因是微软给予了很大支持。高通通过这次重返PC界抢占了市场先机，弥补了英特尔后续芯片推出延迟带来的空档期。

发言人问：联想等主机厂在端侧模型布局方面的情况如何？

发言人答：联想等主机厂会做端侧大模型，但由于算力有限，他们倾向于训练百亿级大模型，而非云端的千亿级或万亿级大模型。联想已经推出的端测模型规模在70亿到130亿之间，做了参数量化以减小对显存、内存和硬盘的占用，以满足用户体验需求。

发言人问：品牌厂商为何更倾向于做端侧模型而非云端模型？

发言人答：品牌厂商更倾向于做端侧模型是因为当前的算力条件限制了云端模型的发展，而端侧模型能够充分发挥本地设备的算力优势。尽管端侧模型存在模型能力不足的问题，但在当前场景下，它是品牌厂商能够实现的最佳选择。

发言人问：在云端模型和本地算力的应用场景上，您能否举一些具体的例子来说明？在端侧和云端的应用中，哪些是需要端侧算力来推理，哪些是需要云端算力的？

发言人答：对于一些极其复杂的交互应用，比如语音识别、人脸识别、语义解析和本地搜索等，由于它们对算力的要求能够随着倍数增长而得到满足，所以更适合在云端进行推理处理。而对于一些本地化程度较高、与人机交互密切相关的内容，比如手势识别、知识识别等，以及本地化的语音语义解析和搜索，通常可以在本地端侧完成。大部分与人机交互体验相关的应用，如语音识别、知识识别、手势识别等，以及本地化的语音语义解析和搜索，都需要在端侧本地算力的支持下运行。而一些更复杂的任务，如视频生成、超过两分钟的专业视频处理等，则可能需要云端算力来完成。

发言人问：对于个人隐私数据相关或用户习惯相关的交互信息，放置在端侧是否有必要？

发言人答：确实，将这些交互信息放在端侧是必要的，以确保数据安全性和保护用户隐私。但同时考虑到成本问题，云端模型在一定程度上是免费的，因为已经摊销在设备购买中。然而，目前国内云端大模型的成本价格降得非常快，甚至出现了大幅度免费的情况，这是否会影响端侧成本上的优势呢？

发言人问：云端模型价格的快速下降对端侧算力的成本优势有何影响？

发言人答：我们认为，这种降价对端侧成本优势的削弱程度基本有限。原因有三点：一是谁掌握了入口，谁就有话语权；二是端侧和云端算力在满足流畅体验时，云端延迟会明显增加；三是隐私保护方面，用户不愿意将所有数据交给云端。因此，在当前环境下，端侧算力在用户体验、速度体验和隐私保护上都具有优势。

发言人问：对于C端消费者对于真正隐私需求的意识是否足够？

发言人答：确实存在一定的质疑，对于C端消费者而言，他们可能并不完全理解自己对于真正隐私的需求有多强烈。举个例子，虽然苹果的iCloud涉及照片存储等核心隐私问题，但由于依赖于iPhone，用户使用云服务时更倾向于设备而非具体云服务商。同时，云端数据可能会增加数据壁垒和生态壁垒，因此对于用户而言，优先考虑设备和设备间的共享，而非跨设备的数据共享方式，比如云服务。

发言人问：在国内大模型替代性方面，品牌厂商如何选择云端大模型合作伙伴？

发言人答：在国内大模型市场中，由于备案要求及价值观考虑，品牌厂商会选择与头部厂商合作，这些厂商通常不自行开发云端大模型或投入相关资源。因此，在替代性方面，他们会根据与各厂商的战略合作关系来决定采用哪个厂商的大模型体验。

发言人问：微软与品牌厂商在操作系统和AI功能方面是如何合作的？

发言人答：微软会搭建基础的操作系统框架，品牌厂商基于此进行开发。历史上，如联想在海外销售的电脑，用户注册的账号会同时关联到微软和品牌厂商的系统中。同时，微软与品牌厂商之间存在竞争

与合作的复杂关系，比如品牌厂商可能会自定义AI键作为自家产品的启动键，或者在某些功能上与微软达成协议，获取相应的分成或权利。

发言人问：海外市场的品牌厂商如何应对微软的竞争与合作？品牌厂商在AI领域的竞争优势是什么？

发言人答：在海外市场，品牌厂商如联想等在海外份额较大，面对微软推出的某些与自身AI功能重合的产品时，两者之间存在竞争关系，但同时也有合作的一面。例如，用户在购买联想电脑时，注册的账号既可以用于微软ID，也可用于品牌厂商的ID，两者之间打通且相互关联。此外，由于市场足够大，微软不可能完全垄断，品牌厂商也会通过自身研发能力开发AI应用以保持竞争优势。在AI领域，品牌厂商过去的核心竞争力主要体现在硬件设计、性能调校、BIAS适配和独占软件等方面，而AI能力并非其一直具备的优势，甚至可以说是短板。随着AI的发展，品牌厂商在与微软的竞争中可能处于相对劣势地位，但其优势在于打造了自身的用户生态体系，拥有一定的用户基数，并且在软件生态上也有着差异化的发展空间。

发言人问：品牌厂商如何利用用户生态和软件生态进行差异化竞争？

发言人答：品牌厂商可以通过建立用户生态体系和持续投入软件开发来提升差异化竞争优势。例如，联想凭借在中国市场上的优势，在本土化应用软件开发上投入产出明显，部分应用在全球范围内推广时成本较低。品牌厂商可以在用户运营和软件生态方面加大投入，根据各自情况在全球市场中寻找新的发力点。

发言人问：当前AIPC软件布局中，哪些厂商相对更积极投入并具备优势？

发言人答：目前，头部品牌厂商在软件布局上相对更积极投入，投入产出的比例更高，因为它们拥有更大的硬件规模。然而，具体情况因厂商而异，头部品牌厂商在软件生态方面的优势更为明显，比如联想在中国市场上的本土化投入产出具有优势。

发言人问：在当前国内的政治背景下，PC厂商为何必须构建自己的应用生态？

发言人答：由于政治原因导致的国内世界格局分化加剧，PC厂商为了在国内市场中占据优势，必须采取措施构建自己的应用生态，包括小程序和AI小程序等。这种做法类似于早期PC生态发布时，如WPS与office的竞争，通过本地化和云端混合能力打造自身的竞争力。

发言人问：本土公司和品牌公司在AI应用本地化方面有何优势？

发言人答：在AI应用的本地化服务和调用能力上，本土公司和品牌公司如荣耀、联想等相比操作系统提供商如微软，在搜索爱奇艺内容、美团订餐等具体应用功能的集成上更有优势，因为它们更了解本土用户需求和服务。

发言人问：国内AI应用生态开发目前处于何种阶段？

发言人答：目前，国内AI应用生态开发还没有形成统一的规范或模式，各家厂商仍在各自定义自己的应用生态。尽管如此，未来可能会形成一个行业规范。而在应用层面上，智能家居标准在国内尚未建立起来，市场仍处于厂商间争夺市场份额的阶段，类似于应用商店上架应用困难的情况。

发言人问：未来AIPC的价格和毛利率将如何变化？

发言人答：AIPC的售价和毛利率会随着高端产品算力、应用的增加而上升，但长期来看，由于PC产业仍处于充分竞争格局，毛利率不会有太大变化。对于消费者而言，价格上升并不一定会导致换机潮，而是行业转变的结果，消费者在新产品的推动下可能会提前结束旧电脑的使用周期。

发言人答：目前来看，消费者在决定是否换购AIPC时，并非基于某个具体功能，而是整个行业发展的自然转变。对于行业从业者来说，当AI模型集成到一定程度时，能显著提升工作效率的AIPC功能可能更易引起他们的关注，例如程序员在AIPC上编程、设计师使用AI工具等，但大众消费者对此感知不明显。

专家解读AI PC产业趋势20240605_智能速览

关键词

全文摘要

章节速览

● 00:00 AIPC概念探讨及其在计算领域的应用

● 03:21 AI推理：GPU vs NPUs的竞争与权衡

● 06:18 AI计算对功耗的影响及其对电池大小的考量

● 10:43 探讨高通骁龙AED芯片对Windows阵营轻薄本续航的影响

● 14:01 PC厂商与大模型：自研与开源的选择

● 18:09 笔记本功耗与算力增长：影响AI应用性能

● 22:36 探讨云计算与端计算的成本及优缺点

● 30:29 品牌厂商与技术巨头的竞争与合作：以AI和操作系统为例

● 37:52 探讨软件和应用生态在国内外市场的竞争与布局

● 42:45 探讨AIPC的未来发展与消费者吸引力

问答回顾

发言人 问：品牌厂商为何更倾向于做端侧模型而非云端模型？

发言人 问：对于个人隐私数据相关或用户习惯相关的交互信息，放置在端侧是否有必要？

发言人 问：对于C端消费者对于真正隐私需求的意识是否足够？

发言人 问：在国内大模型替代性方面，品牌厂商如何选择云端大模型合作伙伴？

发言人 问：微软与品牌厂商在操作系统和AI功能方面是如何合作的？

发言人 问：海外市场的品牌厂商如何应对微软的竞争与合作？品牌厂商在AI领域的竞争优势是什么？

发言人 问：品牌厂商如何利用用户生态和软件生态进行差异化竞争？

发言人 问：当前AIPC软件布局中，哪些厂商相对更积极投入并具备优势？

发言人 问：在当前国内的政治背景下，PC厂商为何必须构建自己的应用生态？

发言人 问：本土公司和品牌公司在AI应用本地化方面有何优势？

发言人 问：国内AI应用生态开发目前处于何种阶段？

发言人 问：未来AIPC的价格和毛利率将如何变化？

发言人 问：哪些功能可能最能吸引消费者换购AIPC？

专家解读AI PC产业趋势 听光Vic.pdf

专家解读AI PC产业趋势听光Vic.pdf