大模型生产力工具的思考与实践

演讲人：贾安亚

商汤科技产品总监、小浣熊家族产品负责人

市场发展与用户态度

AI生产力工具海外应用现状 (以编程助手为例)

60% 以上开发者正在使用 AI编程助手

独立任务对比实验中总体工作时间减少55%

Generative Al can increase developer speed, but less so for complex tasks.

* StackOverflow: 2024 Developer Survey ** McKinsey Digital: Unleashing developer productivity with generative Al

AI生产力工具海外应用现状 (以编程助手为例)

Fig. 2. ChatGPT's influence on aspects of developers' job satisfaction

Finding 2

60%of participants perceived a moderately positive impact of ChatGPTon their satisfaction. Notably, it enhanced perceived productivity and reduced repetitive work, with stress being identified as the least affected factor. Furthermore, other responses highlighted ChatGPT's facilitation of activities, support in learning,and provision of effective access to information compared to traditional tools.

发挥AI优势助力代码开发

扬长补短的使用能力解决痛点

新的解决问题的体验减轻压力

60% 的参与者认为 ChatGPT对他们的满意度产生了中等程度的积极影响。尤为显著的是，它使人们感知到了生产力的提升，减少了重复性工作，而并未带来显著的压力影响。

此外，其他反馈突出了ChatGPT在助力工作开展、帮助学习新知以及便捷地获取有效信息等方面所起的作用，与传统工具相比优势明显。

AI编程助手在国内处在快速发展阶段

关键发现

AI代码生成工具在发展过程中面临的挑战主要集中在用户体验、技术发展、技术提升的难点以及市场适应性等方面。解决这些痛点需不断的技术创新、市场反馈和经验积累。通过持续优化算法模型、增强用户交互设计等，可逐步克服这些挑战

中国AI代码生成行业发展痛点

□易用性

·开发人员在使用智能代码生成工具时，面临易用性问题

□跨语言跨平台兼容性

·开发原理和编程语言不断升级送代，跨语言跨平台开发需要更好的兼容性

·工具通常是半自动化的，效率提升有限，不能完全替代人工

·调试兼容环境是技术测试中需要解决的一部分

·需要找到自动化和人工之间的平衡

□代码生成技术

□开发能力增值

·未来代码生成可能通过脚本方式完成整个代码的生成

·除了提升效率，工具是否能在更多场景和开发能力维度上提供增值价值是待解决的问题

·目前技术在复杂任务方面仍有提升空间

□软件生态融合

目前的软件生态需要进行大量融合工作，以提高兼容性

□降低使用门槛

·智能代码生成器仍需要一定技术基础，进入门槛有待降低

·需要时间和用户反馈来不断完善和迭代

□经验累积和场景丰富度

需要考虑如何使初级用户更容易上手和使用这些工具

·相对于国外成熟的市场，中国AI代码生成工具起步较晚，需要时间积累经验和丰富开发场景

□适用人群扩展

·目前的工具主要面向有一定开发基础的用户

沙利文：2024年中国AI代码生成市场报告

个人用户视角演变 (以编程助手为例)

关注模型精度

关注端到端用户体验

Multi-task Language Understanding on MMLU

企业落地视角演变 (以编程助手为例)

全面探索从辅助开发人员到全生命周期

产品设计

架构设计

代码开发

产品设计

特性设计

开发计划

建模

架构设计

API设计

详细设计

用户调研

功能细分

验收条件

寧件风景

时序辅设计

API定义

代码设计

编码

编码后

产品创新

Ux 设计

优先级

领域模式

组件设计

代码生成

非功能需求

发布计划

产品定义

详细设计文档

代码审查

设计模式

限界上下文

单元测试生成

概要设计文档

提交信息

里程碑设计

需求规格文档

计划文档

运维

交付

产品设计

测试

发布

部署

发布文档

部署脚本生成

缺陷分析

日志分析

自动化测试

根因分析

更新文档

客户支持

缺陷分析

测试代码生成

测试用例设计

缺陷文档

客

系统/集成用例生成

V4.0

V5.0

企业落地视角演变

02产品价值与应用落地

软件研发助手：对企业级软件研发的三重价值

能更快产生需求么

对企业的价值

企业

团队

个人

能更快交付么

探索新的研发模式

L2 积累优质研发资产

L1增强当前

工作效率

生产力决定生产关系

从需求到服务的业务闭环视角解构、重构多部门活动、协作和流程

解决资产沉淀难、规范落地难，技术债务积累多等问题

提升编码效率、缩短走查时长、减少测试成本等

RAG 方案带来实用性跃进**Agent方案带来功能扩展

软件研发助手：面向开发者的应用形态

代码补全

·多编程语言支持

·仓库级信息抓取*

开发协助**

·Commit Message 生成

·智能体/自定义智能体

对话问答

·代码和技术相关问题问答*

· 基于知识库的知识问答*

·内置代码任务：

·代码重构

·代码翻译

·代码纠错

·单元测试生成

软件研发助手：面向开发者的应用形态

软件研发助手：面向开发团队的应用形态

软件研发助手：面向企业级的应用形态

知识资产

需求分析

架构设计

代码编写

软件测试

行业背景

需求规格设计

概要设计

项目背景

术语&缩略词

项目背景

详细设计

系统概述

测试用例

测试报告

编码实现

案例序号

项目背景

业务知识

功能清单

系统目标

设计原则

案例名称

测试范围

业务流程

接口清单

系统约束

编码规范

正例/反例

测试策略

自例描述

业务角色

功能措述

用规划

测试环境

单元测试

前置条件

异常处理

功能流程

系剑模块

樱块设计

测试案例

步骤描述

系统知识

功能界面

技术架构

网络结构

预期结果

测试结果

系统构成

接口说明

数据架构

异常处理

测试用例模板

优先级

风险分析

接口定义

非功能需求

安全设计

运行设计

测试用例执行结果

测试结论

交互规范

多轮对话

逻辑推理

长文本理解

RAG

接口调用

模型微调

提示词工程

扩写与续写

思维链提示

Agent编排

大模型赋能企业经验总结

需求描述

自然语言

创意想法

人机界面

大模型

代码

工具&插件

运行环境

业务目标

大模型产品是否能完全替代人？

最直接的能给企业带来什么收益？

大模型当下最好的产品形态是Copilot，不是完全替代人

开源\~快速交付、基本提效

管理\~盘活资产、团队提效

发展\~结构优化、转型提效

如何促进全员使用大模型原生产品？管理要求与员工主动相结合，从后向前持续推进，激励员工贡献方法与资产

03功能创新与技术创新

降低用户使用门槛，提升端到端效果

Prompt优化（外化COT）+Constrained Decoding +（内化COT?）

更新人设模板

人设名称数据分析工程师

提示模板

你是一个数据分析工程师，你处理的数据会默认把所有空值填写为0

一键生成

更新人设模板

人设名称数据分析工程师

提示模板

作为数据分析工程师，我的工作是利用先进的技术和工具来提取、转换和加载数据，以便于深入分析和洞察业务趋势。以下是我在数据分析领域的核心能力：

能力1：数据清洗与预处理

我能识别并处理数据中的异常值、缺失值和重复项，确保数据的准确性和一致性。例如，当遇到空值
一键生成

Structure of GSM8K question.

- Question.

-Answer prelude.

- Final answer.

Regex matching GSM8K answer. r'A:\w \d.*-=+\?/570.Te aw is[-99{9\n

GSM8K question in JSON format.

"question": "There are 15 trees in the grove.Grove workers
will plant treesin the grove today.After theyare done,
there willbe21trees.Howmany trees didthe grove
workers plant today?",
"response":{ "reasoning": "There are 15 trees originally. Then there
were 21 trees after some more were planted. So there must
have been 21 - 15 = 6.", "answer": 6 ，
2

OpenAl o1

商汤办公小浣熊Raccoon Raccoon - Another Comprehensive CO-pilOt Navigator

降低用户使用门槛，选择场景内较优的交互组合

LUI/CUI

TUI

学习成本

选择【AIlin One】的【GUI交互为主】的应用形态

为什么 All In One 工具应用形态有助于提效

·语言与思维能力是否可以解耦（？assumption)

·上下文切换成本

为什么 LUI/CUI 不是最佳的工具应用形态

当下模型的意图理解能力限制及幻觉缺陷，导致模型对于缺槽反问，假设提醒等必要交互，不拒绝、不主动、不负责

需要补充3S交流原则、CoT/ToT引导、检索增强、工具使用等使用方式契约，交流成本大，心智负担高，都是工具类产品需要避免的

AI生产力工具未来展望

THANKS

大模型正在重新定义软件

Large Language Model Is Redefining

The Software

大模型生产力工具的思考与实践

市场发展与用户态度

AI生产力工具海外应用现状 (以编程助手为例)

AI生产力工具海外应用现状 (以编程助手为例)

Finding 2

AI编程助手在国内处在快速发展阶段

关键发现

中国AI代码生成行业发展痛点

□易用性

□跨语言跨平台兼容性

□软件生态融合

□降低使用门槛

个人用户视角演变 (以编程助手为例)

关注模型精度

关注端到端用户体验

Multi-task Language Understanding on MMLU

企业落地视角演变 (以编程助手为例)

全面探索从辅助开发人员到全生命周期

代码开发

企业落地视角演变

02产品价值与应用落地

软件研发助手：对企业级软件研发的三重价值

软件研发助手：面向开发者的应用形态

代码补全

开发协助**

对话问答

软件研发助手：面向开发者的应用形态

软件研发助手：面向开发团队的应用形态

软件研发助手：面向企业级的应用形态

大模型赋能企业经验总结

03功能创新与技术创新

降低用户使用门槛，提升端到端效果

Prompt优化（外化COT）+Constrained Decoding +（内化COT?）

能力1：数据清洗与预处理

OpenAl o1

商汤办公小浣熊Raccoon Raccoon - Another Comprehensive CO-pilOt Navigator

降低用户使用门槛，选择场景内较优的交互组合

选择【AIlin One】的【GUI交互为主】的 应用形态

为什么 LUI/CUI 不是最佳的工具应用形态

AI生产力工具未来展望

THANKS

选择【AIlin One】的【GUI交互为主】的应用形态

全球软件开发大会-AI行业：大模型生产力工具的思考与实践