2024AI+研发数字峰会 Al+ Development Digital summit AI驱动研发变革促进企业降本增效

北京站 08/16-17

企业软件与AI原生应用

黄斌畅捷通信息技术股份有限公司

演讲嘉宾

黄斌

用友（畅捷通）基础技术研发总监，技术委员会技术架构负责人

十五年以上软件及互联网技术产品从业经验，曾在360、美团等大厂参与AI平台、搜索等智能工程架构工作，在企业级软件开发、微服务治理、搜索工程、AI平台等领域有丰富的经验。

1 应用形态的变革趋势
2. 知识问答-RAG实践
3. Agent开发平台搭建
4. Agent应用开发实践
5. 企业软件的新方向

目录 CONTENTS

PART01 应用形态的变革趋势

应用形态的演进

Super-WPS文字处理香港金山公司研制

DOS

基本功能

C/汇编/神秘

WPS （0/6）宝宝（1/2）侯族（0/4）家人（0/9）同事（0/17）同学（0/22）陌生人黑名单

friends(2/31)同事（22/41）作者（8/32）陌生人（0/1）黑名单（0/1）

通讯录QQ群最近联系人

Windows

图形界面
GUI设计与开发
QQ

Web

浏览器跨平台用户体验、在线淘宝

J抖音

移动互联网

随时随地

触屏体验

抖音

AI原生应用

智能化自然交互ChatGPT

传统-预设/标准

01 设定的UI/UE

产品设计好的固定界面，预设能力和交互，标准化强。

02 设定的代码/配置

通过代码/流程配置能力提供出复杂的业务服务。

创新-AI成为企业生产力的一部分

01 交互-开放的Chat体验

以更人类更自然的方向进行多模态交互。

02 流程-Agent编排

通过Agent的规划Tools能力升级流程，并且满足长尾、更加个性化的业务需求。

创新-从面向流程到面向目标

大语言模型落地的几个阶段

探索落地

LLM基础模型通过提示词工程获取想要的结果。

RAG检索增强引入检索增强机制，为 LLM外挂专业知识与私域知识。

Agent智能体构建智能体，基于用户目标分解并规划任务执行。

INTELLIGENTTUTORING

Multi Agent构建多智能体系统，协同工作，处理复杂任务，解放生产力。

系统架构

PART 02 知识问答 RAG实践

[愉快][握手]

》小畅助手-产品更易用客服更智能

产品

生态

小畅AI助手

HI\~我是小畅，很高兴为您服务\~

知识问答

我可以帮您解答所有产品相关的问题

任务执行我可以帮您查询客户信息、打开菜单

数据分析我可以帮您生成报表、查看图表数据

任务执行

“任务执行”你可以这么问

我想将和客户的往来账目发送给客户，应该使用什么功能？

系统怎么控制哪些功能对哪些客户可见？

我想重新核对下仓库商品

清空转人工

Q搜索

【滴滴-畅捷..[外部21/3/18来自自用的李博退出了外部...

1群好会计&... 外部2分钟前

3群好会计&..[外部6分钟前

客户联系上午9:28 暂不支持该消息类型，请更...

企业微信团队昨天暂不支持该消息类型，请更..

企业微信服务商助手星期一暂不支持该消息类型，请更...

数智财税产品组部门 2/蒋惠丽加入了群聊

用友好会计 1/25突发！1月征期延长至25日...

日程 1/23会议时间协调难，查看日程..

客户聊天群-辅助客服

云财税支持-冯慧琳

@小畅AI助手小畅，我想问下对账单怎么用？

小畅AI助手@畅捷通

小畅帮您查到三个对账单：客户对账单、供应商对账单、银行对账单、请问您了解哪个？

云财税支持-冯慧琳

@小畅AI助手客户对账单

小畅AI助手@畅捷通

您好，客户对账单是针对月结客户，来帮助商家生成对账单，分享给客户，并提供后续对生成的对账单进行查询您可以观看视频了解更多哦\~

小畅AI助手@畅捷通

客户对账单视频帮助

小畅AI助手

话术库

营销资料

普通素材

侧边栏应用

HI\~我是小畅，目前我有以下超能力，未来能力会更强大，敬请期待哦\~

?猜您想问

好会计不同版本什么价格，有什么区别？

2023年零售行业报税有什么变化？

期末结转的流程

查看飞翔科技的发票抬头

企业名称：飞翔科技有限公司

纳税人识别号：910034499199878

地址：北京市东城区

银行账号：62220243010500

请输入您的问题

→小畅助手

扮演角色

企微客服-客服助手客服背后的智囊团

企微客户-智能ai服务客户专属群，提高企微客户回复效率

小畅ai助手-产品助手与客户互动，为客户答疑解惑，协助工作

通用需求

知识问答

任务执行

数据查询

知识问答

任务执行

角色需求

场景需求

客户情况

近期高频问题

自动推送消息

拉取群中文件同步至系统

与系统已有能力协作：如打开菜单

前端配置

消息发送模板

主动&被动发送

应用对接

消息发送模板

前端配置 (碎片化)

消息发送模板

接口API

功能查询

知识问答&产品API

转人工能力

知识库&API

接入位置

转人工能力

企微侧边栏(碎片化对接)

企微社群

产品内（标准对接）

消息转发与调度中心 (主动推送+被动触发)

A应用平台

知识库同步

安全护栏

应用编排

知识库Sug

提示词工程

Agent

日志标注

消息调度管理

发出什么内容

什么人

Function Tool

用户标签+聊天内容

什么场景

选择推送位置

话术+交互卡片

效果如何

机器人管理

数据看板

异常维护

机器人配置

风险合规管理

机器人管理

服务中台

产品能力

语料生成

客户数据查询

语料审核

OpenAPI数据看板

订单数据订单情况语料采集语料库管理

生态消息税表信息工单信息基础语料库售前

文本类

售后

图片类

生态ISV

视频类

畅捷智融

帮助文档类

语音类

Balance-开放与封闭

LLM输出有幻觉&期望输出可控

忽探子来报：华雄引铁骑下关，用长竿挑着孙太守赤幘，来寨前大骂搦战。绍日：谁敢去战？袁术背后转出骁将俞涉日：小将愿往。绍喜，便着俞涉出马。即时报来：俞涉与华雄战不三合，被华雄斩了。众大惊。太守韩馥日：吾有上将潘凤，可斩华雄。绍急令出战。潘凤手提大斧上马。去不多时，飞马来报：潘凤又被华雄斩了。众皆失色。绍日：可惜吾上将颜良、文丑未至！得一人在此，何惧华雄！言未毕，阶下一人大呼出日：小将愿往斩华雄头，献于帐下！众视之，见其人身长九尺，髯长二尺，丹凤眼、卧蚕眉，面如重枣，声如宏钟，立于帐前。绍问何人。公孙瓒日：此刘玄德之弟关羽也。绍问现居何职。瓒日：跟随刘玄德充马弓手。帐上袁术大喝日：汝欺吾众诸侯无大将耶？量一弓手，安敢乱言！与我打出！曹操急止之日：公路息怒。此人既出大言，必有勇略；试教出马，如其不胜，责之未迟。袁绍日：使一弓手出战，必被华雄所笑。操日：此人仪表不俗，华雄安知他是弓手？关公日：如不胜，请斩某头。操教热酒一杯，与关公饮了上马。关公日：酒且斟下，某去便来。出帐提刀，飞身上马。众诸侯听得关外鼓声大振，喊声大举，如天摧地塌，岳撼山崩，众皆失惊。正欲探听，鸾铃响处，马到中军，云长提华雄之头，掷于地上。其酒尚温。后人有诗赞之日：

威镇乾坤第一功，辕门画鼓响咚咚。

云长停盞施英勇，酒尚温时斩华雄。

1．选文出自古典名著《》，作者是元末明初的 □

2．请用精炼的语言概括选文的主要内容。

3．从这段选文中你能看出关羽具备什么样的性格特征？作者是用什么方法来表现的？

VS.

1．诸葛亮初出茅庐第一次“运筹帷幄之中，决胜千里之外”的战役是（）
A.火烧新野B.火烧博望坡C.安居平五路D.火烧赤壁
2．下列故事不是《三国演义》中的一项是（）
A.三顾茅庐B.三气周瑜C.桃园三结义D.三打祝家
3．有关三国歇后语错误的是（）
A．司马昭之心一路人皆知B．张飞绣花一心细如发
C．曹操吃鸡肋一食之无味，弃之可惜
D．周瑜打黄盖一一个愿打，一个愿挨
4．献连环计火烧赤壁的是谁？（）
A.诸葛亮B.郭嘉C.庞统D.曹操
5．张飞在长坂坡吓死谁？（）
A.关羽B.夏侯杰C.曹仁D.吕布
6．曹操在哪场战役中大败袁绍？（）
A.官渡之战B.赤壁之战C.讨伐董卓D.合肥之战

整体流程设计

01提问前

引导用户：热门问题、猜你想....

#

02输入中

提高效率，优化匹配：语音输入、输入联想、相关问题

03解答中

提升准确率、优化体验：召回优化、流式输出、近似直出、相关问题引

04解答后

收集反馈：收集用户满意度，持续优化体验；抽检评测

RAG整体方案-索引+生成

情绪检测

XLS结构化&评分过滤向量索引

精确匹配

-语料评级

LLM提取

索引阶段

-分块策略

倒排索引多路召回重排序

自一

Query改写

文本分块策略-段落&窗

语料自动整理与生成

-结构化索引

实际落地-AI应用流程编排

评估方法

自动评估

线上用户反馈满意的Q&A

人工补充用户问题+语料库中的回复

AI回复

评测集

人工评估

自动评估效果

抽取线上的Question

AI回复

原客服系统问答系统回复

评估方法

人工审核评估

PART 03Agent开发平台搭建

Agent的核心逻辑

“以大语言模型为大脑驱动，具有自主理解感知、规划、记忆和使用工具的能力，能自动化执行完成复杂任务的系统。

Tools+Action-技能的声明与实现

知识： RAG

技能：

API-后端

API-前端

应用/工作流

技能声明事实规约-OpenAl

https://json-schema.org/understanding-json-schema

"type": "function","function": L"name" : "get_current_"description": "Get the tempe: a specifi"parameters":"type":"object""properties""location"type'descr: a tand'unit":'type" 'string''enum": ["Celsius' "Fahrenheit"IS

"type": "object","properties": {"name": {"type": "string"'age""type":"address": {"type": "object","properties": {"city": {"type": "string""state": {"type": : "string""required":["name", "email]

01 函数名称

03入参声明

后端API-OpenAPI规范

title:用户信息接口
description:用户信息接口文档
version: 1.0.0

OpenA

API文#API文

- url: https://api.example.com # API 雕 paths:

接口摘 #接口I #接口描 #接口参

responses:

简介

OpenAPI3.0是RESTful API的规范标准，用于定义API的结构、接口、参数等。

接口描述

使用YAML或JSON格式描述API，包括路径、方法、请求体、响应等。

入参说明

详细定义接口入参的类型、格式、是否必填等，确保接口调用的准确性。

响应格式

定义接口响应的状态码、响应体结构、数据类型等，便于客户端理解和处理。

后端API- 实现方法

1、声明OpenAPI转化为函数声明三元素

2、实现

PythonRequests-个性化生成

OpenAPIRequester-通用函数

前端API-实现方法

RAG&应用/工作流

方法命名

RAG知识库或应用名称生成

三元素

参数说明

知识库：Query String

应用：Query， History，其他

方法说明

知识库：声明主要包含的内容

应用：声明解决的问题是什么

Agent节点支持能力

高级编排组件列表

输入引导[5]

语言模型[3]

AI对话AI大模型对话

拖拽 Agent节点

Agent
AI助手，具备分析并自动选择技能执行再思
考的能力
指定回复
该模块可以直接回复一段指定的内容。常用
于引导、提示

聊天记录

输入

最长记录数

输出

Prompt词:为Agent补充角色、任务、上下文限制等。

工具集：
1、动作：选择要启用的后端OpenAPI接口2、知识库：选择要启用的知识库 (支持多路召回)
3、插件：选择要启用的其他应用
4、前端函数：不在界面上体现，可以通过SDK对接此AI应用时自动注册

聊天讠

PART 04Agent应用开发实践

Agent起航-POC展示

操作区

购物车

商品id

商品

单价

数量

数据区

最近热销商品总金额

智能区(历史)

U

计量单位

【USER】画个图展示下

【AI@4.895s】已为您绘制了最近热销商品的柱状图：

请问您需要购买这些商品吗？

【USER】我要10瓶可乐，1个西瓜

【AI@10.646s】我将为您把10瓶可乐和1个西瓜加入购物车。请稍等。抱歉，目前库存信息无法获取。请稍等，我将重新尝试获取库存信息。已将10瓶可乐和1个西瓜加入购物车。请问您还需要其他商品吗？

【USER】帮我下单，然后重新画下最近热销商品图

【AI@7.538s】已为您下单，并重新绘制了最近热销商品的柱状图：

Agent起航-POC说明

Prompt词角色定义以及业务规则、背景指导

后端API 商品库存订单

前端API
绘图
交互

新的选择-研发助手

慢GPT4响应

快内部工具开发

研发助手-痛点问题

开发环境诊断－思路与工具

查请求日志

定位请求异常，分析请求参数和响应结果，识别错误类型和原因。

健康检查

执行系统健康检查，检查服务状态、资源使用情况等，确认系统是否正常运行。

分析启动日志

查看应用启动日志，分析启动过程中的错误和警告信息，定位启动失败的原因。

后端API

文档知识－思路与工具

查知识

通过Wiki内容快速了解各组件的使用说明，以及负责人、分工等情况。

RAG知识库

周报助手－思路与工具

查JIRA

本周新增、推进的任务、截止本周尚未完成的任务等。

else FKeyPad.ReadOut.value += Num;

function Operation (Op){ var Readout = FKeyPad.ReadOut.value; if (FlagNewNum && PendingOp != "="); else

FlagNewNum=true;
if ('+' == PendingOp）
FKeyPad.ReadOut.value=parseFloat(FKeyPad.ReadOut.value); else if ('-' == PendingOp)
Accumulate -= parseFloat(Readout);
else if ('/ == PendingOp )
FKeyPad.ReadOut.value=parseFloat(FKeyPad.ReadOut.value);

查Git

代码仓库及对应提交、提交日志、代码评审记录等。

查日程

会议、评审、面试等安排。

后端API

高级编排组件列表

应用编排方案一-单Agent

输入引导[5]

语言模型[3] <

知识增强[3] <

基础组件[4] √

智能服务[3] √

其他功能 [3] <

系统插件[0] √

用户插件[1] √

动作请求[15] <

应用编排方案二-多Agent

高级编排组件列表

输入引导[5]

语言模型[3]

AI对话AI大模型对话

Agent
AI助手，具备分析并自动选择技能执行再思
考的能力
指定回复
该模块可以直接回复一段指定的内容。常用
于引导、提示

知识增强 [3]

基础组件[4]

智能服务[3]

问题分类
可以判断用户问题属于哪方面问题，从而执行不同的操作。

文本内容提取从文本中提取出指定格式的数据

OCR模块
基于文件地址，返回OCR文本或者结构化
ISNN格式结果

应用发布-体验Agent的能量

研发助手畅捷通信息技术股份有限公司

研发助手

###本周工作总结

完成的JIRA任务

1.**[CPYF-8627]**：解决了线上栈溢出问题，优化了Cust方法，确保按500条分批录入价格时不会再出现溢出问题。

####代码提交

本周共完成了52次代码提交，主要工作内容如下：

1.**线程池优化**：

-替换和优化了多个线程池，提升了系统的性能和稳定性

-增加了线程池的性能和内存值分布统计功能，并对clien

2.**负载均衡策略**：

-增加了CJT随机负载均衡（LB）和CJT一致性哈希LB。

-对于主动/被动打散的请求，委托CJT随机LB进行选择，

3.**异步任务处理**：

-调整了商品下发异步任务的内存告警阈值，确保线上告 -合并了prod异步处理量到公共线程池fastTaskPool，

4.**其他优化**：

-诊断请求的保鲜时间调减到6秒，超过后仍未执行则抛-增加了系统启动成本日志记录功能，便于后续性能分析

本周的工作重点是解决线上问题和优化系统性能，通过一系升。

3.**异步任务处理**：

-调整了商品下发异步任务的内存告警阈值，确保线上告警的请求平均内存使用在合理范围内。

-合并了prod异步处理量到公共线程池fastTaskPool，提升了资源利用率。

4.其他优化：

-诊断请求的保鲜时间调减到6秒，超过后仍未执行则抛弃，提升系统响应速度。

-增加了系统启动成本日志记录功能，便于后续性能分析和优化。

本周的工作重点是解决线上问题和优化系统性能，通过一系列的改进措施，系统的稳定性和性能得到了显著提升。

主要负责以下内容：

1.**离线数据同步&MaxCompute数据任务**：与共同负责。

2.**智能匹配**：

-Excel上传字段连连看：Al-Field-Match主流程

3.**智能文档**：

-报关单PDF表格识别：报关单识别请求示例

-发票PDF表格识别：发票识别请求示例

4.**基础技术后端**：

这些职责涵盖了数据同步、智能匹配、文档识别以及AI应用开发平台的相关工作。

请帮我分析下hsy-test环境下的这个请求出了什么问题？怎么解决？usertask-1frsyyodm

根据查询到的日志信息，问题出在调用

'com.chanjet.paas.generic.config.service.SettingValueService服务的getAppProfile方法时，发生了RpcException异常。具体的错误信息如下：

org.apache.dubbo.rpc.RpcException: Failed to invoke the method getAppProfile in the service

com.chanjet.paas.generic.config.service.SettingValueService. Tried 1 times of the providers ：20880] (1/1) from theregistry -nacos-

ans.mse.aliyuncs.com:8848 on the consumer using the dubbo version 3.1.1. Last error is:Failed to invoke remote method: getAppProfile,provider:dubbo://

:20880/com.chanjet.paas.generic.config.service.SettingVa lueService?_micro.service.app.id_= 40d9f&anyhost=true&application=paas-generic-platform& background=false&category=providers&check=false&clust er=chanjet-failover&connections=0&corethreads=50&delay =3000&deprecated=false&dubbo=2.0.2&dynamic=true&ge neric=false&group=paasGenericGroup&interface=com.chan jet.paas.generic.config.service.SettingValueService&ispuserv er=true&loadbalance=chanjetConsistenthash&logger=slf4j &methods=clearTenantSetting,findAllApprovalBoNames,find One,clearCache,findByKeyAndTenantlds,findAll,remove,repair Data,getSysSettingValuesgetSettingypesobtainServiceVersi on,repairDataOverrdden,initData,findMultifidByCategory psert,getCorplndustryProfiles,getAppProfile,findByKeyPrefix, getOrder,initSystemKeysValue,clearUserSetting.getServiceCo ntext&mse.project.name=

主要负责哪些内容？

se_aliyun_com_zone=cn-beijing-k&opensergo.io/canary=& path=com.chanjet.paas.generic.config.service.SettingValueSe rvice&payload=268435456&pid=19&protocol=dubbo&refe r.async=true&register-mode=interface&register.consumer=f alse&release=3.1.1&remote.timestamp=1721934633218&re vision=1.0.19-test-220915-SNAPSHOT&serialization=chanjet Hessian&service.filter=-exception&shareconnections=100& side=provider&sticky=false&threadpool=tpCached&threads =720&timeout=60000&timestamp=1721934633218&unloa dClusterRelated=false&version=1.0.0&warmup=300000, cause:org.apache.dubbo.remoting.RemotingException: java.lang.UnsupportedOperationException:

com.chanjet.paas.common.domain.lListResult]

java.lang.UnsupportedOperationException:

ObjectDeserializer[interface

com.chanjet.paas.common.domain.IListResult]

###问题分析

智能评审@gitlab_aibot开启有关差异的话题3weeks ago 最近更新by 3 weeks ago

src/main/java/com/chanjet/paas/common/base/mns/AbstractMessageComsumer.java

智能评审 @gitlab_aibot·3 weeks ago

127行:在设置核心线程池大小时，建议考虑使用Math.min(args.getCorePoolSize(,AVAILABLE_CPU_PROCESSORS)来限制核心线程数不超过可用CPU处理器数，以避免过多线程导致的性能问题。

PART 05企业软件的新方向

商品	规格	计量单位	数量
可口可乐	330ml	箱	12
农夫山泉矿泉水	550ml	箱	5

语音开单-流程编排

AI智能开单

语音

图片

文本

要10箱330ml听装可乐，5箱农夫，可乐再加两箱

我是小畅，您可以这样说

3箱蒙牛牛奶、5箱安慕希酸奶、5箱王老吉凉茶

5件红色L码上衣

10包趣多多曲奇蓝莓饼干

结构化提取

商品索引

图片开单-流程编排

单据日期：2023-11-06

畅捷通打印模板采购订单

往来单位：科贸世纪（无税）

备注：

单据编号：P0-20231106-006预计到货日期：

制单人：王庆伟

业务员：

行号	商品编码	商品名称	单位	数量	单价	金额	折扣	预计到货日期
1	0001	百家鲜辣鲜露调味料438ml	瓶	9.00	7.70	69.30
2	0002	百家鲜凉拌汁410ml	瓶	9.00	7.70	69.30
3	0003	百家鲜上等蚝油6kg	瓶	9.00	8.00	72.00	-2.70
4	0004	百家鲜味椒盐45g	瓶	9.00	7.70	69.30
5	0005	乌江原味菜片80g	袋	8.00	7.70	61.60
6	0006	乌江鲜爽菜心80g	袋	8.00	7.80	62.40	-0.80
7	0007	乌江微辣榨菜80g	袋	8.00	7.70	61.60
8	0008	乌江红油榨菜(麻辣)80g	袋	8.00	7.70	61.60
9	0009	乌江脆口萝卜175g	袋	8.00	7.70	61.60
10	0001	百家鲜辣鲜露调味料438ml	瓶	11.00	7.70	84.70
11	0003	百家鲜上等蚝油6kg	瓶	12.00	8.00	96.00	-3.60
12	0002	百家鲜凉拌汁410ml	瓶	13.00	7.70	100.10
13	0004	百家鲜味椒盐45g	瓶	14.00	7.70	107.80
14	0005	乌江原味菜片80g	袋	15.00	7.70	115.50
15	0006	乌江鲜爽菜心80g	袋	16.00	7.80	124.80	-1.60
16	0007	乌江微辣榨菜80g	袋	17.00	7.70	130.90
17	0009	乌江脆口萝卜175g	袋	18.00	7.70	138.60
18	0008	乌江红油榨菜(麻辣)80g	袋	19.00	7.70	146.30
19	0010	乌江脆口榨菜175g	袋	20.00	7.70	154.00
20	0011	白象牌加碘精制食盐500g	袋	21.00	3.30	69.30	92.40
21	0012	宾太火腿午餐肉罐头340g	罐	22.00	7.70	169.40
22	0013	酱丰园香辣酱900g	瓶	23.00	7.70	177.10
23	0014	酱丰园什酱950g	瓶	24.00	7.70	184.80
24	0015	加加特酿香醋500ml	瓶	25.00	7.70	192.50
25	0016	加加金标糯米白醋450ml	瓶	26.00	7.70	200.20
合计：				372.00		2780.70	83.70

重构企业软件形态－三位一体协同

业务－处理与协同
传统软件强调的高效、简洁的操作界面
支持多用户、多任务的协同处理，提升工作效率。数据－业务洞察
整合数据分析工具，实现数据可视化，
帮助用户快速理解业务数据，做出明智决策。智能-业务智能
引入AI助手，通过自然交互方式满足用户个性化需求。

重构企业软件形态－三位一体协同示例

你	条码	*商品扫码录入	规格型号	★销售单位		G
7						四园肉圈6
8
9
10
11
12
13
14						□
15
16
17
18
19
20
小计					0.0
金额合计：0.00一现金折扣： ②三成交金额：0.00

本单上欠（保存时）0.00本单欠款②0.00此后应收③0.00


仓库名称	主计量	现存量（主）	现存量（包装）	可用量（主）
北京仓	瓶	0.00	0瓶	0.00
货位仓库01	瓶	0.00	瓶	-3.00
冷冻仓	瓶	0.00	0瓶	0.00
总仓	瓶	197.00	197瓶	63.00

页签区 (切换模块功能）

业务洞察

业务协同

业务智能

业务场景

根据不同角色及构建的业务界面及服务

业务洞察

嵌入侧滑式数据类应用服务

业务协同

上下游（内部及社会化写作）的业务协同服务（含审批场景，属于内部协同)

业务智能

大模型驱动的业务智能/AI服务

回顾总结

1

AI原生应用时代，再造交互与流程

2

知识问答中全流程设计，特别是RAG落地的实践

3

如何搭建Agent节点能力，特别是API技能的接入方法

4

重构企业软件的新形态－三位-体协同

2024AI+研发数字峰会 Al+ Development Digital summit AI驱动研发变革 促进企业降本增效

企业软件与AI原生应用

演讲嘉宾

黄斌

目 录 CONTENTS

PART01 应用形态的变革趋势

应用形态的演进

传统-预设/标准

01

设定的UI/UE

02

设定的代码/配置

创新-AI成为企业生产力的一部分

01

交互-开放的Chat体验

02

流程-Agent编排

创新-从面向流程到面向目标

大语言模型落地的几个阶段

探索落地

系统架构

PART 02 知识问答 RAG实践

》小畅助手-产品更易用客服更智能

产品

生态

小畅AI助手

知识问答

任务执行

“任务执行”你可以这么问

客户聊天群-辅助客服

云财税支持-冯慧琳

小畅AI助手@畅捷通

云财税支持-冯慧琳

小畅AI助手@畅捷通

小畅AI助手@畅捷通

侧边栏应用

?猜您想问

查看飞翔科技的发票抬头

→小畅助手

Balance-开放与封闭

LLM输出有幻觉&期望输出可控

VS.

整体流程设计

01提问前

#

02输入中

03解答中

04解答后

RAG整体方案-索引+生成

实际落地-AI应用流程编排

评估方法

自动评估

评测集

人工评估

评估方法

PART 03Agent开发平台搭建

Agent的核心逻辑

Tools+Action-技能的声明与实现

技能声明事实规约-OpenAl

https://json-schema.org/understanding-json-schema

后端API-OpenAPI规范

OpenA

API文#API文

接口摘 #接口I #接口描 #接口参

简介

接口描述

入参说明

响应格式

后端API- 实现方法

前端API-实现方法

RAG&应用/工作流

方法说明

Agent节点支持能力

高级编排组件列表

拖拽 Agent节点

聊天记录

PART 04Agent应用开发实践

Agent起航-POC展示

操作区

数据区

2024AI+研发数字峰会 Al+ Development Digital summit AI驱动研发变革促进企业降本增效

目录 CONTENTS

4.其他优化：

畅捷通打印模板采购订单

AiDD-人工智能行业2024AI+研发数字峰会：企业软件与AI原生应用-250320.pdf