亚马逊云科技AIGC加速企业创新实践指南

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长 …… 全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

收钱文案、增长黑客、产品运营、品牌企划、营销战略、办公软件、会计财务、广告设计、摄影修图、视频剪辑、直播带货、电商运营、投资理财、汽车房产、餐饮烹饪、职场经验、演讲口才、风水命理、心理思维、恋爱情趣、美妆护肤、健身瘦身、格斗搏击、漫画手绘、声乐训练、自媒体打造、效率软件工具、游戏影音……

扫码先加好友，以备不时之需

前言

在人工智能发展的漫长历程中，如何让机器学会创作一直被视为难以逾越的天堑，“创造力”也因此被视为人类与机器最本质的区别之一。然而，人类的创造力也终将赋予机器创造力，把世界送入智能创作的新时代。采用机器学习的新范式赋能业务不断探索已经播种了几十年，但随着足够的可伸缩算力的就位、海量数据的爆炸，以及机器学习技术的快速进步，各行各业的客户开始对业务进行重塑。最近，智能对话类型的AIGC应用引起了广泛的关注，引发了诸多想象。我们正处在一个机器学习被大规模采用的转折点上，我们也相信人工智能将会重塑大量客户体验和应用程序。从机器学习到智能创造，从专业生产内容（PGC,Professional-generated Content) , 用户生产内容（UGC, User-generated Content）到人工智能生成内容 (AIGC, AI-generated Content)，我们见证了一场深刻的生产力变革，而这份变革也开始影响到我们工作与生活的方方面面，AIGC也慢慢的演变成了一场技术和艺术碰撞的盛宴，不断释放人类创造力，提高艺术设计领域的数字化创新效率。

本白皮书将结合 AIGC 领域最新技术趋势和真实行业客户案例，向所有 AIGC 的决策者，开发者、创业者和使用者展示 AIGC 给各行各业带来的创新与变革，帮助用户更好的理解AIGC 带给企业的价值，以及如何借助亚马逊云科技的产品和服务快速高效地构建差异化的AIGC应用，增强企业在AIGC时代的敏捷性与竞争力。

如果您有任何问题，欢迎拨打亚马逊云科技热线电话

亚马逊云科技海外区域：10100866
亚马逊云科技中国（宁夏）区域-由西云数据运营：10100966
亚马逊云科技中国(北京)区域-由光环新网运营：10100766

·1键-申请账号及产品咨询
·2键-云创计划及联合创新中心
·3键-账号账单问题
·4键-备案咨询 (仅由 (宁夏)区域和 (北京)区域热线支持)
·5键-培训与认证
·6键-市场活动查询
·7键-亚马逊云科技合作伙伴网络 (仅由海外区域热线支持)
·8键-Marketplace产品咨询-仅由(宁夏)区域热线支持

扫码或点击了解更多亚马逊云科技AIGC 技术能力与解决方案

篇章一
AIGC介绍与典型行业应用场景介绍 4
篇章二
AIGC技术生态与典型客户需求 8
篇章三
亚马逊云科技 AIGC技术能力与解决方案 10
篇章四
AIGC客户案例分享 23

篇章一AIGC介绍与典型行业应用场景

AIGC，生成式 AI(Generative AI)与基础模型 (Foundation Models)

Gartner将生成式AI列为最有商业前景的人工智能技术之一。根据其发布的2022年人工智能技术成熟度曲线，预计生成式AI将在2-5年内进入生产成熟期，发展潜力与应用空间巨大。2025 年，30% 大型组织对外消息将由生成式 AI 生成。2025 年，50% 的药物发现与研发将使用生成式 AI。2027 年，30% 的制造商将使用生成式AI 提高产品研发效率。从数字内容生产，到引领产业变革，商业前景，加速产业融合与变革。

AIGC ( 生成式人工智能 ) 是指可生成全新内容的人工智能技术

从字面意思来看，AIGC 是继 PGC，UGC 之后的新型内容创作方式，可以在创意、表现力、迭代、传播、个性化等方面，充分发挥技术优势，打造新的数字内容生成与交互形态。

因此，AIGC 的狭义概念是利用人工智能自动生成内容的生产方式。但是AIGC 已经代表了人工智能技术发现的新趋势，过去传统的人工智能偏向于分析能力，即通过分析一组数据，发现其中的规律和模式并用于多种用途，比如应用最为广泛的个性化推荐算法。而现在的人工智能正在生成新的东西，而不是仅仅局限于分析已经存在的东西，从而实现了人工智能从感知理解到生成创造的跃迁。广义的 AIGC 可以看作是像人类一样具备生成创造能力的人工智能技术，即生成式人工智能，它可以基于训练数据和生成算法模型，自主生成创造新的文本、图像、音乐、视频、3D 交互内容（如虚拟人、虚拟物品、虚拟环境等）等各种形式的内容和数据，以及包括开启科学新发现、创造新的价值和意义等。因此，AIGC已经加速成为了人工智能领域的新疆域，推动人工智能迎来下一个时代。

人工智能，可为现实世界的任务制作足够接近人类生成内容的原创内容

由大量数据预先训练的基础模型驱动

只需微调，即可用于特定领域自定义任务

适用于文本摘要、问答、数字艺术创作、代码生成等多种用例

降低机器学习模型开发的时间和成本，提升效率，加速创新

与所有人工智能技术一样,AIGC的能力由机器学习模型提供,这些模型是基于大量数据进行预先训练的，通常被称为基础模Foundation Models基于 transformer 的神经网络架构的发明）直接带来这一类模型的爆发式增长，这类模型通常包含数十亿个参数或变量。如今的基础模型，例如大型语言模型GPT4或BLOOM，可以执行跨多个领域的多种任务，例如撰写博客文章、解决算术问题、对话聊天、基于文档回答问题等 , 由 stability.ai 开发的文生Stable Diffusion风格等。

尽管预训练基础模型所带来的功能和可能性已足够令人惊叹，而真正让业界兴奋不已的是，这些通用模型也可以被定制化加工，执行专属于其业务领域的特定功能，帮助业务建立差异化竞争优势，与从零开始训练模型相比，仅需使用一小部分数据和计算资源。定制化的基础模型可以带来独有的顾客体验，体现公司的观点、风格和服务，适用于众多消费者行业，如金融银行、旅行和医疗等。例如，一家金融公司如果需要使用所有相关交易自动生成活动日报以供内部流通，它可以使用包括既往报告在内的专有数据来定制模型，以便基础模型了解如何阅读报告和使用哪些数据来生成日报。

但是，基础模型也有一些挑战，包括计算成本高和数据偏差等问题。

计算成本是基础模型的一个主要挑战。由于这些模型具有数十亿个参数，因此它们需要大量的计算资源才能进行训练和推理。对于中小型企业来说，从0到1训练自己的基础模型非常困难,而且在推理时也需要多个GPU进行计算，因此运行成本非常高。另一个挑战是数据偏差。由于基础模型是在互联网上的未经筛选数据上进行预训练的，因此这些数据可能包含偏见、仇恨言论等有害信息。即使有人工标注员，也难以检查每个数据点，因此这可能导致基础模型的信任度不高。

尽管存在这些挑战，基础模型的发展仍然是一种重要趋势，它可以提高自然语言处理领域的效率和灵活性。将来，我们可能会看到更多的基础模型应用于各种任务和应用程序，从而推动人工智能技术的进一步发展。

AIGC基础模型的主要使用方式

	已有基础模型的提示词工程 (Prompt Engineering)	模型微调 (Fine-tuning)	预训练 (Pretraining)
训练时长和成本	不需要	几分钟到几小时	数天，数周到数月不等
定制化	·不需要定制化模型 ·需要定制化提示词	部分 ·针对特定任务优化	完整 ·模型架构与大小 ·文本长度
		·增加特定的私域训练数据集	·词汇量 ·训练数据集
专业程度	低	中	高

AIGC典型应用场景与行业分布

按照模态区分，AIGC又可分为音频生成、文本生成、图像生成、视频生成及图像、视频、文本间的跨模态生成，细分场景众多，其中跨模态生成值得重点关注。

AIGC塑造数字内容生产与交互的新范式

伴随数字技术与实体经济的深度融合、互联网企业数字化场景拓展至元宇宙，人类对数字内容的总量和丰富程度的需求不断提高，AIGC 作为当前重要的内容生产方式，已率先在游戏、营销、电商、传媒、影视娱乐等领域取得进展，伴随 AIGC 在

生成图片

媲美专业画师的精美图片
stability.ai，Midjourney，OpenAI，RunwayML，
Tiamat

各个行业的渗透，AIGC作为AI数字商业的探路者，有望开启下一场数字商业模式的新篇章。

生成音频

人工智能作曲&编曲、人工智能音乐生成、人工智能演唱、声音克隆人工智能音乐团队 Amper，人工智能播客Podcast.ai，灵动音科技，行者人工智能

生成文字

人机交互、写邮件、写广告、剧本和小说

ChatGPT – 对话形式人机交互；Copy.ai - 广告和营销文案；

Jasper.ai - 营销推广文案及博客

生成视频

文字生成视频、视频内容创作、动态面部编辑、画质增强修复Make-A-Video(Meta)，Imagen Video(Google)， Phenaki(Google)， Synthesia ，Hour One

AIGC主流行业实践与典型应用场景

游戏

聊天机器人、游戏原画设计、场景生成、游戏策略生成、BGM 生成、IP 角色生成；

零售电商

风控欺诈检测、商品3D 模型、虚拟主播、虚拟货场、智能商品详情、商品个性化图案设计；

广告设计

创意辅助、包装设计、服装设计出图、品牌宣传视频生成、营销素材生成、营销文案配图；

金融领域

智能投顾、智能客服、个性化营销文案、产品风险与客户信用评估、行业研究报告生成；

媒体娱乐

视频游戏生成、AI生成虚拟人头像、自拍图片风格生成、剧本设计、特效制作、影视作品配乐；

医疗健康

医学影像分析、健康数据分析、药物研发、个性化治疗医护陪伴、心理治疗；

篇章二AIGC技术生态与典型客户需求

AIGC 技术生态

AIGC 技术生态加速形成与发展，目前整个AIGC 应用的技术生态大致可以分为三层：分别为基础设施、基础模型和应用程序。

AIGC技术生态：

通过运行自己的基础模型管道或者依赖第三方基础模型API，把AIGC基础模型以端到端的方式为客户提供服务和产品，比如炙手可热的人工智能文本生成领域独角兽Jasper.ai, 提供营销文案生成的 SaaS服务如广告文案、博客、外发邮件等，人工智能绘画软件Midjourney 等；

为AIGC应用提供支持的基础模型，可以通过闭源专有API （如GPT-3）或开源模型 ( 如 Stable Diffusion)，或者提供开源模型托管平台（如 HuggingFace）

提供AIGC基础模型进行训练和推理所需的算力基础设施（云计算服务商和硬件制造商），如亚马逊云科技，英伟达等；

图片来源：A16Z: who-owns-the-generative-ai-platform/

需要注意的是，我们讲的并不是整个市场的生态图，而是一个分析市场的框架，本文在每个类别中都列出了一些知名厂商的例子，但没有囊括目前所有最先进的 AIGC 应用，也没有深入讨论 MLOps 或 LLMOps 工具，因为现在还没有达到完全成熟的标准化，有机会我们会继续讨论。

AIGC 基础模型生态与典型客户需求

作为云服务提供商，亚马逊云科技专注于为基础模型开发者和使用者提供全面、可靠、安全的工具与服务，助力AIGC应用开发加速与成本优化。基于此，我们将基础模型生态的主要参与者分为三类：基础模型提供商 (Model Provider)，使用基础模型调优(Model Tuner)(Model Consumer)的需求和面临的主要挑战如下：

AIGC应用构建者和使用者的主要需求

基础模型提供商(Model Providers)

从0到1 构建基础模型

使用基础模型调优提供服务的厂商(Model Tuners)

技术门槛高，需要大量的金钱和时间成本

StableDiffusion，大语言模型进行fine-tune

需要专有数据进行持续的模型优化工作

直接使用基础模型厂商(Model Consumers)

直接部署开源基础模型进行推理或者调用闭源基础模型API

缺乏定制支持，若使用闭源API 则无法控制数据

基础模型产业化所面临的主要技术挑战：

数据准备

▪数据规模大▪数据质量参差不齐

训练调参

▪模型体积大▪训练难度高

托管推理

▪推理延迟大▪调用成本高

算力资源

▪算力规模大

▪性能要求高

▪数据隐私安全

安全合规

▪内容合规

篇章三亚马逊云科技 AIGC 技术能力与解决方案

亚马逊云科技AIGC技术能力概览

20 多年来，人工智能和机器学习一直是亚马逊云科技关注的焦点，可以说，在机器学习领域的发明创新已经深刻在亚马逊云科技的DNA里。当前，用户在亚马逊云科技上使用的许多功能都是由其机器学习驱动的，比如电子商务推荐引擎、优Prime Air Alexa 30多种不同的机器学习系统的支持，每周回应客户数十亿次管理智能家居、购物、获取信息和娱乐的请求。亚马逊有数千名工程师专注于机器学习研究，这既是我们的宝贵资产，也是我们现在最关注的理念和面向未来的实力之所在。

在亚马逊云科技，我们致力于不断降低机器学习的使用门槛。截至目前，我们已经帮助超过 10 万家来自各行各业的不同规模的客户使用机器学习进行创新。我们在人工智能和机器学习堆栈的三个层级都拥有至深至广的产品组合。长期以来，通过不断投入、持续创新，我们为机器学习提供高性能、可伸缩的基础设施和极具性价比的机器学习训练和推理；我们研发了 Amazon SageMaker，为所有开发人员构建、训练和部署模型提供最大的便利；我们还推出了大量服务，使客户通过简单的API调用就可添加AI功能到应用程序中，如图像识别、预测和智能搜索;同样，在AIGC 技术上，亚马逊云科技也迈出了重要的一步，让这项技术也将赋能千行百业。亚马逊云科技能做的就是，让更多客户能够访问基础模型能力、为机器学习推理和训练提供基础设施、提高所有开发人员的编码效率，帮助我们的客户更简单、更容易地在业务中使用AIGC。

亚马逊云科技人工智能与机器学习技术栈至广至深的机器学习产品套件

专用	业务流程优化 Amazon Personalize Amazon Fraud Detector Amazon Forecast		搜索 Amazon Kendra	对话 Amazon Lex Amazon Transcribe Call Analytics		代码 + DEVOPS Amazon CodeGuru
	Amazon Lookout for Metrics	生命健康 Amazon HealthLake		Contact Lens Voice ID	Amazon CodeWhisperer	Amazon DevOps Guru
	Amazon Monitron Amazon Lookout for Vision Amazon Lookout for Equipment			Amazon Transcribe Medical Amazon Comprehend Medical Amazon Omics
通用	文本 Amazon Translate Amazon Comprehend		语音 Amazon Polly Amazon Transcribe		视觉 Amazon Textract Amazon Panorama Amazon Rekognition

	AI21	Anthropic	stability.ai	More.
文本					Claude
Amazon Titan Text Amazon Titan Embeddings					Stable Diffusion

CI/CD\|数据治理\|负责任的人工智能
Canvas	Jumpstart	GroundTruth	数据准备		Notebook	训练模型	部署至生产	EDGE MANAGER
无代码机器学习	模型与解决方案库	数据标记	Studio IDE 特征存储	地理信息机器学习	模型开发	参数调优	管理和监控	管理边缘设备

PyTorch, Apache MXNet,TensorFlow

Amazon EC2

CPUs

GPUs

Amazon Inferentia

Amazon Trainium

Habana Gaudi

FPGA

面向不同的基础模型生态伙伴，亚马逊云科技提供了不同层次的产品与服务帮助用户提升开发效率，主要的产品和服务如下：

面向基础模型提供商，使用基础模型调优提供服务的厂商，直接使用基础模型厂商，提供全面深入的产品与服务

基础模型提供商

构建自己的基础模型使用 Amazon SageMaker 基础模型 Hub—SageMakerJumpStart

Amazon SageMaker

EC2 P4 instances

EC2 P3 instances
EC2 G4 instances
基于 Nvidia GPU 的 EC2 实例

使用基础模型调优提供服务的厂商
基于亚马逊云科技自研Trainium Inferentia芯片的 EC2实例

JumpStart三方预训练基础模型

直接使用基础模型厂商
AIGC解决方案推理调用基础模型提供的API

co:here

Hugging Face

stability.ai

Amazon CodeWhisperer

来自亚马逊的自研大语言基础模型

来自 AI21 Labs、Anthropic 和 stability.ai 的第三方基础模型

Titan Text

Titan Embeddings

Jurassic-2

Claude

Amazon Bedrock
Stable Diffusion

产品亮点Ⅰ ：

面向模型提供商提供适用于每种工作负载的高性能、经济高效、可扩展基础设施，尤其是两款基于

Amazon Trainium

Amazon Inferentia

自研 AI 训练 (Trainium) 与推理 (Inferentia) 芯片专门针对 AIGCEC2 Trn1 Inf2AIGC训练和推理的成本

无论运行、构建还是定制基础模型，客户都需要高性能、低成本且为机器学习专门构建的基础设施。亚马逊云科技提供基于英伟达最新 GPU 芯片（如 H100,A100, A10, T4等）的虚机实例, 满足用户对基础模型训练和微调的算力资源需求。除此之外，过去五年，亚马逊云科技持续加大在自研芯片方面的投入，不断突破性能和价格的极限，以支持对此有极高要求的机器学习训练与推理等工作负载。Trainium Inferentia最低成本。正是因为我们在成本和性能方面的优势，像 AI21 Labs、Anthropic、Cohere、Grammarly、HuggingFace、Runway、stability.ai 等领先的 AI 初创公司都选择运行在亚马逊云科技平台上。

今天，基础模型花费的时间和金钱主要用于训练，这是因为许多客户才刚刚开始将基础模型部署到生产中。由Trainium支持的Trn1计算实例与其他任何Amazon EC2 实例相比，可以节省高达 50% 的训练成本，经过优化后可以在与高达800Gbps的第二代EFA（弹性结构适配器）网络相连的多个服务器上分发训练任务。客户可以在超大规模集群（UltraClusters）中部署 Trn1 实例，数量可以扩展到在同一可用区中 3 万个 Trainium 芯片，相当于超过 6 exaflops 的计算能力，并具有 PB 级网络。许多亚马逊云科技客户，包括 Helixon、Money Forward和亚马逊的搜索团队，都使用Trn1实例将训练最大规模的深度学习模型所需的时间从几个月缩短到几周甚至几天，并且降低了成本。800 Gbps 的带宽已经很大，但我们仍不断创新、拓展带宽，推出全新的、网络优化型 Trn1n 实例，它可以提供 1600 Gbps 的网络带宽，专为大型网络密集型模型设计，其性能比 Trn1 高出20%。

但是，未来，当基础模型进入大规模部署时，我们相信，大部分机器学习成本将Amazon Inferentia2 Inf2这些实例专门针对运行数千亿个参数的基础模型驱动的 AIGC 应用程序进行了优化。与上一代相比，Inf2实例不仅吞吐量提高了4倍，延迟降低了10倍，还可实现加速器之间的超高速连接以支持大规模分布式推理。与同类 Amazon EC2 实例相比，这些能力将推理性价比提高了40%，并把云中的推理成本降到最低。

亚马逊云科技面向AIGC应用的专用加速芯片

Amazon Inferentia

Amazon Trainium

Amazon Inferentia2
在云端运行深度学习（DL）模型时单次推理的最低成本
大语言模型和 diffusion模型最经济高效的训练方式
与同类 Amazon EC2实例相比，将推理性价比提高了 70%
与同类 Amazon EC2实例相比，将推理性价比提高了 50%
大语言模型和diffusion 模型最经济高效的推理方式
与同类 Amazon EC2实例相比，将推理性价比提高了 50%

面向机器学习工程化：Amazon SageMaker

Amazon SageMaker

无需自行构建、端到端机器学习平台，最大限度节省 AIGC 模型开发和应用成本，提升整体生产效率。

降低训练成本内置竞价型实例训练模型成本优化高达 90%

针对大规模的 AIGC提供异步推理算力自动伸缩最低至 0

内置 MLOps 套件将 AIGC 实验自动化部署至生产

针对基础模型训练

• Amazon SageMaker Nvidia GPU Amazon Trainium的最新的基础设施资源，而且这些实例之间实现了超高速网络通信与高性能存储，方便算法人员聚焦模型调试的工作：

• Amazon SageMaker 提供了包括 Studio，Notebook 等一系列调试、分析以及追踪模型效果的工具，可以帮助算法人员尽快完成模型调整，此外 AmazonSageMaker 提供包含数据标注、模型训练、微调、部署的标准化、自动化的端到端流程和管理工具，轻松实践机器学习运维MLOps和大规模集群协调;

• 对 TensorFlow、PyTorch 和 HuggingFace 等框架和库进行了针对亚马逊云科技的优化，提供了显著的性能改善;

• Amazon SageMaker行和张量并行）等模式，使得基础模型的分布式训练更加容易上手。除了AmazonSageMaker DeepSpeed FSDP式训练框架，适配不同的客户需求；

• : Amazon SageMakerSpot 竞价实例轻松训练机器学习模型，与按需实例相比，使用托管的 Spot 实例训练模型，可以将成本优化高达 90%。

针对基础模型推理

• 针对不同的客户需求场景，Amazon SageMaker支持多种推理方式，例如实时推理模式以满足超低时延的业务，批量推理以满足大型数据集的离线业务，异步推理以满足长时延的场景等；

• 相较利用 Amazon EC2 或 Amazon EKS，利用 Amazon SageMaker 进行模型部署和推理，可以省去对于计算实例、网络以及存储等基础设置的运营支出，减少运营成本；

• Amazon SageMaker片放入单个 GPU 卡内存中，从而实现单机多卡模式下的推理，达到低至几百毫秒的推理延迟以及大规模的吞吐量；

• Amazon SageMaker 中的大型模型推理容器（LMI）与 DeepSpeed、HFAccelerate等开源模型并行框架集成，此外还配备了BF16量化能力，有助于在不显著影响准确性的情况下缩小模型的大小，从而实现低延迟。

低代码构建机器学习模型：SageMaker JumpStart

内置包含AIGC场景在内的主流开源模型和算法库

1、“一键式”部署和 Fine-tune Stable Diffusion，Bloom、FLAN-T5、Alexa TM 等主流的 AIGC 基础模型；

2 300+ 10+

4、用户可以通过 JumpStart 一键部署或微调众多预训练模型，轻松开发高质量模型并缩短部署时件；

3、提供支持 TensorFlow、PyTorch、Hugging Face 和 MXNet等主流框架的先进SOTA) 的开源模型；

5、支持通过应用场景、行业场景、模型名称以及资源类型进行搜索;

6、持续增加模型和场景。

目前在 SageMaker JumpStart 上可用的预训练基础模型

SageMaker JumpStart支持模型部署、训练（微调）

Generate fun images of
yourdog
Jumpstart Api

This notebook demonstrates how to use the JumpStart Stable Diffusion text-toimagemodelstogeneratefun images..

Qstable difusion

Intro to JS - Image Upscaling Featured Jumpstart Api

This notebook demonstrates how to use the JumpStart APIto enhance image quality guided by text.

Stable Diffusion x4
upscaler FP16

Naclbit Trinart Stable Diffusion V2

Fine-tunable: No Source: Stability Al

Text To Image

Fine-tunable: No Source: Stability Al

Fine-tunable: No Source: Hugging Face

Stable Diffusion FP16

Text To Image

Stable Diffusion 2 FP16

Text To Image

Fine-tunable: No

Source: Stability Al

Stable Diffusion 2.1 base text·texttoimage.foundationmodels.featured

GetStarted

Deploy Model

Stable Diffusio

Deployapretrained modeltoan endpointfor inference.Deploying onSageMaker hosts the modelon the specifiedcompute instanceandcreatesan internalAPlendpoint.JumpStartwillprovideyouanexample notebook toaccessthemodelafteritisdeployed.Learnmore.

Featured Text

》Deployment Configuration

Security Settings

Fine-tunable: Yes Source:Stability Pre-training Datag

Runwayml Sta Diffusion v15

Train Model

Text To Image

Createatrainingjobtofitthismodeltoyourowndata. Thismodelispretrained，youwillfine-tune itsparameters insteadofstartingfromscratch.Fine-tuningcan produceaccurate models withsmallerdatasetsand less training time.Learn more.

VData Source

Fine-tunable: No Source: Hugging

Selectthedefaultdataset,oruseyourowndatatofine-tunethismodel.

ODefault dataset Find S3 bucket Enter S3 bucket location Thisoption willfithe modeltothedefaultdataset.Learnmore.

Defaultdatasetats_sdfiening

Rekognition C Labels for Visi

》Deployment Configuration

Featured

Hyper-parameters

模型训练（微调）

Thisnotebook shc Amazon Rekogniti createdifferent ty

Security Settings

模型部署

Open notebook ..Browse JumpStart

Run in notebook

UsethemodelrgamatilliJupyeotebithteakeAe

Open notebook

产品亮点 Ⅲ：

面向使用基础模型调优服务厂商和直接使用基础模型的厂商，提供 Amazon Bedrock 服务和Amazon Titan 大语言模型，助力构建低门槛，开放，安全的AIGC应用

Amazon Bedrock

针对使用基础模型调优服务厂商和直接使用基础模型厂商的主要需求：首先，他们需要能直接找到并访问高性能基础模型，这些模型需要能够给出最匹配业务场景的优秀反馈结果。其次，客户希望无缝与应用程序集成，且无需管理大量基础设施集群，也不会增加过高的成本。最后，目前基础模型定位是通用场景公用的能力，缺乏使用客户私有数据构建的差异化应用程序。客户希望能够轻松基于基础模型，利用自己的数据（可多可少）构建差异化的应用程序。由于客户进行定制化的数据是非常有价值的IP，因此需要在处理过程中确保数据安全和隐私保护。同时，客户还希望能控制数据共享和使用。

基于客户以上的需求，我们推出了 Amazon BedRock。Amazon Bedrock 是客户使用基础模型构建和扩展生成式人工智能应用程序的最简单方法，为所有开发者降低使用门槛。凭借Bedrock所带来的无服务器体验，客户可以轻松找到适合自身业务的模型，快速上手，在确保数据安全和隐私保护的前提下，使用自有数据基于基础模型进行定制，并使用他们已经熟悉的亚马逊云科技工具和能力，将定制化模型集成并部署到他们的应用程序中，同时无需管理任何基础设施。

目前，Amazon Bedrock 包含两大类能供客户使用的基础模型，第一类为亚马逊自研的 Titan 模型，包括文本生成的 Titan Text 模型和做矢量编码的 TitanEmbedding 模型；第二类为第三方合作伙伴的模型，包括 AI21 的 Jurassic-2，Anthropic 的 Claude 以及 stability.ai 的 Stable Diffusion 模型，Jurassic-2,Claude 模型为大语言模型，Stable Diffusion 模型为文本生成图片模型。任何规模的企业都可以通过Amazon Bedrock 访问基础模型，加速机器学习在组织内部的应用，并凭借其轻松上手的特性，构建自己的生成式 AI 应用程序。我们相信，Amazon Bedrock将是基础模型普惠化进程中的一大进步。

Amazon Bedrock客户只需向 Amazon Bedrock 展示 Amazon S3 中的几Amazon Bedrock特定任务微调模型，最少仅需 20 个示例即可，而无需标注大量数据。假设一位时装零售行业的内容营销经理，想为即将推出的手提包新品系列开发新的、针对目标用户的广告创意。他向 Amazon Bedrock 提供了些标注过的表现最佳的既往营销广告示例，以及新品的相关描述，Amazon Bedrock将能自动为这些新品生成有效的社交媒体推文内容、展示广告和产品网页。任何客户数据不会被用于底层模型的训练，所有数据都将被加密，且不会离开客户的虚拟私有网络（VPC）可以确保全方位的数据安全和隐私保护。

Amazon Bedrock 的主要优势

通过 API加速开发使用基础模型的生成式人工智能应用，而不需要管理基础设施

AI21 Labs Anthropic stability.ai大语言模型中进行选择，找到合适客户案例的基础模型

使用客户的私有数据定制基础模型

利用全面的亚马逊云科技安全功能加强对客户的数据保护

使用客户熟悉的亚马逊云科技工具和功能来部署可扩展、可靠且安全的生成式人工智能应用

Amazon Bedrock 支持广泛的基础模型

来自亚马逊的自研大语言基础模型

来自 AI21 Labs、Anthropic 和 stability.ai 的第三方基础模型

Titan Text

Titan Embeddings

Jurassic-2

Claude
Stable Diffusion

产品亮点 Ⅳ：

面向直接使用基础模型的代码编写者提供AI 代码助手 Amazon CodeWhisperer，面向所有个人用户免费开放，助力更快捷、更安全地构建应用程序

Amazon CodeWhisperer

我们预见到，编程将是生成式AI技术得到快速应用的领域之一。今天，软件开发者需要花费大量时间编写相当浅显和无差别的代码。他们还需要花费不少时间学

集成开发环境上下文会自动发送到Amazon CodeWhisperer

开发人员在集成开发环境中编写代码

接收代码推荐

习复杂的新工具和技术，而这些工具和技术总在不断演进。因此，开发者真正用于开发创新的功能与服务的时间少之又少。为应对这一难题，开发者会尝试从网上复制代码片段再进行修改，但可能无意中就复制了无效代码，有安全隐患的代码,或对开源代码的使用没有进行有效的追溯。而且这种搜索和复制的方式也浪费了开发者用于业务构建的时间。

AIGC可以通过“编写”大部分无差别的代码来大大减少这种繁重的工作，让开发人员能够更快地编写代码，同时让他们有时间专注在更具创造性的编程工作上。因此，我们推出了 Amazon CodeWhisperer，一款 AI 编程助手，通过内嵌的基础模型，可以根据开发者用自然语言描述的注释和集成开发环境(IDE）中的既有代码实时生成代码建议，从而提升开发者的生产效率。

Amazon CodeWhisperer

安全扫描

根据集成开发环境中的先前代码和注释，使用机器学习生成代码推荐

引用追踪器

避免偏差

使用 CodeWhisperer生成不同编程语言的代码示例 :

Python

importboto3 frombotocore.exceptionsimport ClientError

Function touploadafile toanS3bucket defupload_fileilemecketec_moe) UploadafiletoanS3bucket

:param file_name:File toupload
:param bucket: Bucket to upload to
:paramobject_name:S3objectname.If notspecifiedthen file_nameisused
:return:Tuefodede
mnn

IfS3object_namewasnotspecified,usefilename

if object_nameisNone: object_name=file_name

Java

import java.io.*;
importorg.json.JSONobject;
importorg.json.XML;

public String JSONtoXML(string jsonString) { //Createa JSONobjectfromthe JSON String var jsonObject = new JSONobject(jsonString);

//Convertthe JSONObjecttoXML var xmlString = XML.toString(jsonObject);

return xmlString;

Upload the file s3_client=botlient(s')

Amazon CodeWhisperer

response=ituodfileikete except ClientError as e: logging.error(e) return False return True

Javascript

import React from "react";
import ReactDoM from "react-dom";

const products=["Apple","Orange", "Peach"]; const prices =[1.5,2,.5]

Amazon CodeWhisperer

目前，Amazon CodeWhisperer 对所有个人用户免费，任何人都可以通过邮箱账户在几分钟内注册 AmazonCodeWhisperer 进行使用，而无需亚马逊云科技账号。对于企业客户，我们则提供了 Amazon CodeWhisperer专业版，其中包括更多高级管理功能，如集成了身份与访问管理服务 (IAM) 的单点登录 (SSO)，以及使用更高限额的安全扫描。

构建像 Amazon CodeWhisperer 这样强大的应用程序对开发人员和我们所有的客户来说都是变革性的。我们还有更多创新性的产品在规划中，也期待更多的客户和开发者在亚马逊云科技上构建更加创新和颠覆性的生成式人工智能应用。我们的使命是，让各种技能水平的开发人员和各种规模的组织都有机会使用生成式AI进行创新。我们相信，新一波机器学习技术创新才刚刚开始、方兴未艾，未来还有无限可能。

Amazon CodeWhisperer ：目前正式上线，并免费提供给个人开发者使用!

实时生成代码建议

扫描代码以发现隐蔽漏洞

对疑似开源代码进行标记或默认过滤

在预览期间，亚马逊云科技进行了一项生产力测试，与未使用CodeWhisperer CodeWhisperer务的速度平均快 57%，成功率高 27%。

参与者成功完成任务的可能性增加

参与者平均提升效率

亚马逊云科技AIGC参考解决方案介绍：

1. 基于 Amazon SageMaker 构建的支持 Stable Diffusion Extension 的 AI 作画解决方案

方案介绍

通过为社区提供插件和云资源模版的方式，帮助客户将现有StableDiffusion的模型训练，推理和调优等任务负载从本地服务器迁移至 Amazon SageMaker，利用云上弹性资源加速模型迭代，避免单机部署所带来的性能瓶颈。

方案优势

1. 安装便捷

Amazon CloudFormation部署亚马逊云科技中间件，搭配社区原生 StableDiffusion WebUI赋能用户快速使用 Amazon SageMaker 云上资源，进行推理和训练工作；

2. 社区原生

WebUI界面与后端分离，用户无需改变现有Stable Diffusion WebUI 的使用习惯，WebUI 可以在任何支持的终端启动而没有GPU 的限制,原有训练，推理等任务通过插件所提供的功能迁移到 Amazon SageMaker；

3. 可扩展性强

方案插件以及中间件代码开源，采取非侵入式设计，有助于用户快速跟上社区相关功能的迭代，从 WebUI 本体到广受欢迎的 Dreambooth、ControlNet、LoRa 等插件；

4. 优化资源配置

用户可按需选择云上资源，进行批量推理及模型训练，极大提升效率；

5. 协作性强

依托于开源社区强大资源，通过插件形式可以与其他开发者合作，有助于更快速迭代产品，为用户提供更有用、易用的产品；

适合对 AI 生图有业务需求的企业客户，包括算法工程师，制作人，画师，设计师等；

2.基于大语言模型的下一代智能搜索和知识库解决方案

方案介绍

各行各业中，都有很多建立企业知识库，并基于知识库提供知识检索和精准问答的需求。例如在制造，汽车和医疗健康领域，过往有大量的技术文档，维保记录，医学指南等没有充分利用的知识资产，亟需能够基于这些资产建立企业知识库服务内部和外部客户。在零售和电商领域，亟需能够对商品进行进准搜索搜索和商品特性进行问答。: 1. Amazon OpenSearch Amazon Kendra业知识库；2. 通过 Amazon Sagemaker 部署包含大语言模型（LLM）和语意搜索模型在内的推理节点，结合搜索引擎，可根据企业知识库直接给出搜索问题答案；3. 结合Amazon Lex，Amazon Connect 等服务，提供聊天机器人和智能客服场景应用，形成完整的端到端应用。

方案优势

1. 简单易用

基于 Amazon OpenSearch 和Amazon Kendra 能够快速建立demo 查看效果；

2. 轻量化插件

方案中的各个模块即可作为服务独立使用，也可作为插件与其他服务结合；

3. 内置引擎自动优化算法

可将用户行为记录，并周期性自动优化搜索引擎，提高搜索引擎精度的同时减少运营成本;

4. 功能组件快速拓展

通过拓展组件能够快速实现，包括语音 / 视频 / 图片 / 文本在内的多维度数据搜索并实现端到端的服务；

篇章四 AIGC 客户案例分享

四月科技
游戏·基于亚马逊云科技构建二次元
AIGC 产品 Anime AI

“过去我们需要将素材的设计外包给原画团队，不仅制作周期长，也是企业不可忽视的一项业务成本。在亚马逊云科技上应用 AIGC 进行填色素材自动化创作之后，我们不仅可以根据玩家喜好生成更多的资源，也帮助企业节约了超过60% 的素材外包设计成本。 ”

成都四月科技有限公司 CEO袁海林

项目背景

四月科技专注在移动端休闲游戏的研发和运营，其中多款二次元游戏产品获得AIGC CEO AIGC绘画产品，并将 AIGC 用于二次元原创作品的创作，以降低人工绘画的成本。

项目挑战

1、为了抢占市场，客户希望在1个月之内完成整个项目的开发和上线；

2、客户只有移动端工程师，没有专业的运维和后端开发团队，也没有AI相关的技术经验。

我们的方案

Stable Diffusion2.0 API APIGateway 等无服务器架构作为应用后端，将 WebUI 包装成 BYOC 的模式部署到 Amazon SageMaker，并利用 Amazon SageMaker 的异步推理和内部队列实现高可扩展性和高可用性的架构。

最终成功

最终产品在一个月内准时上线，目前已经获得百万用户；
借助AI绘画功能，将填色游戏的图片素材成本降低60%；

3.Anime AI目前成为客户营收最高的业务，占公司总营收的 1/3。

利用 AI 绘画生成个性化二次元填色游戏的素材图片。人工成本降低 60%

利用AI绘画结合用户照片生成个性化的二次元风格头像

易点天下

电商 · 广告创意主题营销场景应用

"Amazon SageMaker 助力易点天下提高训练和调参的效率，整合模型训练交付成本下降60% 以上，并实现在机器学习方面的运营成本节省超过了 75%。 1

易点天下网络科技股份有限公司

项目背景

针对电商客户，生成“穿戴”产品图的高质量 AI 模特，同时提供不同商业应用场景。帮助节省成本，提高商品展示多样性，提升成交总额。

1、广告营销团队没有相关实践经验，涉及内部团队多;

广告效果展示

项目挑战

2、工程化解耦耗时长，没有整体解决方案;

3、无法预知未来 C 端用户流量。

我们的方案

上传多张不同角度眼镜产品图，基于AIGC 技术，生成佩戴假发/ 眼镜且符合客户目标受众特点的AI模特图，用于客户站点产品主图展示。

在模型训练阶段，采用 Amazon SageMaker 机器学习平台，动态灵活从 0-1 训练机器学习模型，包含ML全生命周期能力。在推理阶段使用Amazon EC2结合 Auto Scaling的能力，快速响应需求变化，实现动态扩缩容，推理成本降低 50%。整体方案基于亚马逊云科技服务实现，无需管理基础设施，服务稳定可保障。

最终成功

1、上架AI模特产品图，某客户订单数据提升至原有8倍+。
2、采用 AI 广告创意素材，某客户 CTR 提升 35.3%，CPC 降至 44.8%。

项目背景

Canva 是一个在线平台，用于创建和编辑从演示文稿到社交媒体帖子、视频、文档，甚至网站的所有内容。该公司的目标是让内容创作民主化，让每个人，从企业到规模最小的博主，都能使用先进的视觉传播工具。

项目挑战

该公司希望推出一项基于Stable Diffusion 的可以让用户输入文本提示，并获得人工智能生成的图像的新功能，但独自完成这项工作需要至少 6 个月的时间和大量的 GPU；
对于某些 AIGC 的新模型，短期内快速交付是一个沉重的负担，在亚马逊云科技之前，Canva无法快速交付大型、现代、前沿的模型；
Canva 关注的不仅仅是上市速度，更重要的是用户信任和安全，人工智能生成艺术的出现，为用户创造不确定的内容带来了新的方式，在某些情况下，这些 AI 甚至可能自行创建攻击性图像。

我们的方案

Canva 设置其图像创建序列，以便在用户输入文本提示后，使之使用 Amazon SageMaker Real-Time Inference（实时推理）端点来生成图像。当图像生成时，系统通过 Amazon Rekognition模型对其进行过滤。在管道的末端，Canva 会将图像展示给最终用户，供其选择。借助这种前沿的文本到图像技术，用户可以在几秒钟内创建独特的高质量图像，而不是几小时或几天。

https://aws.amazon.com/cn/solutions/case-studies/canva-sagemaker-case-study/?nc1=h_ls

最终成功

通过使用 Amazon SageMaker，Canva 可以在 3 周内将新的文本到图像功能交付给用户；

使用 Amazon SageMaker 制作超过 60 个 ML 模型；

借助这种前沿的文本到图像技术，用户可以在几秒钟内创建独特的高质量图像。

可画

使用 Amazon Sagemaker 快速生成高质量图像

“我们在使用亚马逊云科技后Canva ML环境在扩展到大量用户方面做得很好，帮助我们实现了AIGC 新模型的快速交付，交付实践从6个月缩短到了周以内。

―― Glen Pink | Canva 的 ML 总监

stability.ai

借助亚马逊云科技实现功能强大的多模态机器学习

“我们于2021年开始与亚马逊云科技合作，使用 Amazon EC2 P4d 实例构建的文本到图像扩散StableDiffusion模环境下，将模型训练时间从数月缩短到数周。并且在使用第二代 EC2 UtraCluster 中的 AmazonEC2 P5 P5模型训练时间缩短4倍，从而使我们能够以更低的成本更快地提供突破性的 AI。 ”

Emad Mostaque | Stability Al CEO

项目背景

stability.ai是一家总部位于加利福尼亚州的初创公司，专注于授权超过20万名成员的开发者社区为语言、音频、视频、3D和生物构建开放的人工智能模型。

项目挑战

Stable Diffusion 这样的模型训练起来非常困难，需要使用数千个 GPU 或 Amazon Trainium 机器学习训练专用芯片。

我们的方案

通过使用Amazon Sagemaker 托管的基础设施和优化库，stability.ai 能够使其模型训练具有更高韧性和性能

模型

多模态模型。NLP+ 图像；

Stable Diffusion本到图像的模型，可使数十亿用户在几秒钟内创作令人惊叹的艺术作品；

4000 A100超级集群训练的，这是后续一系列基础模型使用该方式训练的首次探索；

训练

计算：Amazon EC2P4d 实例；

4000 GPU于1个训练工作；

业务流程：Amazon EKS；

PyTorch 库：Torch.nn.DataParallel

推理

计算：Amazon EC2 G5实例；

业务流程：Kubernetes；

存储：Amazon S3；

PyTorch 库：TorchServe；

最终成功

1、能够在 Amazon EC2 P4d 实例上训练基于 PyTorch 的大规模机器学习模型，利用 Amazon FSx forLustre 和Amazon Batch，借助云规模对GAN 计算机视觉和转换器模型进行分布式训练。

2、使用云服务拓展训练的能力将这些大型模型的训练时间从几个月缩短到几天，并将其发布到开源社区。

3、使用 Amazon SageMaker 及其模型库，Stability AI 可减少 58% 的训练时间和成本。

项目背景

AI21 Labs成立于2017年，总部位于以色列特拉维夫，开发专注于语义和上下文的大规模语言模型，并通过旗舰产品Wordtune 提供基于人工智能的写作辅助。

项目挑战

在训练 Jurasci-1 Jumbo（一种具有 1780 亿个参数的自回归语言模型）时，AI21 Labs 希望实现功能强大的计算和网络功能，并最大限度地提高效率。

我们的方案

该公司使用Amazon EC2 P4d实例，通过在数百个GPU中分发模型训练，获得所需的性能和内存，从而提供自然语言处理即服务。

最终成功

开发一个包含1780亿个参数和25.6 万个词汇的语言模型。

高效且经济地扩展到数百个GPU。

为大规模开发模型积累知识。

Al21labs

使用 Amazon EC2 P4d 实例—PyTorch训练， 1780 亿参数语言模型 Jurasci-1Jumbo。

“Amazon EC2 P4d 实例在 EFA 上提供 400 Gbps 高性能网络。GPU-GPU的联网速度直接影响了在扩展数百个GPU时，高效扩展和保持成本效益的能力。

Opher Lieber | AI21 Labs Jurassic 技术领导

致谢

主编人员

宋洪涛亚马逊云科技资深产品市场经理

杨佳欢亚马逊云科技人工智能与机器学习产品经理

张洋亚马逊云科技产品总监

李昕亚马逊云科技产品市场总监

王晓野

亚马逊云科技资深数据产品总监

邓俊

亚马逊云科技人工智能与机器学习产品经理

赫祎诺亚马逊云科技人工智能与机器学习产品经理

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长 …… 全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

致终身学习者社群

扫码先加好友，以备不时之需

前言

目 录

如果您有任何问题，欢迎拨打亚马逊云科技热线电话

篇章一AIGC介绍与典型行业应用场景

AIGC，生成式 AI(Generative AI)与基础模型 (Foundation Models)

AIGC ( 生成式人工智能 ) 是指可生成全新内容的人工智能技术

AIGC典型应用场景与行业分布

AIGC塑造数字内容生产与交互的新范式

生成图片

生成音频

生成文字

生成视频

AIGC主流行业实践与典型应用场景

游戏

零售电商

广告设计

金融领域

媒体娱乐

医疗健康

篇章二AIGC技术生态与典型客户需求

AIGC 技术生态

AIGC技术生态：

AIGC 基础模型生态与典型客户需求

AIGC应用构建者和使用者的主要需求

基础模型产业化所面临的主要技术挑战：

数据准备

训练调参

托管推理

算力资源

安全合规

篇章三亚马逊云科技 AIGC 技术能力与解决方案

亚马逊云科技AIGC技术能力概览

产品亮点Ⅰ ：

自研 AI 训练 (Trainium) 与推理 (Inferentia) 芯片专门针对 AIGCEC2 Trn1 Inf2AIGC训练和推理的成本

亚马逊云科技面向AIGC应用的专用加速芯片

面向机器学习工程化：Amazon SageMaker

针对基础模型训练

针对基础模型推理

低代码构建机器学习模型：SageMaker JumpStart

目前在 SageMaker JumpStart 上可用的预训练基础模型

SageMaker JumpStart支持模型部署、训练（微调）

Deploy Model

Runwayml Sta Diffusion v15

Train Model

产品亮点 Ⅲ：

Amazon Bedrock 的主要优势

Amazon Bedrock 支持广泛的基础模型

产品亮点 Ⅳ：

Amazon CodeWhisperer

使用 CodeWhisperer生成不同编程语言的代码示例 :

Python

Function touploadafile toanS3bucket defupload_fileilemecketec_moe) UploadafiletoanS3bucket

IfS3object_namewasnotspecified,usefilename

Java

Upload the file s3_client=botlient(s')

Javascript

Amazon CodeWhisperer ：目前正式上线，并免费提供给个人开发者使用!

亚马逊云科技AIGC参考解决方案介绍：

1. 基于 Amazon SageMaker 构建的支持 Stable Diffusion Extension 的 AI 作画解决方案

方案介绍

方案优势

1. 安装便捷

2. 社区原生

3. 可扩展性强

4. 优化资源配置

5. 协作性强

2.基于大语言模型的下一代智能搜索和知识库解决方案

方案介绍

方案优势

1. 简单易用

2. 轻量化插件

3. 内置引擎自动优化算法

4. 功能组件快速拓展

篇章四 AIGC 客户案例分享

项目背景

项目挑战

目录

2023AIGC加速企业创新实践指南-28页-WN11