CSA

演讲题目: ChatGPT和Plug-In 的应用和安全

演讲人：黄连金

单位名称云安全联盟大中华区

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长 …… 全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

收钱文案、增长黑客、产品运营、品牌企划、营销战略、办公软件、会计财务、广告设计、摄影修图、视频剪辑、直播带货、电商运营、投资理财、汽车房产、餐饮烹饪、职场经验、演讲口才、风水命理、心理思维、恋爱情趣、美妆护肤、健身瘦身、格斗搏击、漫画手绘、声乐训练、自媒体打造、效率软件工具、游戏影音……

扫码先加好友，以备不时之需

人工智能的三要素和三类型

三要素

• 数据（从演绎推理到归纳推理，需要大量数据，包括Prompt）

• 算法（深度学习，ChatGPT在工程上有大量创新和改进）

• 算力（需要大量GPU， ChatGPT 用到1万个英伟达的GPU, 28万CPU）

. 三种类型

弱人工智能：就是利用现有的算法辅助各个行业的应用。

. 强人工智能：非常接近于人的智能，ChatGPT。

超级人工智能：这个是否可能？

ChatGPT 的技术原理：基于Transformer的大型语言模型

#

Collectdemonstrationdata andtrainasupervised policy.

Apromptis sampledfromour promptdataset.

Alabeler
demonstratesthe desired output
behavior.

Thisdata is used to fine-tune GPT-3.5 withsupervised learning.

#

Collect comparisondataand trainarewardmodel.

Apromptand severalmodel outputsare sampled.

Alabelerranksthe outputsfrom best toworst.

Thisdataisused totrain our reward model.

#

Optimizeapolicyagainst the rewardmodel usingthePPO reinforcementlearningalgorithm.

Anewprompt is sampledfrom thedataset.

The PPOmodel is initializedfromthe supervised policy.

Thepolicy generates anoutput.

Therewardmodel calculatesareward for theoutput.

Thereward isused toupdate the policy using PPO.

1：大型语言模型可以体现智能

2：预测可以体现智能

3：人类监督学习和反馈机制是关键

4：利用PPO:近端策略优化（ProximalPolicy Optimization)增强学习来持续提高智能

5：目前在写代码和文章已经有优势

ChatGPT+Plug-In: 从AIGC 到 AIGE（Economy)

. AI产生的新经济系统和商业模型已经不可逆转

价值效应超过：操作系统，Web和AppStore

. OpenAI，Microsoft 有先发优势，但是。

不注意安全会带来灾难

Elon Musk: ‘Mark my words - A.l. is far more dangerous than nukes'

PUBLISHEDTUE,MAR132018.1:22PMEDTIUPDATEDWED,MAR142018.11:31AMEDT

Catherine Clifford

SHAREfin

Squawkon Street
UPNEXTISquawk 11:00amET Elon Muskand Apple
cofounder Steve Wozniak among over1,100who
signopen letter calling for6-month banon
creating...
BYJEREMYKAHN

Elon Musk and Apple cofounder Steve Wozniak among over 1,1Oo who sign open letter calling for 6- month ban on creating powerful A.I.

BYJEREMYKAHN

ElonMuskisamongtheprominenttechnologistswhohavecalledforasix-monthpauseonthedevelopmentofmorepowerfulA.l.

TECH

ChatGPT数据泄露已经发生

泄露的对话和提示：2023年3月22日，ChatGPT的一些对话和提示被随机泄露给其他用户，这是对GDPR法规的明显违反。另外支付信息泄露违反PCI/DSS

SECURITYWEER
ChatGPTData Breach Confirmed as Security Firm Warns of Vulnerable...

Infosecurity Magazine ChatGPTVulnerabilityMay Have Exposed Users'Payment Information

TechRadar

What to do when ChatGPT is down

Search Engine Roundtable ChatGPT Bot-YouCan BlockOpenAl Plugins If YouWant

ChatGPT的安全问题（CSA CEO：Jim Reavis）

安全问题	描述
社会工程	攻击者可以利用从社交媒体或其他来源收集的大量文本数据来训练模型，生成极具说服力的网络钓鱼电子邮件或消息，诱骗受害者泄露敏感信息。
撞库攻击	攻击者可以利用语言模型生成大量潜在的用户名和密码组合，用于对在线帐户进行自动攻击。
垃圾邮件和虚假信息	恶意行为者可以使用语言模型生成大量旨在影响公众與论或传播错误信息的垃圾邮件和虚假信息。
生成恶意软件	攻击者可以利用ChatGPT编写恶意软件说明和指令，从而逃避防病毒软件的检测。
创建虚假社交媒体资料或聊天机器人帐户	恶意行为者可以使用ChatGPT收集敏感信息，创建虚假资料冒充真实的人或组织来诱骗受害者提供个人信息，例如登录凭据或信用卡号。
生成旨在操纵或欺骗受害者的自动消息	恶意行为者可以使用ChatGPT在社交媒体或论坛上生成数千条自动消息，传播虚假信息或宣传，以影响公众與论或破坏政治活动。

ChatGPT Plug-in的安全防护措施

● Access control and user authentication (访问控制和用户身份验证): 限制对ChatGPT插件的访问并确保只有授权用户可以使用。

利用去中心化数字身份DID

利用智能合约约束AI

● Rate limiting and spam prevention (限制访问速率和防止垃圾信息): 对访问请求进行限制，以防止恶意攻击和垃圾信息泛滥。

ChatGPT 和 Plug-In的安全趋势

ChatGPT安全趋势

制定生成AI使用政策

现代化安全审计

更加关注数据卫生和评估偏见

利用AI优化网络安全投资

加强威胁情报

威胁预防和管理合规风险

实施数字信任战略

描述

制定关于使用生成AI的政策，以确保道德和负责任的使用。

安全审计实践正在现代化，以跟上AI安全风险不断变化的形势。

更加关注数据卫生和评估AI模型中的偏见，以确保它们不具有歧视性或有害性。

组织正在利用AI优化其网络安全投资并提高其整体安全水平。

通过使用AI增强威胁情报，以更好地检测和应对安全威胁。

AI被用于威胁预防和管理合规风险，以减少安全事件发生的可能性。

数字信任战略利用AI与客户和利益相关者建立信任。

Bloc Clous Top DigitalSecur ZerCloudcontCurity ZeroTrust 5GMobudSecuiyPts SecurtyGuldons BloCkbileApplicaPrivacy Diockchainton securty tandom-DigitalCloudsecurt Sandids Top TlEconomy Digital Sehreats

CSA

THANK YOU.

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

为您的创业、职场、商业、投资、亲子、网赚、艺术、健身、心理、个人成长 …… 全面赋能！

关注公众号获取更多资料

添加微信，备
注“入群”
立刻免费领取
200套知识地图+最新研报

致终身学习者社群

行业报告/思维导图/电子书/资讯情报

CSA

演讲题目: ChatGPT和Plug-In 的 应用和安全

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

致终身学习者社群

扫码先加好友，以备不时之需

人工智能的三要素和三类型

三要素

. 三种类型

ChatGPT 的技术原理：基于Transformer的大型语言模型

#

#

#

ChatGPT+Plug-In: 从AIGC 到 AIGE（Economy)

Elon Musk: ‘Mark my words - A.l. is far more dangerous than nukes'

Elon Musk and Apple cofounder Steve Wozniak among over 1,1Oo who sign open letter calling for 6- month ban on creating powerful A.I.

Most Popular

TECH

ChatGPT数据泄露已经发生

TechRadar

ChatGPT的安全问题 （CSA CEO：Jim Reavis）

ChatGPT Plug-in的安全防护措施

ChatGPT 和 Plug-In的安全趋势

描述

THANK YOU.

群内每日免费分享5份+最新资料

300T网盘资源+40万份行业报告

致终身学习者社群

扫码先加好友，以备不时之需

演讲题目: ChatGPT和Plug-In 的应用和安全

ChatGPT的安全问题（CSA CEO：Jim Reavis）

ChatGPT和Plug-In 的 应用和安全-12页-WN5

ChatGPT和Plug-In 的应用和安全-12页-WN5