• 简体版 | 繁體版
  • 联系我们
  • 加入我们
  • 关于我们
  •  
  • 首页
  • 快讯
  • 价值号
  • 视频
  • 专题
  • 深度
  • 入驻价值号
  • 碳链APP
    微信公众号

    扫码下载App

  • 登录
  • 微信公众号

    微信公众号

导航
  • 首页
  • 快讯
  • 区块链+
  • 价值号
  • 视频
  • 专题
  • DeFi优选
碳链价值APP
专注服务于金融科技和区块链
立即打开

一文读懂 ChatGPT 插件功能:语言模型获取新信息的「眼睛和耳朵」

巴比特资讯巴比特资讯  •  2023-03-24
插件以安全为核心原则,帮助 ChatGPT 访问最新的信息,运行计算,或使用第三方服务。

来源:OpenAI

编译:巴比特

OpenAI:我们已经在 ChatGPT 中实现了对插件的初步支持。插件是专门为语言模型设计的工具,以安全为核心原则,并帮助 ChatGPT 访问最新的信息,运行计算,或使用第三方服务。

根据我们的迭代部署理念,我们正在逐步推出 ChatGPT 中的插件,以便我们能够研究它们在现实世界中的使用、影响以及安全和协调方面的挑战 -- 为了实现我们的使命,我们必须做好这些工作。

自从我们推出 ChatGPT 以来,用户一直在要求使用插件(许多开发者也在尝试类似的想法),因为它们可以释放大量可能的用例。我们正从一小部分用户开始,并计划在我们了解到更多信息后,逐步推出更大规模的访问(针对插件开发者、ChatGPT 用户,以及在 alpha 期之后,希望将插件整合到他们产品中的 API 用户)。我们很高兴能建立一个塑造未来人类与人工智能互动模式的社区。

从我们的候选名单中被邀请的插件开发人员可以使用我们的文档来构建 ChatGPT 插件,然后在显示给语言模型的提示中列出启用的插件,以及指导模型如何使用每个插件的文档。首批插件由 Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram 和 Zapier 创建。

我们自己也有两个插件,一个是网页浏览器,一个是代码解释器。我们还开源了一个知识库检索插件的代码,任何有信息的开发者都可以自行托管,以增强 ChatGPT 的功能。

今天,我们将开始向白名单上的用户和开发者提供该插件的 alpha 权限。虽然我们最初会优先考虑少数开发者和 ChatGPT Plus 用户,但我们计划随着时间的推移推出更大规模的访问。

概述

今天的语言模型,虽然对各种任务都很有用,但仍然是有限的。它们可以学习的唯一信息是它们的训练数据。这些信息可能是过时的,而且在各种应用中都是一刀切的。此外,语言模型唯一可以开箱即用的就是发出文本。这个文本可以包含有用的指令,但要真正遵循这些指令,你需要另一个过程。

虽然不是一个完美的比喻,但插件可以成为语言模型的“眼睛和耳朵”,让它们获得太新、太个人、太具体而无法包含在训练数据中的信息。为了响应用户的明确要求,插件也可以使语言模型代表其执行安全的、受限制的行动,从而提高系统的整体实用性。

我们期待开放标准的出现,以统一应用程序公开面向 AI 界面的方式。我们正在对这样一个标准进行早期尝试,正在寻找有兴趣与我们一起建设的开发者的反馈。

今天,我们开始逐步为 ChatGPT 用户启用我们早期合作者的现有插件,从 ChatGPT Plus 用户开始。另外,我们也开始允许开发人员为 ChatGPT 创建自己的插件。

在未来几个月,随着我们从部署中学习并继续改进我们的安全系统,我们将对这个协议进行迭代,我们计划让使用 OpenAI 模型的开发者将插件整合到他们自己的应用程序中,而不是 ChatGPT。

安全和更广泛的影响

将语言模型连接到外部工具,既带来了新的机遇,也带来了新的风险。

插件提供了解决与大型语言模型相关的各种挑战的潜力,包括“幻觉”,跟上最近的事件,以及(经许可)访问专有信息源。通过整合对外部数据的明确访问 -- 例如网上的最新信息、基于代码的计算或自定义插件检索的信息 -- 语言模型可以通过基于证据的参考来加强其反应。

这些参考资料不仅可以提高模型的效用,而且还可以使用户评估模型输出的可信度,并反复检查其准确性,从而有可能减轻与过度依赖有关的风险,正如我们最近在 GPT-4 系统卡中所讨论的。最后,插件的价值可能远远超出解决现有的限制,帮助用户完成各种新的用例,从浏览产品目录到预订航班或订购食物。

同时,风险是插件可能通过采取有害的或非预期的行动来增加安全挑战,增加那些会欺诈、误导或虐待他人的不良行为者的能力。通过增加可能的应用范围,插件可能会提高模型在新领域采取错误或不一致的行动所带来的负面影响的风险。从第一天起,这些因素就指导着我们的插件平台的发展,我们已经实施了一些保障措施。

我们已在内部并与外部合作者进行了红队测试练习(red-teaming exercises),发现了一些可能的相关情况。例如,我们的红队成员发现了插件的方法 -- 如果在没有保护措施的情况下发布,可以执行复杂的提示注入,发送欺诈性和垃圾邮件,绕过安全限制,或滥用发送到插件的信息。我们正在使用这些发现来告知设计安全缓解措施,以限制有风险的插件行为,并提高作为用户体验一部分的插件如何以及何时运作的透明度。我们还利用这些发现来决定逐步部署对插件的访问。

如果你对该领域的安全风险或缓解措施感兴趣,我们鼓励你参与我们的研究人员访问计划。我们还将邀请开发者和研究人员提交与插件相关的安全和能力评估,作为我们最近开源的 Evals 框架的一部分。

插件将可能产生广泛的社会影响。例如,我们最近发布了一份工作文件,发现可以使用工具的语言模型可能会比没有使用工具的语言模型产生更大的经济影响。更普遍的是,与其他研究人员的发现一致,我们预计当前的人工智能技术浪潮将对就业转型、转移和创造的速度产生很大影响。我们渴望与外部研究人员和我们的客户合作,研究这些影响。

Browsing(Alpha 阶段)

一个知道何时及如何浏览互联网的实验性模型。

受过去工作(我们自己的 WebGPT,以及 GopherCite、BlenderBot2、LaMDA2 等)的激励,允许语言模型从互联网上读取信息,严格扩展了它们可以讨论的内容的数量,超越了训练语料库,扩展到了当前的新鲜信息。

下面是 ChatGPT 用户的 Browsing 体验的一个例子。在此之前,若提出这些问题,模型会礼貌地指出它的训练数据没有包含足够的信息来让它回答。在这个例子中,ChatGPT 检索关于最新奥斯卡奖的最新信息,然后执行我们现在熟悉的 ChatGPT 诗歌表演,这是 Browsing 可以成为附加体验的一种方式。

除了为终端用户提供明显的效用外,我们认为使语言和聊天模型能够进行彻底和可解释的研究,在可扩展对齐方面有着令人兴奋的前景。

安全考虑

我们已经创建了一个网络 Browsing 插件,允许语言模型访问网络浏览器,其设计优先考虑安全和作为网络良好公民来运作。该插件的基于文本的网络浏览器被限制在发出 GET 请求,这减少了(但没有消除)某些类别的安全风险。这使得 Browing 插件在检索信息方面很有用,但不包括”事务性“操作,如表单提交,因为这些操作涉及更多的安全和保障问题。

Browsing 使用 Bing 搜索 API 从网上检索内容。因此,我们继承了微软在以下方面的大量工作:(1)信息来源的可靠性和真实性;(2)防止检索有问题内容的”安全模式“。该插件在一个独立的服务中运行,因此 ChatGPT 的 browsing 活动与我们基础设施的其他部分分开。

为了尊重内容创作者并遵守网络规范,我们的浏览器插件的用户代理标记是 ChatGPT-User,并被配置为尊重网站的 robot.txt 文件。这可能偶尔会导致”click failed“的消息,这表明该插件正在尊重网站的指示,以避免抓取它。该用户代理仅用于代表 ChatGPT 用户采取直接行动,不用于以任何自动方式抓取网络。我们也已经公布了我们的IP 出口范围。此外,我们还采取了限制速率的措施,以避免向网站发送过多的流量。

你可以使用 robots.txt 文件阻止 ChatGPT 爬取你的网站,这时 ChatGPT 会显示这个错误消息。你可以使用 robots.txt 文件阻止 ChatGPT 爬取你的网站,这时 ChatGPT 会显示这个错误消息。

我们的 Browsing 插件会显示访问过的网站,并在 ChatGPT 的回复中引用其来源。这种增加的透明度有助于用户验证模型反应的准确性,同时也将功劳归于内容创造者。我们认为这是一种与网络交互的新方法,并欢迎对其他方法的反馈,以推动流量回到源头,并增加生态系统的整体健康。

代码解释器(Alpha 阶段)

一个实验性的 ChatGPT 模型,可以使用 Python,处理上传和下载。

我们为我们的模型提供了一个在沙箱、防火墙执行环境中运作的 Python 解释器,以及一些临时的磁盘空间。由我们的解释器插件运行的代码在一个持久的会话中被评估,该会话在聊天对话期间是有效的(设有上限时间),随后的调用可以建立在彼此之上。我们支持将文件上传到当前的对话工作区并下载你的工作结果。

我们希望我们的模型能够使用它们的编程技能,为我们的计算机的最基本功能提供一个更自然的接口。让一个非常热心的初级程序员以指尖的速度工作,可以使全新的工作流程变得轻松和高效,并向新受众开放编程的好处。

从我们最初的用户研究中,我们已经确定了使用代码解释器特别有用的用例:

  • 解决数学问题,包括定量和定性的数学问题
  • 进行数据分析和可视化
  • 在不同格式之间转换文件

我们邀请用户尝试代码解释器集成并发现了其他有用的任务。

安全考虑

将我们的模型连接到编程语言解释器的主要考虑因素是适当的沙盒执行,以便人工智能生成的代码不会在现实世界中产生意想不到的副作用。我们在一个安全的环境中执行代码,并使用严格的网络控制来防止外部互联网对已执行代码的访问。此外,我们还对每个会话设置了资源限制。禁用互联网访问限制了我们的代码沙盒的功能,但我们相信这是正确的初始权衡。第三方插件被设计为一种安全第一的方法,将我们的模型与外部世界连接起来。

检索

开源的检索插件使 ChatGPT 能够访问个人或组织的信息源(经许可)。它允许用户通过提问或用自然语言表达需求,从他们的数据源中获得最相关的文件片段,如文件、笔记、电子邮件或公共文档。

作为一个开源和自我托管的解决方案,开发者可以部署自己的插件版本,并在 ChatGPT 注册。该插件利用 OpenAI 嵌入,并允许开发者选择一个矢量数据库(Milvus、Pinecone、Qdrant、Redis、Weaviate 或 Zilliz)来索引和搜索文档。信息源可以使用 webhooks 与数据库同步。

开始着手可先访问检索插件库。

安全考虑

检索插件允许 ChatGPT 搜索一个矢量数据库的内容,并将最佳结果添加到 ChatGPT 会话中。这意味着它没有任何外部影响,主要风险是数据授权和隐私。开发者应该只在他们的检索插件中添加被授权使用并可以在用户的 ChatGPT 会话中分享的内容。

第三方插件(Alpha 阶段)

一个实验性的模型,知道何时以及如何使用插件。

ChatGPT中的第三方插件

第三方插件由一个清单文件描述,其中包括机器可读的插件功能和如何调用它们的描述,以及面向用户的文档。

一个用于管理待办事项的插件的清单文件示例

创建插件的步骤是:

  1. 建立一个带有你希望语言模型调用的端点的 API(这可以是一个新的 API,一个现有的 API,或者一个专门为 LLM 设计的现有 API 包)。
  2. 创建一个记录你的 API 的 OpenAPI 规范,以及一个链接到 OpenAPI 规范并包括一些插件特定元数据的清单文件。

在 chat.openai.com上开始对话时,用户可以选择他们希望启用的第三方插件。关于启用的插件的文档会作为对话上下文的一部分显示给语言模型,使模型能够根据需要调用适当的插件 API 来实现用户的意图。目前,插件是为调用后端 API 而设计的,但我们也在探索可以调用客户端 API 的插件。

展望未来

我们正在努力开发插件,并把它们带给更多的受众。我们有很多东西需要学习,在大家的帮助下,我们希望建立一个既有用又安全的东西。

注:文中涉及多处视频演示,可参看原文。

展开全文
打开碳链价值APP  查看更多精彩资讯
声明:本文内容为作者独立观点,不代表碳链价值立场,且不构成任何投资理财建议。
0 1
ChatGPTOpenAI

扫一扫,分享到微信

相关推荐

巴比特 | 元宇宙每日必读:AI席卷华尔街,ChatGPT等成流行工具,但巴菲特认为热衷于采用复杂AI系统是未来风险降临的先兆 滚动

巴比特 | 元宇宙每日必读:AI席卷华尔街,ChatGPT等成流行工具,但巴菲特认为热衷于采用复杂AI系统是未来风险降临的先兆

云锦 2023-06-05 滚动
AI元宇宙ChatGPT
人工智能革命正在金融界上演。
吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界 滚动

吴恩达ChatGPT课爆火:AI放弃了倒写单词,但理解了整个世界

AI梦工厂 2023-06-04 滚动
AIChatGPT
甚至出现了token文学……
马斯克这位前合伙人,从ChatGPT到WorldCoin,会给Web3带来惊喜吗? 滚动

马斯克这位前合伙人,从ChatGPT到WorldCoin,会给Web3带来惊喜吗?

白话区块链 2023-06-02 滚动
WorldcoinChatGPT
ChatGPT 的爆火让 Sam 成了备受关注的新星,Sam又是如何进军加密行业,开创 Worldcoin 的呢?

碳链快讯更多 ›

2023-06-07

纳斯达克CEO:纳斯达克正与FINRA和SEC合作对Coinbase提起诉讼

2023-06-07

外媒:美SEC冻结Binance.US相关资产申请获得法院批准

2023-06-07

Robinhood 或将下架 SOL、MATIC 等被美 SEC 命名为未注册证券的代币

2023-06-07

美SEC向币安附属公司BAM以及赵长鹏发出临时限制令

2023-06-07

美国 SEC 请求法院冻结 Binance US 资产

2023-06-07

Coinbase CEO:SEC 和 CFTC 发表了相互矛盾的声明

2023-06-06

DCG创始人:SEC的「证券」清单中没有任何PoW代币,我相信BTC

2023-06-06

美SEC起诉加密货币交易所Coinbase

2023-06-06

红杉资本将拆分为三家公司,红杉中国重新命名为「Hongshan」

2023-06-06

数据:币安过去 24 小时资金流出量达 7.19 亿美元,目前稳定币余额约 80 亿美元

2023-06-06

Arthur Hayes:当前市场处于紧张状态,下半年会因货币超发而有所好转

2023-06-06

SEC:做市商 Sigma Chain 实际控制人为赵长鹏

2023-06-06

数据:美 SEC 起诉币安后,币安已流出约 1 万枚比特币

2023-06-06

MakerDAO 已将 5 亿美元转入 Coinbase 托管服务

2023-06-06

SEC将SOL、ADA、MATIC、FIL、ATOM、SAND等列为证券

2023-06-06

美SEC:对币安赵长鹏提出 13 项指控

2023-06-05

彭博社:美国SEC起诉Binance与CZ违反美国证券规则

2023-06-05

路透社:一名币安高管曾在 2019 年到 2020 年期间控制 Binance.US 银行账户

2023-06-05

萨尔瓦多计划建设 241MW 的可再生能源发电园区进行比特币挖矿

2023-06-05

梁凤仪:香港证监会聚焦虚拟资产等范畴,Web3 和生成式 AI 等是重大机遇

2023-06-05

许正宇:香港金管局正拟订「稳定币」规管框架

2023-06-05

知情人士:若赵长鹏因监管困境离职,Richard Teng 将接任币安 CEO

2023-06-05

OpenAI网站访问量飙升至10亿次

2023-06-04

新发现被盗 795 万枚 USDT 的用户,Atomic 钱包被盗总额已超 3500 万美元

2023-06-04

工信部部长:加快人工智能、区块链、云计算、网络安全等新兴数字产业发展

2023-06-03

美共和党人提出新的加密草案,为 SEC 和 CFTC 规定明确的监管角色

2023-06-03

Dune Analytics:5 月份超50万个独立钱包在Uniswap上交易,创历史新高

2023-06-02

路透社:马斯克在狗狗币集体诉讼案中被投资者指控进行内幕交易

2023-06-02

携程集团孵化首个 NFT 系列「Trekki」,将于第三季度进行盲盒销售

2023-06-02

Galaxy Digital 创始人:机构投资者购买放缓导致了加密市场近期的低落

2023-06-02

微软与 CoreWeave 签署一项价值数十亿美元的多年期协议

2023-06-02

Meta发布新款VR头戴式装置Meta Quest 3

2023-06-02

百域资本:不再以任何方式参与火必工作

2023-06-02

Silvergate Bank 同意美联储命令,将在 10 天内提交自我清算计划

2023-06-01

Bitcoin Magazine Ventures 推出比特币生态系统基金,已超额认购 9000 万美元

2023-06-01

矿企 CleanSpark 以 4050 万美元购买 1.25 万台比特大陆矿机

2023-06-01

微信搜索已支持显示比特币汇率查询服务

2023-06-01

数据:5 月份 ETH 质押数量为 382 万枚,创单月历史最高

2023-06-01

橄榄油生产商 Lamar Olive Oil 使用 Obligate 发行首个链上债券

2023-06-01

香港数字资产平台 OSL 已向 SFC 申请牌照升级

2023-06-01

河北保定市财政预算单位已于 5 月底实现数字人民币工资发放

2023-06-01

新火科技中期财报亏损 2.32 亿港元,因 FTX 事件损失 1.02 亿港元

2023-06-01

香港虚拟资产交易平台指引于今日生效,证监会开始接受虚拟资产交易平台牌照申领

2023-06-01

香港证监会发布虚拟资产交易平台发牌制度过渡安排通函

2023-06-01

香港数字资产信托机构 First Digital 推出美元稳定币

2023-06-01

LSD 协议 unshETH 的合约部署私钥被泄露,已紧急暂停提款并联系黑客

2023-06-01

Circle 储备资金中已不含美国国债

2023-06-01

私募公司 STEP 旗下 StepStone VC 已为两个区块链私募股权基金筹集 9654 万美元

2023-05-31

首个区块链技术领域国家标准正式发布

2023-05-31

英特尔联合蚂蚁链发布可信计算平台MAPPIC

推荐文章

  • Meta:元宇宙前期主要是VR,对移动网络需求不大

    2023-03-24

  • 育碧公布了自己的AI脚本工具,可惜玩家并不买账

    2023-03-23

  • Meta 入局 Web3 社交,这是要革自己的命?

    2023-03-23

  • 如何理解 Web3 社交和链上数据发展所带来的社会影响?

    2023-03-23

  • 一文探讨 AI 如何改变 NFT 市场?

    2023-03-22

价值号更多 ›

达瓴智库
达瓴智库
文章: 155
  • 如何通过MVRV判断加密牛市还是熊市?
  • ETH在上海升级期间表现如何?
  • 熊末牛初:Ordinals是福是祸?
区块链骑士
区块链骑士
文章: 1297
  • 数据翻两番,第一季度NFT的交易量达3.11亿美元,强势的背后是否有迹可循?
  • 商业区块链技术将迎来巨变?欧盟数据法提案或将彻底改变区块链智能合约
  • 数字经济离主流还有多远?传统金融市场需要做哪些改变?
TinTinLand
TinTinLand
文章: 35
  • 一个银行倒闭之后,加密市场发生了什么?
  • 打破科研困境的 DeSci 是什么?
  • 上海升级的机遇,值得关注的 Layer2 与 LSD 赛道
换一批

热门标签

新基建 比特币 以太坊 矿业 DeFi 共识对话 区块链+ 研报 美联储 央行数字货币 无限QE 加密衍生品 AI 云计算 大数据 5G 政策 交易所 稳定币 电子支付 Libra 算力产业 联盟链 公链 区块链 加密货币 Nervos Cosmos EOS STO

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

App内打开

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

Moshou

碳链价值是集资讯、行情、数据于一身的区块链信息服务平台,我们追求及时、全面、专业、精确的资讯与数据,致力于为区块链创新者和数字货币投资者提供优质的服务。

关于我们 加入我们 联系我们 隐私条款
微信公众号

扫一扫关注微信公众号

Copyright © 2018-2020 碳链价值 京ICP备18046423号
下载碳链App

下载碳链App

微信公众号

微信公众号

微信公众号

微信公众号

打赏文章作者

支付宝打赏二维码 支付宝扫一扫打赏
微信打赏二维码 微信扫一扫打赏

# 热门搜索 #

CBDC 比特币 DeFi 以太坊 区块链