• 简体版 | 繁體版
  • 联系我们
  • 加入我们
  • 关于我们
  •  
  • 首页
  • 快讯
  • 价值号
  • 视频
  • 专题
  • 深度
  • 入驻价值号
  • 碳链APP
    微信公众号

    扫码下载App

  • 登录
  • 微信公众号

    微信公众号

导航
  • 首页
  • 快讯
  • 区块链+
  • 价值号
  • 视频
  • 专题
  • DeFi优选
碳链价值APP
专注服务于金融科技和区块链
立即打开

人类精英呼吁暂停 AI 实验 ChatGPT:合理但谨慎考虑

元宇宙日爆元宇宙日爆  •  2023-03-30
人类精英慌了,AI 代表表示理解。

3月29日,非营利组织“未来生命研究所(Future of Life Institute)”发表了一封题为“暂停巨型AI实验”的公开信,呼吁全球的AI实验室暂停训练比GPT-4更强大的系统至少6个月,并在此期间开发出一份针对AI的共享安全协议,必要时需要政府介入。

1000多名科技人士在这份公开信上签名,包括特斯拉CEO马斯克、Stability AI 的CEO Emad Mostaque等企业掌门人,也包括Alphabet旗下DeepMin的研究人员,还有诸如图灵奖得主Yoshua Bengio这样的重量级学者。当然,也有人表达了不同意见,认为这是在阻碍技术进步。

开发出GPT-4模型的OpenAI公司内还没有人签名,该公司目前也没有对这封公开信予以回应。但我们向卷入纷争中的ChatGPT要了个回应。

这个AI自然语言大模型产品倒是表现出了善解人意的一面:暂停实验存在合理性,但需要谨慎考虑这么做带来的技术发展滞后问题。它还给出了关于AI的六大风险和十个管理制度建议。

人类精英:暂停实验 确立规则

截至今日,挂在“未来生命研究所(FLI)“官网上的《暂停巨型AI实验》公开信,已经收集了1130人的签字,名单里精英云集,不乏特斯拉、苹果等科技公司的高管,也有政客和作家,当年,更多的是全球多所高校的教授以及人工智能领域的专家。

那么精英云集签字的这封公开信到底说了什么?以下是这封信的全文

广泛的研究表明,具有能与人类竞争的智能的AI系统会对社会和人类构成深刻的风险,顶尖的AI实验室也承认这一点。正如广受认可的阿西洛马人工智能原则(Asilomar AI principles)原则所述,高级AI可能代表着地球生命历史的深刻变化,应该以合适的态度和资源去进行规划和管理。不幸的是,这种水平的规划和管理并没有发生。尽管最近几个月AI实验室陷入了一场失控的竞赛,以开发和应用越来越强大的数字思维,然而没有人能够理解、预测或可靠地控制这些思维,甚至他们的创造者也不能。

当代AI系统在一般任务上正在拥有与人类竞争的能力,我们必须问问自己:

我们应该让机器在我们的信息渠道中充斥宣传和谎言吗?

我们是否应该自动化所有的工作,包括那些有成就感的工作?

我们是否应该培养出可能比我们数量更多、比我们更聪明、最终超越并取代我们的非人类思维?

我们是否应该冒着失去对我们文明控制的风险?

此类决策决不应该委托给未经选举产生的技术领导人。只有当我们确信AI的效果是积极的,风险是可控的时候,AI系统才应该被开发。这种对AI的判断必须是合理的,并随着系统潜在影响的变化而变化。

OpenAI最近关于人工通用智能(AGI)的声明指出,“在开始训练未来的系统之前,进行独立审查可能很重要。同时对于最前沿的工作而言,人们应该在合适的时间点限制用于创建新系统的计算增长率。我们同意这一说法,并认为现在就是合适的时间点。

因此,我们呼吁所有的AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。这种暂停应该是公开的和可核实的,所有关键的参与者也能暂停相关工作。如果这种暂停不能迅速开始,政府应该介入并实施暂停。

AI实验室和独立专家应利用这一暂停的时段,共同开发一套AI设计和开发的共享安全协议,这些协议需要由独立的外部专家严格审计和监督。这些协议应确保所有遵守它们系统的AI是安全的。这种暂停并不意味着总体上暂停AI开发,只是让人们从具有新兴功能的、不可预测的危险竞赛中后退一步。

AI的研究和开发应该重新聚焦于使当今强大、最先进的系统更加准确、安全、可解释、透明、稳健、一致、可信和可靠。

与此同时,AI开发人员必须与政策制定者合作,大幅加快强大的AI管理制度的开发。管理制度至少应包括以下内容:

◾针对AI的新的、有能力的监管机构;

◾监督和跟踪能力强大的AI系统和计算能力池;

◾帮助区分真实和合成数据的溯源、水印系统,并跟踪模型泄露;

◾提供健全的审计和认证生态系统;

◾对AI造成的损害进行责任认定;

◾为AI技术的安全研究提供充足的公共资金;

◾资源充足的机构以应对AI将造成的巨大经济和政治破坏(尤其是对民主的破坏)。

人类可以通过AI享受一个繁荣的未来。在成功创建了强大的AI系统后,我们现在可以享受一个“AI之夏”。

在这个AI的夏天,我们可以收获回报,为所有人的利益设计这些系统,并给社会一个适应的机会。人类社会曾经暂停使用一些可能会对社会造成灾难性影响的技术,我们现在也可以在AI领域这样做。让我们享受一个漫长的AI之夏,不要在没有准备的情况下匆忙进入秋天。

事实上,这封公开信是近期人类精英们对人工智能风险担忧的总爆发。自 ChatGPT 高速迭代后,担忧从未停止,特别是当微软、谷歌、百度、华为等科技巨头们在自然语言模型上展开“军备竞赛”之后。

日前,“深度学习之父”杰弗里·辛顿(Geoffrey Hinton)在媒体采访中表示,人工智能正处于“关键时刻”,毁灭人类“并非不可能”。AI领域内的“大牛”盖瑞·马库斯(Gary Marcus)发推特支持辛顿,甚至发出灵魂一问:“用百分之一的人类毁灭风险换取和机器对话带来的乐趣,这值得吗?”

而马库斯在转发FLI这封公开信时表示,“这封信并不完美,但精神是正确的。我们需要放慢脚步,直到我们更好地理解AI带来后果……他们可能会造成严重伤害……主要参与者对他们正在做的事情越来越保密,这使得社会很难抵御可能发生的任何伤害。”

也有科技圈人士对这封信的观点持不同意见。

Writer的创始人Waseem 以讽刺的语气表达了他对权威们的不满,“让我们停止建设和发展我们的公司,因为来自硅谷的亿万富翁说我们有风险。一定要喜欢那些比我们人类更聪明的人,因为他们告诉我们如何生活。当我们有他们神圣的指引时,谁还需要进步?”

OSS Capital的创始人Joseph Jacks 态度更是简洁明了:强烈反对,绝对不签这个。

ChatGPT:暂停合理但小心阻滞技术

目前,OpenAI 还没有就 FLI 的这封公开信做出回应。而我们把人类精英们的担忧与建议甩给了ChatGPT,引发这场纷争的这个对话机器人不但认可了FLI要求暂停实验的合理性,还补充了六大AI风险。

ChatGPT的答案中也包含了暂停实验带来弊端:导致技术发展的滞后。这也和舆论场上很多普通大众的想法趋同。

那么,问题摆在眼前,如果要让研究人员和政府制定规则,该包含哪些内容呢?ChatGPT给出了十大建议,相当于给包括自己在内AI发展画了一个规范圈。

连ChatGPT自己都这么说了,可见,“AI失控”、”替代人类“无论是在意见领袖圈层还是舆论场上都有探讨的意义。

最近,微软的创始人比尔·盖茨在大力肯定人工智能带来生产力提升的同时,也强调过风险,“AI失控的可能性是存在的,一台机器会认为人类是自己的威胁吗?它们会得出结论认为自身利益与人类的利益不同进而不在意我们吗?” 他预测,随着算法、算力的提升,超级智能AI会在未来出现。

连 OpenAI 的CEO Sam Altman都表示,超级智能AI的风险可能会远远超出我们的预料。此前,他在技术研究员Lex Fridman的播客中表达他的担忧,包括AI造成的虚假信息问题,带来的经济冲击等等,“危害可能远远超过了人类能应对的程度”,他举了个例子,“我们怎么会知道,大语言模型没有在推特上指挥大家的思想流动呢?”

这正应了那封公开信中所说的:没有人能够理解、预测或可靠地控制这些数字思维,“甚至他们的创造者也不能”。

虽然通用人工智能(AGI)还远远没有到来,但就像比尔·盖茨说得那样,在这之前,世界需要建立规则以使AI带来的正面影响远远超过其负面影响。

换句话说就是,别让人类造出的东西把人类自己灭了。毕竟,战争、核事故带来的灾难还历历在目。

展开全文
打开碳链价值APP  查看更多精彩资讯
声明:本文内容为作者独立观点,不代表碳链价值立场,且不构成任何投资理财建议。
0 0
AIGC

扫一扫,分享到微信

相关推荐

微软深夜革命,GPT-4 Office全家桶登场!每月30刀,10亿打工人饭碗被抢? 滚动

微软深夜革命,GPT-4 Office全家桶登场!每月30刀,10亿打工人饭碗被抢?

AI之势 2023-09-22 滚动
AIAIGC
微软半年前「吹的牛」,今天几乎全部都实现了。
巴比特 | 元宇宙每日必读:上海公布首批元宇宙重大应用场景建设 10 项成果;360 智脑大模型全面接入 360 全家桶,正式面向公众开放 滚动

巴比特 | 元宇宙每日必读:上海公布首批元宇宙重大应用场景建设 10 项成果;360 智脑大模型全面接入 360 全家桶,正式面向公众开放

云锦 2023-09-21 滚动
政策元宇宙AIGC大模型
用户可通过 ai.360.com 一站式登录体验各种大模型服务。
红杉美国:生成式AI进入第二阶段了 滚动

红杉美国:生成式AI进入第二阶段了

AIGC 2023-09-21 滚动
AIGC
有哪些新的东西出现?

碳链快讯更多 ›

2023-09-22

比特大陆已与全球客户达成超过1GW的水冷矿场合作

2023-09-22

比特大陆发布蚂蚁矿机 S21系列 最高算力达335T

2023-09-22

比特大陆同意向Core Scientific投资5390万美元以扩大合作关系

2023-09-22

Tim Draper推出新加密风投工作室Draper Goren Blockchain

2023-09-22

彭博社:Silver Point、 Attestor Capital 等基金公司已购入价值逾 2.5 亿美元的 FTX 债务

2023-09-22

香港特首:JPEX 事件证明虚拟资产发牌制度是正确的

2023-09-22

彭博社:币安9月比特币交易量下降或与零手续费促销停止活动有关

2023-09-21

新加坡银行加强对持有「投资相关」护照的中国客户的检查

2023-09-21

Tether 购买价值 4.2 亿美元的 Nvidia 芯片并计划出租给 AI 初创公司

2023-09-21

MakerDAO 再次增加 1.91 亿美元 RWA 资产,RWA 总资产超 29 亿美元

2023-09-21

黄立成以 1100 万枚 APE 购买 Yuga 资产并发行代币 DAM提案获投票通过

2023-09-21

美国众议院金融服务委员会批准禁止发行 CBDC 的法案

2023-09-21

PayPal 旗下 Venmo 钱包将上线 PYUSD

2023-09-20

新加坡最大洗钱案涉案金额扩大至 24 亿新元,价值近 0.4 亿新元的加密货币被扣押

2023-09-20

香港证监会:JPEX从未就可能作出的牌照申请与我们接洽

2023-09-20

梁瀚璟:基于 RWA、STO 进行融资可能会是 Web3 杀手级产品

2023-09-20

香港投委会:区块链不记名交易很难追回

2023-09-20

斯坦福大学承诺退还 FTX 债务人 550 万美元捐款

2023-09-20

菲律宾 SEC 与美 SEC 合作打击加密货币欺诈

2023-09-20

香港警方披露 JPEX 运作模式和推广手法,公布五大涉嫌诈骗元素

2023-09-20

CoinEx 攻击事件已造成超 7000 万美元损失,将全额赔偿受损用户

2023-09-20

灰度向 SEC 提交新的以太坊期货 ETF

2023-09-20

a16z crypto 开放加密创业学校 2024 年春季申请,将向每家参与公司投资 50 万美元以换取 7% 的股权

2023-09-19

Chainalysis :印度在全球加密货币交易量中排名第二

2023-09-19

香港警方:考虑将涉 JPEX 案逾 6000 万港元财产充公,会在必要时刻将涉案离港艺人引渡回港

2023-09-19

上海:加快布局区块链等事关未来的关键基础设施

2023-09-19

区块链技术公司 Jiritsu 完成 1020 万美元融资,并推出资产代币化平台 Tomei RWA

2023-09-19

肯尼亚官员:美国当局阻止肯尼亚拘留 Worldcoin 的几位高管

2023-09-19

区块链医疗数据交换平台 Briya 完成 1150 万美元 A 轮融资,Team8 领投

2023-09-19

时尚领域元宇宙数据分析商 Geeiq 完成 820 万美元 A 轮融资,YFM Equity Partners 领投

2023-09-19

Circle:USDC 已上线 Polkadot 主网

2023-09-19

香港特首:JPEX事件反映出监管的重要性

2023-09-19

邱达根阐述「三箭三圆」:香港政府正考虑推动土地代币化、加快推出零售数码港元等

2023-09-18

蚂蚁集团计划退出对A&T Capital的投资

2023-09-18

香港警方拘捕 JPEX 推广网红林作,或因涉嫌 JPEX 案件

2023-09-18

美国众议院金融服务委员会将批准两项法案,干涉数字美元的发行

2023-09-15

香港金管局:虚拟资产机构使用「银行」陈述或涉嫌犯罪

2023-09-15

日本政府允许初创企业用虚拟货币筹集资金

2023-09-15

香港加密交易所Meex与ZA银行签署战略合作协议

2023-09-15

MakerDAO 再次增加1亿美元 RWA 资产,RWA 总资产达 27.13 亿美元

2023-09-15

港媒:香港警方正调查 JPEX 是否涉及刑事成分

2023-09-15

迪拜与香港将加强金融合作,涵盖金融科技和虚拟资产等领域

2023-09-15

香港议员回应Vitalik:香港政策和法律不会朝令夕改

2023-09-15

加密市场8月份资金流出达550亿美元,重大事件造成的影响正在上升

2023-09-14

Vitalik Buterin:寻求在香港发展的项目方应考虑当地的政策持续性

2023-09-14

彭博社:如果获批,美国现货比特币ETF可能发展成1000亿美元的市场

2023-09-14

彭博社:新加坡金管局对三箭资本创始人Su Zhu和Kyle Davies实施9年禁令

2023-09-14

法庭已批准FTX的数十亿美元加密货币清算计划

2023-09-13

美 SEC 指控 Stoner Cats 创作者以 NFT 形式未经注册发行加密资产证券

2023-09-13

香港证监会警告:JPEX是不受规管的虚拟交易平台

推荐文章

  • 传统与数字金融行业如何共存?

    2023-03-28

  • 不只OpenAI,这些公司手上也握着AIGC下个十年的船票

    2023-03-28

  • 疯狂三月:一场ChatGPT引发的千亿“钞”能力竞赛

    2023-03-27

  • 麻省理工科技评论:生成式 AI 与生产力再思考

    2023-03-27

  • ChatGPT怎么看「以太坊上海升级」

    2023-03-27

价值号更多 ›

达瓴智库
达瓴智库
文章: 155
  • 如何通过MVRV判断加密牛市还是熊市?
  • ETH在上海升级期间表现如何?
  • 熊末牛初:Ordinals是福是祸?
区块链骑士
区块链骑士
文章: 1301
  • 继美国后,澳洲也有大动作?澳洲参议员提案将优化数字资产监管
  • SEC主席正在成为数字资产“教父”?高强度监管是否矫枉过正?
  • 传统与数字金融行业如何共存?
TinTinLand
TinTinLand
文章: 35
  • 一家银行倒闭后,加密市场发生了什么?
  • 打破科研困境的 DeSci 是什么?
  • 上海升级的机遇,值得关注的 Layer2 与 LSD 赛道
换一批

热门标签

新基建 比特币 以太坊 矿业 DeFi 共识对话 区块链+ 研报 美联储 央行数字货币 无限QE 加密衍生品 AI 云计算 大数据 5G 政策 交易所 稳定币 电子支付 Libra 算力产业 联盟链 公链 区块链 加密货币 Nervos Cosmos EOS STO

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

App内打开

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

Moshou

碳链价值是集资讯、行情、数据于一身的区块链信息服务平台,我们追求及时、全面、专业、精确的资讯与数据,致力于为区块链创新者和数字货币投资者提供优质的服务。

关于我们 加入我们 联系我们 隐私条款
微信公众号

扫一扫关注微信公众号

Copyright © 2018-2020 碳链价值 京ICP备18046423号
下载碳链App

下载碳链App

微信公众号

微信公众号

微信公众号

微信公众号

打赏文章作者

支付宝打赏二维码 支付宝扫一扫打赏
微信打赏二维码 微信扫一扫打赏

# 热门搜索 #

CBDC 比特币 DeFi 以太坊 区块链