• 简体版 | 繁體版
  • 联系我们
  • 加入我们
  • 关于我们
  •  
  • 首页
  • 快讯
  • 价值号
  • 视频
  • 专题
  • 滚动
  • 入驻价值号
  • 碳链APP
    微信公众号

    扫码下载App

  • 登录
  • 微信公众号

    微信公众号

导航
  • 首页
  • 快讯
  • 区块链+
  • 价值号
  • 视频
  • 专题
  • DeFi优选
碳链价值APP
专注服务于金融科技和区块链
立即打开

紧急刹车:AI 军备竞赛升温,“喊停”公开信倏忽而至

Yangz •  2023-03-29
我们是否应该发展非人类思维,让它们最终在数量上、智力上超过我们,淘汰并取代我们?

撰文:Billy Perrigo

来源:《时代》周刊

编译:巴比特

图片来源:由无界 AI工具生成

一封包括马斯克在内的数百名科技界大佬签名的公开信,敦促全球领先的人工智能实验室暂停训练新的超强系统 6 个月,称人工智能的最新进展给“社会和人类带来了深刻的风险”。

这封信是在 OpenAI 的 GPT-4 公开发布仅两周后发出的,GPT-4 是有史以来最强大的人工智能系统,使研究人员削减了他们对 AGI(或超越人类认知能力的人工通用智能)何时到来的预期。许多专家担心,随着人工智能军备竞赛的升温,人类正在梦游般地进入灾难。

信中写道:“高级人工智能可能代表着地球生命史上的一个深刻变化,应该以相应的谨慎和资源来规划和管理。”“不幸的是,这种水平的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制。”

除了马斯克之外,签名名单上还有 900 多人(截止本文发布时已有 1126 位签名者),其中包括苹果公司联合创始人 Steve Wozniak、Sapiens 作者 Yuval Noah Harari,以及一些负责机器学习方面多项突破的人工智能领域最杰出的学者们。截至发稿,没有 OpenAI 的员工在信上签名,尽管首席执行官 Sam Altman 的名字曾短暂出现在名单上,但随后就消失了。此外,至少有四名谷歌员工,包括来自其子公司人工智能实验室 DeepMind 的三名员工,Stability AI 的首席执行官 Emad Mostaque 和人类技术中心(Center for Humane Technology)的执行主任 Tristan Harris 也出现在名单上。《时代》周刊无法核实所有签名是否真实。

“当代人工智能系统现在在一般任务上正变得具有人类竞争力,”信中写道,该信目前在 Future of Life Institute的网站上。“我们必须问自己:我们应该让机器用宣传和谎言淹没我们的信息渠道吗?”我们是否应该把所有的工作都自动化掉,包括那些令人满意的工作?我们是否应该发展非人类思维,让它们最终在数量上、智力上超过我们,淘汰我们并取代我们?我们是否应该冒着失去对我们文明的控制的风险?这种决定决不能委托给未经选举的科技领袖”。

这封信呼吁所有人工智能实验室同意利用拟议的六个月暂停时间继续进行安全研究。信中说:“人工智能实验室和独立专家应利用这一暂停,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审计和监督。““这些协议应该确保遵守这些协议的系统是安全的,排除合理怀疑。”这封信背后的人指出,他们不是在呼吁暂停人工智能的发展,而是“从转向具有新兴能力的越来越大的不可预测的黑箱模型的危险竞赛中退后一步”。

公开信的签署者、《重启人工智能》(Rebooting AI)一书的作者 Gary Marcus 告诉《时代》周刊,他签上自己的名字是因为他觉得有责任站出来。他说:“短期和长期都存在严重的风险,在人类最需要人工智能责任的时候,企业似乎已经失去了方向。”“冒着如此大的风险,如此迅速地进入未知领域,似乎不是一个好办法。如果(企业)不太重视这些风险,我们其他人就有必要大声说出来。”

人工智能安全初创公司 SaferAI 的首席执行官 Simeon Campos 告诉《时代》周刊,他在这封信上签字是因为,如果连这些系统的发明者都不知道它们是如何运作的,不知道它们有什么能力,也不知道如何对它们的行为进行限制,那么就不可能管理好系统的风险。“我们目前在做什么?”Campos 说。”我们在全速竞赛中把这类系统的能力提升到了前所未有的水平,对社会产生变革性影响。我们必须放慢这些系统的发展速度,让社会适应并加速替代性的 AGI 架构,这些架构在设计上是安全的,而且是可以正式验证的。“

公开信的结尾充满了希望。“社会曾经暂停过对社会产生潜在灾难性影响的其他技术。我们在这里也可以这样做。让我们享受一个漫长的 AI 夏天,而不是毫无准备地匆忙进入秋天。”

展开全文
打开碳链价值APP  查看更多精彩资讯
声明:本文内容为作者独立观点,不代表碳链价值立场,且不构成任何投资理财建议。
0 0
监管AIGCChatGPT

扫一扫,分享到微信

相关推荐

微软深夜革命,GPT-4 Office全家桶登场!每月30刀,10亿打工人饭碗被抢? 滚动

微软深夜革命,GPT-4 Office全家桶登场!每月30刀,10亿打工人饭碗被抢?

AI之势 2023-09-22 滚动
AIAIGC
微软半年前「吹的牛」,今天几乎全部都实现了。
巴比特 | 元宇宙每日必读:上海公布首批元宇宙重大应用场景建设 10 项成果;360 智脑大模型全面接入 360 全家桶,正式面向公众开放 滚动

巴比特 | 元宇宙每日必读:上海公布首批元宇宙重大应用场景建设 10 项成果;360 智脑大模型全面接入 360 全家桶,正式面向公众开放

云锦 2023-09-21 滚动
政策元宇宙AIGC大模型
用户可通过 ai.360.com 一站式登录体验各种大模型服务。
红杉美国:生成式AI进入第二阶段了 滚动

红杉美国:生成式AI进入第二阶段了

AIGC 2023-09-21 滚动
AIGC
有哪些新的东西出现?

碳链快讯更多 ›

2023-09-22

比特大陆已与全球客户达成超过1GW的水冷矿场合作

2023-09-22

比特大陆发布蚂蚁矿机 S21系列 最高算力达335T

2023-09-22

比特大陆同意向Core Scientific投资5390万美元以扩大合作关系

2023-09-22

Tim Draper推出新加密风投工作室Draper Goren Blockchain

2023-09-22

彭博社:Silver Point、 Attestor Capital 等基金公司已购入价值逾 2.5 亿美元的 FTX 债务

2023-09-22

香港特首:JPEX 事件证明虚拟资产发牌制度是正确的

2023-09-22

彭博社:币安9月比特币交易量下降或与零手续费促销停止活动有关

2023-09-21

新加坡银行加强对持有「投资相关」护照的中国客户的检查

2023-09-21

Tether 购买价值 4.2 亿美元的 Nvidia 芯片并计划出租给 AI 初创公司

2023-09-21

MakerDAO 再次增加 1.91 亿美元 RWA 资产,RWA 总资产超 29 亿美元

2023-09-21

黄立成以 1100 万枚 APE 购买 Yuga 资产并发行代币 DAM提案获投票通过

2023-09-21

美国众议院金融服务委员会批准禁止发行 CBDC 的法案

2023-09-21

PayPal 旗下 Venmo 钱包将上线 PYUSD

2023-09-20

新加坡最大洗钱案涉案金额扩大至 24 亿新元,价值近 0.4 亿新元的加密货币被扣押

2023-09-20

香港证监会:JPEX从未就可能作出的牌照申请与我们接洽

2023-09-20

梁瀚璟:基于 RWA、STO 进行融资可能会是 Web3 杀手级产品

2023-09-20

香港投委会:区块链不记名交易很难追回

2023-09-20

斯坦福大学承诺退还 FTX 债务人 550 万美元捐款

2023-09-20

菲律宾 SEC 与美 SEC 合作打击加密货币欺诈

2023-09-20

香港警方披露 JPEX 运作模式和推广手法,公布五大涉嫌诈骗元素

2023-09-20

CoinEx 攻击事件已造成超 7000 万美元损失,将全额赔偿受损用户

2023-09-20

灰度向 SEC 提交新的以太坊期货 ETF

2023-09-20

a16z crypto 开放加密创业学校 2024 年春季申请,将向每家参与公司投资 50 万美元以换取 7% 的股权

2023-09-19

Chainalysis :印度在全球加密货币交易量中排名第二

2023-09-19

香港警方:考虑将涉 JPEX 案逾 6000 万港元财产充公,会在必要时刻将涉案离港艺人引渡回港

2023-09-19

上海:加快布局区块链等事关未来的关键基础设施

2023-09-19

区块链技术公司 Jiritsu 完成 1020 万美元融资,并推出资产代币化平台 Tomei RWA

2023-09-19

肯尼亚官员:美国当局阻止肯尼亚拘留 Worldcoin 的几位高管

2023-09-19

区块链医疗数据交换平台 Briya 完成 1150 万美元 A 轮融资,Team8 领投

2023-09-19

时尚领域元宇宙数据分析商 Geeiq 完成 820 万美元 A 轮融资,YFM Equity Partners 领投

2023-09-19

Circle:USDC 已上线 Polkadot 主网

2023-09-19

香港特首:JPEX事件反映出监管的重要性

2023-09-19

邱达根阐述「三箭三圆」:香港政府正考虑推动土地代币化、加快推出零售数码港元等

2023-09-18

蚂蚁集团计划退出对A&T Capital的投资

2023-09-18

香港警方拘捕 JPEX 推广网红林作,或因涉嫌 JPEX 案件

2023-09-18

美国众议院金融服务委员会将批准两项法案,干涉数字美元的发行

2023-09-15

香港金管局:虚拟资产机构使用「银行」陈述或涉嫌犯罪

2023-09-15

日本政府允许初创企业用虚拟货币筹集资金

2023-09-15

香港加密交易所Meex与ZA银行签署战略合作协议

2023-09-15

MakerDAO 再次增加1亿美元 RWA 资产,RWA 总资产达 27.13 亿美元

2023-09-15

港媒:香港警方正调查 JPEX 是否涉及刑事成分

2023-09-15

迪拜与香港将加强金融合作,涵盖金融科技和虚拟资产等领域

2023-09-15

香港议员回应Vitalik:香港政策和法律不会朝令夕改

2023-09-15

加密市场8月份资金流出达550亿美元,重大事件造成的影响正在上升

2023-09-14

Vitalik Buterin:寻求在香港发展的项目方应考虑当地的政策持续性

2023-09-14

彭博社:如果获批,美国现货比特币ETF可能发展成1000亿美元的市场

2023-09-14

彭博社:新加坡金管局对三箭资本创始人Su Zhu和Kyle Davies实施9年禁令

2023-09-14

法庭已批准FTX的数十亿美元加密货币清算计划

2023-09-13

美 SEC 指控 Stoner Cats 创作者以 NFT 形式未经注册发行加密资产证券

2023-09-13

香港证监会警告:JPEX是不受规管的虚拟交易平台

推荐文章

  • 传统与数字金融行业如何共存?

    2023-03-28

  • 不只OpenAI,这些公司手上也握着AIGC下个十年的船票

    2023-03-28

  • 疯狂三月:一场ChatGPT引发的千亿“钞”能力竞赛

    2023-03-27

  • 麻省理工科技评论:生成式 AI 与生产力再思考

    2023-03-27

  • ChatGPT怎么看「以太坊上海升级」

    2023-03-27

价值号更多 ›

达瓴智库
达瓴智库
文章: 155
  • 如何通过MVRV判断加密牛市还是熊市?
  • ETH在上海升级期间表现如何?
  • 熊末牛初:Ordinals是福是祸?
区块链骑士
区块链骑士
文章: 1300
  • SEC主席正在成为数字资产“教父”?高强度监管是否矫枉过正?
  • 传统与数字金融行业如何共存?
  • ChatGPT怎么看「以太坊上海升级」
TinTinLand
TinTinLand
文章: 35
  • 一家银行倒闭后,加密市场发生了什么?
  • 打破科研困境的 DeSci 是什么?
  • 上海升级的机遇,值得关注的 Layer2 与 LSD 赛道
换一批

热门标签

新基建 比特币 以太坊 矿业 DeFi 共识对话 区块链+ 研报 美联储 央行数字货币 无限QE 加密衍生品 AI 云计算 大数据 5G 政策 交易所 稳定币 电子支付 Libra 算力产业 联盟链 公链 区块链 加密货币 Nervos Cosmos EOS STO

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

App内打开

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

Moshou

碳链价值是集资讯、行情、数据于一身的区块链信息服务平台,我们追求及时、全面、专业、精确的资讯与数据,致力于为区块链创新者和数字货币投资者提供优质的服务。

关于我们 加入我们 联系我们 隐私条款
微信公众号

扫一扫关注微信公众号

Copyright © 2018-2020 碳链价值 京ICP备18046423号
下载碳链App

下载碳链App

微信公众号

微信公众号

微信公众号

微信公众号

打赏文章作者

支付宝打赏二维码 支付宝扫一扫打赏
微信打赏二维码 微信扫一扫打赏

# 热门搜索 #

CBDC 比特币 DeFi 以太坊 区块链