• 简体版 | 繁體版
  • 联系我们
  • 加入我们
  • 关于我们
  •  
  • 首页
  • 快讯
  • 价值号
  • 视频
  • 专题
  • 滚动
  • 入驻价值号
  • 碳链APP
    微信公众号

    扫码下载App

  • 登录
  • 微信公众号

    微信公众号

导航
  • 首页
  • 快讯
  • 区块链+
  • 价值号
  • 视频
  • 专题
  • DeFi优选
碳链价值APP
专注服务于金融科技和区块链
立即打开

紧急刹车:AI 军备竞赛升温,“喊停”公开信倏忽而至

Yangz •  2023-03-29
我们是否应该发展非人类思维,让它们最终在数量上、智力上超过我们,淘汰并取代我们?

撰文:Billy Perrigo

来源:《时代》周刊

编译:巴比特

图片来源:由无界 AI工具生成

一封包括马斯克在内的数百名科技界大佬签名的公开信,敦促全球领先的人工智能实验室暂停训练新的超强系统 6 个月,称人工智能的最新进展给“社会和人类带来了深刻的风险”。

这封信是在 OpenAI 的 GPT-4 公开发布仅两周后发出的,GPT-4 是有史以来最强大的人工智能系统,使研究人员削减了他们对 AGI(或超越人类认知能力的人工通用智能)何时到来的预期。许多专家担心,随着人工智能军备竞赛的升温,人类正在梦游般地进入灾难。

信中写道:“高级人工智能可能代表着地球生命史上的一个深刻变化,应该以相应的谨慎和资源来规划和管理。”“不幸的是,这种水平的规划和管理并没有发生,尽管最近几个月人工智能实验室陷入了一场失控的竞赛,以开发和部署更强大的数字思维,没有人——甚至包括它们的创造者——能够理解、预测或可靠地控制。”

除了马斯克之外,签名名单上还有 900 多人(截止本文发布时已有 1126 位签名者),其中包括苹果公司联合创始人 Steve Wozniak、Sapiens 作者 Yuval Noah Harari,以及一些负责机器学习方面多项突破的人工智能领域最杰出的学者们。截至发稿,没有 OpenAI 的员工在信上签名,尽管首席执行官 Sam Altman 的名字曾短暂出现在名单上,但随后就消失了。此外,至少有四名谷歌员工,包括来自其子公司人工智能实验室 DeepMind 的三名员工,Stability AI 的首席执行官 Emad Mostaque 和人类技术中心(Center for Humane Technology)的执行主任 Tristan Harris 也出现在名单上。《时代》周刊无法核实所有签名是否真实。

“当代人工智能系统现在在一般任务上正变得具有人类竞争力,”信中写道,该信目前在 Future of Life Institute的网站上。“我们必须问自己:我们应该让机器用宣传和谎言淹没我们的信息渠道吗?”我们是否应该把所有的工作都自动化掉,包括那些令人满意的工作?我们是否应该发展非人类思维,让它们最终在数量上、智力上超过我们,淘汰我们并取代我们?我们是否应该冒着失去对我们文明的控制的风险?这种决定决不能委托给未经选举的科技领袖”。

这封信呼吁所有人工智能实验室同意利用拟议的六个月暂停时间继续进行安全研究。信中说:“人工智能实验室和独立专家应利用这一暂停,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,由独立的外部专家进行严格的审计和监督。““这些协议应该确保遵守这些协议的系统是安全的,排除合理怀疑。”这封信背后的人指出,他们不是在呼吁暂停人工智能的发展,而是“从转向具有新兴能力的越来越大的不可预测的黑箱模型的危险竞赛中退后一步”。

公开信的签署者、《重启人工智能》(Rebooting AI)一书的作者 Gary Marcus 告诉《时代》周刊,他签上自己的名字是因为他觉得有责任站出来。他说:“短期和长期都存在严重的风险,在人类最需要人工智能责任的时候,企业似乎已经失去了方向。”“冒着如此大的风险,如此迅速地进入未知领域,似乎不是一个好办法。如果(企业)不太重视这些风险,我们其他人就有必要大声说出来。”

人工智能安全初创公司 SaferAI 的首席执行官 Simeon Campos 告诉《时代》周刊,他在这封信上签字是因为,如果连这些系统的发明者都不知道它们是如何运作的,不知道它们有什么能力,也不知道如何对它们的行为进行限制,那么就不可能管理好系统的风险。“我们目前在做什么?”Campos 说。”我们在全速竞赛中把这类系统的能力提升到了前所未有的水平,对社会产生变革性影响。我们必须放慢这些系统的发展速度,让社会适应并加速替代性的 AGI 架构,这些架构在设计上是安全的,而且是可以正式验证的。“

公开信的结尾充满了希望。“社会曾经暂停过对社会产生潜在灾难性影响的其他技术。我们在这里也可以这样做。让我们享受一个漫长的 AI 夏天,而不是毫无准备地匆忙进入秋天。”

展开全文
打开碳链价值APP  查看更多精彩资讯
声明:本文内容为作者独立观点,不代表碳链价值立场,且不构成任何投资理财建议。
0 0
监管AIGCChatGPT

扫一扫,分享到微信

相关推荐

英伟达AI智能体接入GPT-4,完胜AutoGPT!自主写代码独霸我的世界,无需人类插手 滚动

英伟达AI智能体接入GPT-4,完胜AutoGPT!自主写代码独霸我的世界,无需人类插手

AIGC 2023-05-27 滚动
AIGC
给游戏行业来点GPT-4式震撼?
AI“作恶”案件频发 潘多拉魔盒已打开 数字水印会是那顶紧箍吗? 滚动

AI“作恶”案件频发 潘多拉魔盒已打开 数字水印会是那顶紧箍吗?

AI梦工厂 2023-05-27 滚动
AIGC
如何阻止人工智能继续“作恶”,成为了当下迫在眉睫需要解决的问题。
ChatGPT引领新浪潮!AI大模型驱动金融科技创新发展,赋能业务续新篇 滚动

ChatGPT引领新浪潮!AI大模型驱动金融科技创新发展,赋能业务续新篇

AIGC 2023-05-26 滚动
AIGC
于金融行业而言,作为高度数字化和专业化的领域,自然成为大模型落地实践的最佳场景。

碳链快讯更多 ›

2023-05-27

北京发布互联网3.0创新发展白皮书

2023-05-27

北京朝阳区将每年投入不少于1亿元支持互联网3.0产业建设

2023-05-27

美参议员:拜登此前提出的对加密挖矿用电量征税30%的提议未获得通过

2023-05-27

耶伦:估计美国财政部到6月5日将耗尽资金

2023-05-26

Bitcoin Core 25.0已正式发布

2023-05-26

国家标准《区块链和分布式记账技术 参考架构》于5月23日获批发布

2023-05-26

工信部副部长:前瞻布局人工智能、Web3.0等未来产业

2023-05-26

亚特兰大联储银行报告:XRP应被视为一种「国际支付媒介」

2023-05-26

耐克Web3平台.SWOOSH首个NFT系列OF1销售额突破100万美元

2023-05-26

蚂蚁集团张辉:产业Web3是「以数助实」的区块链未来

2023-05-26

以太坊核心开发者共识会议:未来几周内会确定 Dencun 全部范围

2023-05-26

央行等多部委:支持北京国际大数据交易所建设基于真实底层资产和交易场景的数字资产交易平台

2023-05-26

徐明星:已解封因 SAMO 突发行情误封的约 10 个账户,将改进风控策略

2023-05-26

区块链金融服务提供商 Unbanked 将逐步关闭,用户需在 30 天内提款

2023-05-26

加密风投 Paradigm 删除首页关于加密货币的描述,将投资范围扩大到 AI 领域

2023-05-26

彭博社:DCG 将于 5 月 31 日关闭机构交易平台 TradeBlock

2023-05-26

Web3 游戏工作室 Pomerium 获得 2000 万美元天使轮投资

2023-05-26

Web3 创作者社区应用 PoPP 完成 400 万美元天使轮融资

2023-05-26

报告:90%的家办客户希望将加密货币纳入投资策略

2023-05-26

消息人士:精简版美国债务上限协议已初步成形

2023-05-25

Worldcoin完成1.15亿美元C轮融资,Blockchain Capital领投

2023-05-25

黑山法院延长 Do Kwon 在黑山的拘留期限

2023-05-25

Multichain 联合创始人兼 CEO Zhao Jun 或暂时失联

2023-05-25

Fahrenheit 赢得破产加密借贷公司 Celsius 资产拍卖

2023-05-25

前 NBA 球星沙奎尔·奥尼尔再次被正式送达 FTX 集体诉讼案诉讼书

2023-05-25

香港律师:虚拟资产交易平台要获得香港牌照需满足三个要点

2023-05-25

智能合约开发者:Stargate 套利并非 Bug,Layerzero 会重新优化 eqRewards 分配效率

2023-05-25

Coinbase 与奥地利加密交易所 Bitpanda 合作,以扩展在欧洲地区的业务

2023-05-25

Multichain:部分跨链路由因不可抗力无法使用,恢复服务时间未知

2023-05-25

Base 主网路线图提醒无发币计划,并开放铸造纪念 NFT

2023-05-24

马斯克:不建议任何人把毕生积蓄投入狗狗币

2023-05-24

侵入他人计算机盗取虚拟币套现 2800 万,7 人因盗窃罪获刑

2023-05-24

联合广场风投合伙人:若美国禁止Web3,我们将加倍投资

2023-05-24

香港众安银行将在新发牌制度下向零售投资者推出虚拟资产交易服务

2023-05-24

Moonfire Ventures 旗下 Fund II 完成 1.15 亿美元募资,将投资 AI、Web3 等领域

2023-05-24

Visa 加密团队正在探索研究账户抽象、互操作性、可扩展性和隐私等主题

2023-05-24

欧盟委员会或允许商业银行持有稳定币等加密货币

2023-05-24

美国财政部 OFAC 制裁与朝鲜政府有关的加密钱包

2023-05-24

Ripple CEO:计划用 10 亿美元的现金储备进行公司扩张

2023-05-24

SEC 与加密对冲基金 EmpiresX 达成 3500 万美元和解

2023-05-23

QED 旗下两支基金完成 9.25 亿美元募资,拟继续投资加密货币等领域

2023-05-23

AI 初创公司 Anthropic 完成 4.5 亿美元 C 轮融资,Spark Capital 领投

2023-05-23

香港证监会:散户最快下半年可在发牌交易平台买卖虚拟资产

2023-05-23

香港立法会议员吴杰庄:建议特区政府在人才和 Web 3.0 科技产业发展方面进一步完善政策

2023-05-23

香港证监会:将于2023年5月25日刊发《适用于虚拟资产交易平台营运者的指引》等多份监管文件

2023-05-23

香港证监会:从6月1日起实施虚拟资产交易

2023-05-23

V神:将2011年制作的游戏上传至IPFS

2023-05-23

比尔・盖茨:AI 个人助理将带来颠覆谷歌和亚马逊

2023-05-23

上海市政府常务会议原则同意《上海元宇宙关键技术攻关三年专项行动方案(2023—2025 年)》

2023-05-23

香港数字资产新规则将允许散户交易加密货币

推荐文章

  • 传统与数字金融行业如何共存?

    2023-03-28

  • 不只OpenAI,这些公司手上也握着AIGC下个十年的船票

    2023-03-28

  • 疯狂三月:一场ChatGPT引发的千亿“钞”能力竞赛

    2023-03-27

  • 麻省理工科技评论:生成式 AI 与生产力再思考

    2023-03-27

  • ChatGPT怎么看「以太坊上海升级」

    2023-03-27

价值号更多 ›

达瓴智库
达瓴智库
文章: 155
  • 如何通过MVRV判断加密牛市还是熊市?
  • ETH在上海升级期间表现如何?
  • 熊末牛初:Ordinals是福是祸?
区块链骑士
区块链骑士
文章: 1300
  • SEC主席正在成为数字资产“教父”?高强度监管是否矫枉过正?
  • 传统与数字金融行业如何共存?
  • ChatGPT怎么看「以太坊上海升级」
TinTinLand
TinTinLand
文章: 35
  • 一家银行倒闭后,加密市场发生了什么?
  • 打破科研困境的 DeSci 是什么?
  • 上海升级的机遇,值得关注的 Layer2 与 LSD 赛道
换一批

热门标签

新基建 比特币 以太坊 矿业 DeFi 共识对话 区块链+ 研报 美联储 央行数字货币 无限QE 加密衍生品 AI 云计算 大数据 5G 政策 交易所 稳定币 电子支付 Libra 算力产业 联盟链 公链 区块链 加密货币 Nervos Cosmos EOS STO

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

App内打开

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

Moshou

碳链价值是集资讯、行情、数据于一身的区块链信息服务平台,我们追求及时、全面、专业、精确的资讯与数据,致力于为区块链创新者和数字货币投资者提供优质的服务。

关于我们 加入我们 联系我们 隐私条款
微信公众号

扫一扫关注微信公众号

Copyright © 2018-2020 碳链价值 京ICP备18046423号
下载碳链App

下载碳链App

微信公众号

微信公众号

微信公众号

微信公众号

打赏文章作者

支付宝打赏二维码 支付宝扫一扫打赏
微信打赏二维码 微信扫一扫打赏

# 热门搜索 #

CBDC 比特币 DeFi 以太坊 区块链