• 简体版 | 繁體版
  • 联系我们
  • 加入我们
  • 关于我们
  •  
  • 首页
  • 快讯
  • 价值号
  • 视频
  • 专题
  • 深度
  • 入驻价值号
  • 碳链APP
    微信公众号

    扫码下载App

  • 登录
  • 微信公众号

    微信公众号

导航
  • 首页
  • 快讯
  • 区块链+
  • 价值号
  • 视频
  • 专题
  • DeFi优选
碳链价值APP
专注服务于金融科技和区块链
立即打开

一文了解 ZK 在推进链上 AI 的作用

巴比特资讯巴比特资讯  •  2023-02-06
像 Starkware、Matter Labs 和其他公司的 Rollup 服务,正在使用零知识证明来大规模扩展计算,同时保持密码学安全,那我们能为 AI 做同样的事情吗?

原文来自:Modulus Labs

编译:DeFi 之道

很高兴终于可以与你们分享我们的第一篇论文,该论文是通过以太坊基金会的资助完成的,它的标题是《The Cost of Intelligence: Proving Machine Learning Inference with Zero-Knowledge‌》(或 paper0,这是酷孩子们的叫法)。

没错,这些都是真数字!有图表!论文还讨论了理论结构及其对性能的影响!事实上,paper0 是第一个跨通用 AI 原语套件对 ZK 证明系统进行基准测试的研究工作,你现在就可以阅读整篇论文。

而这篇文章,你可以将其视为论文的总结,有关详细信息,请参阅原论文。

事不宜迟,让我们深入了解:

Paper0 : 我们的调查要点

事实上,计算的未来将大量使用复杂的人工智能。看看我的文本编辑器:

Notion 的提示告诉我,他们的 LLM 可以让这句话变得更好Notion 的提示告诉我,他们的 LLM 可以让这句话变得更好

然而,链上不存在功能性神经网络,甚至连最小的推荐系统或匹配算法都不存在。真见鬼!甚至连实验也没有一个……当然,原因是非常明显的,因为这太贵了,毕竟,即使运行价值数十万 FLOP 的计算(仅够在微型神经网络上进行一次推理)的成本也是数百万 gas,目前相当于数百美元。

那么,如果我们想将 AI 范式带入无需信任的世界,我们该怎么做?我们会翻车(roll-over),然后放弃(give up)吗?当然不是…等等!Roll-over)……Give up……

如果像 Starkware、Matter Labs 和其他公司这样的 Rollup 服务,正在使用零知识证明来大规模扩展计算,同时保持密码学安全,那么我们能为 AI 做同样的事情吗?

这个问题成为推动我们在 paper0 中工作的激励种子。 剧透警报,以下是我们发现的:

“现代 ZK 证明系统的性能越来越高,并且越来越多样化。它们已经可以支持成本在某种程度上是合理的人工智能操作。事实上,有些系统在证明神经网络方面比其他系统好得多。然而,所有这些仍然达不到实际应用所需的性能,并且对于神奇的用例来说是严重不足的。换句话说,如果不进一步加速用于 AI 操作的 ZK 系统,用例就会非常有限。“

paper0 总结

这是众所周知的秘密:AI 性能几乎总是与模型大小成比例。 这种趋势看起来也没有放缓。 只要这种情况仍然存在,对于我们这些 web3 中的人来说,这将是特别痛苦的。

毕竟,计算成本是我们最终、不可避免的噩梦来源。

今天的 ZKP 已经可以支持小模型了,但中型到大型模型打破了范式

基准:实验设计

对于 paper0,我们关注任何零知识证明系统中的 2 个基本指标:

  1. 证明生成时间:prover 创建 AI 推理的伴随证明所需的时间,以及
  2. prover 内存使用峰值:证明者在证明期间的任何给定时间用于生成推理证明的最大内存;

这主要是一个实际的选择,并且是从我们构建 Rockybot 的经验中做出的(证明时间和内存使用是确定任何无需信任人工智能用例可行性的直接优先事项)。 此外,所有测量都是针对证明生成时间进行的,并且没有考虑预处理或 witness 生成。

当然,还有其他方面的成本需要跟踪。 这包括验证者运行时间和证明大小。我们将来可能会重新审视这些指标,但将它们视为 paper0 的范围之外。

至于我们测试的实际证明系统,通过投票,我们选定了 6 个:

Paper0 测试的证明系统汇总表,以及协助我们的作者Paper0 测试的证明系统汇总表,以及协助我们的作者

最后,我们创建了两套用于基准测试的多线性感知器(MLP)——值得注意的是,MLP 相对简单,主要由线性运算组成。这包括一套随着参数数量增加而扩展的架构(最多 1800 万参数和 22 GFLOP),以及第二套随着层数增加而扩展(最多 500 层)的架构。如下表所示,每个套件都测试了证明系统以不同方式扩展的能力,并大致代表了从 LeNet5(6 万参数,0.5 MFLOP)到 ResNet-34(2200 万参数,3.77 GFLOP)的知名深度学习(ML)架构的规模。

参数和深度基准套件参数和深度基准套件

结果:迅如闪电

对于以上 6 个证明系统的参数和深度范围的证明生成时间结果对于以上 6 个证明系统的参数和深度范围的证明生成时间结果

对于以上 6 个证明系统的参数和深度范围内的峰值内存结果对于以上 6 个证明系统的参数和深度范围内的峰值内存结果

有关这些结果的完整内容,以及对每个系统内瓶颈的深入分析,请参阅 paper0 的第 4 节。

用例和最终要点

好吧,以上是一些非常简洁的图表,而以下则是要点:

“在证明时间方面,Plonky2 是迄今为止表现最好的系统,因为它使用了基于 FRI 的多项式承诺和 Goldilocks 域。 事实上,对于我们最大的基准架构,它比 Halo2 快 3 倍。然而,这是以 prover 内存消耗为显著代价的,Plonky2 的性能始终较差,有时会使 Halo2 的峰值 RAM 使用量翻倍。在证明时间和内存方面,基于 GKR 的 zkCNN prover 似乎最适合处理大型模型——即使没有优化的实现。”

那这在实践中究竟意味着什么? 我们将重点介绍 2 个示例:

1、Worldcoin:Worldcoin 正在构建世界上第一个“隐私保护身份证明协议”(或 PPPoPP),换句话说,通过将身份验证与一种非常独特的生物特征(虹膜)联系起来来解决女巫攻击问题。这是一个疯狂的想法,它使用卷积神经网络来压缩、转换和证明存储的虹膜数据。虽然他们当前的设置涉及 orb 硬件中安全飞地内的可信计算环境,但他们希望改为使用 ZKP 来证明模型的正确计算。这将允许用户对自己的生物特征数据进行自我保护,并提供加密安全保证(只要在用户的硬件上进行处理,比如手机)。

现在具体一点:Worldcoin 的模型具有 180 万参数和 50 层。 这是区分 100 亿个不同虹膜所必需的模型复杂性。 哎呀!

虽然在计算优化的云 CPU 上证明 Plonky2 等系统,可以在几分钟内为这种规模的模型生成推理证明,但证明者的内存消耗将超过任何商用移动硬件(数十 GB 的 RAM)。

事实上,没有一个测试系统能够在移动硬件上证明这个神经网络……

2. AI Arena:AI Arena 是一款类似于《任天堂明星大乱斗》风格的链上平台格斗游戏,其具有一个独特的特点:玩家并不是操作化身实时进行对抗,而是让玩家拥有的 AI 模型相互竞争和战斗,是的,这听起来很酷。

随着时间的推移,AI Arena 的出色团队正努力将他们的游戏转向一个完全无需信任的锦标赛计划。但问题是,这涉及验证每次游戏数量惊人的 AI 计算的挑战。

比赛以每秒 60 帧的速度运行,持续 3 分钟时间。这意味着每轮比赛,两个玩家模型之间的推理结果超过 20000 个。以 AI Arena 的一个策略网络为例,一个相对较小的 MLP 需要大约 0.008 秒来执行一次前向传递,使用 zkCNN 证明该模型需要 0.6 秒,即,每采取一次动作就需要增加 1000 倍的计算。

这也意味着计算成本将增加 1000 倍。随着单元经济对链上服务变得越来越重要,开发人员必须平衡去中心化安全的价值与证明生成的实际成本。

https://aws.amazon.com/ec2/pricing/https://aws.amazon.com/ec2/pricing/

无论是上面的例子,ZK-KYC,DALL-E 风格的图像生成,还是智能合约中的大型语言模型,ZKML 的世界中都存在着一个完整的用例世界。然而,要真正实现这些,我们强烈认为 ZK prover 仍需要大量改进。特别是对于自我完善的区块链的未来。

那么,我们该何去何从?

我们有具体的表现数据,我们知道在证明神经网络时哪些技术往往表现最好。当然,我们开始发现各种用例,这些用例激励了我们不断成长的社区。

我想知道接下来会发生什么……

很快就会为你们提供更多更新;)

展开全文
打开碳链价值APP  查看更多精彩资讯
声明:本文内容为作者独立观点,不代表碳链价值立场,且不构成任何投资理财建议。
0 2
零知识证明编译文库AI+Web3

扫一扫,分享到微信

相关推荐

Web3时代游戏会如何演变? 价值号

Web3时代游戏会如何演变?

区块链骑士 2023-03-31 价值号
GameFiWeb3数字资产管理
GameFi正在改变人们对数字资产的看法。
ChatGPT“铸魂”:人形机器人“进化论” 滚动

ChatGPT“铸魂”:人形机器人“进化论”

AI之势 2023-03-31 滚动
AIChatGPT
AI大模型为人形机器人注入“灵魂”。
Web3PORT:下一个Web3风口 深度

Web3PORT:下一个Web3风口

优选项目 2023-03-30 深度
Web3
总的来说,Web3PORT是一个潜力巨大、令人期待的项目。

碳链快讯更多 ›

2023-04-02

山西警方查处了一个制造并分销假钱包的团伙

2023-04-02

Vitalik:ZK-EVM 将成为以太坊的第三种客户端,应推动创建一个开放的多客户端 ZK-EVM 生态

2023-04-02

马斯克要求法官驳回狗狗币投资者对其提起的 2580 亿美元集体诉讼

2023-04-01

彭博社:孙宇晨已就出售 Huobi 股份进行谈判,对话尚处于早期阶段

2023-04-01

OpenAI CEO 旗下加密项目 Worldcoin 推出去中心化身份协议「World ID」

2023-04-01

数据:以太坊上 Aave V3 总市场规模突破 10 亿美元

2023-04-01

彭博社:数字货币为第一季度表现最佳的资产类别

2023-04-01

亚马逊 NFT 市场将上架 Beeple 与 Pudgy Penguins 等创作者和项目的数字收藏品

2023-04-01

美国全国期货协会通过数字资产商品相关规定,将于 2023 年 5 月 31 日生效

2023-04-01

推特开放包括推荐算法在内的大部分源代码

2023-04-01

动视暴雪前总裁 Daniel Alegre 正式加入 Yuga Labs 出任 CEO

2023-04-01

Arbitrum 发起新提案将引入 ArbitrumDAO 并申请 10 亿美元拨款

2023-03-31

跨链桥聚合器 LI.FI 完成 1750 万美元 A 轮融资,CoinFund 和 Superscrypt 领投

2023-03-31

周小川:数字货币别急着想赢者通吃,每隔三五年局面就会有大变化

2023-03-31

CAIDP敦促美FTC调查OpenAI违反消费者保护规则的行为

2023-03-31

美SEC对Ormeus Coin项目创始人分别处罚超2314万美元

2023-03-31

彭博社:韩国法院再次驳回对Terra联创Daniel Shin的逮捕令

2023-03-31

外媒:Tron 创始人孙宇晨失去了外交官身份

2023-03-31

阿根廷航空公司 Flybondi 发行基于 Algorand 的 NFT 机票

2023-03-31

数据:USDC 稳定币市值过去两周下跌约 100 亿美元至 325 亿美元

2023-03-30

硬件钱包 Ledger 以 13 亿欧元估值完成 1 亿欧元融资

2023-03-30

联合国儿童基金会正在创建 DAO 原型

2023-03-30

腾讯高级执行副总裁汤道生:腾讯正研发类ChatGPT聊天机器人

2023-03-30

丹麦最高法院裁定对比特币销售利润征税

2023-03-30

报告:预测加密货币捐款将在十年内超过100亿美元

2023-03-30

印度在2023财年已征收超过1920万美元的加密税

2023-03-30

数字监管领域专业人士:到2030年合规稳定币将得到广泛使用

2023-03-30

韩国三大加密交易所XRP交易量飙升至数十亿美元

2023-03-30

日本财务省或将于4月成立CBDC专家小组,讨论发行可能性

2023-03-30

美国财政部副部长:美国的银行倒闭事件不应归咎于加密行业

2023-03-30

3月10日以来USDC净流出超过100亿美元,USDT市场份额创22个月新高

2023-03-30

美联储主席:年内预计还会加息一次

2023-03-30

美 SEC 主席:证券法涵盖加密市场大部分活动,无需额外立法

2023-03-29

英国发布人工智能监管白皮书 概述了针对ChatGPT等人工智能治理的五项原则

2023-03-29

美金融服务委员会将连同 SEC 主席寻求明确加密监管策略和制定规则的方法

2023-03-29

俄罗斯推迟原计划于 4 月 1 日开始的央行数字货币试点

2023-03-29

以太坊再质押协议 EigenLayer 开发商 EigenLabs 完成 5000 万美元 A 轮融资

2023-03-29

Circle 披露 USDC 储备结构:80% 为短期美国国债,约 20% 为现金存款存储在 GSIB

2023-03-29

Voyager Digital 向 Circle 转移 1.5 亿美元 USDC 将其兑换成美元

2023-03-28

美亚柏科:公司将对各类AIGC内容的检测、AI生成文本的检测技术及产品进行布局

2023-03-28

Galaxy Digital 披露在 2022 年净亏损达 10 亿美元

2023-03-28

慢雾:批准未知来源的代币时请仔细检查交易的 gas limit

2023-03-28

蚂蚁集团:于隽曾是外派至A&T Capital的工作人员,目前已办结离职手续

2023-03-28

香港金管局和证监会将于 4 月 28 日联合举办加密企业和银行家之间的圆桌会议

2023-03-28

英国财政部取消由政府支持的 NFT 计划

2023-03-28

欧盟将于 3 月 28 日投票表决是否禁止匿名自托管钱包转账大额加密资产

2023-03-28

日经亚洲:美 SEC 对孙宇晨的指控或将影响 Huobi 香港牌照申请及扩张计划

2023-03-28

CFTC提起诉讼后价值近15亿美元的加密资产从币安相关钱包流出

2023-03-27

CFTC 诉币安及其 CEO 违法以寻求民事货币罚款和其他衡平救济

2023-03-27

CFTC指控Binance概述:涉及向美国投资者提供的交易服务及其合规性问题

推荐文章

  • 暴雪不管的国服,链游要插手

    2023-02-06

  • dYdX代币经济模型分析与潜在解决方案

    2023-02-05

  • 一文读懂衡量Web3生态的关键指标

    2023-02-05

  • 观点:Web3 社交协议在 Nostr 面前不堪一击

    2023-02-03

  • 年度公链系列盘点:公链创新的方向有多少

    2023-02-03

价值号更多 ›

吉时通信
吉时通信
文章: 141
  • AIGC的商业化之路展望
  • 释放ChatGPT3的力量:如何用AIGC撰写研报?
  • 科普:关于AIGC的十问十答
链集市ChainMarket
链集市ChainMarket
文章: 227
  • 区块链产业周报|各国密集推出行业新政策,加强监管成为2023年主旋律;G20正在制定Crypto政策
  • 5种帮助区块链初创公司在逆境中成长的方法
  • 区块链产业周报|区块链成为中国领先的金融科技公司的第五大首选技术;国际掉期与衍生品协会发布数字资产衍生品新定义
Unitimes
Unitimes
文章: 403
  • 以太坊 MEV 黑暗森林:从 Gas 战争到 PBS
  • 对话 Vitalik:合并后 以太坊的下一步是什么?
  • 为什么以太坊是最好的选择?
换一批

热门标签

新基建 比特币 以太坊 矿业 DeFi 共识对话 区块链+ 研报 美联储 央行数字货币 无限QE 加密衍生品 AI 云计算 大数据 5G 政策 交易所 稳定币 电子支付 Libra 算力产业 联盟链 公链 区块链 加密货币 Nervos Cosmos EOS STO

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

App内打开

邮件订阅

及时、全面、专业、准确的资讯与数据,致力于为区块链爱好者以及数字货币投资者提供最好的服务。

Moshou

碳链价值是集资讯、行情、数据于一身的区块链信息服务平台,我们追求及时、全面、专业、精确的资讯与数据,致力于为区块链创新者和数字货币投资者提供优质的服务。

关于我们 加入我们 联系我们 隐私条款
微信公众号

扫一扫关注微信公众号

Copyright © 2018-2020 碳链价值 京ICP备18046423号
下载碳链App

下载碳链App

微信公众号

微信公众号

微信公众号

微信公众号

打赏文章作者

支付宝打赏二维码 支付宝扫一扫打赏
微信打赏二维码 微信扫一扫打赏

# 热门搜索 #

CBDC 比特币 DeFi 以太坊 区块链