以太坊:一文了解 ZK 在推进链上 AI 的作用_CETH币

原文来自:Modulus Labs

编译:DeFi 之道

很高兴终于可以与你们分享我们的第一篇论文,该论文是通过以太坊基金会的资助完成的,它的名称是《The Cost of Intelligence: Proving Machine Learning Inference with Zero-Knowledge?》(或 paper0,这是酷孩子们的叫法)。

没错,这些都是真数字!有图表!论文还讨论了理论结构及其对性能的影响!事实上,paper0 是第一个跨通用 AI 原语套件对 ZK 证明系统进行基准测试的研究工作,你现在就可以阅读整篇论文。

而这篇文章,你可以将其视为论文的总结,有关详细信息,请参阅原论文。

事不宜迟,让我们深入了解:

事实上,计算的未来将大量使用复杂的人工智能。看看我的文本编辑器:

Notion 的提示告诉我,他们的 LLM 可以让这句话变得更好

Move教育及生态聚合平台Aptos Eden入选Aptos基金会资助计划项目:据官方推特消息,Move语言开发教学及Aptos生态聚合平台Aptos Eden入选Aptos基金会资助计划项目,本轮资助资金将用于开发Move语言数据库功能以及开展Web3人才培训计划。

据悉,Aptos Eden已接入ChatGPT,能够快速响应并回答用户在Aptos生态学习和开发中遇到的问题。未来,在Aptos基金会的扶持下,Aptos Eden还将汇集更多顶尖的Move技术开发社区和优质项目打造一系列技术峰会与竞赛。Aptos基金会资助计划旨在帮助早期Aptos初创团队与开发者的优质项目,以进一步丰富Aptos生态体系。[2023/4/10 13:55:05]

然而,链上不存在功能性神经网络,甚至连最小的推荐系统或匹配算法都不存在。真见鬼!甚至连实验也没有一个……当然,原因是非常明显的,因为这太贵了,毕竟,即使运行价值数十万 FLOP 的计算(仅够在微型神经网络上进行一次推理)的成本也是数百万 gas,目前相当于数百美元。

那么,如果我们想将 AI 范式带入无需信任的世界,我们该怎么做?我们会翻车(roll-over),然后放弃(give up)吗?当然不是…等等!Roll-over)……Give up……

TreasureDAO回应团队成员参与跑路NFT项目创作问题:2 月 23 日消息,针对团队成员 Cheese 日前被社区曝光参与了众多跑路 NFT 项目,TreasureDAO 在 Discord 社区发文回应:

1.几名社区成员在离开 Treasure 团队后发起了一系列失败的 NFT 项目,TreasureDAO 的社区成员发现这一问题后在 2021 年 10 月就对此事件在行业内发出过警告。

2.Cheese 为这些跑路的 NFT 项目做了一些 UI/FE 工作,并按照合同拿到了报酬。但跑路行为是由那几名前社区成员主导,并且是在 Cheese 交付工作过了很长一段时间以后才发生。Cheese 对 Treasure 项目的贡献是杰出的,但必须明确,他仅仅是一名社区贡献者。[2022/2/23 10:11:23]

如果像 Starkware、Matter Labs 和其他公司这样的 Rollup 服务,正在使用零知识证明来大规模扩展计算,同时保持密码学安全,那么我们能为 AI 做同样的事情吗?

这个问题成为推动我们在 paper0 中工作的激励种子。 剧透警报,以下是我们发现的:

Equinox Guild宣布投资宇宙链游项目SIDUS HEROES:1月9日消息,Equinox Guild宣布已投资元宇宙链游项目SIDUS HEROES。

此前消息,SIDUS HEROES宣布,已获得区块链游戏领域50家顶级VC基金的支持,以及来自相关领域的200多家基金和业务合作伙伴的支持,融资总额达2000万美元。其合作伙伴包括Animoca Brands、Polygon、OKEx Blockdream Ventures、Arkstream Capital、Spark Digital Capital、AU21 Capital、HashKey等。[2022/1/9 8:36:17]

paper0 总结

这是众所周知的秘密:AI 性能几乎总是与模型大小成比例。 这种趋势看起来也没有放缓。 只要这种情况仍然存在,对于我们这些 web3 中的人来说,这将是特别痛苦的。

毕竟,计算成本是我们最终、不可避免的噩梦来源。

DeFi项目Synthetix已完成Spica升级 但限价订单暂无法运行:7月30日午间,DeFi项目Synthetix官方发推宣布,已完成Spica升级。不过官方表示,此次升级已经部署了限价单和回收、返利事件,但直到下周初这些指令才会在dApp接口中运行。限价订单中继器无法运行,因此合同级别的交易暂时无法完成。[2020/7/30]

今天的 ZKP 已经可以支持小模型了,但中型到大型模型打破了范式

对于 paper0,我们关注任何零知识证明系统中的 2 个基本指标:

证明生成时间:prover 创建 AI 推理的伴随证明所需的时间,以及

prover 内存使用峰值:证明者在证明期间的任何给定时间用于生成推理证明的最大内存;

这主要是一个实际的选择,并且是从我们构建 Rockybot 的经验中做出的(证明时间和内存使用是确定任何无需信任人工智能用例可行性的直接优先事项)。 此外,所有测量都是针对证明生成时间进行的,并且没有考虑预处理或 witness 生成。

动态 | 隐私项目 Origo 主网已于1月21日上线:隐私项目 Origo.Network 今日发布博客,宣布主网已于 2020 年 1 月 21 日上线。代币 OGO 总供应量为 10 亿,创世区块所获得的 OGO 将会用于生态系统、基金会、团队、咨询部门以及市场流通五个方面。

文中称隐私权从一开始就是 Origo 区块链网络的核心。同样,团队坚信在区块链上提供隐私对于在现实世界中充分利用区块链技术至关重要,团队认为区块链智能合约中的隐私需求是合理的,也考虑到监管和业务方面的原因。

创世区块之后,Origo 的代币 OGO 将会分配给如下五个地址:

Origo 基金会地址:0xe483d4D3D4CD86E42CbAEd3D3fe09402AeeAEC6e,数量:83,460,131.75

生态系统地址: 0x337E6796855fCe218b71E54B95385489cc6cD1A1, 数量 :114,203,325.80.

Origo 团队地址: 0x04632b8f8890D1438aAa1F452A929be56d5A7c5E, 数量:125,000,000.00.

咨询部门地址: 0xAE40127cC6E94B2Bf501AE5e5E82338okE6D65B989,数量:16,666,665.99.

ERC-20 流通地址: 0x7f668e9AAfA536287AE69A1ebae5DdFf8e139680, 数量: 419,908,836.50.

加上将用于挖矿分配的 240,761,040.00 枚 OGO 代币,原始 OGO 总数将为 10 亿。这个分配确保现有的 ERC-20 代币将 1:1 地分布到 origo 主网

Origo 是基于以太坊网络的区块链,用户可以通过以太坊钱包,例如 Metamask 访问 Origo 网络。在主网启动之后,现有的 Origo ERC-20 代币仍然可以在现有的交易平台进行交易。团队正与各交易平台密切合作,整合主网。[2020/2/3]

当然,还有其他方面的成本需要跟踪。 这包括验证者运行时间和证明大小。我们将来可能会重新审视这些指标,但将它们视为 paper0 的范围之外。

至于我们测试的实际证明系统,通过投票,我们选定了 6 个:

Paper0 测试的证明系统汇总表,以及协助我们的作者

最后,我们创建了两套用于基准测试的多线性感知器(MLP)——值得注意的是,MLP 相对简单,主要由线性运算组成。这包括一套随着参数数量增加而扩展的架构(最多 1800 万参数和 22 GFLOP),以及第二套随着层数增加而扩展(最多 500 层)的架构。如下表所示,每个套件都测试了证明系统以不同方式扩展的能力,并大致代表了从 LeNet5(6 万参数,0.5 MFLOP)到 ResNet-34(2200 万参数,3.77 GFLOP)的知名深度学习(ML)架构的规模。

参数和深度基准套件

对于以上 6 个证明系统的参数和深度范围的证明生成时间结果

对于以上 6 个证明系统的参数和深度范围内的峰值内存结果

有关这些结果的完整内容,以及对每个系统内瓶颈的深入分析,请参阅 paper0 的第 4 节。

好吧,以上是一些非常简洁的图表,而以下则是要点:

那这在实践中究竟意味着什么? 我们将重点介绍 2 个示例:

1、Worldcoin:Worldcoin 正在构建世界上第一个“隐私保护身份证明协议”(或 PPPoPP),换句话说,通过将身份验证与一种非常独特的生物特征(虹膜)联系起来来解决女巫攻击问题。这是一个疯狂的想法,它使用卷积神经网络来压缩、转换和证明存储的虹膜数据。虽然他们当前的设置涉及 orb 硬件中安全飞地内的可信计算环境,但他们希望改为使用 ZKP 来证明模型的正确计算。这将允许用户对自己的生物特征数据进行自我保护,并提供加密安全保证(只要在用户的硬件上进行处理,比如手机)。

现在具体一点:Worldcoin 的模型具有 180 万参数和 50 层。 这是区分 100 亿个不同虹膜所必需的模型复杂性。 哎呀!

虽然在计算优化的云 CPU 上证明 Plonky2 等系统,可以在几分钟内为这种规模的模型生成推理证明,但证明者的内存消耗将超过任何商用移动硬件(数十 GB 的 RAM)。

事实上,没有一个测试系统能够在移动硬件上证明这个神经网络……

2. AI Arena:AI Arena 是一款类似于《任天堂明星大乱斗》风格的链上平台格斗游戏,其具有一个独特的特点:玩家并不是操作化身实时进行对抗,而是让玩家拥有的 AI 模型相互竞争和战斗,是的,这听起来很酷。

随着时间的推移,AI Arena 的出色团队正努力将他们的游戏转向一个完全无需信任的锦标赛计划。但问题是,这涉及验证每次游戏数量惊人的 AI 计算的挑战。

比赛以每秒 60 帧的速度运行,持续 3 分钟时间。这意味着每轮比赛,两个玩家模型之间的推理结果超过 20000 个。以 AI Arena 的一个策略网络为例,一个相对较小的 MLP 需要大约 0.008 秒来执行一次前向传递,使用 zkCNN 证明该模型需要 0.6 秒,即,每采取一次动作就需要增加 1000 倍的计算。

这也意味着计算成本将增加 1000 倍。随着单元经济对链上服务变得越来越重要,开发人员必须平衡去中心化安全的价值与证明生成的实际成本。

https://aws.amazon.com/ec2/pricing/

无论是上面的例子,ZK-KYC,DALL-E 风格的图像生成,还是智能合约中的大型语言模型,ZKML 的世界中都存在着一个完整的用例世界。然而,要真正实现这些,我们强烈认为 ZK prover 仍需要大量改进。特别是对于自我完善的区块链的未来。

那么,我们该何去何从?

我们有具体的表现数据,我们知道在证明神经网络时哪些技术往往表现最好。当然,我们开始发现各种用例,这些用例激励了我们不断成长的社区。

我想知道接下来会发生什么……

很快就会为你们提供更多更新;)

隔夜的粥

个人专栏

阅读更多

金色财经

金色早8点

Odaily星球日报

Arcane Labs

澎湃新闻

欧科云链

深潮TechFlow

MarsBit

BTCStudy

链得得

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

区块博客

[0:15ms0-7:436ms