原文：sevenxventures 2024年宝马会娱乐城

编译：GWEI Research

由 Hill Tan 和 Grace Deng 所著，SevenX Ventures Research

咱们要卓绝感谢 Brian Retford, Sun Yi, Jason Morton, Shumo, Feng Boyuan, Daniel, Aaron Greenblatt, Nick Matthew, Baz, Marcin, 和 Brent 他们对这篇著述提供的可贵观点，响应和审阅。

对于咱们这些生计在加密货币之下的东谈主来说，东谈主工智能一经火了一段时刻。兴趣兴趣兴趣兴趣的是，没东谈主念念看到一个AI失控。区块链被发明出来等于为了驻防好意思元失控，是以咱们可能会尝试一下。此外，咱们目下有了一个新的叫作念ZK的时刻，它被用来确保事情不会出错。我只是假定等闲东谈主对区块链和ZK有一丝了解。关联词，为了慑服AI这个野兽，咱们必须麇集AI是怎么责任的。

第一部分：易懂的机器学习简介 AI一经有了几个称呼，从“大师系统”到“神经聚集”，然后是“图形模子”，临了是“机器学习”。总共这些皆是“AI”的子集，东谈主们给它们不同的名字，咱们对AI的了解也更深了。让咱们深入了解机器学习，揭开机器学习的深重面纱。

详实：现今大多数的机器学习模子皆是神经聚集，因为它们在好多任务上的证据优秀。咱们主要将机器学习称为神经聚集机器学习。

领先，让咱们快速了解一下机器学习的里面责任旨趣：

1 .输入数据预处理：

输入数据需要被处理成可以行为模子输入的时势。这不时波及到预处理和特征工程，以索求有用的信息，并将数据诊治成得当的神色，举例输入矩阵或张量（高维矩阵）。这是大师系统的方法。跟着深度学习的出现，层的观念入手自动处理预处理的责任。

2.成立驱动模子参数：

驱动模子参数包括多个层，激活函数，驱动权重，偏置，学习率等。有些可以在教师中诊治，以使用优化算法提高模子的精度。

3.教师数据：

4.获取模子的输出：

神经聚集狡计的输出不时是一个向量或矩阵，暗意图像分类的概率、心思分析分数或其他闭幕，具体取决于聚集的应用。不时还有另一个失误评估和参数更新模块，它允许根据模子的主义自动更新参数。

若是上头的解释看起来太晦涩，你可以望望底下使用CNN模子识别苹果图像的例子。

咱们可以将上述内容总结为一个机器学习信任框架，它包括四个必须可靠的机器学习档次，以使总共这个词机器学习历程可靠：

跟着机器学习（ML）应用的爆炸式增长（复合年增长率逾越20%）以及它们在日常生计中的交融进程的增多，如ChatGPT的最近流行，对ML的信任问题变得日益紧迫，不行被疏远。因此，发现并不停这些信任问题对于确保AI的负包袱使用和驻防其潜在滥用至关紧迫。关联词，这些问题到底是什么呢？让咱们深入了解。

信任问题遥远以来一直困扰着机器学习，主要原因有两个：

诡秘性：如前所述，模子参数不时是尽头的，在某些情况下，模子输入也需要守秘，这当然会在模子领有者和模子使用者之间带来一些信任问题。

算法的黑匣子：机器学习模子巧合被称为“黑匣子”，因为它们在狡计历程中波及许多难以麇集或解释的自动化要领。这些要领波及复杂的算法和大皆数据，这些数据会带来不细则的、巧合是立时的输出，使算法成为偏见以至歧视的罪魁首恶。

在更深入之前，本文中更大的假定是模子一经“准备好使用”，这意味着它挥洒自怎么况得当主义。该模子可能不得当总共情况，何况模子以惊东谈主的速率改造，ML 模子的平淡保质期为 2 到 18 个月不等，具体取决于应用场景。

模子教师历程存在信任问题，Gensyn 目下正在奋发生成灵考据据以促进这一历程。然则，本文将主要关爱模子推理历程。目下让咱们使用 ML 的四个构建块来发现潜在的信任问题：

上头的一些信任问题可以通过浅显地上链来不停；将输入和ML参数上传到链上，模子狡计上链，可以保证输入、参数和模子狡计的正确性。然则这种方法可能会殉难可扩张性和诡秘性。 Giza 在 Starknet 上是这么作念的，然则由于成本问题，它只赈济回来这么浅显的机器学习模子，不赈济神经聚集。 ZK 时刻可以更高效地不停上述信任问题。目下ZKML的ZK不时指的是zkSNARK。领先，让咱们快速记忆一下 zkSNARKs 的一些基础常识：

一个 zkSNARK 解说解说我知谈一些奥密输入 w 使得这个狡计的闭幕 f 是 OUT 是真的而不告诉你 w 是什么。解说生成历程可以抽象为几个要领：

1.制定一个需要解说的述说：f(x,w)=true

“我一经使用带有尽头参数 w 的 ML 模子 f 对这张图像 x 进行了正确分类。”

2.将语句诊治为电路（Arithmetization）：不同的电路构造方法包括R1CS、QAP、Plonkish等。

与其他用例比拟，ZKML 需要一个称为量化的额外要领。神经聚集推理不时在浮点运算中完成，这在运算电路的主要领域中进行仿的确极其腾贵的。不同的量化方法是精度和征战条目之间的权衡。一些电路构造方法如 R1CS 对神经聚集成果不高。可以诊治这部分以提高性能。

3.生成解说密钥和考据密钥

4.创建见证东谈主：当 w=w*,f(x,w)=true

5.创建哈希承诺：见证东谈主 w* 承诺使用加密哈希函数生成哈希值。然后可以公开此散列值。

它有助于确保尽头输入或模子参数在狡计历程中未被改换或修改。此要领至关紧迫，因为即使是微细的修改也会对模子的行动和输坐褥生关键影响。

6.生成解说：不同的解说系统使用不同的解说生成算法。

需要为机器学习操作假想特殊的零常识章程，举例矩阵乘法和卷积层，从而为这些狡计提供具有亚线性时刻的高效契约。

由于狡计责任量太大，像 groth16 这么的通用 zkSNARK 系统可能无法灵验地处理神经聚集。

自 2020 年以来，出现了许多新的 ZK 解说系统来优化模子推理历程的 ZK 解说，包括 vCNN、ZEN、ZKCNN 和 pvCNN。关联词，它们中的大多数皆针对 CNN 模子进行了优化。它们只可应用于某些原始数据集，举例 MNIST 或 CIFAR-10。

2022 年，Daniel Kang Tatsunori Hashimoto、Ion Stoica 和 Yi Sun（Axiom 首创东谈主）提议了一种基于 Halo2 的新解说有筹划，初次已毕了 ImageNet 数据集的 ZK 解说生成。他们的优化主要落在算术部分，具有新颖的非线性查找参数和跨层子电路的重用。

正在对链上推理的不同解说系统进行基准测试，发目下解说时刻方面，ZKCNN 和 plonky2 证据最好；在峰值解说者内存使用方面，ZKCNN 和 halo2 证据考究；而 plonky，固然证据可以，但殉难了内存消耗，ZKCNN 仅适用于 CNN 模子。它还正在开发一个新的 zkSNARK 系统，卓绝是针对带有新诬捏机的 ZKML。

7.考据解说：考据者使用考据密钥进行考据，无需见证东谈主潜入。

因此，咱们可以解说，将零常识时刻应用于机器学习模子可以不停好多信任问题。使用交互式考据的雷同时刻可以已毕雷同的闭幕，但将需要考据方更多的资源，并可能面对更多的诡秘问题。值得详实的是，根据确切的模子，为它们生成解说可能会浮滥时刻和资源，因此当该时刻最终在施行用例中实施时，会在各个方面作念出妥协。

接下来，桌子上有什么？请记取，模子提供者可能不念念生成 ZKML 解说的原因有好多。对于那些有鼓胀勇气尝试 ZKML 何况当不停有筹划对实施专诚旨时，他们可以根据他们的模子和输入场所的位置从几个不同的不停有筹划中进行采用：

若是输入数据在链上，Axiom 可以被视为一种不停有筹划：

Axiom 正在为以太坊构建一个 ZK 协处理器，以改善用户对区块链数据的探听并提供更复杂的链上数据视图。对链上数据进行可靠的机器学习狡计是可行的：

若是模子上链，可以琢磨 RISC Zero 行为不停有筹划：

RISC 零 ZKVM 是一个 RISC-V 诬捏机，它产生它实践的代码的零常识解说。使用 ZKVM，生成加密收条，任何东谈主皆可以考据它是由 ZKVM 的访客代码生成的。发布收条不会暴露估计代码实践的其他信息（举例，提供的输入）。

通过在 RISC Zero 的 ZKVM 中运行机器学习模子，可以解说实践了模子中波及的精准狡计。狡计和考据历程可以在用户首选环境中的链下完成，也可以在通用汇总的盆景聚集首完成。

生成 ZK 解说的确切历程波及一个以立时预言机行为考据者的交互契约。 RISC 零收条上的印记实质上是此交互契约的手本。

若是您念念平直从 Tensorflow 或 Pytorch 等常用的 ML 软件导入模子，可以琢磨使用 ezkl 行为不停有筹划：

Ezkl 是一个库和高唱行器具，用于对 zkSNARK 中的深度学习模子和其他狡计图进行推理。

看起来很浅显，对吧？ ezkl 的标的是提供一个抽象层，允许在 Halo 2 电路中调用和嘱托更高档别的操作。 Ezkl 抽象化了好多复杂性，同期保抓了难以置信的天真性。他们的量化模子有一个用于自动量化的比例因子。跟着新不停有筹划的出现，它们赈济对其他解说系统进行天真更动。它们还赈济多种类型的诬捏机，包括 EVM 和 WASM。

在解说系统方面，ezkl customs halo2 circuits通过团聚解说（通过中介将难以考据的变成容易考据的）和递归（可以不停内存问题，但很难适当halo2）。 Ezkl 还使用交融和抽象优化了总共这个词历程（可以通过高档解说减少支出）

另外值得详实的是，相对于其他通用的zkml名目，Accessor Labs专注于提供专为全链上游戏假想的zkml器具，可能波及AI NPC、游戏玩法自动更新、波及当然语言的游戏界面等。

使用 ZK 时刻不停 ML 的信任问题意味着它目下可以应用于更多“高风险”和“高度细则性”的用例，而不单是是跟上东谈主们的说话或区别猫的图片和狗的图片。 Web3 一经在探索好多这么的用例。这并非碰劲，因为大多数 Web3 应用法式在区块链上运行或筹划在区块链上运行，因为区块链的特定性质可以安全运行、难以改换并具有细则性狡计。一个可考据的行动考究的东谈主工智能应该是一个能够在去信任和去中心化的环境中进行行动的东谈主工智能，对吧？

许多 Web3 应用法式为了安全和去中心化而殉难用户体验，因为这赫然是他们的首要任务，何况基础设施的放手也存在。 AI/ML 有可能丰富用户体验，这相信会有所匡助，但以前似乎不可能欠妥协。目下，感谢 ZK，咱们可以纯粹地看到 AI/ML 与 Web3 应用法式的结合，而不会在安全性和去中心化方面作念出太多殉难。

实质上，它将是一个以无信任方式已毕 ML/AI 的 Web3 应用法式（在撰写本文时可能存在也可能不存在）。通曩昔信任的方式，咱们的兴趣兴趣是它是否在去信任的环境/平台中运行，或者它的操作是可解说可考据的。请详实，并非总共 ML/AI 用例（即使在 Web3 中）皆需要或首选以去信任的方式运行。咱们将分析在各式 Web3 领域中使用的 ML 功能的每个部分。然后，咱们会识别出需要ZKML的部分，不时是东谈主们安静花额外的钱来解说的高价值部分。

底下提到的大多数用例/应用法式仍处于实验斟酌阶段。因此，它们离施行接管还很远。咱们稍后会商议原因。

Defi 是为数未几的得当区块链契约和 Web3 应用法式的居品商场之一。能够以无需许可的方式创造、存储和不停会富和成本在东谈主类历史上是前所未有的。咱们一经细则了许多 AI/ML 模子需要在未经许可的情况下运行以确保安全性和去中心化的用例。

风险评估：当代金融需要 AI/ML 模子进行各式风险评估，从驻防诓骗和洗钱到披发无典质贷款。确保这个 AI/ML 模子以可考据的方式运行意味着咱们可以驻防它们被主宰投入审查轨制，这发愤了使用 Defi 居品的无许可性质。

金钱不停：自动交往战略对于 Tradfi 和 Defi 来说并不崭新。一经尝试应用 AI/ML 生成的交往战略，但唯独少数去中心化战略赢得告成。目下 defi 领域的典型应用包括 Modulus Labs 查验的 rocky bot。

The Rocky Bot ：Modulus Labs 在 StarkNet 上创建了一个交往机器东谈主，使用东谈主工智能进行决策。

自动化 MM 和流动性供应：这实质上是在风险评估和金钱不停方面进行的雷同奋发的组合，只是在波及数目、时刻表和金钱类型时以不同的方式进行。对于机器学习怎么用于股票商场作念市的论文好多。其中一些适用于 Defi 居品可能只是时刻问题。

举例，Lyra Finance 正在与 Modulus Labs 妥协，通过智能功能增强他们的 AMM，以提高成本成果。

荣誉奖: Warp.cc 团队开发了一个教程名目，先容怎么部署运行挥洒稳固的神经聚集以预测比特币价钱的智能合约。这属于咱们框架的“输入”和“模子”部分，因为输入由 RedStone Oracles 概要提供，何况模子行为 Arweave 上的 Warp 智能合约实践。这是第一次迭代何况波及到 ZK，是以它属于咱们的荣誉奖，但在将来 Warp 团队琢磨已毕 ZK 部分

游戏与机器学习有好多错乱：

图中的灰色区域代表咱们对游戏部分的 ML 功能是否需要与相应的 ZKML 解说配对的初步评估。 Leela Chess Zero 是将 ZKML 应用于游戏的一个荒谬兴趣兴趣兴趣兴趣的示例：

AI Agents

Leela Chess Zero (LC0)：由 Modulus Labs 打造的完全链上东谈主工智能外洋象棋棋手，与来自社区的一群东谈主类棋手对弈。

LC0 和东谈主类集体轮替棋战（象棋应该如斯）。

LC0 的迁移是使用简化的、电路友好的 LC0 模子狡计的。

LC0 的举动生成了 Halo2 snark 解说，以确保莫得东谈主为经营骚动。唯独简化的 LC0 模子可以作念出决定。

这得当“模子”部分。该模子的实践具有 ZK 解说，以考据狡计未被改换。

数据分析和预测：这是 AI/ML 在 Web2 游戏天下中的常见用途。关联词，咱们发现很少有旨趣将 ZK 实施到这个 ML 历程中。为了反抗直参与该历程的太多价值，可能不值得付出奋发。然则，若是使用某些分析和预测来细则用户的奖励，则可能会实施 ZK 以确保闭幕正确。

荣誉奖:

AI Arena 是一款以太坊原生游戏，全天下的玩家皆可以在其中假想、教师和搏斗由东谈主工神经聚集驱动的 NFT 变装。来自天下各地的才华横溢的斟酌东谈主员竞相创建最好的机器学习 (ML) 模子以在游戏中进行搏斗。 AI Arena 专注于前馈神经聚集。不时，它们的狡计支出低于卷积神经聚集 (CNN) 或递归神经聚集 (RNN)。不外，就目下而言，模子唯独在经过教师后才会上传到平台，因此值得一提。

GiroGiro.AI 正在构建一个 AI 器具包，使寰球能够创建用于个东谈主或交易用途的东谈主工智能。用户可以基于直不雅和自动化的 AI 责任流平台创建各式 AI 系统。只需输入少许数据并采用算法（或用于改造的模子），用户就会在脑海中生成和期骗 AI 模子。尽管该名目处于荒谬早期的阶段，但由于 GiroGiro 专注于 gamefi 和以诬捏天下为重心的居品，因此咱们荒谬期待看到它能带来什么，因此它赢得了荣誉奖。

在DID&social领域，web3和ml的错乱目下主要在proof of humanity和proof of credentials领域；其他部分可能会发展，但需要更长的时刻。

东谈主性的解说

Worldcoin 使用一种称为 Orb 的征战来细则某东谈主是否是一个莫得试图骗取考据的确实存在的东谈主。它通过各式相机传感器和分析面部和虹膜特征的机器学习模子来已毕这一丝。一朝作念出决定，Orb 就会拍摄一组东谈主的虹膜像片，并使用多种机器学习模子和其他狡计机视觉时刻来创建虹膜代码，这是个东谈主虹膜图案最紧迫特征的数字暗意。具体报名要领如下：

Worldcoin 使用开源的 Semaphore 零常识解说系统将 IrisHashes 的唯独性蜿蜒到用户帐户的唯独性，而无需将它们贯串起来。这确保了新注册的用户可以告成领取他/她的 WorldCoins。要领如下：

WorldCoin 使用 ZK 时刻确保其 ML 模子的输出不会涌现用户的个东谈主数据，因为它们不会相互关联。在这种情况下，它属于咱们信任框架的“输出”部分，因为它确保输出以所需方式传输和使用，在这种情况下是奥秘的。

行动解说

Astraly 是一个建立在 StarkNet 上的基于声誉的代币分发平台，用于寻找和赈济最新最好的 StarkNet 名目。权衡声誉是一项具有挑战性的任务，因为它是一个抽象观念，无法用浅显的标的纯粹量化。在处理复杂的标的时，不时情况下，更全面和各样化的输入会产生更好的闭幕。这等于为什么 Astraly 正在寻求 modulus labs 的匡助，以使用 ML 模子来提供更准确的声誉评级。

个性化保举和内容过滤

Twitter 最近为“为你”时刻线开源了他们的算法，但用户无法考据该算法是否正确运行，因为用于对推文进行名次的 ML 模子的权重是守秘的。这导致了对偏见和审查轨制的担忧。

关联词，Daniel Kang、Edward Gan、Ion Stoica 和 Yi Sun 提供了一种不停有筹划，使用 ezkl 提供凭据解说 Twitter 算法在不涌现模子权重的情况下憨厚运行，从而匡助均衡诡秘和透明度。通过使用 ZKML 框架，Twitter 可以提交其名次模子的特定版块，并发布凭据解说它为给定用户和推文生成了特定的最终输出名次。该不停有筹划使用户能够考据狡计是否正照实践，而无需信任系统。固然要使 ZKML 愈加实用还有好多责任要作念，但这是提高外交媒体透明度的积极要领。因此，这属于咱们的 ML 信任框架的“模子”部分。

可以看出，ZKML 在 web3 中的潜在用例仍处于起步阶段，但阻难疏远；将来跟着ZKML的使用范围持续扩大，可能会出现对ZKML提供者的需求，酿成下图的闭环：

ZKML 劳动提供商主要关爱 ML 信任框架的“模子”和“参数”部分。尽管咱们目下看到的大多数与“模子”关系而不是“参数”。请详实，“输入”和“输出”部分更多地由基于区块链的不停有筹划不停，用作数据源或数据主义地。单独的 ZK 或区块链可能无法已毕完全确实，但它们颐养起来可能会作念到。

7月14日傍晚，广州市华南（国家）植物园的上空出现漫天鱼鳞云，蔚为壮观。朱和平 摄

Modulus Labs 的论文通过测试 Worldcoin（具有严格的精度和内存条目）和 AI Arena（具有成本效益和时刻条目），为咱们提供了一些对于 ZKML 应用可行性的数据和观点：

若是 Worldcon 使用 ZKML，解说者的内存消耗将逾越任何商用迁移硬件。若是 AI Arena 的锦标赛使用 ZKML，则使用 ZKCNN 会将时刻和成本增多到 100 倍（0.6 秒对原本的 0.008 秒）。是以缺憾的是，平直应用 ZKML 时刻来解说时刻息争说内存使用皆是不可行的。

解说大小和考据时刻怎么？咱们可以参考 Daniel Kang 、 Tatsunori Hashimoto 、 Ion Stoica 和 Yi Sun 的论文。如下图所示，他们的 DNN 推麇集决有筹划可以在 ImageNet（模子类型：DCNN，16 层，340 万个参数）上已毕高达 79% 的准确率，同期只需 10 秒和 5952 字节的考据时刻。此外，zkSNARKs 可以拖沓到只需 0.7 秒即可以 59% 的准确率进行考据。这些闭幕标明 zkSNARKing ImageNet 界限模子在解说大小和考据时刻方面的可行性。

目下主要的时刻瓶颈在于时刻和内存消耗的解说。在 web3 案例中应用 ZKML 在时刻上仍然不可行。 ZKML 能否收拢 AI 的发展后劲？咱们可以对比几个警戒数据：

ML模子的发展速率：2019年发布的GPT-1模子有1.5亿个参数，而2020年最新发布的GPT-3模子有1750亿个参数，参数数目在短短两年内增长了1166倍.

ZK系统的优化速率：ZK系统的性能增长基本遵照“摩尔定律”式的要领。‌险些每年皆会推出新的 ZK 系统，咱们展望解说者性能的火箭式增长将抓续一段时刻。

比较前沿的ML对ZK的进步幅度，出息不是很乐不雅。关联词，跟着rollup性能、ZK硬件以及基于高度结构化神经聚集操作的量身定制的ZK解说系统的持续改造，但愿ZKML的开发能够情愿web3的需求，并从提供一些旧式的机器学习功能入手第一的。

尽管咱们可能很难使用区块链 + ZK 来考据 ChatGPT 提供给我的信息是否值得相信，但咱们能够能够将一些更小和更旧的 ML 模子放入 ZK 电路中。

皇冠体育

“权利导致迂腐，竣工的权利导致竣工的迂腐”。凭借 AI 和 ML 令东谈主难以置信的力量，目下还莫得万无一失的方法将其置于治理之下。政府一再解说可认为后果提供后期骚动或早期透顶遏抑。区块链 + ZK 提供了能够以可解说和可考据的方式慑服野兽的少数不停有筹划之一。

咱们期待在 ZKML 领域看到更多的居品翻新，ZK 和区块链为 AI/ML 的运行提供安全确实的环境。咱们还祈望全新的交易模式会从这些居品翻新中产生，因为在无需许可的加密天下中，咱们不受这里首选的 SaaS 交易化模式的放手。咱们期待赈济更多的树立者前来，在这个“狂野西部无政府景色”和“象牙塔精英”的迷东谈主重迭中构建他们高亢东谈主心的念念法。

咱们还早，但咱们可能会在路上救助天下。

参考贵寓：2024年宝马会娱乐城