OPM:OPML:采用Optimistic Rollup系统的机器学习

来源:github;编译:MarsBit

我们提出OPML(Optimistic机器学习),它可以使用Optimistic方法对区块链系统进行AI模型推理和训练/微调。

与ZKML相比,OPML可以提供低成本、高效率的ML服务。OPML的参与要求很低:我们现在能够在没有GPU的普通PC上运行带有大型语言模型的OPML,例如7B-LLaMA(模型大小约为26GB)。

OPML采用验证游戏(类似于Truebit和Optimistic Rollup系统)来保证ML服务的去中心化和可验证共识。

请求者首先启动一个ML服务任务。

然后,服务器完成ML服务任务并将结果提交到链上。

验证者将验证结果。假设存在一个验证者声明结果是错误的。它通过与服务器的验证游戏(二分协议)启动验证游戏,并试图通过精确指出一个具体的错误步骤来反驳该声明。

最后,在智能合约上进行单个步骤的仲裁。

单阶段精确定位协议的工作原理与计算委托 (RDoC) 类似,其中假设两个或多个参与方(至少有一个诚实的参与方)执行相同的程序。然后,双方可以用精确的方式相互质疑,以找出有争议的步骤。将步骤发送给计算能力较弱的法官(区块链上的智能合约)进行仲裁。

名人NFT卡片交易平台Zoop完成1500万美元种子轮融资:10月27日消息,名人 NFT 卡片交易平台 Zoop 宣布完成 1500 万美元种子轮融资,此外跨游戏头像平台 Ready Player Me 也与 Zoop 达成合作以提供 Zoop 头像与兼容游戏和应用程序之间互操作性、以及交易处理等方面的支持。Zoop 允许粉丝购买、出售和交易名人 NFT 卡片,还可以参加比赛和挑战以获得积分,解锁特殊奖励,包括进入具有相似兴趣的社区。据悉,Zoop 已基于分布式账本平台 Hedera 构建,让用户以告诉、可追溯且透明的方式购买、交易、交换和销售名人数字藏品。[2022/10/27 11:49:59]

在单阶段OPML中:

我们构建了一个虚拟机(VM)用于链下执行和链上仲裁。我们保证了在智能合约上实现的链下VM和链上VM的等效性。

为了确保虚拟机中AI模型推理的效率,我们实现了一个专门为此目的设计的轻量级DNN库,而不是依赖于流行的ML框架,如Tensorflow或PyTorch。此外,还提供了一个脚本,可以将Tensorflow和PyTorch模型转换为这个轻量级库。

Binance将Optimism(OP)上线时间将推迟至14:00:6月1日消息,据官网公告,Binance将Optimism(OP)上线时间推迟至今日14:00。此前消息,Binance原定于今日12:00上线Optimism(OP),并开放OP/BTC、OP/BUSD、OP/USDT 交易对。[2022/6/1 3:55:31]

采用交叉编译技术将人工智能模型推理代码编译成虚拟机程序指令。

虚拟机镜像是用默克尔树管理的,只有默克尔根会被上传到链上智能合约。(默克尔根代表虚拟机状态)

二分协议将帮助定位争议步骤,该步骤将发送到区块链上的仲裁合约

性能:我们在PC上测试了一个基本的AI模型(用于MNIST分类的DNN模型)。我们能够在VM中2秒内完成DNN推理,在本地以太坊测试环境中,整个挑战过程可以在2分钟内完成。

OpenSea CEO:目前有32位用户NFT被盗,部分NFT已退还:2月20日消息,OpenSea的联合创始人兼首席执行官Devin Finzer针对“OpenSea漏洞事件”回应称,这是一种网络钓鱼攻击,它与OpenSea网站无关。到目前为止,似乎有32位用户签署了来自攻击者的恶意有效载荷,并且他们的一些NFT被盗。目前该攻击似乎并未处于活动状态,在2小时内没有看到来自攻击者帐户的任何恶意活动。部分NFT已退还。

他还表示,“不知道近期有任何网络钓鱼电子邮件发送给用户,目前也不知道是哪个网站诱使用户恶意签署邮件。当你签署信息时,一定要仔细检查你是否在浏览器中与https://opensea.io进行交互。如果你是受影响的用户,请DM/img/202386163423/2.jpg">

阿曼区块链服务与解决方案BSS部署红帽OpenShift:12月27日,开源解决方案提供商红帽宣布,阿曼区块链服务与解决方案 (BSS) 正在部署红帽OpenShift,以实现更具可扩展性和一致性的应用程序开发。BSS旨在提供区块链解决方案、服务和咨询,让使用通用数字分类账平台能够在分布式网络中记录交易和跟踪资产,为客户降低运营成本,提高效率。 (tradearabia)[2021/12/27 8:07:31]

在本演示中,我们提出了 LLaMA 模型中使用的两阶段 OPML 方法:

机器学习(ML),特别是深度神经网络(DNN)的计算过程可以表示为计算图,表示为G。该图由各种计算节点组成,能够存储中间计算结果。

DNN模型推理本质上是在上述计算图上的计算过程。整个图可以看作是推理状态(Phase-2中的计算上下文)。在计算每个节点时,结果存储在该节点中,从而将计算图推进到下一个状态。

因此,我们可以先在计算图上进行验证博弈(在phase-2)。在第二阶段验证游戏中,图形节点的计算可以在本地环境中使用多线程CPU或GPU进行。二分协议将帮助定位争议节点,该节点的计算将发送到下一阶段(phase-1) 二分协议。

在第一阶段二分中,我们将单个节点的计算转换为虚拟机(VM)指令,类似于在单阶段协议中所做的操作。

值得注意的是,当计算图中单个节点的计算仍然计算复杂时,我们预计会引入多阶段OPML方法(包括两个以上阶段)。这一延长将进一步提高验证过程的整体效率和有效性。

在这里,我们对我们提出的多阶段验证框架进行了简要的讨论和分析。

假设有n DNN计算图中的节点,每个节点需要取m VM微指令,在VM中完成计算。假设使用GPU或并行计算对每个节点的计算加速比为α 。该比率表示通过GPU或并行计算实现的加速,并且可以达到显着值,通常比VM执行速度快几十倍甚至数百倍。

基于这些考虑,我们得出以下结论:

1.两阶段OPML优于单阶段OPML,实现了计算加速α次。多阶段验证的使用使我们能够利用GPU或并行处理提供的加速计算能力,从而显着提高整体性能。

2.当比较Merkle树的大小时,我们发现在两阶段OPML中,大小为O(m+n),而在单阶段OPML中,尺寸明显大于 O(mn)。Merkle树大小的减小进一步突出了多阶段设计的效率和可扩展性。

总之,多阶段验证框架提供了显着的性能改进,确保更高效和更快的计算,特别是在利用GPU或并行处理的加速能力时。此外,减小的Merkle树大小增加了系统的有效性和可扩展性,使多阶段OPML成为各种应用的选择。

在OPML中,确保ML结果的一致性是至关重要的。

在DNN计算的本机执行过程中,特别是在不同的硬件平台上,由于浮点数的特性,可能会产生执行结果的差异。例如,涉及浮点数的并行计算,例如(a+b)+c与a+(b+c), 由于舍入误差,通常会产生不相同的结果。此外,编程语言、编译器版本和操作系统等因素都可能影响浮点数的计算结果,从而导致ML结果进一步不一致。

为了应对这些挑战并保证OPML的一致性,我们采用了两种关键方法:

1.采用定点算法,又称量化技术。这种技术使我们能够使用固定精度而不是浮点数来表示和执行计算。通过这样做,我们减轻了浮点舍入误差的影响,从而获得更可靠和一致的结果。

2.我们利用基于软件的浮点库,这些库旨在跨不同平台保持一致的功能。这些库确保了ML结果的跨平台一致性和确定性,而无论底层硬件或软件配置如何。

通过结合定点算法和基于软件的浮点库,我们为在OPML框架内实现一致和可靠的ML结果奠定了坚实的基础。这种技术的协调使我们能够克服浮点变量和平台差异带来的固有挑战,最终增强OPML计算的完整性和可靠性。

*:在当前的OPML框架中,我们的主要重点在于ML模型的推理,从而实现高效且安全的模型计算。然而,必须强调的是,我们的框架也支持训练过程,使其成为各种机器学习任务的通用解决方案。

请注意,OPML仍在开发中。如果您有兴趣成为这一激动人心的计划的一部分,并为OPML项目做出贡献,请随时与我们联系。

MarsBit

媒体专栏

阅读更多

Foresight News

金色财经 Jason.

白话区块链

金色早8点

LD Capital

-R3PO

深潮TechFlow

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

地球链

FILLOCK:加密极客研讨与Web3过冬指南分享

作者:YBB Capital Researcher Ac-Core此次研讨会我们非常荣幸邀约到众多重量级嘉宾——致力于解决当下行业刚需问题的资深技术专家和创始人,与我们进行了一次面对面的交流.

[0:0ms0-1:323ms