ING:深度解读 EIP-4844:Sharding 的一小步,以太坊扩容的一大步

撰文:YihanXu,ForesightResearch

在这篇报告中你可以了解到:

EIP-4844;

Proto-danksharding;

Danksharding;

KZGCommitment;

KZGCeremony;

Dynamicstatesharding;

最近社区参与度超标的KZGCeremony都刷到了吧,这个仪式到底在干什么?

简单概括,KZGCeremony是实现EIP-4844不可绕过的一个初始化环节,而EIP-4844是实现以太坊sharding过程中的先行版本。

一、Sharding:以太坊扩容的长久之计

Sharding从数据可用性角度扩容,而rollup主要从执行层面扩容,一起缓解主网拥堵问题;我认为sharding可能是突破区块链不可能三角的一次尝试。

下面这张以太坊区块大小的走势图可以从另一个角度说明数据层面扩容的必要性。从创世区块开始,以太坊从底层架构到上层应用都在不断地快速迭代,但平均区块大小仍为90Kb左右,最高点也没有质的突破。虽然Rollup从计算层切入,解决以太坊拥堵问题,但性能仍然受制于layer1的数据存储能力。

由于实现过程的复杂度和安全性考虑,以太坊开发团队将sharding分成了多个阶段,其中就包括最近提到的proto-danksharding和danksharding。整个过程将会是一个历时数年的更新;

在目前的以太坊的数据存储模式下,只有少数特定高配置的机器可以加入网络成为节点,而fullsharding之后ethereum不再需要每个节点都保存全部数据,在降低主网数据存储成本的同时加强了安全性。

二、EIP-4844:短期高回报,Sharding的精简先行版

EIP-4844=Proto-Danksharding;

Proto来自以太坊研究者的名称

由于实现danksharding的复杂度很高,开发周期至少是以年为单位的。因此proto-danksharding是实现danksharding前对以太坊的扩容方案,主要实现了danksharding中的交易格式、precompile等设计;

1.Proto-danksharding概述

Proto-Danksharding主要引入了一种新的transactiontype,也就是blob-carryingtransaction。至此,Rollup的数据通过blob的形式以更低的成本向layer1传输,并作非永久存储。同时,blob远大于现在的calldata,可以更好地支持rollup上的高TPS。

飞鱼矿业COO薛一飞:飞鱼矿业IPFS超级算力与业内矿机品牌供应商达成深度合作:据悉,2020年8月1日,由LBank、金色财经联合承办的“LBank和他的朋友们-2020百城计划”在郑州举行,会上飞鱼矿业的COO 薛一飞就IPFS发表了主题演讲,介绍了什么是IPFS,IPFS的分布式存储,IPFS的应用以及奖励计划。同时,他表示:飞鱼矿业IPFS超级算力多年深耕技术服务,与业内知名矿机品牌供应商、世界一流的矿场等深度合作,力争达到Filecoin算力的最优解。[2020/8/1]

关于blob:

每个transaction最多挂2个blob;

每个block理想状态包含8个blob,约为1MB,最多包含16个blob,约为2MB;

Blob不需要像calldata一样作为historylog被永久存储;

相比danksharding,节点还是需要对完整的DA进行验证。

2.Blob-carryingtransaction解读

给transaction挂上blob

作用

参考Vitalik在提案中给出的图,Datablob和当前的calldata相似,rollup可以将交易、证明等数据通过blob上传到layer1来保证dataavailability。

成本

Datablob的设计初衷是支持rollup高通量的交易,相比同等大小的calldata,blob的成本将会降低很多。因此,rollup在维持数据可用性上花费的gas相比之前会显著降低。

容量

每个blob的大小约为125kB。

3.Blob-carryingtransaction的价值和挑战

价值

可以把blob看成一种缓存,rollup提交的交易数据从此以缓存的形式存在。降低对存储硬件的要求,为以太坊提供额外的数据扩容并降低gas成本。

挑战:对以太坊节点硬件性能的要求

Ethereum当前平均区块大小只有~90kB,但是一个blob就有~125kB

根据EIP-4844的设计,每个slot正常情况下约为1MB,因此每年增加的数据量为:

1MB/block*5block/min*43200min/month*12month/year=?2.47TBperyear

每年增加的数据大小远超过了以太坊数据总量,这样的存储方案显然是不高效的。

动态 | 中软国际教育科技集团、CoinDesk中文及Omni规范委员达成深度合作:近日,中软国际教育科技集团、CoinDesk中文以及Omni规范委员会三方,就Omni中国区块链人才认证培训计划达成深度战略合作。Omni区块链人才认证将由中软国际教育科技集团与Omni联合发行,涵盖了全面的理论和应用,包括区块链基础理论,分布式数据库基础理论,通用区块链系统实操,深度技术能力实操等等。中软国际教育科技集团将提供满足考试大纲的完整教程和培训。通过Omni认证,三方致力于把最新的技术引入中国社区,本次合作的三方将利用各自品牌、渠道、技术优势,在课程设计、教材制定、考试编制等培训认证所需的各环节通力合作。[2020/1/14]

解决方案

从短期扩容效果看,由于每个节点仍然需要储存全量历史数据,在实现EIP-4844的同时,对一段时间窗以外的blob进行自动删除;

从sharding的长期利益看,实现EIP-4444,即节点不需要存储全量历史数据,而是只需要参照historyexpiry,存储特定时间之后的数据;

这两种解决方案从不同程度上缓解了blob-carryingtransaction在存储空间上的tradeoff。

4.KZGCommitment

KZGCommitment是EIP-4844中采用的多项式承诺方案

解析KZGcommitment

KZG是作者AniketKate,GregoryM.Zaverucha和IanGoldberg姓氏的缩写,他们在2010年发表了多项式承诺方案论文“Constant-SizeCommitmentstoPolynomialsandTheirApplications”,并且这个方案在plonk-style的zk-snark协议中有很广泛的应用。

参考DankradFeist演讲中的示意图,KZGroot类似Merkleroot,区别在于KZGroot承诺一个多项式,即所有position都在这个多项式上。基于proto-danksharding的场景,KZGroot承诺了一堆数据,其中的任何一个数据都可以被验证属于这个整体。

这也是为什么KZGcommitment在兼容性上对后面实现DAS更友好。

KZGcommitment的流程如下:

Prover:提供证明,计算data的commitment,prover无法改变给定的多项式,并且用于证明的commitment只对当前这一个多项式有效;

Verifier:接收prover发送的commitmentvalue并进行验证,确保prover提供了有效的证明。

声音 | 人民日报:企业应加强基础研究,推动区块链和实体经济深度融合:11月27日,人民日报刊文《靠区块链发横财?你想多了》。文章表示,即使是最具代表性的虚拟货币“比特币”,也不是哪国的法定流通货币,本质仍是一种投资风险极高的虚拟商品。任何创新都应以合法合规为前提。目前,区块链技术应用已延伸到数字金融、物联网、智能制造等领域。对企业而言,应加强基础研究,推动区块链和实体经济深度融合,利用区块链技术解决融资难、风控难等问题,让区块链成为服务实体、促进经济发展的新利器;对投资者而言,应尽快放弃“天上掉馅饼”的幻想,增强风险防范意识,谨防上当受,不给非法金融活动提供生存土壤。[2019/11/27]

KZGCommitment的优势

我认为主要出于对成本和安全性的思考,可以归纳但不局限于以下几点:

成本

KZGcommitment具备快速验证、复杂度相对更低、简洁的特点;

不需要提交额外的proof,因此成本更低、更省bandwidth;

数据触达所需的Pointevaluationprecompile可以获得更低的成本。

安全

假设出现了failure,也只会影响commitment对应的blob中的数据,而不会其他深远的影响。

更兼容

纵观sharding的整体方案,KZGcommitment对DAS方案兼容,避免了重复开发的成本。

5.KZGCeremony(trustedsetup)

KZGCeremony是为KZGCommitment提供trustsetup,目前吸引了超过20,000participants的参与和贡献,已经成为历史上最大规模的trustsetup。

最近社区参与热情高涨的KZGCeremony就是为EIP-4844采用的KZGcommitment提供trustsetup;

KZGCeremony的流程

参考Vitalik的流程图,任何人都可以作为participants贡献secret并与之前的结果进行混合产生一个新的result,以此类推,通过套娃的形式获得最终的SRS,并协助完成KZGcommitment的trustsetup

trustsetup

EIP-4844中采用了一种常见的multi-participanttrustsetup,即powers-of-tau;

遵循1-of-N可信模型,不管多少人参与generatingsetup的过程,只要有一个人不泄漏自己的生成方式,可信初始化就是有效的;

声音 | 杭州市委书记:加快推动区块链等核心技术在金融领域的深度应用:今天上午,第三届钱塘江论坛主论坛在杭州国际博览中心举行。杭州市委书记周江勇表示,面向未来,我们将以打造国际金融科技中心为引领,加速推动钱塘江金融港湾成为创新、活力、联动、包容的“金色港湾”。要坚持科技赋能、数字驱动,加快推动区块链等核心技术在金融领域的深度应用,通过技术渗透、扩散和转移不断催生新业态、新模式、新场景。(科创板日报)[2019/11/2]

必要性

KZGcommitment的trustsetup可以简单理解为:生成一个在每次执行cryptographicprotocol时需要依赖的一个参数,类似于zk-snark需要可信初始化;

Prover在提供证明时,KZGcommitmentC=f(s)g1。其中f是评估函数,s就是KZGtrustedsetup最终获得的finalsecret;

可以看出finalsecret是生成多项式承诺的核心参数,而作为获取这个核心参数的可信流程,这次KZGCeremony对于整个sharding的实现非常重要。

6.EIP-4844带来的变化

Rollup

参考ethresear上给出的示意图,rollup需要将statedelta、KZGcommitment的versionedhash包含在calldata中进行提交

可以发现不同的是,calldata只包含一些数据量小的,比如statedelta、KZGcommitment,而将包含大量交易数据的transactionbatch放到了blob里。

有效降低成本,放calldata里很贵;

降低对区块空间的占用

安全性

Dataavailability:Blob存储在信标链上,等同于layer1的安全性;

历史数据:节点不会只会将blob存储一段时间,需要layer2rollup做永久数据存储,因此安全性依赖于rollup。

成本

Proto-Danksharding引入了新的交易类型,低成本数据格式blob的加入无疑会让rollup的成本进一步降低,取决于实际链上应用和实现进展,优化后rollup的成本可能降低x10甚至x50;

同时EIP-4844引入了blobfee;

Gas和blob将会分别有可调节的gasprice和limit;

Blob的收费单元还是gas,gasamount随traffic变动,以此维持每个block平均挂8个blob的目标

动态 | 人民创投区块链研究院报告:区块链技术日渐成熟 将与实体经济深度融合:人民创投区块链研究院《中国区块链政策现状及趋势分析报告》今日发布。报告指出,通过技术手段来改变监管方式,提高监管效率,降低监管成本,提升自身的服务能力,基于区块链的规制系统将有助于提高监管的有效性,用区块链技术来监管区块链市场是未来监管的新方向。区块链行业监管将在市场、信息管理、服务提供、加密货币管理等层面进一步完善,并呈现出规范化、全面化发展趋势。该报告最后总结表示,未来,随着区块链技术的成熟,该技术将与实体经济深度融合,将进一步改变市场结构,重塑商业业态,带有共识机制和智能合约技术的新生态系统与现有产业融合,升级现有的商业模式、业务模式、及监管模式。[2019/9/5]

Precompile的实现

Blob中的数据本身无法被直接触达,EVM只能获取datablob的commitment。因此需要rollup提供precompile来验证commitment的有效性.

下面分析两种EIP-4844中提到的precompile算法

Pointevaluationprecompile

证明多个commitments指向同一数据;

主要针对zk-rollup,rollup需要提供2种commitments:1.KZGcommitment;2.zk-rollup本身的commitment;

对于optimisticrollup,大多数已经采用了multi-roundfraudproof的机制,finalroundfraudproof所需的数据量较小。因此,采用pointevaluationprecompile能达到更低的成本

Blobverificationprecompile

证明versionedhash和blob是有效对应的;

optimisticrollup在提交欺诈证明时需要access全量数据,因此先验证versionedhash和blob合法,再进行fraudproofverification

三、Danksharding:迈向fullsharding的重要一步

Danksharding的命名来自以太坊研究员DankradFeist

1.扩容:进一步扩充Rollup的缓存空间

在proto-danksharding实现后,由于新的交易格式引入了blob,每个区块可以平均额外获得1MB的缓存空间。Danksharking实现后,每个区块额外16MB,最大允许32MB。

2.Data?availability:存储和验证策略更高效

相比proto-danksharding要求全节点下载全量数据,Danksharking实现后以太坊节点只需要对blob抽样。Sampling后的数据会分布在全网节点中,并可以组成完成的datablob。

DAS:高效抽样检查

通过纠缠码帮助全网节点在下载部分数据的情况下更容易发现原始数据的丢失的概率,从而提升安全性

3.安全性:基本不变

由于每个节点不再保存全量历史数据,从数据可用性、备份和抽样检查的角度出发,安全性由至少一个节点保存全量数据变为多个节点存储部分数据,并最终还原完整数据。

虽然乍一看对单点的依赖安全性远高于对多点的依赖,但是以太坊网络中的节点数量够多,完全可以保证数据备份的需求,因此安全性并不会有很大变化。

4.新的挑战:对blockbuilder的要求提升

虽然验证者不需要下载并保留全量历史数据,对bandwidth和存储硬件的要求得到了缓解,但是区块创建者仍然需要上传包含全量transactiondata的blob数据。

这里简单介绍一下PBS(proposer/builderseparation),参考Dankrad给出PBS在danksharding方案中的应用图:

将负责出块负责人的角色拆分为proposer和builder。最初是为了做anti-MEV设计的提案,在danksharding的设计中为了降低区块创建时对bandwidth的要求。

四、其他sharding方案:Shardeum的动态分片

Shardeum是EVM兼容的layer1公链,与以太坊的staticsharding方案不同,shardeum通过dynamicstatesharding的方案提升底层可扩展性和安全性,同时,天然地保证较高的去中心化程度;

1.Dynamicstatesharding

优势

Dynamicstatesharding带来最直观的优势在于linearscaling,接入网络的节点可以非常高效的被sharding算法动态分组,并快速响应,提升区块链网络的TPS。在dynamicstatesharding的设计中,每个节点会覆盖不同range的address,并且覆盖范围又会有冗余设计以保证高效的sharding和安全性。

场景内实现

抛开生态的复杂度,单从两种技术实现的角度看,dynamicstatesharding的难度大于staticsharding。可以看出Shardeum的技术团队在sharding的技术层面有很深的积累,团队之前在Shardustechnology上的研发也对这条公链的底层技术做出了很大贡献,甚至在项目早期阶段很好的展示了dynamicstatesharding所带来的linearscaling。

2.Shardeum综合归纳

产品

将节点划分到不同的group,参考divideandconquer的思路,把计算和存储的workload进行分流,从而允许更高程度的并行处理。因此,可以容纳更多节点加入,进一步提升公链的throughput和去中心化程度。

团队

市场经验丰富,叙事能力超强,对动态分片研究很深。

技术

针对自己的场景设计了合适的sharding方案(dynamicstatesharding)和共识的设计(ProofofStake+ProofofQuorum),以提升可扩展性为第一目标,保证更高程度的去中心化和安全性。

进度

将在2023-02-02launchbetanet,值得关注。

五、对sharding的思考和展望

Sharding是以太坊扩容的长久之计,也是一个价值巨大、意义深远的长期方案。实现sharding的过程中,现有所有方案都可能被不断迭代,包括现在提到的proto-danksharding、danksharding等,值得持续关注;

对sharding大方向的理解很重要,但是每一个实现fullsharding过程中的提案所采纳的技术方案同样值得关注,并且我相信也会涌现很多相关的优秀团队和项目;

Sharding是对一种扩容技术的统称,但具体落地的方案并不是只有一种。需要认识到不同的公链会有适合自己场景的sharding方案。比如danksharding中的一些设计也只适合以太坊网络,安全性的tradeoff需要大量的节点来抵消;

Sharding和其他扩容方案的合理结合对于可扩展性的提升1+1>2。目前的Danksharding并不是自成一派的扩容方案,而是和以太坊生态的其他实现相辅相成的。比如Danksharding和rollup一起,为以太坊扩容达成更好的效果。

Reference

https://notes.ethereum.org/@dankrad/kzg_commitments_in_proofs

https://notes.ethereum.org/@dankrad/new_sharding

https://vitalik.ca/general/2022/03/14/trustedsetup.html

https://notes.ethereum.org/@vbuterin/proto_danksharding_faq#Why-use-the-hash-of-the-KZG-instead-of-the-KZG-directly

https://ethresear.ch/t/easy-proof-of-equivalence-between-multiple-polynomial-commitment-schemes-to-the-same-data/8188

https://dankradfeist.de/ethereum/2020/06/16/kate-polynomial-commitments.html

https://notes.ethereum.org/@dankrad/new_sharding

https://eips.ethereum.org/EIPS/eip-4844

https://www.eip4844.com/

https://biquanlibai.notion.site/Data-Availability-caa896aae59d489b98f2448f17b01640

https://docs.google.com/presentation/d/1-pe9TMF1ld185GL-5HSWMAsaZLbEqgfU1sYsHGdD0Vw/edit#slide=id.g1150d91b32e_0_474

https://ethresear.ch/t/a-design-of-decentralized-zk-rollups-based-on-eip-4844/12434

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

地球链

[0:0ms0-0:720ms