FIL:冗余策略:双副本与纠删码该如何选择?

Filecoin主网的上线后,存储的数据呈爆炸式增长,如今全网有效算力已经达到了1.40EiB,海量数据的安全存储给矿工带来了巨大的挑战。

关注Filecoin的小伙伴们近两天可能看到过这两个账户的图片,这两个账户都是之前排名靠前的节点,可是现在账户显示可用余额为负几万FIL-十几万FIL,质押币被罚没,出块奖励被罚没,损失折合人民币数千万元,出现这样的状况非常可惜。

Arkham已支持用户填写并申领唯一的用户名:7月27日消息,区块链数据分析平台Arkham已支持用户申领用户名,每名用户只能填写并申领一次,且为唯一用户名,将用于即将发布的各种功能。[2023/7/27 16:01:33]

扇区生命周期是180-540天,在这期间内我们要不断地进行时空证明,来验证数据存储的安全无误,如果提交的数据有误或者没有在时间内提交就会报错,如果14天内还没有提交上来正确的数据,就会触发非常严重的罚没机制!

所以存储方案对于Filecoin挖矿非常重要!

普通的硬盘存储是很危险的。硬盘在存储实际使用过程中年故障率一般在2%上下,这意味着100块硬盘中,平均每年会故障2块,硬盘故障率是非常高的,我们可以看下图的浴缸曲线,硬盘在刚上线时故障风险更大,更远高于平均故障率。

这说明我们存储打包的数据是很容易因硬盘损坏而丢失,仅仅靠硬盘存储很难保证可以在扇区生命周期内存储数据的安全。

浙江省元宇宙产业协会正式成立,将举办杭州元宇宙大会:金色财经报道,浙江省元宇宙产业协会今日正式成立,这是由浙江省经济和信息化厅主管、在浙江省民政厅登记注册的省级产业协会。此次大会举办了浙江省元宇宙产业大会第一届第一次会员大会,并选举了浙江省元宇宙产业协会理事与监事长。此外,此次成立大会还表示将举办杭州元宇宙大会,届时将邀请国家、省级、高校专家与国内外企业等共同参会。[2023/7/16 10:57:31]

图:浴缸曲线

所以冗余保护策略就变得非常必要。

多副本和纠删码是目前分布式存储系统中常用的两种数据冗余保护策略,也就是保护我们数据安全的两项技术。

注:分布式存储系统中的CAP原则,Consistency、Availability、PartiTIontolerance,对于可用性来说常见的两种技术是多副本和纠删码。

多副本与纠删码分别是什么

多副本就是把数据复制成多份并分别存储到不同地方以实现冗余备份。以双副本为例,双副本顾名思义就是数据存储为两个副本,当某个副本丢失时,可以通过另一个副本复制恢复数据。

派盾:BitKeep攻击者将118万DAI转移至交易平台:12月27日消息,据派盾监测,BitKeep攻击者将118万DAI转移至交易平台。其中100万枚DAI转移至OKX,18万枚DAI转移至Kucoin。[2022/12/27 22:10:58]

纠删码主要是通过纠删码算法将原始的数据进行编码得到冗余,它将数据分割成片段,把冗余数据块扩展、编码,并将其存储在不同的位置,并将数据和冗余一并存储起来,以达到容错的目的。

纠删码最早是在通信行业解决部分数据在传输中损耗的问题,它的基本原理是把传输的信号分段,加入一定的校验再让各段间发生一定的联系,即使在传输过程中丢失掉部分信号,接收端仍然能通过算法把完整的信息计算出来。纠删码技术本身更多是用于传输,而并不是存储。

多副本与纠删码技术如何选择

多副本与纠删码技术在不同的应用场景下有各自的优势。

1.存储利用率

多副本是复制多份分别存储到不同地方以实现冗余备份,比如双副本磁盘利用率只有50%,冗余度很高,这带来了巨大的额外存储空间消耗,无形中提高了很大的成本,但它更安全、读写更快。

孙宇晨受邀出席TOKEN 2049并发言 关注未来十年行业走向:9月28日消息,波场TRON创始人,格林纳达常驻世界贸易组织(WTO)代表、特命全权大使孙宇晨受邀出席TOKEN 2049活动并发言。TOKEN 2049是加密行业重要的活动之一,每年在新加坡和伦敦举办,出席的嘉宾来自全世界头部的Web3公司的创始人、投资者、开发者和媒体。今年的“TOKEN 2049 新加坡“于9月28日至29日举办,议题包括NFTs、Metaverse、DeFi、Global Macro、Web3、DAO等。孙宇晨出席的是“加密货币的未来:驾驭未来的十年”主题版块。[2022/9/28 22:35:42]

纠删码技术不需要完整写入真实数据的副本,它主要是通过纠删码算法将原始的数据进行编码得到冗余,并将数据和冗余一并存储起来,以达到容错的目的。其基本思想是将n块原始的数据元素通过一定的计算,得到m块冗余元素。对于这n+m块的元素,当其中任意的少于m块元素出错时,均可以通过对应的重构算法恢复出原来的n块数据。生成校验的过程被称为编码,恢复丢失数据块的过程被称为解码。磁盘利用率为n/(n+m)。与双副本方法相比具有磁盘利用率高等优点。

孙宇晨:Poloniex列出的ETHW并不表示支持任何ETH分叉:金色财经消息,波场创始人孙宇晨发推表示,Poloniex列出的ETHW是潜在的硬分叉IOU 令牌,并不表示支持任何特定的ETH分叉解决方案。Poloniex在分叉发生后,将具有最大哈希能力和最广泛社区支持的新Pow链标识为ETHW(ETH1)。[2022/8/16 12:27:58]

附:容量空间对比

2.容错性

双副本很好理解就是存一份,备份一份,容错性比较好。双副本在部分数据丢失后可以从另一个副本复制出来损失的数据,恢复正常使用。

纠删码技术本质就是计算,如果出现数据丢失,纠删码技术做的是把丢失的数据计算出来,而计算是需要一些已知的量再进行运算的,当数据丢失多的话,是无法计算的。容错性比起副本有一定差距,

放到实际情况来讲,当纠删码设置4/1情况下,节点或者数据块故障,数据恢复需要读取3个数据块和1个校验,也就是说这5项损坏了任意2项的数据块,数据就无法计算找回,就造成信息丢失、无法找回的严重后果。

3.可靠性对比

双副本有两份数据,可以允许任意一个数据块损坏。

纠删码配置一个数据块配备一个校验位时才能提供和双副本近似的可靠性。

4.数据恢复对性能影响及恢复效率

双副本下,一个节点或者数据块故障,数据恢复直接从另一个副本读取、写入,一次进行恢复副本,影响一个节点的读取性能。恢复效率较高。

纠删码设置4/1情况下,一个节点或者数据块故障,数据恢复需要读取三个数据块和一个校验,通过运算后写入一次进行数据恢复,影响四个节点的读取性能。恢复效率较低。

5.写惩罚

双副本下,某个节点的一次数据写入,实际需要两个节点参与,写惩罚为2。

纠删码设置4/1情况下,一次数据写入,实际需要至少两个节点参与,其中读取两次,写入两次,写惩罚为4。

6.CPU开销

双副本是基于数据完整复制,几乎没有计算的开销,对CPU开销较低。

纠删码由于读写都需要计算校验值,有较高的计算开销,需要额外的CPU资源开销。

7.这两项技术如何选择

副本技术可以更好的保证数据的安全性,提升读写效率。一般适用于关键业务,对性能要求比较高,网络对数据出错容忍度极低的业务,如数据库等。

纠删码则可以提高存储系统利用率,降低成本。一般适用于其他非关键性业务,如视频监控等,部分数据块的损坏不会影响信息的传递。

结语

Filecoin挖矿中最为核心的就是存储,在存储上省钱,如果有一天出了问题,赔了夫人又折兵。在当前副本策略在安全性上无疑是更优的,尽管成本很高,但对我们挖矿中的数据的安全是一个重要保障,备份冗余并不是浪费,而是非常必要的。

当前Filecoin挖矿热度依然很高,市场鱼龙混杂,充斥着各种各样的Filecoin挖矿产品。比如市场上相同价格可能有80%利用率的产品,也有双副本50%利用率的产品,要如何选择呢?投资Filecoin挖矿产品绝对不能只看售卖价格,作为投资人一定要有一个投资标准,很多技术问题可能很难去理解和分析,但我们可以化繁为简比较每万元收益,毕竟拿到手里的收益才是最实在的。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

地球链

[0:15ms0-1:231ms