假设您是web3新手,开始建立web3分析团队,或者刚刚对web3数据感兴趣。无论哪种方式,您都应该已经大致熟悉了API、数据库、转换和模型在web2中的工作方式。
对于这本就职指南,我将尽量保持简洁,并突出我对以下三个重要的想法:
1.思考:为什么开放数据管道会重塑数据工作的完成方式
2.工具:web3数据堆栈中工具的概述,以及如何利用它们
3.团队:在web3数据团队中应具备的基本注意事项和技能
关于数据思维
让我们首先总结一下在web2中如何构建、查询和访问数据。
对于简化的数据管道,我们有四个步骤:
事件API触发
摄取到数据库
特定产品/分析用例的数据转换
模型训练和部署
数据有时是开源的唯一步骤是在转换完成之后。Kaggle和HuggingFace等社区使用暴露数据的一部分来帮助企业构建更好的模型。有一些特定领域的案例,例如在前三个步骤中打开数据的开放街道地图,但这些仍然有写权限的限制。
AlchemyPay宣布集成由SPACEID提供支持的Web3域名服务:7月24日消息,加密货币支付服务提供商AlchemyPay宣布集成了由SPACEID提供支持的Web3域名服务,使用户能够在AlchemyPay的入口服务上使用本地法定货币购买加密货币时利用个性化域名。购买的数字货币将被转移到与SPACEID域链接的以.bnb和.arb结尾的钱包地址。此外,AlchemyPay已成为SPACEID资助计划的合格合作伙伴。[2023/7/24 15:55:45]
并不是说web2根本没有任何开源。与大多数其他工程角色一样,web2数据拥有大量用于构建其管道的开源工具。我们仍然在web3中使用所有这些工具。总之,他们的工具是开放的,但他们的数据是封闭的。
Web3也将数据开源——这意味着它不再只是数据科学家在开源中工作,分析工程师和数据工程师也是如此!每个人都参与到一个更连续的工作流程中,而不是一个黑盒数据循环。
孙宇晨:中国对拥抱Web3.0技术的承诺反映了其认识到区块链解决方案变革潜力方面迈出的重要一步:5月27日,北京市科学技术委员会、中关村科技园区管理委员会在中关村论坛期间发布了《北京市互联网3.0创新发展白皮书(2023)》。该文件认为,互联网3.0是现代科学技术的集大成者,是未来互联网产业发展的必然趋势。
币安创始人CZ在推特上转发相关信息并评论,北京市科技委员会发布了一份有关Web 3.0的白皮书,与此同时,中国香港也在期待6月1日的到来。他认为这两件大事接连发生,时间点上很有趣。
波场TRON创始人、火必Huobi全球顾问委员会成员孙宇晨转发了CZ的推特同时表示,“特别是考虑到即将到来的6月1日的中国香港加密新政生效,中国对拥抱Web 3.0技术的承诺反映了其在认识到去中心化系统和基于区块链的解决方案变革潜力方面迈出的重要一步。”[2023/5/28 9:47:03]
工作的形式已经从web2数据大坝转变为web3数据的河流、三角洲和海洋。同样重要的是要注意,这个新周期会同时影响生态系统中的所有产品/协议。
让我们看一个web3分析师如何协同工作的示例。有几十个DEX使用不同的交换机制和费用,允许你将通证A换成通证B。如果这些是典型的交易所,比如纳斯达克,每个交易所都会以10k或一些API报告自己的数据,并且然后像capIQ之类的其他服务会将所有交换数据放在一起,并收取费用让您访问他们的API。也许偶尔,他们会举办一场创新比赛,这样他们就可以在未来拥有额外的数据/图表功能来收费。
阿里云Web3解决方案部负责人:阿里云可为Web3企业提供可定制的云服务解决方案:4月12日消息,在2023香港Web3嘉年华分会场二的的“阿里云如何支持你的Web3之旅?”活动上,阿里云香港架构总监兼Web3解决方案部负责人潘家和表示,阿里云可为Web3企业提供可定制的云服务解决方案,目前已有虚拟资产企业使用了阿里云的公有云、私有云等服务,并且阿里云有扎实的Web2建设经验,有信心支撑Web3领域不同平台,不仅能帮助Web3行业完善基础设施,还将为Web3企业提供咨询服务,帮助Web3企业构建安全的云架构,指导开发智能合约。同时,阿里云有完善的存储和监管网络可为Web3企业提供更安全的服务。[2023/4/12 13:59:07]
使用web3交换,我们有这个数据流:
dex.trades是Dune上的一张表,其中汇总了所有DEX交换数据-因此您可以非常轻松地搜索所有交易所中单个代币的交换量之类的东西。
一位数据分析师出现并使用一堆社区开源查询创建了一个仪表板,现在我们对整个DEX行业有了一个公开的了解。即使所有的查询看起来都是一个人写的,你可以打,在某个不和谐的地方有大量的讨论可以准确地拼凑起来。
Web3原生支付公司Airswift与Cloud Payments合作:金色财经报道,Web3原生支付公司Airwift Technology Limited与数字支付和银行技术平台供应商Cloud Payments合作,使加密货币消费者能够在销售点使用VISA和万事达支付方式即时获得加密货币。通过使用VISA和万事达卡的优化汇率提供线上加密货币和NFT购买。该上线服务将首先在北美和欧洲推出。[2023/2/2 11:43:18]
一位DAO科学家查看仪表板并开始在他们自己的查询中分割数据,查看特定的配对,例如稳定通证。他们研究用户行为和商业模式,并开始建立假设。
由于科学家可以看到哪个DEX占据了更大的交易量份额,因此他们将提出一个新模型并提出对治理参数的更改,以在链上进行投票和执行。
之后,我们可以随时查看仪表板,了解该提案如何创造出更具竞争力的产品。
未来,如果有另一个DEX出来,这个过程会提升产品的功能。有人会创建插入查询来更新此表。这将反过来反映在所有仪表板和模型中。任何其他分析师/科学家都可以在Alex已经完成的工作的基础上再接再厉。
由于共享生态系统,讨论、协作和学习发生在更紧密的反馈循环中。这有时会变得非常压倒性,而且我认识的分析师基本上都在轮换数据时表现得倦怠。然而,只要我们中的一个人不断推动数据前进,那么其他所有人都会受益。
Web3游戏社区平台AQUA获得DIGITA 1000万美元投资:9月28日消息,基于 Immutable X 的 Web3 游戏社区平台 AQUA 宣布获得来自对冲基金亿万富翁 Steve Cohen 旗下投资公司 DIGITA 的 1000 万美元投资,该社区目前已推出了由社区驱动的 Web3 游戏资产交易市场。[2022/9/28 5:59:17]
它也不一定总是复杂的抽象视图,有时它只是实用功能,例如可以轻松搜索ENS反向解析器或改进工具,例如使用单个CLI命令自动生成大部分graphQL映射!所有这些都可以被每个人重用,并且可以适应某些产品前端或您自己的个人交易模型中的API使用。
虽然这里解锁的可能性是惊人的,但是程序还没有那么顺利地运行。与数据工程相比,数据分析师/科学方面的生态系统仍然非常不成熟。我认为这有几个原因:
数据工程多年来一直是web3的核心焦点,从客户端RPCAPI改进到基本的SQL/graphQL聚合。在theGraph和Dune等产品上的工作确实体现了他们为此付出的努力。
对于分析师来说,理解web3独特的跨协议关系表是一个艰难的过程。例如,分析师可以理解如何仅分析Uniswap,但随后难以将聚合器、其他DEX和不同的代币类型添加到组合中。最重要的是,完成所有这些工作的工具直到去年才真正意义上出现。
数据科学家基本上习惯于进入原始数据转储并独自完成所有工作。我认为他们不习惯在项目早期与分析师和工程师如此密切和公开地合作。这需要一段时间才能适应这样的环境。
除了学习合作之外,web3数据社区还在学习如何在这个新的数据堆栈中工作。您不再需要控制基础架构或从excel中慢慢构建到数据湖或数据仓库-只要您的产品上线,那么您的数据就会无处不在。您的团队基本上进入了数据基础架构的精华部分。
关于数据工具
这就是你们大多数人来这里的目的:?
这些工具并不全面——它们只是我发现自己或其他人在以太坊生态系统中一直使用和引用的工具。
“去中心化”标签意味着有一个基础设施网络或指导框架来阻止单方面发生的变化。我喜欢将其视为解耦基础设施与云基础设施,但这需要有自己的文章。
让我们来看看您何时需要使用每个图层/类别:
交互+数据源:这主要用于前端、钱包和数据摄取到较低层。客户端:虽然以太坊的底层实现是相同的,但每个客户端都有不同的额外功能。例如,Erigon针对数据存储/同步进行了大量优化,Quorum支持启动隐私链。
节点即服务:您无法选择它们运行的客户端,但使用这些服务将为您省去自己维护节点和API正常运行时间的麻烦。节点有很多复杂性,具体取决于您要捕获多少数据。
查询+数据映射:该层中的数据要么在合约中作为URI引用,要么来自使用合约ABI将交易数据从字节映射到表模式。合约ABI告诉我们合约中包含哪些功能和事件,否则我们只能看到已部署的字节码。交易数据:这些是最常用的,主要用于仪表板和报告。theGraph和FlipsideAPI也用于前端。有些表是合约的1:1映射,有些表允许在模式中进行额外的转换。
元数据“协议”:这些不是真正的数据产品,但存在用于存储DID或文件存储。大多数NFT将使用其中的一个或多个,我认为今年我们将开始越来越多地使用这些数据源来增强我们的查询功能。
专业提供商:其中一些是非常强大的数据流产品,用于内存池数据的Blocknative和用于链上交易数据的Parsec。其他人聚合链上和链下数据,例如DAO治理或财务数据。
高频数据提供者:您无法查询/转换他们的数据,但他们已经为您完成了所有繁重的工作。“企业”服务:如果您是VC、调查员或记者,您会经常使用这些服务。您可以使用Nansen的钱包分析器或Chainanalysis的KYT深入了解钱包和钱包关系。或者使用Tolken终端在大量项目/链上获得漂亮的开箱即用图表。
增强的那些API:这些产品将许多查询捆绑到一个中,例如ERC20代币的所有代币余额或为给定地址提取合约ABI。
数据团队
不言而喻,您希望在这些社区中寻找可以雇用到您团队的人。让我们进一步分解重要的web3数据技能和经验,以便您真正知道自己在搜索什么。如果您想被录用,请将其视为您追求的技能和经验!
分析师至少应该是使用Etherscan的高手,并且知道如何阅读Dune仪表板。这可能需要1个月的时间才能慢慢升级,如果您真的预订并狂欢学习,则需要2周。
您还应该考虑更多背景信息,特别是关于时间分配和技能可转移性的内容。
在web3中,数据分析师大约30-40%的时间将用于跟上整个生态系统中的其他分析师和协议。请确保您没有窒息他们,否则,它将成为对每个人的长期损害。与更大的数据社区一起学习、贡献和构建是绝对必要的。
关于可转移性:技能和领域在这个领域都是高度可转移的。如果我使用不同的协议,那么加速时间可能会很短,因为链上数据的表模式都是相同的。如果有的话,我可能在加入之前就已经使用过该协议的数据了!
了解如何使用这些工具并不重要——每个分析师都应该或多或少地能够编写SQL或创建仪表板。这一切都是关于知道如何为社区做出贡献和与社区合作。
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。