当与区块链数据集一起使用时，机器学习模型往往会过拟合。什么是过度拟合以及如何解决？
乍一看，使用机器学习来分析区块链数据集的想法听起来非常吸引人，但这是充满挑战的道路。在这些挑战中，当将机器学习方法应用于区块链数据集时，缺少标记数据集仍然是要克服的最大难题。这些局限性导致许多机器学习模型使用非常小的数据样本进行操作，以训练和过度优化那些引起过拟合现象的模型。今天，我想深入探讨区块链分析中的过度拟合挑战，并提出一些解决方案。
过度拟合被认为是现代深度学习应用程序中的最大挑战之一。从概念上讲，当模型生成的假设过于适合特定数据集的假设而无法适应新数据集时，就会发生过度拟合。理解过度拟合的一个有用类比是将其视为模型中的幻觉。本质上，模型从数据集中推断出错误的假设时会产生幻觉/过度拟合。自从机器学习的早期以来，已经有很多关于过拟合的文章，所以我不认为有任何聪明的方法来解释它。对于区块链数据集，过度拟合是缺少标记数据的直接结果。
声音 | 陈纯院士：区块链产业生态已经初步形成:金色财经报道，12月26日，浙江大学教授、中国工程院院士陈纯在国家发展改革委围绕“区块链技术发展现状和趋势”主题作专题报告。他表示，区块链技术应用已从最初的金融领域逐步拓展到政务服务、供应链管理、工业制造等多个领域，其核心思路是利用区块链透明、不可篡改的特性进行数据记录及共享，保障资产确权、数据存证、证照管理、交易清算等不同业务的可信开展。从基础设施到底层技术平台，再到行业应用，可以说区块链产业生态已经初步形成。目前区块链监管技术的发展趋势主要有以下四个方面，首先是区块链节点的追踪与可视化；其次是联盟链穿透式监管技术；再次是公链主动发现与探测处置技术；最后是研究以链治链的体系结构及标准。[2019/12/27]
区块链是大型的半匿名数据结构，其中的所有事物都使用一组通用的构造表示，例如交易，地址和区块。从这个角度来看，有最少的信息可以证明区块链记录。这是转账还是付款交易？这是个人投资者钱包或交易所冷钱包的地址？这些限定符对于机器学习模型至关重要。
声音 | ACCA全球商业洞察总监魏雅安：区块链人才短缺是一大挑战:据海南在线消息，近日，ACCA(特许公认会计师公会)全球商业洞察总监魏雅安接受采访时表示，区块链是一种驱动未知的双方实现可信交易，并生成真实而不可更改的交易记录的技术。专业人才的短缺是目前发展区块链的一大挑战。他指出，“除了编码、软件开发、区块链交易验证等核心技能外，区块链人才还需了解商业市场，能够以安全、可靠的方式开发扩展的技术，充分发挥区块链的商业价值。同时，他们还要具备识别风险的能力，提高合规意识，尤为关键的是高标准的职业道德与素养。”[2019/5/24]
想象一下，我们正在创建一个模型来检测一组区块链中的交换地址。这个过程需要我们使用现有的区块链地址数据集训练模型，我们都知道这不是很常见。如果我们使用来自EtherScan或其他来源的小型数据集，则该模型可能会过度拟合并做出错误的分类。
声音 | 神州数码董事局主席：目前区块链的最大障碍是算力:神州数码控股有限公司董事局主席兼CEO表示，通过构建知识图谱、提升算力、数据深度挖掘等方式，数字化技术能够推动金融科技发展。在这个趋势下，利用大数据和云计算去重构业务，是金融科技的未来方向之一。而区块链今天最大的一个障碍就是算力，具体来看就是算力的经济效应、能源消耗比。[2019/3/24]
使过拟合变得如此具有挑战性的方面之一是很难在不同的深度学习技术中进行概括。卷积神经网络倾向于形成过拟合模式，该模式与观察到的与生成模型不同的递归神经网络不同，该模式可以外推到任何类型的深度学习模型。具有讽刺意味的是，过度拟合的倾向随着深度学习模型的计算能力线性增加。由于深度学习主体几乎可以免费产生复杂的假设，因此过拟合的可能性增加了。
在机器学习模型中，过度拟合是一个持续的挑战，但是在使用区块链数据集时，这几乎是必然的。解决过度拟合的明显答案是使用更大的训练数据集，但这并不总是一种选择。在IntoTheBlock，我们经常遇到过度拟合的挑战，我们依靠一系列基本方法来解决问题。
动态 | 埃森哲推出基于区块链等技术的“循环供应链”:据福布斯报道，埃森哲今日推出了“循环供应链”，允许消费者在购买商品时做出更可持续的选择。消费者也可以给生产商小费，直接奖励他们在生产中的选择。这一切都是通过数字身份管理和区块链技术实现的。[2019/2/26]
对抗区块链数据集过拟合的三种简单策略
对抗过度拟合的第一个规则是认识到这一点。虽然没有防止过度拟合的灵丹妙药，但实践经验表明，一些简单的，几乎是常识的规则可以帮助防止在深度学习应用中出现这种现象。为了防止过度拟合，已经发布了数十种最佳实践，其中包含三个基本概念。
数据/假设比率
当模型产生太多假设而没有相应的数据来验证它们时，通常会发生过度拟合。因此，深度学习应用程序应尝试在测试数据集和应评估的假设之间保持适当的比率。但是，这并不总是一种选择。
声音 | Joseph Young：在公共区块链网络上标记可疑交易是非常容易的:加密货币分析师Joseph Young刚刚对赵长鹏关于黑客向币安发送盗币的推文进行评论表示，这就是为什么“加密货币是一台机器”的说法是不真实的。
Binance已经能够冻结Cryptopia黑客发送的资金。在公共区块链网络上标记可疑交易是非常容易的。[2019/1/16]
有许多深度学习算法（例如归纳学习）依赖于不断生成新的，有时是更复杂的假设。在这些情况下，有一些统计技术可以帮助估计正确的假设数量，以优化找到接近正确的假设的机会。尽管此方法无法提供确切的答案，但可以帮助在假设数量和数据集组成之间保持统计平衡的比率。哈佛大学教授莱斯利·瓦利安特（Leslie Valiant）在他的《大概是正确的》一书中出色地解释了这一概念。
进行区块链分析时，数据/假设比率非常明显。假设我们正在基于一年的区块链交易构建预测算法。因为我们不确定要测试哪种机器学习模型，所以我们使用了一种神经架构搜索（NAS）方法，该方法针对区块链数据集测试了数百种模型。假设数据集仅包含一年的交易，则NAS方法可能会产生一个完全适合训练数据集的模型。
支持简单假设
防止深度学习模型过度拟合的概念上琐碎但技术上困难的想法是不断生成更简单的假设。当然！简单总是更好，不是吗？但是在深度学习算法的背景下，一个更简单的假设是什么？如果我们需要将其减少到一个定量因素，我会说深度学习假设中的属性数量与它的复杂度成正比。
简单的假设往往比其他具有大量计算和认知属性的假设更易于评估。因此，与复杂模型相比，较简单的模型通常不易过拟合。现在，下一个明显的难题是弄清楚如何在深度学习模型中生成更简单的假设。一种不太明显的技术是基于估计的复杂度将某种形式的惩罚附加到算法上。该机制倾向于倾向于更简单，近似准确的假设，而不是在出现新数据集时可能会崩溃的更复杂（有时甚至更准确）的假设。
为了在区块链分析的背景下解释这个想法，让我们想象一下我们正在建立一个模型，用于对区块链中的支付交易进行分类。该模型使用一个复杂的深度神经网络，该网络会生成1000个特征以执行分类。如果将其应用于较小的区块链（例如Dash或Litecoin），则该模型很可能会过拟合。
偏差/方差余额
偏差和方差是深度学习模型中的两个关键估计量。从概念上讲，偏差是模型的平均预测与我们试图预测的正确值之间的差。具有高偏差的模型很少关注训练数据，从而简化了模型。总是会导致培训和测试数据的错误率很高。或者，方差是指给定数据点的模型预测的可变性或一个告诉我们数据分布的值。具有高方差的模型将大量注意力放在训练数据上，并且没有对以前从未见过的数据进行概括。结果，这样的模型在训练数据上表现很好，但是在测试数据上有很高的错误率。
偏差和方差与过度拟合如何相关？用超简单的术语来说，可以通过减少模型的偏差而不增加其方差来概括泛化的技巧。深度学习的一种良好做法是对它进行建模，以定期将产生的假设与测试数据集进行比较并评估结果。如果假设继续输出相同的错误，则说明我们存在很大的偏差问题，需要调整或替换算法。相反，如果没有明确的错误模式，则问题在于差异，我们需要更多数据。
综上所述
? 任何低复杂度模型-由于高偏差和低方差，容易出现拟合不足。
? 任何高复杂度模型（深度神经网络）-由于低偏差和高方差，容易出现过度拟合。
在区块链分析的背景下，偏差方差摩擦无处不在。让我们回到我们的算法，该算法尝试使用许多区块链因素来预测价格。如果我们使用简单的线性回归方法，则该模型可能不合适。但是，如果我们使用具有少量数据集的超复杂神经网络，则该模型可能会过拟合。
使用机器学习来分析区块链数据是一个新生的空间。结果，大多数模型在机器学习应用程序中都遇到了传统挑战。根本上，由于缺乏标记数据和训练有素的模型，过度拟合是区块链分析中无所不在的挑战之一
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。