本文仅代表作者个人学术观点,不代表所在机构意见。本文刊发于《清华金融评论》2021年1月刊,2021年1月5日出刊,本文编辑:谢松燕
导读:近年来,随着云计算、大数据、人工智能、区块链等创新技术的发展与应用,数据作为生产要素的价值日益体现,算法在经济活动中的重要性日趋凸显。本文着重探讨了算法在经济领域的影响,并定义了一种以智能算法为核心的新型经济模式:算法经济。不过,算法隐含风险,因此要以监管科技应对新型科技,加强算法监管,这既是顺应之策,又是必然之举。
文/中国证监会科技监管局局长姚前
算法是指一系列解决问题的清晰计算机指令。在当今信息时代,算法已渗透到社会各个领域。克里斯托弗·斯坦纳在其名著《算法帝国》里对算法推崇备至,认为构建算法模仿,超越并最终取代人类,是21世纪最重要的能力,未来属于算法和其创造者。
算法经济
商品经济的根本是买与卖、供与需的匹配。由于信息不对称,市场主体需要搜寻合适的对手方进行交易,这将耗费大量成本。某种意义上,搜寻技术决定了交易空间。在没有互联网之前,人们依靠广播、电视等媒体广告搜寻交易对手。到了互联网时代,人与人之间的物理隔绝与时空限制得到大幅解放,出现了电子商务这一全新的经济模式。“网络购物,只有想不到,没有买不到”。网购已深入人们生活的方方面面,供与需的匹配得到极大改善。
姚前:基于现实环境,联盟链或是应用落地的较优选择:8月6日,蚂蚁链、罗汉堂、新浪财经共同策划的《寻找区块链力量》系列访谈第一集正式开播,中国证监会科技监管局局长姚前、蚂蚁集团董事长井贤栋共话区块链如何赋能信任。姚前指出,基于区块链的可信数据是高质量数字化转型的关键,如果数字时代的数据不可信,那么所有的数字化建设都是空中楼阁。他建议要严把区块链入口,防止大量垃圾数据和低价值数据上链。
姚前建议,首先,设计适应性的顶层政策。立足数字中国建设目标,开展国家层面的顶层设计,系统性地编制区块链发展总体方案、路线图、任务单和时间表;由政府主导、有组织定向的开展区块链基础研究和关键核心技术创新,推动协同攻关,构建新一代的数字技术生态体系;深化政企共建,走出一条产业融合发展的道路。
其次,监管与自律并重,探索公共部门与市场协同创新的机制。治理要宽严相济,建设要激励相容,要探索公共部门与市场协同创新的新命题。
最后,要牵住区块链“数据治理”的牛鼻子,推动区块链高质量发展。基于现实环境,联盟链或许是应用落地的较优选择。要加强国产密码算法的应用和创新发展,以保障我国区块链安全可控。
姚前指出,当前最重要的是提倡区块链的高质量发展。为此,需要加强链上和链下的数据治理,建立有效的区块链治理体系。[2020/8/6]
应该说在互联网经济的初期,以连接产生网络效应为主,数据价值尚未显现,算法还只是辅助,电商活动高度依赖平台公司的组织与管理。近年来,随着云计算、大数据、人工智能、区块链等创新技术的发展与应用,数据作为生产要素的价值日益体现,算法在经济活动中的重要性日趋凸显。
姚前:交易所丢币有可能是“监守自盗”,IPFS等是将来重要发展方向:7月12日上午,在清华大学公共管理学院与腾讯研究院联合打造的 “明德为公,智达行果-2020公益数字经济直播讲堂”,中国证券监督管理委员会科技监管局局长,信息中心主任姚前进行了直播,谈及“盗币”时表示,“币丢了,(很大程度)是你把私钥托管给某一个数字资产交易所,数字资产交易所没有保管好你的私钥,(甚至)很可能是监守自盗出现的资产丢失,对外就说数据被攻破、被破产。”
谈到IPFS时表示“金融科技实际上是算力突破某一个临界点之后,数据和算法的一个融合。一些技术完全可以融合。区块链链上数据非常宝贵,不可能存大量的数据。现在有人提出IPFS(分布式文件系统),怎么去和大数据分析结合起来,怎么通过区块链来让数据可信,怎么通过大数据分析来使得数据更具智慧,都是将来的重要发展方向。”
对于国内区块链产业发展,姚前表示,区块链应用在蓬勃发展,但代码抄袭现象严重,很多单位就复制了一个开源的东西改了改参数,就当作自己的独门秘籍来用,共识的方向、隐私保护的方向、安全的方向、跨链的技术,这些技术研究还是要深入,不能老抄人家东西。(吴说区块链)[2020/7/12]
一是算法拓展了互联网经济的深度与广度。比如,基于平台上的交易数据、用户自身提供的数据以及其他另类数据,开展大数据分析,对用户进行“千人千面”画像,深入分析每个消费者个体的行为模式和特点,形成独特的客户洞察,开展精准营销、服务和风控;基于算法的智能调度,使得云计算很好地解决了实时海量交易和数据处理的性能要求;智能客服提升客户服务的响应速度,降低成本,提高效率。
姚前:Libra与数字美元结合将是公私合作绝佳典范:5月11日,中国证监会科技监管局局长姚前刊文“Libra2.0与数字美元”。文章指出,Libra2.0已明确表示,在接下来的几个月里,收集区块链测试网的反馈,并使其进入生产就绪状态。短短一年的时间,这种开放和众智的创新方式爆发出了惊人的能量。在各国央行仍在探索央行数字货币(CBDC)的热潮下,Facebook居然朝着央行数字货币(CBDC)服务提供商的角色转变。“Libra的使命是建立一套简单的、无国界的货币和为数十亿人服务的金融基础设施”,虽说“货币”使命的调门大大降低了,但新一代全球金融基础设施的初衷从未改变。只要美国政府愿意,借助Libra2.0的BaaS服务,数字美元或将指日可待。如此,则Libra与数字美元的结合将是公私合作的绝佳典范。(第一财经)[2020/5/11]
二是出现了以算法为核心的新型经济模式,也可称之为算法经济。算法经济是指人们将生产经验、逻辑和规则总结提炼后“固化”在代码上,使生产经营、交易融资等活动无须人工干预,自动执行的智能化经济模式。
算法经济的典型代表是算法金融。互联网平台企业依靠用户生态,以数据为核心,以算法为驱动,以计算资源为保障,在互联网平台上开展和提供支付、贷款、财富管理、保险等各类金融服务。依靠强大的数据分析能力,开展智能营销、智能风控、智能投顾、智能理赔,为客户提供量身定制的金融服务和产品,并将专家分析决策经验与人工智能技术融合,通过风控模型的自学习、自进化分析过程,实现基于海量数据机器学习的实时复杂风控,帮助合作金融机构更好地量化风险,更好地应对了解你的客户、反欺诈、反、信用风险等关键业务风险。
声音 | 姚前:央行数字货币不一定非要用区块链,只要能够提高效率就值得研究:12月7日,由中国科学院学部主办,中国信息通信研究院等单位联合支持的“区块链技术与应用”科学与技术前沿论坛在深圳举行。国务院参事室研究员、前中国人民银行数字货币研究所所长姚前出席大会并发表《关于国际支付体系改革的一点思考》的主题演讲。他表示,现在看各个国家的央行数字货币的实现也大都是基于区块链技术开发的,比如加拿大的CADcoin、新加坡Ubin项目,当然美国还停留在批发端应用产品。当然也存在一些争议,这个争议是加入货币是否一定要进入区块链进行,很多人认为央行数字货币必须要进入区块链技术,我个人觉得未必,有基于区块链也有不基于区块链的加密货币,从这个角度说无论采用中心化的模式还是去中心化模式,基于区块链还是不基于区块链,只要能够提高效率都值得我们研究和关注。当然这里需要加一句话,我个人觉得区块链是目前最重要的研究热点,务必要深入研究,还可以在区块链的体系架构下进行。[2019/12/7]
算法经济的典型代表还有共享经济,如类似优步、滴滴打车的共享平台。在这些平台上,生产者与消费者直接进行动态、多变、复杂的网状连接和点对点交易,而有效支撑这些网状连接和点对点交易的则是平台企业所设计、维护和运营的强大算法。并且随着环境和市场的变化,算法不断调整和优化。虽然共享平台的算法机制背后仍没有脱离传统企业的组织形态,平台规则和算法由企业设计、维护和运营,但算法已在很大程度上取代了企业的组织、管理与协调功能,日益成为关键核心。某种意义上,共享平台的算法机制或可看作企业所提供的SaaS服务。
姚前:中本聪的51%算力假设是有问题的:在今日的清华大学区块链应用与投资论坛上,央行数字货币研究所所长姚前表示:后继研究发现,中本聪提出的51%安全算力假设是有问题的,自私挖矿理论的存在使得比特币挖矿安全阈值下降。自私挖矿指的是,矿工挖出第一个区块,不广播,继续挖第二个,在挖第二个区块过程中,如果有人广播了,则自动广播自己挖到的块。数据证明,矿工拥有33%的算力则自私挖矿有利于自己。鉴于大小矿工的影响不同,因此需要新的模型来对这一问题求解。姚前同时表示,比特币首创的中本聪共识,可以解释为滚动的无期限投票,任何人都可以被理解为一个带工作量的区块,以工作量大小确认投票权重。该算法的问题是,浪费大量的能源,交易确认时间长,因此形成共识的时间也就比较长。[2018/4/26]
如果说共享平台的算法机制还“残余”着企业的影响,去中介化、去组织化的加密经济则干净利落“抹除”了企业的“痕迹”,完全依靠算法开展经济活动。这是一种“无组织形态的组织力量”。加密经济以密码学技术为基础,通过分布式共识机制,“完整、准确、难以篡改”地记录价值转移的全过程,构建了多中心化的应用或商业逻辑,并且通过智能合约,保证业务逻辑的自动强制执行,整个流程无需管理人员介入,自动完成数字化经济活动。加密经济不仅有技术逻辑层上的支撑,又有经济逻辑层上的保障,再加上区块链、第五代移动通信技术、物联网、大数据、人工智能等技术的赋能,有望成为具有巨大潜力的新兴经济模式。截至目前,基于“区块链+5G+物联网”的加密经济模式已在仓单物流、农业溯源、资产数字化、数字金融等领域落地应用。
与算法经济相伴随的是算法货币。作为交易的一般等价物,货币理应是大家一致同意的社会共识,否则无法广泛流通。在许多时候,共识通过制度予以确立,比如法定货币。比特币虽然难以成为真正的货币,但它创造了一种完全基于算法的货币型态:经共识验证的难以篡改的可追溯的“未花费过的交易输出”,一定程度上启发了法定货币的数字化或曰代币化。在价值上,法定数字货币是信用货币,在实现上则很可能是算法货币。
算法隐含风险
算法经济大幅改善市场经济的匹配效率和交易成本。人们一方面欢迎和享受智能算法带来的便利,另一方面却担心被智能算法替代,导致个人价值丧失。不仅如此,随着算法经济的快速发展,算法的渗透力和影响力越趋强大,其背后隐含的风险以及作恶的可能引起了关注。
首先是算法滥用。算法规则的背后是商业利益。为了追求利益最大化,算法有可能违背社会公平、道德和人性,比如大数据杀熟,同样的商品或服务,老客户的价格反而比新客户要贵。只推荐给人们能潜在带来商业利益的东西,而不是最适合、最恰当的东西。可能滥用人性弱点,过度激发、劝服、诱导客户,使人习惯于被喂养,不自觉地对算法投放的产品沉迷上瘾。只有算法逻辑,没有考虑人性,将人“异化”为简单的数据、商品和工具。算法的具体原理和参数只有运营企业的少部分人才能知道,有可能产生利益侵占问题,曾经某共享打车的动态调价算法就被质疑过企业是否在利用算法来谋取私利。甚至,企业可能利用算法作恶,比如为了扩大流量,推送耸人听闻的虚假信息;推荐虚假产品。
其次是算法偏见。算法的数据可能不一定全面,片面的数据得到的结果必然导致某种偏见。算法的设计者是人,算法设计师乃至企业管理者、价值观的偏见可能被嵌入算法。算法的“技术光环”容易让人盲从所谓的“科学”,但实质上有些算法却存在很大程度的不可解释性,比如类似“黑箱子”的机器学习算法;机器学习算法侧重于相关性分析,而不是因果分析,可能产生错误的勾连与判断;基于历史数据的机器学习算法隐含着“过去决定未来”逻辑,以历史宿命论定义和标签每个人,某种程度上也是一种偏见。
“算法鸿沟”也值得重视。算法通常是隐秘的,或是专利,或是商业秘密。即便公开,因技术门槛,也不是每个人都能看懂。这就形成新的“数字鸿沟”。不懂算法的人群在利益受损时有可能并不知情,即便知情,也可能无力举证和对抗。
在特定领域,算法还可能引致特定风险。比如在金融领域,智能算法给出的资产配置建议有可能是推荐了与金融机构自身利益高度攸关的产品,涉嫌利益侵占;智能算法形成“信息茧房”,强化投资者偏见,容易掩盖金融风险复杂性,引诱过度消费和负债,甚至误导投资者;智能算法若存在歧视,则损害投资者公平性;智能算法趋同导致“羊群效应”,加大金融顺周期风险等。
算法监管建议
各国监管部门高度关注算法隐含的风险。欧盟《一般数据保护条例》第22条对自动化决策加以限制,如果某种包括数据分析在内的自动化决策会对数据主体产生法律效力或对其造成类似的重大影响,数据主体有权不受上述决策的限制。针对智能算法在投资顾问中的应用,美国证券交易委员会、美国金融业监管局、澳大利亚证券和投资委员会出台了具体的智能投顾监管指引。2018年我国资管新规《关于规范金融机构资产管理业务的指导意见》提出要避免智能算法的顺周期性风险,要求金融机构应当根据不同产品投资策略研发对应的人工智能算法或者程序化交易,避免算法同质化加剧投资行为的顺周期性,并针对由此可能引发的市场波动风险制订应对预案。因算法同质化、编程设计错误、对数据利用深度不够等人工智能算法模型缺陷或者系统异常,导致“羊群效应”、影响金融市场稳定运行的,金融机构应当及时采取人工干预措施,强制调整或者终止人工智能业务。2020年9月,国际证监会组织市场中介机构委员会发布中介机构如何应用人工智能和机器学习的咨询报告,提出具体指导方针,以协助IOSCO成员建立适当的监管框架,监督市场中间商和资产管理人应用人工智能和机器学习。即将出台的欧盟《数字服务法案》拟授权“数字服务协调员”监管大科技公司的合规情况,其中包括用于定向或精准广告的算法是否合法,并要求平台企业公布其算法如何自动向在线客户推送内容或商品的细节。2020年12月中共中央印发《法治社会建设实施纲要》,提出要制定完善算法推荐、深度伪造等新技术应用的规范管理办法,要加强对大数据、云计算和人工智能等新技术研发应用的规范引导。
总的来说,智能算法已在科技大公司大量采用,考虑到其生态规模巨大、潜在风险和社会影响不容忽视。而我国算法监管制度正逐步完善和健全,但具体内容有待细化完善。
从机理看,算法监管的具体内容至少包括六方面:一是信息披露,即作为算法的设计者和控制方,科技大公司及其他利益相关者应该披露算法设计、执行、使用过程中可能存在的偏见和漏洞、数据来源以及可能对个人和社会造成的潜在危害。二是解释,即作为采用算法自动化决策的机构,科技大公司及其他利益相关者有义务解释算法运行原理以及算法具体决策结果。三是留痕与可审计,即算法系统的设计、测试、运行表现及变动留有记录,全程监测,并可审计。四是质询和申诉,即确保受到算法决策负面影响的个人或组织享有对算法进行质疑并申诉的权力。五是内部治理。科技大公司应建立清晰、有效的内部治理框架、内部控制机制和责任体系,防止算法滥用,防范算法风险,并提高算法对抗性,避免算法攻击。六是加强行业自律。通过行业自律机制,加强算法道德和算法伦理建设。
结语
不可否认,算法催生了新的经济模式,带来社会整体效率提升,有其独特优势。但近年来,算法滥用、算法作恶、算法道德、算法伦理等问题却引起广泛关注。卓别林电影《摩登时代》对机器操控产业工人的讽刺,以及马克思著作《1844年经济学哲学手稿》对机器工业化时代人类“异化”的警示提醒我们,就像机器流水线凌驾于工人之上,算法亦有可能凌驾于芸芸众生之上,其中风险值得我们关注与警惕。为此,加强算法监管,以监管科技应对新型科技,既是顺应之策,又是必然之举。?
END??
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。