一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。
他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题：我们如何确保超智能机器为我们的利益服务？
研究人员构想了一种理论上的遏制算法，该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。
声音 | nChain首席科学家CSW：ICO浪费资金却没有创造任何财富:nChain首席科学家Craig Wright刚刚发推特称，价值大小并不取决于筹集的资金量多少，而取决于是否创造了新的财富。目前的ICO浪费了大量资金却没有创造任何财富。[2018/9/12]
但是，他们的分析发现，建立一种可以控制这种机器的算法从根本上来说是不可能的，人类与机器中心主任IyadRahwan说：
百度区块链首席科学家肖伟：区块链必须要有一套独有的操作系统:《新华日报》今日报道，百度区块链首席科学家肖伟表示，区块链时代是一个跟互联网、移动互联网等价的时代，区块链也应具有自己的生态和包括数字资产、电商平台和游戏等在内的应用。所以，区块链必须要有一套独有的操作系统，基于这套系统，开发者可以像开发移动App一样开发区块链应用。[2018/6/8]
如果将问题分解为理论计算机科学的基本规则，就会发现，命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止遏制有害的AI。实际上，这使遏制算法无法使用。
eCurrency首席科学家文武：将与RCBC、菲律宾央行合作 最早今年二季度推出RCBC电子货币:据第一财经报道，eCurrency已经在三个发展中国家开始商业运营，同时也接受这些国家央行的监管和指导。最近，eCurrency已经与菲律宾最大的民营银行Rizal Commercial Banking Corporation（RCBC）合作推出了数字现金产品，可以说是迈出了实现数字法定货币的第一步。为了支持菲律宾央行引入的“沙盒监管”倡议，RCBC推出的数字现金可以在菲律宾现有支付交易平台上进行流通，并且适用于所有电子货币钱包。eCurrency和RCBC将与菲律宾央行合作，最早在2018年二季度推出RCBC的电子货币。[2018/2/26]
研究发现，由于计算的基本局限性，没有一种算法可以计算出AI是否会危害世界：
假设超级智能将包含一个程序，该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序，那么严格的围堵要求对该程序进行仿真，这在理论上是不可能的。
到目前为止，这种类型的AI仍仅限于幻想领域。但是研究人员指出，这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。
研究的合著者，马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说：“已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。”
“因此提出了一个问题，在某个时候这是否可能变得不可控制并且对人类构成危险。”
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。