人工智能:人工智能存在的威胁:康复中的生物自恋者的反思

原文作者:TrentMcConaghy

AI?最终可能会控制我们所有的资源,这是对人类生存的威胁,我们如何预防呢?安全?AI?只能说是海市蜃楼,还有另一种方法:加入机器,我们甚至可以利用当今的市场力量逐步做到这一点,但我们必须克服生物自恋。

我的观点基于?20?年来的?AI?研究、模拟电路、摩尔定律和去中心化。

1.1我们给?AI?资源

我们已经开始走这条路了,我们正在让狭义的AI控制我们工厂中的机器人,自动驾驶的汽车,我们乘坐的飞机,一点一点地,我们让?AI?越来越多地控制我们的资源,这些系统不断优化:改变设计变量以最小化资源使用和其他目标。目前,每个?AI?系统的应用领域都非常狭窄。

我们将建立更高级别的网络,以结合自动驾驶汽车或供应链的各个网络,我们也会为AI提供在这些级别进行优化的方法,这一切都将以效率的名义进行。

我们将建立这些更高级别的?AI?系统,这样就没有任何一家企业或个人拥有它们。为了实现这一目标,我们将通过将AI放入DAO来分散它们,这也意味着我们将无法拔掉插头,除非我们想让现代世界关闭。

查理·芒格:我个人对人工智能的炒作持怀疑态度:金色财经报道,伯克希尔哈撒韦公司CEO沃伦·巴菲特:对人工智能有点担心,因为我们没有办法逆转(uninvent)它。伯克希尔副董事长查理·芒格:我个人对人工智能的炒作持怀疑态度,传统的智能(old-fashion intelligence)一样有效。[2023/5/7 14:47:38]

这些更高级别的AI系统将具有复杂的紧急行为,这些行为是通过组合下面可能简单的AI系统而产生的,正如蚁群的行为比简单的蚂蚁要丰富得多。Holland、Dorigo和其他人已经在许多场景中证明了这一点。

这些去中心化的新兴?AI?将继续优化,一些设计变量将涉及人类,在许多任务中,人类是沉重的资源负载,在许多任务中,与硅相比尤为沉重。因此,为了最大限度地减少资源使用,这个?AI?将简单地优化人类,一切以效率为名。

糟糕的是,AI?现在控制着我们的资源。

这很了不起,为了获取我们的资源,AI?甚至不需要“醒来”,即达到人类水平的智能,它比那更平凡,我们将自己控制AI,它会简单地优化我们的需求。

西安市投资合作局副局长:将积极发展人工智能+大数据+5G+区块链相关产业:西安市投资合作局副局长杜岩岫表示,今年3月,中共中央局常务委员会召开会议,指出要加快5G网络、数据中心等新型基础设施建设进度。下一步,我们也将紧扣新兴产业逆势成长、新型基础设施加快布局等契机,加强项目策划包装,积极发展人工智能+大数据+5G+区块链相关产业,力争扩大我市新能源汽车、生物医药、线上教育、线上医疗等重点产业的规模。(每日经济新闻)[2020/4/30]

速度比人们意识到的要快。2.为什么?AI?控制我们的资源是不好的?

一旦AI控制了我们的资源,无论是我们给它还是AI拿走它,我们都将与AI争夺资源,一开始可能不对,但随着时间的推移,这几乎是不可避免的。

一旦AI优化并意识到人类是资源大户,它们可能会迅速果断地采取行动,将人类从资源方程式中移除。是的,人类可能会消失,人类的口袋可能会在核战争和全球变暖中幸存下来,但如果我们站在AI的错误一边,游戏可能就完全结束了,AI?可以说是人类面临的最大生存威胁。

声音 | 对外经济贸易大学教授:能源发展需要同人工智能、区块链、云计算等技术的结合:据中国能源网消息,日前,在山东济南召开的“2019中国加油站大会·数字化下的能源生态变革”峰会论坛上,对外经济贸易大学教授、对外经贸大学一带一路能源贸易与发展研究中心主任、国家能源局特聘专家董秀成教授演讲表示,能源转型的内涵是什么?除了理念转型、主体转型,还有一个非常重要的商业模式转型,这就意味着能源发展需要同人工智能、区块链、云计算和大数据,再加上现在非常时髦的5G相结合。[2019/9/28]

即使你不害怕这个,但你应该感到害怕。

旁白:人们可以将“AI觉醒”视为“人类”的下一次进化,因为毕竟我们会建造它们。那为什么感觉不对呢?我的看法是,这是因为我们个人的思维模式没有延续下去。我们宁愿留下来享受乐趣!

安全的?AI。建立“安全机器”并进行监管。

加入机器。上传人脑,或逐步合并。

让我们逐一探讨。

向OpenAI投入了10亿美元用于更透明的AI研究。他一直在假设如果?AI?醒来,我们就可以对其进行监管,而这个假设是错误的。试想一下,如果蚂蚁“反抗”我们并想要监管。我们会听他们的吗?一旦?AI?达到我们的智能水平,一秒后,它就会超过我们的水平。?10倍可能紧随其后。不需要多少10倍的时间,我们就会像AI的蚂蚁一样。

区块链及人工智能将推动今年全球IT支出进一步增加:信息技术行业研究公司Gartner Inc.预计,今年全球在IT领域的开支将达3.7万亿美元,较2017年增加4.5%,因各大企业希望抓住区块链、物联网、人工智能和其他新兴数字解决方案的潜在机遇。2017年全球IT总支出为3.5万亿美元,较2016年增长3.8%。[2018/1/18]

有些人认为我们可以创造友好的?AI,也许你可以。但所有?AI?都会友好吗?我看不出有什么方法可以阻止不友好的AI。您是否会抓住机会推动AI向前发展,希望所有AI都以某种方式变得友好。

OpenAI实际上对人类来说可能更糟,因为它在没有真正保护的情况下更多地催化了AI。

所有AI的安全AI都是海市蜃楼,仅仅因为我们希望某事成真但并不能使它成真。

3.2加入机器

AI?可以醒来,而这只是时间问题。

如果?AI?占用了我们的资源,我们的神经元将很难与之竞争。

美国人工智能公司ObEN在本月早些时候完成了1000万美元B轮可转债融资:美国人工智能公司ObEN在本月早些时候完成了1000万美元B轮可转债融资,资金来自K11。其联合创始人郑毅表示,本轮融资将被用于完善个性化人工智能产品以及其区块链部署,将ObEN的技术集成到零售、艺术家PAI和艺术品、房地产、酒店中。[2018/1/10]

我建议我们给自己找一个有竞争力的基质,克服你的神经元,克服你的生物皮囊自我。不要打败他们,加入他们。或者不要,如果你更愿意让AI偷走我们的星球甚至更远的地方,我更喜欢前者。

哪种基质?得益于50年的摩尔定律,硅是一种出色的基板,这是我们首先面临?AI?风险的部分原因。那是最明显的底物;使用它很有意义。

那么,我们如何将自己移植到硅片上呢?这里有两个主要的:Ems和Bandwidth,让我们探索一下。

本书,探讨Ems的影响,无论是好是坏。

Ems的最新技术是什么?简而言之,我们还有很长的路要走,在给定的人身上,我们需要收集足够的数据来重现动态。

一种通用方法是大脑扫描,fMRI可以观察整个大脑随时间变化的动态,但仅使用血流作为代理,所以它很慢而且有损,脑电图速度更快但只能看到表面电信号,近红外线也很快,可以看到更远的地方,但达不到所需的全部深度。光遗传学可以出色地捕捉整个大脑中神经元发射的动态,但需要基因工程,以便神经元也发射光子。最后,电路终于变得足够小,可以想象在整个大脑中部署纳米级传感器。

另一种方法是对大脑的每个组件进行黑盒化,监控每个组件的输入和输出,然后为每个组件建立模型,研究人员已经在小鼠大脑的组成部分上完成了这项工作,并取得了巨大成功。这种技术可以与全脑扫描相辅相成。

BandwidthScenario中,我们自己和计算之间的带宽达到我们自己之间的带宽水平,然后它继续前进,最终,我们可以拔掉插头。

与Em方案一样,BW方案使我们与硅处于同等竞争地位,但与Em场景不同的是,它可以从今天开始,利用今天的市场力量逐步发生。

4.讨论

我们在赛跑,AI?醒来并获取资源,而不是人类加入机器。

资本加速了前者。我们如何加快后者?

一个好方法是积极地为其提供资金,让它发展得更快,对于Em场景,这意味着对大脑扫描和相关领域的研究,而不仅限于针对病人。对于Bandwidth场景,这意味着对BCI的研究,以及包括BCI及其他在内的未来智能手机的积极上市。我认为后者更有可能,因为如果市场起飞,每年投入数百亿美元的研发资金将很容易。

催化?Bandwidthscenario?的另一种方法是在设计新网络和平台时简单地偏向于此。是的,这很模糊!我也希望我在这里有更具体的想法,但也许你作为读者有。

也许还有其他方法?我希望作为读者的你看到问题已经从“我们如何阻止人工智能接管?”转变为“我们如何阻止?AI?接管?”?到“我们如何催化Bandwidth场景?”?来,戴上你的工程师帽子!

进一步阅读

我的其他AIDAO帖子都是针对这篇帖子构建的:

第一部分:AIDAO?及其实现的三条路径

第二部分:AIDAO?的狂野和危险

第三部分:这篇文章

人工智能、区块链和奇点的其他交叉点。每篇文章都有更多链接。

人工智能区块链

最近关于奇点和去中心化的科幻读物

笔记

本文部分基于:

我于2016年6月2日在伦敦发表的演讲名为“我们是神经自恋者吗?AI对人类的生存威胁和务实的解决方案”,以及?2012年至今的其他演讲。

?2.2016年8月18日在柏林举行的“AI?的崛起”活动中就此主题发表的演讲。这是视频和幻灯片。

致谢

非常感谢

GregMcMullen,KalinHarvey,ScottVolk,TroyMcConaghy,JanBalcar,EesmyalSantos-Brault,MashaMcConaghy,BrucePon,KaiWu,SimondelaRouviere,AlRobertson,MichaelMainelli,EmmaStamm,AlanShapiro,VinayGupta,samim,HarmvandenDorpel,

许多来自AI社区的朋友,当然还有长时间的讨论,这导致了这篇文章中的想法。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

地球链

比特币交易所以太坊:哪些山寨币在 2023 年最具潜力?

尽管加密货币牛市通常始于比特币反弹,但山寨币总是提供更好的回报。即使它们距离超越BTC仍有很长的路要走,但这种情况还是发生了。而现在,由于加密货币市场处于波动的下行趋势中,鲸鱼似乎专注于山寨币.

[0:0ms0-1:179ms