泗洪门户网站

搜索
本站首页 科技 互联网大脑会演变成科幻电影中的“天网”吗?

互联网大脑会演变成科幻电影中的“天网”吗?

2019-10-22 08:26:31| 来源: 网络

文|刘枫

在《终结者》电影中,人工智能发生变异,控制互联网形成“天网”,并开始毁灭世界。

另一部著名的科幻电影《黑客帝国》(The Matrix)讲述了一个年轻的网络黑客尼奥发现看似正常的现实世界实际上是由一个叫做“黑客帝国”的超级人工智能系统设计和控制的故事。这个超级版本的“天网”不仅控制机器人,还控制人类,连接人类大脑,生活在一个虚拟但看似真实的世界里。

矩阵海报

科幻预言的实现与超级智能的崛起

互联网演变成“天网”的主题已经被许多科幻小说和电影主题以不同的方式表达出来,成为人类一直挥之不去的噩梦。

科幻作品的意义在于它们可以跳过科技进步的自然屏障,到达未来可能的世界。如今,人类对人工智能的兴起感到兴奋,并对人工智能是否超越人类感到恐慌。一个更大更惊人的超级智能正在崛起,科幻成真的现实正在逐渐到来。

人类群体智能以云群体智能的形式成为互联网的“右脑”,设备的机器智能以云机器智能的形式形成了互联网的“左脑”。作为一个基于互联网大脑架构形成的超级智能,它将来真的会演变成“天网”和“矩阵”吗?这是一个值得思考和警惕的问题。

资料来源:视觉中国

互联网大脑能进化成天网吗?

如果我们仔细观察互联网大脑的组成和运作,我们可以看到关键风险点主要集中在一个地方,“不断发展和成熟的互联网运动神经系统”。

回顾互联网的发展,从1969年到1990年的21年间,互联网主要与科研机构、军事机构和政府机构的计算机相连。人类通过互联网共享和保存科学、技术、军事政治方面的信息。此时,互联网对现实世界几乎没有影响。

从1990年到2010年的20年间,随着万维网的建立,互联网应用如新闻、电子商务、社交网络、博客、音乐、游戏等。蓬勃发展,数十亿人连接到互联网。此时,互联网对人类来说仍然没有危险。

然而,变化仍在悄悄地发生。随着互联网线路的不断升级和传输速度的加快,自21世纪以来,越来越多的摄像机、声音传感器、温度传感器和湿度传感器与互联网相连接。互联网已经开始从虚拟世界的构建转向与现实世界的连接。然而,对于现实世界来说,此时的互联网仍然是安静和安全的。

2012年后,危险的迹象逐渐显现。随着工业4.0的兴起,工业互联网、无人驾驶汽车、3d打印和智能制造,无数智能汽车、无人驾驶飞行器、工业机器人、家庭服务机器人和办公设备都与互联网相连,互联网大脑的运动神经系统开始加速发展。

资料来源:视觉中国

还记得《速度与激情8》中黑客通过互联网控制数百辆无人驾驶汽车追逐并试图杀害外交官吗?这不再是科幻小说的想象。

英国《泰晤士报》2009年12月18日报道,伊斯兰激进分子利用廉价的在线黑客软件成功入侵美国中央情报局(cia)的“捕食者”无人机攻击系统。

虽然武装分子仍然无法使用黑客软件远程控制捕食者无人机(Predator UAV),但他们可以观看无人机发送到美国控制中心的实时监控图像。这个案例突出了互联网运动神经系统未来的安全风险。

“速度和激情8”海报

网络大脑的安全风险

广义而言,任何连接到互联网上的能够移动或改变现实世界的设备都可以被视为互联网大脑的运动神经系统。当这个系统有问题时,它会产生许多令人不寒而栗的场景。

例如,由于控制程序的浮点数溢出,水库的大坝闸门突然改变闸门保持关闭以快速提升,导致大坝突然放水,造成下游大洪水。还有数以千计受互联网云控制的机器人,由于控制它们的互联网云人工智能程序中的错误,它们造成了混乱的移动和操作,对周围的工人造成伤害。

更严重的是,与网络相连的核武器被远程黑客控制,或者是因为他们自己的程序错误,科幻小说中的“天网”发动了攻击。虽然事故不是由人工智能像天网一样的敌对意识造成的,但其后果和影响是一样的。

资料来源:视觉中国

因此,可以看出,在当今的现实世界中,互联网大脑产生威胁人类安全的风险点,主要是在互联网运动神经系统的运行过程中,存在两种风险情况。

第一个是由云机器智能中的人工智能程序,特别是人工智能巨型神经元程序中的错误引起的重大事故。上述大坝的突然防水、不受控制的工业机器人和核武器发射都属于这一类。

二是黑客、野心家或未经训练的操作者操作互联网的运动神经系统造成的重大灾难,这是一种更常见、更严重的类型,包括前面提到的黑客攻击医院医疗设备、敌方人员接管无人驾驶飞行器、智能机器人、航空设备等。

对于这种风险,如何区分破坏者的角色和正常操作是比较复杂和难以监控和预防的。防止敌对势力和破坏性力量入侵和使用互联网移动系统将是人类未来一个持续的游戏过程。

资料来源:视觉中国

互联网大脑的进化、人类的参与和控制是不可或缺的。

应该说,这一轮人工智能热潮实质上是互联网进化过程中的又一波高潮。它的产生离不开互联网出现之前应用和技术为人工智能的新爆发奠定的基础。

然而,这一波人工智能与过去有不同的特点。人工智能和机器人不再是个人,而是通过结合互联网大数据、社交网络和云计算形成的互联网大脑模型。

这种大脑结构不仅有更丰富的知识,而且有更强大的计算能力。而且还涉及到人类生活的方方面面,如路边摄像头、家庭服务机器人、每天伴随我们的手机等。

面对这种巨大的超级智能,每个人都有一种巨大的压力和无能为力的感觉。也许这就是人们担心互联网将成为天网,人工智能将超越甚至控制人类的根本原因。

从互联网大脑模型的形成可以看出,互联网进化的动力源主要来自人类的集体智慧和机器的云智能。与“天网”和“矩阵”不同,互联网的左脑——机器的云智能没有独立的智能和进化能力,没有人类的参与,它会逐渐消亡。

互联网的右脑——人类群体智能是互联网的核心驱动力。保持一个人的主动性和主动性是网络大脑的关键组成部分,而不是被网络大脑控制的奴隶。

虽然互联网在形态学上形成了一个类似大脑的巨大系统结构,但它仍然是一个人类参与和控制的系统。它是人类的延伸,是人类社会的一部分。因此,科幻电影中的“天网”、“矩阵”和“奥创”与人类的对抗最终是现实中人类之间的斗争。

□刘枫(计算机博士)

编辑:范娜娜实习生:龙江兰校对:李丽君


© Copyright 2018-2019 dosperos.com 泗洪门户网站 Inc. All Rights Reserved.