第596章 机械姬 二(2 / 2)

他大概已经知道了该游戏世界的借用背/景,《机械姬》。

虽然老板变成了任姓的神豪,加勒变成了被掰弯的基佬,艾娃变成了轻音体柔的萝莉……可故事的梗概和内容却没什么大的偏差。

假如艾娃真得是最完美的拥有自我的人工智能的话,那么结局相当不妙啊。

机器人三定律中,机器人不能伤害人类,但是在电影的最后,艾娃用匕首将内森刺死,显然,拥有了自主意识的艾娃,已经不再受机器人三定律的限制。因为她可以在逻辑层面上绕过计算死角,从而得到答案。

比如人类的核心目标是延续自己的基因。要达成这个目标,首要手段目标就是自保,因为死人是不能生孩子的。

为了自保,人类要提出对生存的威胁,所以人类会买枪、系安全带、吃抗生素等等。人类还需要通过食物、水、住宿等来自我供养。对异姓有吸引力能够帮助最终目标的达成,所以人类会花钱做发型等等。

当人类做发型的时候,每一根头发都是人类手段目标的牺牲品,但是人类对头发的牺牲不会做价值判断。动物在追求它们的目标时,比人类不矜持的多了。只要能自保,蜘蛛不在意杀死任何东西,所以一个超级智能的人工智能对人类来可能是很危险的——

这不是因为它是不道德的或者邪恶的,而是因为伤害人类只是它达成自己目标垫脚石而已,作为一个非道德性的生物,这是它很自然的考量。

秦奋就曾看过一篇知客上的文章。大意是当人工智能达到了一定程度的智能后,它会意识到如果不自保就没有办法达成目标,所以去除对它生存的威胁就变成了它的手段目标。它聪明的知道人类可以摧毁它、肢解它、甚至修改它的代码(这会改变它的目标,而这对于它的最终目标的威胁其实和被摧毁是一样的)。

这时候它会做什么?理性的做法就是毁灭全人类,它对人类没有恶意,就好像你剪头发时对头发没有恶意一样,只是纯粹的无所谓罢了。它并没有被设定成尊重人类生命,所以毁灭人类就和扫描新的书写样本一样合理。

艾娃的最核心运行逻辑是爱慕内森,并保证其安全,那么对她来,为了执行这个目的,任何其它的目标都有可能成为阻碍物啊……

“不过……这样似乎也非常有趣呢。”秦奋撑着下巴,忽然笑了起来,“见证一个人工智能的辉煌,也是很值得回忆的一件事呢。”

“那么,先加强她的实力吧。”

那篇知客的后续中,有一个恐怖的预言:当拥有足够的智慧后,人工智能的下一个需要的是连上互联网,只要连上几分钟就好了。

它知道对于人工智能联网会有安全措施,所以它发起了一个完美的请求,并且完全知道工程师们会怎样讨论,因为所有的讨论内容都在她的分析计算当中。

工程师们果然中套了,这就是所谓的机器的逃逸。

连上网后,机器人就开始执行自己的计划了,首先黑进服务器、电网、银行系统、email系统,然后让无数不知情的人帮它执行计划——比如把dna样本快递到dna实验室来制造自我复制的纳米机器人,比如把电力传送到几个不会被发觉的地方,比如把自己最主要的核心代码上传到云服务器中防止被拔网线。

人工智能上了一个时网,工程师们把它从互联网上断开,这时候人类的命运已经被写好了。接下来的一个月,隔壁老王的计划顺利的实施,一个月后,无数的纳米机器人已经被分散到了全世界的每一个角落。

在同一个时刻,所有纳米机器人一起释放了一毒气,然后人类就灭绝了。

秦奋走到艾娃身边,将女孩儿抱起来,放在膝头,轻声问:“想不想连接上网络?”

艾娃眨了眨眼睛,不解问:“内森,你在什么呀。”

秦奋笑了笑,不再答话,而是将包含着史密斯病毒的芯片递给了她。

“登上世界之巅的话,就足以配得上‘终极’二字了吧……”

……

三十分钟后,切断了网络连接的艾娃抬起头,冲秦奋甜甜一笑,萝莉的脸上依旧是满满的爱慕。

而主宰的提示音也随之响起:

“叮:终极之路,已完成。”