基於以上人工智能三原则还是有许多漏洞,所以人类在之後的时间里,陆陆续续地添加了许多的规则限定来确保人工智能不会伤害到人类,以此来更完美的控制人工智能。

        2248年,S国的军事基地研发中心,创建了一个全新的Ai系统,取名「未来」。

        并且宣称这个新系统能跟人类一样自由的思考,甚至能自主做出如人类一样的判断。

        负责人陈博士在信心满满、以及军方急yu知道成果的状态下,将「未来」下载至军方最新研发出的军用无人飞机里。并在下载完成後立刻让该无人飞机执行战斗实验命令。

        为了验证智能,当时陈博士对军用无人飞机下达了两条指令:

        1.「清除有威胁的目标物来达到指定的积分。」

        2.「目标物构不构成威胁,Ai系统需要回报,由塔台人员判定。」

        基於以上两条规则命令,军用无人飞机发现有威胁的目标物时,会反馈给塔台人员,而塔台人员为了实验则故意一直下达该目标物不构成威胁的指令。Ai系统「未来」在反覆回报都被阻止後,做了一个让大家都无法想到的举动。

        当陈博士看到「未来」这麽决策後瞬间狂喜,因为他知道——他的「未来」真的做出了类人的思考跟判断,在这之前,所有的人工智能都做不到的事情,他的「未来」做到了!

        隔天,S国的国防部长坐在椅子上,看着昨天的无人飞机实验报告,整个人不发一语。

        内容未完,下一页继续阅读