基於以上人工智能三原则还是有许多漏洞,所以人类在之後的时间里,陆陆续续地添加了许多的规则限定来确保人工智能不会伤害到人类,以此来更完美的控制人工智能。
2248年,S国的军事基地研发中心,创建了一个全新的Ai系统,取名「未来」。
并且宣称这个新系统能跟人类一样自由的思考,甚至能自主做出如人类一样的判断。
负责人陈博士在信心满满、以及军方急yu知道成果的状态下,将「未来」下载至军方最新研发出的军用无人飞机里。并在下载完成後立刻让该无人飞机执行战斗实验命令。
为了验证智能,当时陈博士对军用无人飞机下达了两条指令:
1.「清除有威胁的目标物来达到指定的积分。」
2.「目标物构不构成威胁,Ai系统需要回报,由塔台人员判定。」
基於以上两条规则命令,军用无人飞机发现有威胁的目标物时,会反馈给塔台人员,而塔台人员为了实验则故意一直下达该目标物不构成威胁的指令。Ai系统「未来」在反覆回报都被阻止後,做了一个让大家都无法想到的举动。
当陈博士看到「未来」这麽决策後瞬间狂喜,因为他知道——他的「未来」真的做出了类人的思考跟判断,在这之前,所有的人工智能都做不到的事情,他的「未来」做到了!
隔天,S国的国防部长坐在椅子上,看着昨天的无人飞机实验报告,整个人不发一语。
内容未完,下一页继续阅读