2.机器加武器等于大灾难
如果人工智能被武装起来,那将是一件非常恐怖的事情;而如果它们掌握了核武器,那对人类来说,不啻为大灾难。
从冷战时期开始,科幻电影就不吝向我们展示原子武器和原子测试带来的灾难。最着名的“启示”出现在《人猿星球》六部曲中第一部的结尾:掌握核武器的人类文明因为自相残杀而毁灭,在重新进化的过程中,猿类占据了统治地位。另外,在1954年上映的电影《Them!(X放射线)》中出现的巨型蚂蚁也是原子试爆后的副产品。这些巨型蚂蚁非常有组织,嗜肉、体型巨大,群聚在洛杉矶的下水道系统,准备接管这个世界。在科幻电影中,核弹爆炸也会将沉睡的怪物唤醒,比如在1954年上映的电影《哥斯拉(Godzilla)》中因为核武器而被唤醒的具有超强破坏力的巨兽“哥斯拉”。

《人猿星球》六部曲中第一部的结尾:掌握核武器的人类文明因为自相残杀而毁灭,在重新进化的过程中,猿类占据了统治地位。
很多科幻电影都表明,如果机器或者人工智能掌握了核武器的话,人类将面临极大的风险。不管机器是超级计算机“约书亚(Joshua)”还是“天网(Skynet)”。在电影《战争游戏(Wargames)》中,美国五角大楼把使用核武器发动战争以消灭一些危险分子的生杀大权完全交予了“约书亚”这台电脑控制,差点引发了一场全球冲突。而在《终结者(Terminator)》系列电影中,“天网”是一个人类于20世纪后期创造的以计算机为基础的人工智能防御系统,最初用于军事研究,但“天网”在控制了美军所有的武器装备后不久,获得自我意识,立刻倒戈对抗其创造者,试图采用大规模杀伤性武器(甚至核爆)来灭绝全人类。
因此,关键在于,不要让机器掌握武器。