每个人都有侥幸心理。大家都知道开车有危险,每天都能看到很多交通事故的报道,但是多数人都泰然处之。每个人都知道,如果不开车,改坐公交车,出事故的概率就会小得多,但还是有那么多人毫不犹豫地开车。原因主要有两条:利益和侥幸心理。开车的利益包括可以提高办事效率、舒服、过瘾等等。
现在中国人买商业保险的还是少数,尤其在农村,富裕的农村中买保险的人也不多。不买保险的危害人人皆知,电视里经常报道患重病没钱治的事例,但这些报道很少能打动人们去掏腰包。这个原因主要也是利益和侥幸心理。
1986年,美国的未来学家德雷克斯勒在《造物引擎》中就发出预言,能够进行自我复制的纳米尺度机器人最后会失去控制,开始疯狂地复制自身,在很短的时间内就把地球变成一大团完全由纳米机器人组成的“灰色粘质”。德雷克斯勒提出这个预言时,人们还不知道什么叫计算机病毒,人们还没有办法把计算机、机器人和病毒联系起来,纳米技术也很原始,人们也很难相信纳米技术真的那么神奇。现在完全不同了,计算机病毒已经让人谈虎色变,纳米技术的神奇力量也得到了充分展示,现在人们应该可以看清楚纳米机器人的威胁了。但是面对这种威胁,人类至今仍然显得异常镇静,也没有听到过中国有停止纳米机器人研究的呼声。相反,媒体一直在大力宣传纳米技术的正面效果,各国的研究机构在研制纳米机器人方面正在进行一场激烈竞争。
是不是人们已经能够确信纳米机器人不会给人类带来很大危害呢?不是。那么人们为什么会这么镇静呢?可能有四种原因:第一,还没有真正认识到纳米机器人可能带来的危害有多大;第二,认为虽然危害很大,但是车到山前必有路,科学家们一定能想出好办法来;第三,虽然危害很大,但现在既然想不出办法,就只能走一步看一步;第四,纳米机器人现在离我们还很远,能自复制的机器人不一定会出现,不必庸人自扰。这四种心理都包含着侥幸心理。利益和侥幸心理是人行为的主要推动力,是很难改变的,即使大家都知道这样做不理智、埋藏着巨大的祸患也很难改变。
要改变大众的观念,理论的说教往往比不上典型案例。二次大战中,美国总统很难让美国人相信法西斯阵营对美国的威胁,但是一个珍珠港事件就解决问题了。现在,纳米机器人病毒的威胁也很难让人相信,大家似乎又在等待珍珠港事件。但是,纳米机器人病毒和法西斯不一样,纳米机器人的珍珠港事件一旦发生很可能就没有挽回的余地了。即使这样,恐怕大多数人还是宁愿等待。
侥幸心理经常被当成一个贬义词,但无论在理论上还是在现实生活中,侥幸心理都有很大的理性依据。例如开车虽然有风险,但会带来很多方便和乐趣,不开车可能耽误很多重要事情。如果你问爱车一族为什么愿意冒风险,他们会说:“值”。买保险当然是理性的选择,但我省下钱来赚更多的钱,然后可以买更多的保险不也是理性的选择吗?
面对人工智能的威胁,利益和侥幸心理同样会主导人的行为。允许制造超级智能机器人,的确有很大风险:控制机器人有风险,机器人很可能会失控,半机器人有可能赶不上机器人的智慧,如果接受机器人的统治,机器人的友善可能不保险。但否定风险的理由也很有力,所以这个风险到底有多大是很难说的。相反,制造机器人的利益却是巨大和实实在在的。所以这时利益和侥幸心理完全会驱使人们去冒风险。
利益和侥幸心理不仅能主导普通人的行为,而且能主导政府首脑和企业领导的行为。也许在很多人看来,政府首脑和企业领导都应该做事非常理智,但是政治和经济的错综复杂迫使他们经常要冒风险,利益和侥幸心理对他们的影响比一般人有过之而无不及。
你会说,超级智能机器人的风险与开车和买保险根本没法比,这关系到全人类的命运。相信大多数人心里都有强烈的社会责任感,甘愿舍生取义的人也绝非少数,但仔细想想会发现这种区别没有表面上看起来的那么大,对于很多人来说,个人的死亡与世界的毁灭没有太大的区别。而且这种区别对于决策的影响力就更小了,也就是说,一个人如果愿意以自己的生命去冒险,那就很难保证他不会用人类的毁灭去冒险。