机器人是白箱
来源:《太极进化主义》第4篇 | 作者:段勇 | 发布时间: 2021-10-10 | 1357 次浏览 | 分享到:

同时也不应该低估人类的潜能。创造知识的过程很难,但学习知识的过程要容易得多。我们一般人不能创造相对论,但可以理解和运用相对论。现在的科学家创造知识的能力对于古代人来说就是超级智能,但这些超级智能的成果完全可以被年轻的学生们学会,越高深的知识往往越容易学习。所以,即使将来超级人工智能远远超越了人类的智能,人类也能掌握它们创造的很多成果。更何况很多真理是长久不变的,两千年前的很多理论今天仍然适用,乡间农夫和国家主席的基本价值观没有多少差别,今天创立的很多学说超级人工智能也无法反对。

  如果人工智能出乎意料地爆发成超级智慧,人类确实无法对付,但是如果用人工智能来控制人工智能,那么这种爆发在一定范围内仍然可以控制。因为作为控制工具的人工智能也会爆发,它们的进化速度与被控制的人工智能之间处于同一个数量级。现在的生产力发展速度对于恐龙和猿人来说都是爆发,但各个国家之间的发展速度相比就不是爆发,处于同一个数量级。