人会使用工具，现代人与古人相比，主要的进步都是使用工具的结果，使用工具这种特长已经把人变成了超人，未来人类的超能力也是无可限量的。

现在的机器人是没有欲望的，它们只知道完成外来的任务，不会为了自身的利益主动给自己增加任务。人为什么有欲望呢？低级生物没有欲望，它们是纯粹的机器。欲望和情感是由内分泌系统控制的，内分泌系统分泌的内啡肽和多巴胺之类的化学物质会使神经系统产生兴奋。这些物质在进化早期产生的时候，多数生物的内分泌功能与生物的利益没有关系，只有少数生物有关系。例如，当他们看到猎物时会分泌较多的内啡肽或多巴胺，这样他们的捕猎行动就会很迅速，其他生物看到猎物时，就没有这种反应，没有反应的生物容易被自然淘汰。所以高级动物和人的欲望是自然选择的结果，活下来的高级动物都有欲望和情感。

将来机器人的数量增多了，也会有些机器人产生私欲，这样的机器人有可能挣脱人的控制。然后这些机器人为了争夺资源会排挤其他机器人。但是这些机器人会不会取代所有其他的机器人呢？可能性不大。在人类和其他高级生物进化的过程中，自然选择使有欲望的生物战胜了没有欲望的生物，但是这个自然选择的过程是不受干预地进行的。而在弱智和强智阶段，如果两种机器人之间发生了矛盾的时候，人类必然出面干预。自然选择早已被人工选择取代，人类一定会选择毫不利己、专门利人的机器人，或者选择利己更利人的机器人，这样的机器人一定是人的牛马。

舍己利人的机器人会不会比较笨呢？不会。欲望与智慧是相对独立的，对人来说，私欲是增长智慧的必要条件，因为私欲可以使人和其他高级动物增加行为，以获取自身需要的资源。在行动的过程中会有很多困难，没有强烈的欲望，就没有行为的动力。但对于人工智能机器就完全不同了，人类可以给他们足够的动力，所以，他们私欲较少时也能获得足够的生存资源。人类在研制机器人的时候可以把利益与机器人的神经网络系统的兴奋联系起来。但在连接时不仅把机器人的利益，也把人类的利益与机器人的神经网络系统的兴奋联系起来，而且把人类利益的权重设成最高值。这样的机器人，也可以比人聪明，但它们甘心情愿受人奴役。舍己为人的人工智能机器是人类忠实的奴仆，有了这些忠实的奴仆，人类还怕谁呢？如果我们自毁长城，一旦恐怖主义分子拥有了超级人工智能，我们就没有反抗之力了。

  人工智能是全新的事物，但古老的控制理论仍然有效。两千年前韩非子提出法、术、势的治国之道，后来历朝历代的实践又使它不断丰富发展，这些古老的理论在今天仍然十分有效。

治国与控制人工智能非常相似。皇帝是一个人，公卿大臣众多，下级官员、普通百姓更多。在这些人中间，智慧超过皇帝的数不胜数，不管这位皇帝是秦皇汉武、还是唐宗宋祖，都不可能是最杰出的，而那些聪明人联合起来力量就更大了。但是不管皇帝与这些人和集团的智力相差多少，只要皇帝能正确运用治国之道，就可以维持自己的统治。当现代科技飞速发展时，专家治国论曾经大行其道，但现在看来专家治国论并不正确，技术再复杂，应用得再多也不能代替政治。国家还是依靠政治家统治，还是依靠民主、法、术、势和半部《论语》。

治国之道是不是高深莫测呢？不是，治大国如烹小鲜，虽然法、术、势的理论有很多历史局限，但是只要我们认真地研究，就不难从中找到一套科学的理论。普通老百姓一般不懂政治，但在民主国家里，人民能够主宰国家的命运。民主制度把复杂的政治问题变成简单的选择问题，政党之间的争论让人民能够清楚地了解复杂问题的关键。如果把统治者换成人工智能，他们负责面对那些复杂的问题，不同的人工智能之间的争论可以让人类清楚地了解复杂问题的关键，然后把复杂的政治、经济、军事、文化问题变成简单的选择问题，人类就可以轻松地控制人工智能。

把治国之道用在人工智能上，需要有些变化，但不会变很多。只要我们不像历史上那些昏君一样贪图安逸、失去理智、听信谗言、杀害忠良，那么人工智能也能被人控制。

这种控制有风险吗？当然有。权臣辅佐幼主的时候，是效忠到底还是取而代之，只是一念之差。事后我们才知道谁是忠臣，谁是奸臣，事前连荀彧那么聪明的人也看不出曹操的真实用心。机器人和人不同，人是黑箱，知人知面不知心，机器人是白箱，随时可以把心挖出来看个究竟。但风险总是有的。