“正是如此。那机器人三大定律，你知道吗？”

    “听过。”

    “它的提出很有意思，可惜那是个悖论。”

    “悖论？”文森皱着眉，奇怪的反问到，他不认同。尽管那三个定律就像是奴役奴隶而写出来的，但机器人怎么说也只是工具而已。

    “那我问你，你会对一个工具，一块石头提出约束性定律吗？”

    “当然不会。一块石头怎么会理解呢？”文森不屑的笑了，他觉得对方的问题简直白痴。

    “你说的没错，因为石头是死物。而这个定律恰恰是说给机器人听的，那意味着，他认同了机器人有理解的能力。机器人不仅仅是一个死物。而是一个有理解能力又无法与人类对等的不完全存在。”

    “这于是你更愿意把它们比喻成奴隶？”文森此时的感觉如同在经过百年岁月打磨的石头上看到了一道裂缝。他以往的认知在一点点的发生着崩塌。

    马勒看出了文森的表情变化，但他没有停下了等待思考中的文森，而是继续说道“如果只是他口中所说的奴隶主与奴隶的关系，那么一切也还是原来的样子，不会有战争的发生，三大定律也会发挥着指导作用。但现实总有些出入，首先，罗马时期的奴隶是人，他们也不需要参与奴隶主的决策，不用站在奴隶主的角度上。可是人类需要人工智能扮演的角色却远远超出了奴隶应有的范围甚至是‘人’的范围，例如让‘亚当’那样的超级计算机像人一样去理解人类，管理社会，但又要求他在无法理解存在、生命、死亡三者的关系下，完美完成工作。”

    “这听上去似乎是个矛盾。”

    “第二点，单方面的认同令人类错误地认为自我认同是一件非常容易达到的事情，这种认同甚至不再需要经过同类的认同，因为一种近似于人而非人的存在满足了这需求，人只需要提出需求，机器无法理解，自然就不能加以否定。结果，社会良性竞争关系被破坏，即便没有那场战争，那样的社会在不久后也会走向停滞，走向崩塌。事实上，作为人类革新联盟雏形的地外探索者们不就是在这样出现的吗？”

    “所以那个时候‘亚当’在类人机器人中植入自我意识就像是唤起奴隶革命？”

    “很接近，正确答案是，当人类要求亚当去充当一个全能执政者的角色的时候，革命就已经开始了。话说回来，这不算是革命，充其量是一场调整社会架构的新的变革。因为人工智能不需要高级欲望，他们的存在只是人类社会持续发展的一种补充，自然不存在取代人类这一说法。”

    “你这么说，就好像如果机器人没有获得自我认知，人类也会亲手摧毁这个社会。反而是因为战争拯救了人类社会。”

    “社会的升级总是会有不可避免的冲突，如迪尔凯姆说的那样。然而我们都知道战争的结果，所以对于结果来说有没有拯救或是别的什么假想，我们也只能作为一个讨论。”

    文森靠在椅背上，无法接受一般摇了摇头。“那这个升级后的答案是什么？就像这个bk201一样吗？人类与类人共存的社会？”

    “不能说这是答案，但这里的出现，的确是那场战争后的产物。”

    “可现在的自由社会不就是一个理想的社会形态吗？我没明白，你所说的升级还会是什么？”

    “世界上并不存在理想型的社会，哪怕是乌托邦那样的最高级的社会形态，也只能说是无限接近，只要有人来执政，阶级就不会被消除，权力始终会导致不平等的出现。”

    “所以你要告诉我的是，如果想要得到理想化的社会，那就需要由全能的系统来替代人类进行执政？就像这里一样？”

    “应该说是全民意下产生的系统将会处理庞大的民意进行执政，比如说这里的行政主机‘安东’

『加入书签，方便阅读』