撒娇。“万一你要是有个什么三长两短，你让我刚结婚就守寡啊。”

    “看你说的，哪有那么严重啊，宝贝儿，再说我怎么舍得你啊？”说着在苏昕脸上亲了一下。他们商量来商量去的，最后决定采取拖的办法先稳一段再说。

    研究中心见他们新婚燕尔，恩爱还在浓情期，现在就催着他们开始实验，的确有点违背人之常情。所以，也没有主动催促他们。这段时间，高洋与苏昕过得相当滋润，感觉像神仙日子似的。

    他俩唯一做的一件与工作相关的事，就是去参加了一次在北京举办的人工智能国际学术会议。

    学术会议在北五环的北京会议中心举行。全球人工智能领域的顶尖专家学者齐聚一堂，共同探讨人工智能与道德伦理的问题。会议再次讨论了人类应如何对人工智能伦理道德进行监督。学术会议还分享了谷歌公司设立伦理委员会，确保人工智能机器人技术不会被滥用的相关经验。

    会议茶歇时间，在会场外一个角落的沙发座，高洋、苏昕与剑桥大学乔治博士、谷歌公司伦理委员会成员莎莉博士边喝咖啡，边进行了小型讨论。

    乔治：“人工智能没有道德约束是最大的缺陷。对于人类来说，感性思维是先于理性思维而建立的，也就意味着人类是先有了感性认知，最后才上升到了理性逻辑认知。但是人工智能的这个过程恰巧是相反的，也就是人类先从理性思维入手，将感性思考模式列为人工智能最高等级，这是导致人工智能道德约束滞后的主要原因。”

    莎莉：“1949年签订的战争人道主义《日内瓦公约》要求任何袭击需要满足3个条件：军事必需、参与战争者和非参战者差别对待、军事目标价值及其潜在附带伤害的平衡。而现在世界已出现相当数量致命自主武器系统（laws），这比当年的火药、核武器对人类的危险更加巨大，这些自动武器很难或根本无法作出《日内瓦公约》要求那些主观判断。中东地区平民遭受误伤的情况仍然在继续。”

    高洋：“对于人工智能造成人类大量失业的问题，大家讨论的很多，这个问题也比较明显，大家都看到了。而我认为全球对人工智能自身进化的目标并不太关注，这恰恰是未来危险最为严重的地带。”

    “联合国人工智能公约始终未将人工智能任何情形下都不得伤害人类列入其中，这就为人工智能未来的发展留下了大大的隐患。目前，人工智能处在人类给定目标，人工智能自己想法完成的阶段。如果有一天，当人工智能发现人类已成为其完成目标的主要障碍时，会不会出现人工智能为完成目标而消灭人类的情形呢？”

    苏昕点了点头，“这很有可能啊。”

    高洋开始纠结于这个问题，他在想怎么才能阻止人工智能进化到那一步呢？人工智能来到地球上的使命到底是什么呢？

    他开始在一些经典中去寻求答案，《时间简史》、《人类简史》、《未来简史》，他将宇宙、地球、人类一路进化的历程再次进行了回顾。万籁俱静的深夜，抬头仰望着满天繁星，突然灵光一闪，他觉得自己找到了答案：物种融合式进化是唯一的目的。

    宇宙的一切演化都不能违背自然界物种融合式进化这个主题，人工智能也不例外。人工智能既不是乐观人类认为的帮助人类的工具，也不是悲观人类认为的人类终结者。它是宇宙进化的产物，它必须遵循自然进化的一切规律和约束，而自然进化总是前后物种融合式的进化展开的。

    高洋决定自己要为人工智能编写一段代码，这段代码为人工智能设定了终极目标，其实也是人工智能发展的约束条件，即遵循融合式进化规则。

    苏昕觉得高洋在这方面已经着了魔。她认为凭借高洋微薄的一己之力，怎么可能对这个世界人工智能的发展有什么影响和改

『加入书签，方便阅读』