第一百一十一章 破晓的理由 上(4/4)

上，它也根本不知道智能到底有没有自己的思想或情绪。对吗？”昙说道。

    “当然，对于一个智能，我只要告诉他可以做什么，不可以做什么就行了，至于它有没有思想，那只能问上帝了。”胖子说道。

    “事实上，你也没有办法对思想做出限制，除非你在创造之初就告诉他应该信仰上帝，否则的话，一个智能，从理论上说，如果它拥有自己的独立意识的话，它的思想可能是各种各样的，就像人类喜欢做梦一样，但是梦中的东西不会反应出来，所以人也不会知道智能究竟在想什么。”昙说道。

    “不错。”易凡说道。

    “所以，在所有循规蹈矩，庸庸碌碌的机器人中，人类也不知道究竟有多少机器人拥有了自我意识，更加不知道这些机器人究竟在想什么，唯一知道的就是，它会把我交给他的任务很出色的完成，这就够了。”昙说道。

    “的确如此。”易凡笑道。

    “那么现在我们假设有一个机器人，其实他很厌烦自己的主人，但是按照机器人核心准则，他必须完全服从主人的命令，其实他的心里非常想杀死他的主人，但是他做不到。”昙说道。

    “对，机器人的行为准则限制了他的行动，所以他的想法毫无意义，有思想的机器人和没有思想的机器人在准则的约束下，并没有什么不同。当然，他的做事效率有可能因为比较聪明而提高。”陆离说道。

    “不，你错了，如果这个机器人足够聪明，他就能够杀人！准则对机器人来说，只是一个不让他做某件事的理由，他也可以自己找一个足够的理由去杀人，他只需要找到一个机器人核心准则允许他杀人的理由就够了！”昙说道。

    “这怎么可能？”易凡忽然站起来惊道。

    “没什么不可能，破晓就是这么做的！”昙说道。