第三篇 贝莱星（第2/36页）

“如果我把自己假想成这名监督员。”丹尼尔的声音开始颤抖，而且变得有些低沉，“那么在我看来，我可能会为了拯救某个人类而杀害另一个人，只要我有理由相信拯救前者是确有必要的。然而，那会是个困难而且有破坏力的行动。另一方面，仅仅为了摧毁非人的敌人便不惜杀害人类，在我看来就简直难以想象了。”

“她只是口头这么威胁，并未真正付诸行动。”

“她可能付诸行动吗，吉斯卡好友？”

“我们并不清楚她究竟接受了什么指令，又怎能确定呢？”

“那些指令能够完全抵消第一法则吗？”

吉斯卡说：“我懂了，你之所以讨论这件事，唯一的目的就是要提出这个问题。我劝你别再追究下去了。”

丹尼尔以倔强的口吻说：“那我就改用假设句吧，吉斯卡好友。不能当作事实来讨论的问题，当然还是可以虚构一番。如果能用定义和条件把指令说得面面俱到，又如果能用强而有力的方式，把指令叙述得足够详尽，那么在此前提下，有没有可能让机器人由于某个远远比不上拯救人类的原因，而杀害另一个人类呢？”

吉斯卡硬邦邦地说：“我不知道，但我猜应该有此可能。”

“可是，如果你猜得没错，就意味着第一法则可能会在某些特殊条件下失效。既然如此，它就可以被修改成仿佛不存在，而其他两大法则当然也一样。因此这些法则不再是绝对的铁律，而是机器人的设计者能够随意定义的，就连第一法则也不例外。”

吉斯卡说：“够了，丹尼尔好友，别再讲下去了。”

丹尼尔却说：“还差一步，吉斯卡好友。换成以利亚伙伴，他一定会再迈出一步。”

“他是人类，所以能那么做。”

“我必须试试看。机器人学三大法则——尤其是第一法则——如果并非铁律，如果能被人类随意修改，那么在适当情况下，我们自己不是也能修……”

他住口了。

吉斯卡有气无力地说：“别再讲下去了。”

丹尼尔答道：“我到此为止。”他的声音也有点模糊不清。

沉默维持了好长一阵子。两人都费了很大的劲，才让自己的正子电路恢复正常。

丹尼尔终于再度开口：“我又想到一件事。那名监督员共有两点可怕之处，一是她脑中的指令，二是她的外表。不只我自己，恐怕连船长都被她的外表影响了。推而广之，她有可能欺骗和误导所有的人类，就像我当初无意间骗倒了一级船工尼斯那样。一开始的时候，他显然并未察觉我是机器人。”

“从这点能推论出什么呢，丹尼尔好友？”

“想当年，奥罗拉的机器人学研究院在取得法斯陀夫博士的设计之后，曾在阿玛狄洛博士领导下，制造出一批人形机器人。”

“这是众所皆知的事。”

“那些人形机器人到哪里去了？”

“计划失败了。”

丹尼尔说：“这也是众所皆知的事，可是你并未回答我的问题。那些人形机器人到哪里去了？”

“可以假设它们被销毁了。”

“这种假设并不一定正确。它们实际上真的被销毁了吗？”

“这是个合情合理的假设。不然该怎么处理失败的作品？”

“我们只知道那些人形机器人不见了，如何肯定它们是失败的作品？”

“既然它们被销毁了，难道还不够肯定吗？”