第十四章 动 机（第2/5页）

“你对第一法则到底有什么独到的看法？”他一本正经地说。

“我们会遭窃听吗？”

“不会，我做了预防。”

贝莱点了点头。“我先来引述一下第一法则。”

“我看没必要。”

“我知道，但还是让我引述一下吧：机器人不得伤害人类，或因不作为而使人类受到伤害。”

“怎么样？”

“且说刚抵达索拉利时，我是搭乘地面车前往指定给我的属地。为了避免让我接触到开放空间，那辆地面车在行进中完全封闭。身为地球人……”

“这点我知道，”李比不耐烦地说，“但这又和第一法则有什么关系？”

“驾驶那辆车的机器人并不知道这一点。我要它打开天窗，它立刻遵命了。根据第二法则，它必须服从命令。我当然觉得很不舒服，好在天窗及时关闭，否则我就要崩溃了。能不能说那机器人伤害了我？”

“它是奉命行事。”李比回嘴道。

“我来引述一下第二法则：除非违背第一法则，机器人必须服从人类的命令。所以你看，我的命令应该无效才对。”

“荒谬。机器人并不知道……”

坐在椅子上的贝莱倾身向前。“啊！这就对了。让我们把最正确的第一法则说一遍吧：机器人不得在知情的情况下伤害人类，或在知情的情况下因不作为而使人类受到伤害。”

“这个道理大家都懂。”

“我认为一般人并不懂。否则，人人都会了解机器人能进行谋杀。”

李比脸色苍白。“你有精神病！你是疯子！”

贝莱凝视着自己的指尖。“我想，凡是不会对人类造成伤害的任务，机器人都会执行？”

“必须有人下令。”李比说。

“是的，当然必须有人下令。而如果有另一个机器人，奉命执行另一件任务，只要这件任务不会对人类造成伤害，我想它也是会执行的？”

“没错。”

“有没有可能，这两件任务本身对人类都毫无危害，加在一起却构成了一桩谋杀案？”

“什么？”李比的表情变得很阴沉。

“我想请教你对这个问题的专业意见。”贝莱说，“我来说一个假设性个案吧。假设某人对机器人说：‘把这种液体放一点到某处的一壶牛奶里。这种液体无毒无害，我只是想知道它对牛奶有何影响。一旦我确定了，便会把那壶牛奶倒掉。等你做完这项工作，把它忘得一干二净。’”

李比依旧沉着脸，什么也没说。

贝莱继续说道：“如果我叫机器人把那个神秘液体加到牛奶里，然后拿给某人喝，第一法则会促使它提出质疑：‘这个液体到底是什么？会不会对人类有害？’即使我向机器人保证这么做绝对安全，第一法则还是会让它存疑，因而拒绝端出那壶牛奶。然而，如果我告诉它最后会把牛奶倒掉，第一法则就不会介入了。请问机器人会不会服从命令？”

李比开始面露凶光。

贝莱又说：“然而，第二个机器人并不知道那壶牛奶被动了手脚。在完全不知情的情况下，它把牛奶倒出一杯给某人喝，而那人就被毒死了。”

李比大叫一声：“不会的！”

“为何不会？两件任务本身都是无害的，只有加在一起才会构成谋杀。难道你否认有这种可能性吗？”

“凶手应该是那个下令的人。”李比吼道。

“如果你追根究底，这么说当然没错。不过，那两个机器人却是直接的凶手，是行凶的工具。”

“没有人会下这种命令。”

“有这种人，而且他真做了。谋杀葛鲁尔局长一定就是用这种方法进行的。我想，你应该听说过这件事了。”

“在索拉利，”李比喃喃道，“每件事都会传到你耳朵里。”

“那你就该知道，葛鲁尔是在吃晚餐时遭毒害的，而且是当着两个人的面，除了我自己，还有我的搭档，也就是来自奥罗拉的奥利瓦先生。你能想出把毒药送进他嘴里的第二种方法吗？当时，他的属地上没有别人。身为索拉利人，你一定明白这个事实。”