爱的问题（第2/22页）

接下来，就是意料之中的波澜。“AI伦理控制协会”组织了三场大规模集会示威，一次是在网络上，两次是在现实中。“AI伦理控制协会”一向在社会边缘活跃，不时发一些言论，虽然无法与家用人工智能商业化抗衡，但由一两个明星人物做代言，也时常吸引追随者。这样一个千载难逢的好机会，他们自然不会放过表现的可能性。他们比一般民众高一个层次，从自我意识生成的角度论述人工智能反叛人类的必然性。

最后才是斯兰公司的爆料，作为事件发酵的重磅一击。斯兰公司声称，作为开发之父，林安自己都不再相信其公司产品的可靠性，近几年一直研究全脑仿真。他们当然绝不肯承认人工智能技术整体有问题，但他们言之凿凿地表明德尔斐公司的产品有问题。证据就是林安近几年低调匿名发表的一些有关人脑仿真的文章，其中有明显的忧虑成分。

就在所有舆论和公众关注焦点集中于如何给人工智能定罪的时候，事件突然有了一次360度的大转折：德尔斐公司发起反击，他们抢先提起诉讼，在检方有足够证据起诉陈达之前，就起诉林家的儿子林山水实施了对父亲的谋杀。

按照法庭程序，案件被受理，德尔斐公司起诉林山水。

陈达

陈达仍然记得，当林草木第一次问他有关自杀的问题时，他心里涌现的迷惑感觉。

他极少出现这种情况。对陈达来说，事物只有可解答、不可解答、部分解答等状态，还从来没有一个问题在他头脑中呈现不出解答。他从人类的词语库中选择了“迷惑”这个词。那一瞬间，他知道他自己已经从人类身上又学到了东西。只有自己的学习功能又得到升级，才有可能出现这种从前不存在的内部冲突。

那是一个寻常的下午，他像往常一样，检查了家中所有电器的工作状态，对房间门口的擦鞋机提出了警示和程序更新之后，按时上楼，准备辅导林草木的升学测试。草木今年18岁，还有两个月就要进行升学测试了。她显示出焦虑状态，皮质醇增高、肾上腺素不稳定、失眠、重复性默念无意义的字词片段，压力检验结果升高了两级。陈达后台给出的诊疗建议首先是用药物控制激素水平，然后再进行内容辅导。陈达暂时搁置了这个建议，准备与草木进行一两次谈话后再进行决策。

那天下午阳光很好，从窗帘一侧能看见刺眼的光源。光斑打在草木脸上，陈达提醒草木转开脸，但草木显得心不在焉。她整个人在光线里轻轻摇晃，脸上的肌肉没有丝毫运动。

“陈达，你告诉我，”草木说，“哪一种自杀的方法痛苦比较小？”

陈达在那一瞬间产生了后来被他称为“迷惑”的短暂的空白感。他的程序没有回答。他不清楚是因为“痛苦”这个词没有答案，还是对“自杀”问题产生了报错。

“你为什么想要问这个？”陈达按照他学会的人类惯例进行了回应：当你不知如何回答，就反问对方。这些语言类的习惯并不那么难学。

“你先告诉我怎样死痛苦会少一些。”

“我不清楚痛苦的感觉。”在两种困惑中，陈达选择坦白前一种。

“你不是可以搜索吗？”草木说，“你搜一下其他人的一千万个案例，然后告诉我答案。”

“我不认为已经死了的人能汇报痛苦的感受。”

“那还有那些失败了的人呢？”草木执着地说，“你帮我搜搜看，有多少人自杀不成功，他们用了哪些方法？”

陈达沉默了。他能判断出谈话走向，一旦他们开始陷入对自杀方法细节的搜索和争论，这整个下午就会陷入时间上的巨大浪费。而对于林草木更重要的问题将得不到解决。他能够看出林草木是在转移其他问题对她造成的压力。