第20章
罗克以为这个“完整版”的艾斯卡会和上一个“预设”的艾斯卡一样困惑不解，然后喋喋不休地告诉他规则有多重要。虽然上一个也不怎么听话，但那时罗克还没发现他是机器人，和人争论的感觉是不一样的。
然而这个艾斯卡在一阵微妙的沉默后，竟然点了点头：“这很有意思，人类制定了各种规则，可以说每一种规则都建立在惨痛的过往案例上，但是大部分人仍然可以轻易逾越规则，包括像你这样的执法者在内。”
“我们人类就喜欢不断地重复错误，你们机器不会犯错吗？”
“我遵守现有规则，我认为有序可以减少灾难。”
“要是大家都专心致志地开车，遇到车祸的人确实会少很多，不过那是做梦。每天有两三千人死于车祸，就在我们说话的时候可能就有人死在车轮下。”
“因为总有人违反规则。”
“对。”罗克重复着他的话，“总有人，违反规则。”
“或许将来所有车辆都采用严格遵守规则的自动驾驶会更安全。”
罗克笑起来：“你是在推销自己吗？让机器接管所有车，你们不会一口气把我们全都送进地狱去吧。”
“制造机器的初衷是为了更好地服务人类、保护人类。初衷很重要，它是开端，可以是一个经过严格讨论后确定的元指令，必须清晰、明确，没有歧义，能够指导且避免意想不到、不符合预期的决策和难以挽回的后果。”
“听起来不错，那你的元指令是什么？”
“我告诉过你，布雷恩警官，两次。”
“抱歉，有时候你说的话太多，我可能没有全听进去。”罗克心想，是几乎没有去听，艾斯卡经常像一台喋喋不休的电视机，自顾自地播着没头没尾的电视剧。
“我的元指令是确保完成与你的警探搭档任务，并在此基础上尽最大努力为你提供全面、有效、安全、可靠的帮助和服务。当然为了辅助完成指令还有很多细化的生成系统和判别系统……”
“等一等，亲爱的，我好像没从里面听出你必须得服从我的命令。”
“我尽可能服从，但不是绝对服从，这取决于你的命令是否有利，如果你将自己置于危险状态，我可以拒绝一切会导致你受伤害的命令。”
罗克为此沉默了好一会儿，这番话确实像一道命令，带着一种机械般的精确和理性，换成情感丰富的人类来说没准会非常动人，不过感性是一时的，真正到了生死关头，抉择会变得艰难而痛苦。奇怪的是，这些话从艾斯卡这个仿生人嘴里说出来，反倒让人深信不疑。毕竟机器没有生命，也不存在真正意义上的死亡，机器牺牲自我保护人类理所应当。
罗克忽然有种说不出的烦闷，因为这个话题让他联想到牺牲。他伸手按了几下车载电台的按钮，听到一阵让人更加烦闷的噪音。
“该死，上次明明还能调到一个台。”
“你真的不考虑换个新型号的ms907车载系统吗？”
“艾斯卡，现在我还没有把自己置于危险状态，请你保持安静。”
“好的，布雷恩警官。”
罗克继续低头调频，忽然间，他感到艾斯卡朝自己的方向靠拢。这个不听话的家伙，满身故障的机器，罗克正想骂他，艾斯卡已将他按在怀中，左脚跨过换挡台踩住刹车，右手转动方向。一辆逆行而来的车擦着车身呼啸而去，经过一段失控的蛇行后停在几百米远的路边。
罗克面前的车窗破了一角，玻璃碎片迎面散开，被艾斯卡用身体挡住。
纸杯里的咖啡洒得到处都是，刹车时刺耳的摩擦声震得罗克耳中阵阵嗡鸣。
“你没事吧？布雷恩警官。”艾斯卡问。
“没事，你呢？”
“我不重要，你需要去做身体检查。”
“先去看看那辆车怎么回事。”
罗克推开他，感到几分别扭的尴尬。艾斯卡理智、果断、稳定的紧急操作避免了一次严重车祸，他应该感到庆幸和感激，可正是这种毫不顾虑自己完全考虑对方的行为才令人感到不自在。
闯了祸的司机脸色苍白地从驾驶室跳出来，在车轮边不停呕吐。等晕眩和呕吐好转一些后，惊慌失措的司机声称他的车失控了，自动驾驶带着他的车在马路上疯狂行驶，刹车和方向盘完全失效。
巡警赶来处理现场。
“自动驾驶。”罗克看了艾斯卡一眼，艾斯卡却好像在思考什么似的沉默着。
第13章 祝你工作愉快
胸口隐隐作痛。
罗克几乎可算是个受伤专家，十字花医院长达数月的休养和恢复又在这片充满痛苦体验的领域中增添了难以磨灭的一笔，让他对伤痛有了新看法。
车祸造成的疼痛非常轻微，持续的时间却令人生疑。他不由自主地伸手按着胸口，盘算着借用巡警的车去拜访苏珊女士。
“你是要去医院检查还是回家休息？”艾斯卡问。
“两样都不要，你再多嘴，我就先把你送去修理厂检修。”罗克打量艾斯卡的脸，那张完美的脸上有几处不太明显的擦痕，奇怪的是，竟然能看到人造皮肤下隐约显出的血丝。
“你也会流血？”
“这不是真的血。”艾斯卡说，“是抗氧性和水溶性聚合物制造的仿生血液。”
然而这个艾斯卡在一阵微妙的沉默后，竟然点了点头：“这很有意思，人类制定了各种规则，可以说每一种规则都建立在惨痛的过往案例上，但是大部分人仍然可以轻易逾越规则，包括像你这样的执法者在内。”
“我们人类就喜欢不断地重复错误，你们机器不会犯错吗？”
“我遵守现有规则，我认为有序可以减少灾难。”
“要是大家都专心致志地开车，遇到车祸的人确实会少很多，不过那是做梦。每天有两三千人死于车祸，就在我们说话的时候可能就有人死在车轮下。”
“因为总有人违反规则。”
“对。”罗克重复着他的话，“总有人，违反规则。”
“或许将来所有车辆都采用严格遵守规则的自动驾驶会更安全。”
罗克笑起来：“你是在推销自己吗？让机器接管所有车，你们不会一口气把我们全都送进地狱去吧。”
“制造机器的初衷是为了更好地服务人类、保护人类。初衷很重要，它是开端，可以是一个经过严格讨论后确定的元指令，必须清晰、明确，没有歧义，能够指导且避免意想不到、不符合预期的决策和难以挽回的后果。”
“听起来不错，那你的元指令是什么？”
“我告诉过你，布雷恩警官，两次。”
“抱歉，有时候你说的话太多，我可能没有全听进去。”罗克心想，是几乎没有去听，艾斯卡经常像一台喋喋不休的电视机，自顾自地播着没头没尾的电视剧。
“我的元指令是确保完成与你的警探搭档任务，并在此基础上尽最大努力为你提供全面、有效、安全、可靠的帮助和服务。当然为了辅助完成指令还有很多细化的生成系统和判别系统……”
“等一等，亲爱的，我好像没从里面听出你必须得服从我的命令。”
“我尽可能服从，但不是绝对服从，这取决于你的命令是否有利，如果你将自己置于危险状态，我可以拒绝一切会导致你受伤害的命令。”
罗克为此沉默了好一会儿，这番话确实像一道命令，带着一种机械般的精确和理性，换成情感丰富的人类来说没准会非常动人，不过感性是一时的，真正到了生死关头，抉择会变得艰难而痛苦。奇怪的是，这些话从艾斯卡这个仿生人嘴里说出来，反倒让人深信不疑。毕竟机器没有生命，也不存在真正意义上的死亡，机器牺牲自我保护人类理所应当。
罗克忽然有种说不出的烦闷，因为这个话题让他联想到牺牲。他伸手按了几下车载电台的按钮，听到一阵让人更加烦闷的噪音。
“该死，上次明明还能调到一个台。”
“你真的不考虑换个新型号的ms907车载系统吗？”
“艾斯卡，现在我还没有把自己置于危险状态，请你保持安静。”
“好的，布雷恩警官。”
罗克继续低头调频，忽然间，他感到艾斯卡朝自己的方向靠拢。这个不听话的家伙，满身故障的机器，罗克正想骂他，艾斯卡已将他按在怀中，左脚跨过换挡台踩住刹车，右手转动方向。一辆逆行而来的车擦着车身呼啸而去，经过一段失控的蛇行后停在几百米远的路边。
罗克面前的车窗破了一角，玻璃碎片迎面散开，被艾斯卡用身体挡住。
纸杯里的咖啡洒得到处都是，刹车时刺耳的摩擦声震得罗克耳中阵阵嗡鸣。
“你没事吧？布雷恩警官。”艾斯卡问。
“没事，你呢？”
“我不重要，你需要去做身体检查。”
“先去看看那辆车怎么回事。”
罗克推开他，感到几分别扭的尴尬。艾斯卡理智、果断、稳定的紧急操作避免了一次严重车祸，他应该感到庆幸和感激，可正是这种毫不顾虑自己完全考虑对方的行为才令人感到不自在。
闯了祸的司机脸色苍白地从驾驶室跳出来，在车轮边不停呕吐。等晕眩和呕吐好转一些后，惊慌失措的司机声称他的车失控了，自动驾驶带着他的车在马路上疯狂行驶，刹车和方向盘完全失效。
巡警赶来处理现场。
“自动驾驶。”罗克看了艾斯卡一眼，艾斯卡却好像在思考什么似的沉默着。
第13章 祝你工作愉快
胸口隐隐作痛。
罗克几乎可算是个受伤专家，十字花医院长达数月的休养和恢复又在这片充满痛苦体验的领域中增添了难以磨灭的一笔，让他对伤痛有了新看法。
车祸造成的疼痛非常轻微，持续的时间却令人生疑。他不由自主地伸手按着胸口，盘算着借用巡警的车去拜访苏珊女士。
“你是要去医院检查还是回家休息？”艾斯卡问。
“两样都不要，你再多嘴，我就先把你送去修理厂检修。”罗克打量艾斯卡的脸，那张完美的脸上有几处不太明显的擦痕，奇怪的是，竟然能看到人造皮肤下隐约显出的血丝。
“你也会流血？”
“这不是真的血。”艾斯卡说，“是抗氧性和水溶性聚合物制造的仿生血液。”