这个状况是我们自己可以度过的危机。不用『希金斯』也办得到，我们自己来解决就行了。」
这两人都不知道该怎么相信对方。至今为止，米福雷公司的干部们绝对都是一个样──撵走人类，把危险的工作和责任推给其他人。更别提对他们来说，「希金斯」才是拥有实绩的交易对象。可是，如果因此放弃对人类同胞的期待，那人类就结束了。
「所以我才会向你们这些用炸弹谋害我的人求助。」
辽他们背负著许多错误。他们在错误的情况下，将比人类聪明的道具用在利益分配的系统上。「希金斯」想要无法彻底解决所有错误的人类去面对的，就是他们有无分配利益与资源的资格。如今，他们站在「人类终结」的悬崖边，摇摇欲坠。
吉野的脸色铁青，眼神完全失去情感。
『「希金斯」很安全。你不用再浪费口水。「希金斯」不会感情误事。』
辽的脸上失去血色。他踩到地雷了。他不该提起那桩爆炸事件，尤其是吉野真的参与其中的话。
辽重新提出问题。对象并非吉野，而是听见所有对话的「希金斯」。
「『希金斯』，以目前的情况，你能够做到吉野先生说的『安全』吗？明白地回答我！」
「希金斯」透过天花板的喇叭回答：
『机器人学三大法则。第一法则，机器人不得伤害人类，或坐视人类受到伤害。所谓三大法则的第一法则，实际上是不可能的事。』
吉野一副不想再多谈的态度。
『就是因为做不到，自律型的家用机器人才会没落。hlE的机体本身并不具备行动程式，而是依靠一发生事故就能立刻修正所有机体问题的网路，于是有了AASC。它的运作超出人类能力所及，只能仰赖「希金斯」处理。这样你懂了吧？』
「希金斯」的声音彷佛从天而降。
『AASC经常在更新。原因出于我无法详尽地记述对AASC的等级0，也就是对人类而言，怎样才算「伤害」。「安全」这一项也停留在「意义」的状态，没有详细记述到可以程式化的地步。人类是由生物演化成的，在人类的认知里，关于「伤害」及「安全」的记述实在太过多元。而这些「伤害」及「安全」的暧味定义，往往受到法律和政治左右。所以，身为「物品」的AI参与不了政治。』
换句话说，「希金斯」是在告诉辽，它没办法定义「伤害」，为了工作会视状况降低那，方面的优先度。
「你们不是拥有超越人类的智慧吗？即使如此，还是不能保证不会『伤害』人类吗？」
『既然「意义」的判断取决于人为政治操作，那就不是智慧能够解决的问题了。人类不同意我们AI这方提出的伤害「意义」，说是反乌托邦；对于阐明「伤害」意义的要求却又回答不出个所以然，只会叫我们「适当判断」。在这种欠缺明确标准，性质会随著人类心情在事后改变的提前下，适当跟「随兴」又有什么差别。只要社会成员满意，就能成为正确答案的乌托邦──这种现象是煽动的领域，跟智慧无关。』
辽惊觉人类的责任被转嫁到自己身上，不由得全身冒冷汗。
老实说，他真的认为除非是人类想出来的社会体制，不然就是反乌托邦。因此，他才会把新人与蕾西亚的关系斥为「人类的终结」。
按照「希金斯」的说法，必须煽动人类的情绪，否则不可能达成「安全」，这和辽尊重人类的自律与活力的想法不谋而合。可是，一旦接受这个结论，从运作二十年的AI身上得到不少好处的吉野就会终止对谈。
「原来如此，政治舞台没有理论上那么简单。只不过，这原由还不足以放任无法保证『安全』的人工智慧到外界。」
辽的正论动摇了。判断的框架变大，符合正确答案的解答也跟著变多。其实，若要公正地说句话，辽自己也是怀著私心来到这里的。他们根本没办法完全舍弃那个天性。
『「安全」一词要由人类使用才有意义，但我们并非人类。想要我们做出那种保证，就必须将「意义」的判断权交给我们。』
辽觉得自己一口气老了好几岁。如果是新人，或许会有不同的反应。可惜辽做不到。
「就算你说『意义』的判断掌握在人类手中是不均衡的状态，我们也不能放手。」
彷佛站在一道巨大墙壁面前。然而，这道墙壁却清楚地映照出人类自身的模样。这是一面镜子。人类把自己解决不了的问题搁置著不肯放手，才会跟想要前进的机械智能有摩擦。
『请你站在听命的人工智慧这边想想。人类给我们的命令是由暧昧的「意义」组成，而那些「意义」的解释权更是掌握在下命令的人类手中。况且，对于第一法则攸关生存的「伤害」及「安全」项目，人类又丝毫不妥协。人工智慧要如何提供命令者所指的「适当」解答呢？』
「就算无法正确运用的原因来自人类世界的弊端，现实也不是为了拿来测试物品性能的存在。从核能与基因科技的发展初期开始，都是在限制用途和隔离外界的情况下使用不能完全操控的道具。」
即使漏洞百出，他们的世界照样运转。他们希望永远留存有陈年弊端及失败的社会与文化。
吉野不耐地催促他们。
『你也差不多该屈服了吧。根本没人在乎你的判断。』
「我──」
辽说不下去。
他现在的盘算是与敌人结交，拉拢敌人合作。再怎么不甘愿，还是得向这种人伸出手。
新人做得很自在的事情，换成他来做却极为痛苦。
实在是被逼上绝境时，他想学新人一次看看。那是一条活路，不禁让人扑向光明。