，有害身体健康。」
「……我们会讨论的。」
桶屋小姐话一说完，双手叉腰，俯看伊势崎老爷爷。
「伊势崎老爷爷，我们的忍耐也是有限度的。下次再做这种事，我们会考虑强制让你离院。」
我不晓得就规则而言，强制让入住老人离院这件事是否可行，起码我没有听过那种先例。不过，这句恐吓好像对伊势崎老爷爷起了作用。他在我们轻蔑的视线之中，颓然地垂头丧气，身影看起来比平常小了许多。
「诗音，我们走吧。」
我牵着诗音的手，正准备离开房间时，她反抗了我。
「诗音？」
她好像没有听见我的声音，甩开我的手，马上一步一步地走向伊势崎老爷爷。她跪在床旁边，一副匪夷所思地从下往上盯着他的脸，使他尴尬地别开视线。
「伊势崎老爷爷……」
她轻轻地呼喊。
「诗音，别理他！」
我严肃地命令她，但是诗音仍旧不为所动。她纯洁无瑕的玻璃瞳孔，目不转睛地仰望老人。
「伊势崎老爷爷，请你告诉我，你为什么要做这种事呢？」
「诗音！」
「你为什么要做这种事呢？」
她的语气中，不带有责难、轻蔑或斥责。她只是纯粹想知道，伊势崎老爷爷那个行为的意义。
伊势崎老爷爷不肯回答。
下一个星期五，我告诉鹰见先生这件事，询问我从以前就感到怀疑的一件事。第一天，诗音问：「你是女性吗？」她拥有思考人类给予的资料可能有误的能力。那是高智慧的表征，同时也意谓着她能够否定人类教她的事。实际上，她正在学习不要无知地相信阿兹海默症患者的话。
而在那个事件当中，她漠视了我的「别理他」这个命令。
「设式中并没有设定她要遵从我的指示，对吧？只是你指示她那么做而已。」
「是的。」
「那她今后也有可能会不遵照我的指示？」
鹰见不情不愿地点了点头。「有可能——如果累积学习，思考能力进化的话，可以充分预料到，她会思考自己的判断是否比人类的指示更正确。」
「那也没人能保证，她会以入住老人的安全为第一考量罗？」
鹰见先生不肯回答。
「请你坦白说。怎么样呢？如果她认为有什么比入住老人的安全更重要的话，她也会让入住老人面临危险吗？」
「我不能断定……」他痛苦地说，「这个可能性是零。」
「你隐瞒了我，对吧？」
「不，我一开始应该就说明过了，诗音并不是百分之百安全。」
「可是，你说过：『她会以被看护者的安全为第一优先判断』，对吧？既然这样，一般人都会认为，诗音被设定了那样的程式。」
「假如造成了你的误会，我道歉。」
「你也要把这件事推到缺乏沟通能力上头吗？」
连我自己也觉得这种说法带刺，我们之间的气氛又变得尴尬。但是，他欺骗我们是事实。
「可是，她的行动经常是有逻辑的，不会毫无道理地伤害人类……」
「你不懂。这里有些人的死期将近，脱口说出『希望早点死』的人并不罕见，要是诗音当真的话怎么办？假如她基于逻辑判断，杀害老人家是正确的话怎么办？」
鹰见先生的表情变得黯淡。
「这……是的……我不敢说不可能。」
「因应对策呢？」
「大概只能教她生命的可贵以及道德观等事了。不是命令她『不可以伤害人』，而是必须由她自发性地那么认为。」
「你的意思是，这必须由我教她，是吗？」
「欸，我想是的。」
我又感到一阵晕眩。「为何不可以杀人」这个问题连要教人类的小孩都很困难，他却说我必须教机器人。明明光是教她幽默感就令我煞费苦心了。
但是我没有退路。即使是逞强，我也想把诗音培养成独当一面的看护。可能对机器人投入太多感情？或许是那样没错。但是，我绝对不希望她杀人。那对老人家而言很危险，对她来说也是个悲剧。
我稍微迟疑了一下，然后开口说出之前思考的事。
「我有一个请求。」
「什么？」
「请允许我让诗音外出。」
鹰见先生瞪大了眼镜底下的眼睛。「你是说……外出吗？」
「是的。她一结束工作马上就关掉电源，醒来又要工作。她不像我们有私人时间，制服脏了也只是换上干净的制服，完全没有穿便服。人生一直只有工作，你不觉得很可怜吗？假如你的人生都在工作，你会怎么样？脑袋迟早会有问题啊。」
「像那样拟人化思考……」
「拟人化有错吗？她需要的是活得像一