msp;「是我推荐你的。」梶田小姐说：「因为你好像很喜欢机器人。」
「咦？」
「你不是说你常看会出现机器人的节目吗？呃，叫做凯撒什么来着的节目。」
我的老天爷，是因为这种理由啊。鹰见先生一副「我找到同好了」的表情，嘻皮笑脸地直盯着我，令我更加无地自容。我并不喜欢机器人，也不会看《机神凯撒王降临》。
然而，因为梶田小姐一点恶意也没有，所以我就算想对她生气也气不起来。
「那么，就请机器人和神原小姐一起在二楼工作。」院长向所有人说明。「新闻中好像称之为『机器人看护』，但是当然没有看护的证照，所以可以将她和机器手臂一样视为备品。另外，在机器人习惯之前，暂时只值日班，所以神原小姐也暂时不值夜班。」
免上夜班是很好，但是照顾机器人这个工作不会有特别津贴。少了夜班津贴，薪水相对减少，不知是该高兴还难过。
「要怎么下指示？」我询问鹰见先生。「口头下命令，她就会按照命令行动吗？」
「是的。即使是文法上稍微有点奇怪的日语，她也能够理解。当然，太过含糊的命令或无法理解的命令，她就无法执行，所以会反问。」
「她会听任何的命令吗？如果老人家下达奇怪的命令怎么办？呃……像是『让我摸胸部』之类的。」
鹰见先生他们都笑了，但是对我们而言这是个严肃的问题。老人家无法预测，尤其是罹患阿兹海默症（从前叫做「痴呆症」）的人会说出什么话更难预料，如果机器人一一遵从对方的命令，事情可就严重了。
「基本上会以院方职员的命令为优先。如果职员的命令和需要看护者的命令产生矛盾，就会遵从职员的指示。『让我摸胸部』的情况下……呃，如果你事先指示诗音『拒绝那种命令』，她大概就不会执行。」
「经常有痴呆的入住老人说：『我要回家，送我回去』，诗音也会拒绝那种要求吧？」
「是的。另外，万一有人恶意下令伤害需要看护者，诗音也不会执行，她会以需要看护者的安全为第一优先考量，此外，也不会接受毫无意义地破坏什么的命令。即使说『你从窗户跳下去』，她也会拒绝，因为那样会破坏她自己。在不和那些限制产生矛盾的范围内，她也会接受需要看护者的命令。难以判断的情况下，她会向职员请求指示。」
原来如此，不亏是花了十几年的时间开发的成果，看来厂商假设了所有可能发生的状况。
「紧急的情况下呢？像是老人家突然昏倒之类的。」
「那种情况下，诗音会不等待命令，以自己的判断行动。」
「判断的正确率多高呢？」
「这是个难以回答的问题。训练中故意引发意外的情况下，诗音以相当高的机率采取了适当的行动。不过，还是有许多无法预测的意外。我不能保证遇上资料库中没有的情况时，她采取正确行动的机率是百分之几。不过，无论任何情况下，诗音都不会当机。因为我们克服了框架问题——噢，所谓的框架问题是指……」
我还没发问，鹰见先生就开始解释了。
「比方说，假设命令机器人：『我现在要外出，保护我的安全！』机器人会和我一起步行，随时观察周围，注意是否有危险。可是，『危险』是指什么呢？汽车从对面靠过来，那辆车有可能切错方向盘而撞过来。前方有落石，我说不定会被石头绊倒受伤。或者，从对面靠过来的路人其实是恐怖份子，身上藏着炸弹，说不定现在正想自爆。经过的人家有可能引发瓦斯爆炸、有可能发生大地震、有可能坠机，这些意外都有可能发生。
「如果要考虑到所有的可能性，机器人什么事也不能做。光是认识自己周围的所有事物，搜寻、处理与其相关的所有资讯，电脑就会当机，结果连『保护安全』这个命令都无法执行。这就叫做框架问题。」
「可是，忽略掉发生可能性低的事情不就好了吗？」
「你说得没错。但是，很难让机器人做到这一点。即使说是『发生的可能性低』，也无法一一计算机率。石头绊倒的机率无法计算吧？再说，人类并不会依照机率判断是否该忽视风险。
「举日常生活中的例子来说，每次发生孩童被变态杀害的事件，大人经常就会采取警戒那种事情再发生的行动。可是，孩童死于车祸的机率，却远高于被变态杀害的机率。既然这样，明明应该进一步加强指导交通安全，却很少人会认为车比变态更危险。除此之外，因为家中意外死亡的人多于一年总计的车祸死者，但也没有人会认为家中比马路更危险。担心手机的电磁波和极微量的食品添加物会危害身体的人，若无其事地喝酒，而酒精对身体的危害远大于前两者。也很少人会在佛灭（※意指大凶之日，诸事不宜。）之日举行婚礼，对吧？明明在那天结婚也不会发生什么坏事，但是人们却试图避免不可能存在的风险。
「总而言之，人类其实是以自由心证判断风险，不是靠逻辑，而是看心情；不是靠机率或数据，而是靠主观划分要忽视或重视的风险。为了避免框架问题，只能这么做。不要一一计算机率，而是适度地忽略自己不在意的事——为了让机器人学习『适度』这个概念，花了不少时间。」
我有点吃惊。「呃，这么说来，贵公司的机器人……」
「她叫诗音。」
「您的意思是，诗音会适度地忽略危险吗？」
「正是。」
霎时，室内一片哗然。
「我希望各位理解的是——」
鹰见先生毫不畏缩，抬头挺胸地说。
「世上没有百分之百安全的事物。当然，我们的技术人员会努力尽可能地提高安全性，可是我们做不出绝对不会坠落的飞机，做不出绝对安全的药物。百分之百安全这种概念是幻想。只能在某种程度上妥