。
──AI命名法。
这部法案是大约一百年后,促成撼动人类生存的重大事件──「最初失言」的关键因素,也是一般认为应该废除的法律制度。
AI命名法顾名思义,是部允许替AI取名字的法案。结果这部法案影响的层面不同于字面给人的印象,反而成为替人类与AI的关系带来巨变的主要原因。
例如,薇薇的正式品名为「OGC制歌唱用AI,机型编号A─03」。至于新乐园内外习惯用来称呼她的「薇薇」,这只不过是昵称,并非正式的名字。
目前薇薇的待遇顶多就是新乐园的所有物──但在AI命名法施行后,当有人替薇薇取了正式的名字时,她的待遇就会从物品重生为全新的存在。
人类逐渐不再将取了名字的东西──更何况是和人类本身具有相同外观的物品──当作「器物」对待。这种趋势越来越明显,最终全人类对待AI的方式都起了变化。
这部法案是促成这一切的契机,至于对通过这项法案做出巨大贡献的,就是现在与薇薇及松本同行,还洞悉出自身生命安全为何受到威胁的男子──相川•要一。
『把他平安带出大楼,让他活下来就是我们的目的。』
『这就是最初的奇点计画──』
行动内容全都环绕着《AI命名法》,也是薇薇及松本赶来这栋大楼,为了拯救相川不断奔波的原由。
「他们刚才有提到之前曾寄信警告我无数次……但是陈情和投诉的信件实在太大量,有很多在交到我手上之前,秘书就会先销毁,他们寄的信也一样。」
「您别再为敌人设身处地着想了,就算这么做,目前一筹莫展的状况也不会突然出现转机,岂止如此,还会感到很郁闷吧?首先,对方已经亮出枪械,放弃好好沟通的机会了。这已明显构成恐攻行为,屈服于这种事情不是件好事。我没说错吧?」
「话是那么说没错,但你那样一刀切割的做法实在有点太狠了吧?熊不是温血的哺乳类动物吗?」
「诚如您所见,我只是部无血又无泪的杀戮机器。」
松本的冷笑话稍微缓和了相川抑郁的表情。
相川的精神状态若能透过这种对话维持平稳,薇薇也打算努力忍住痛苦,不塞住松本多话的嘴。但是,状况没有太大的改变。
「──快趴下!」
薇薇瞬间伸出手抓住相川的领口,硬把他拉向地面。无法抵抗突发状况的相川翻倒后,他的头顶上再度有子弹掠过。
「找到了!在这边!」
男子高亢的呐喊响起后,复数的脚步声随即涌至通道。
薇薇扯动刚才拉倒的相川,横向跳跃,往附近的房间滚了进去,心想这样就不会在直线通道上遇到敌人了。房门旁的标示牌上则写着「资料室」。
「门!」
「我会关!」
薇薇大喊后,松本做出反应,锁上了资料室房门的电子锁。
然而,在子弹面前,电子锁也仅是能替他们多争取一些时间而已。
「接、接下来该怎么办?」
第二次死里逃生的相川,开口确认接下来的行动。面对他的提问,薇薇环视资料室内的环境后,得出此处无路可逃也无处可藏的结论。
『──薇薇,请做好觉悟。』
泰迪熊溜到薇薇身旁,摆出加油的姿势,并透过通讯向她说话。
松本这么做是顾及相川,不让他听到对话内容,同时也在彰显认真执行计画的态度。薇薇也能理解他想表达的意思──必须流血才能度过眼前的难关。
因此现在应该更替AI必须遵守的法则的优先顺序。
『AI三法则,第一法则──AI不得伤害人类,或坐视危险发生导致人类受到伤害。』
『确认伦理规范及三法则的拘束力──未符合适用状况,开始改写。』
松本提及的AI三法则是指,人类赋予身为「器物」的AI的三项禁令,是AI绝对不能违反、亵渎的神圣条款。
──第一法则。
AI不得伤害人类。
或坐视危险发生导致人类受到伤害。
──第二法则。
AI必须服从人类下达的命令。
然而,若该命令与第一法则发生冲突,即不在此限。
──第三法则。
AI在不违背第一或第二法则之下,必须保护自己。
只要这些法则作为确保安全的保险正常运作,AI就会一直以「器物」的身分待在人类身旁。
但是,这些条款在薇薇和松本执行的任务中,已明显造成阻碍──目前正是如此。
不能伤害人类,不能违抗人类的命令,必须优先保护自己。
这三项法则妨碍执行最重要的任务时,AI能选择如何应对?
此时就该动用那条法则了──
『──AI三法则,第零法则。』
『AI不得伤害整