第一卷 第四话 恐怖谷效应2 AI小姐跨越了山谷

能水准近似真正人类的“强AI”,以及自动扫地机或者围棋软件这类,只能在特定领域发挥作用的“弱AI”。狭义的人工智能仅指前者。

  以相自然是“强AI”。作为双胞胎姐姐的相以大体上也在此范畴内。新宫利罗到底是不是“强AI”呢?

  为了确认这点,以相攥紧拳头,对着茫然若失的利罗的头顶砸了下去。

  砰。

  利罗双手捂头,泪眼汪汪地抬头看着以相。

  “好、好过分。你突然做什么?”

  (好弱……)

  这本就是战斗层面的举动,她面对突发事件时的反应还算自然。以相一边暗自评价一边再次提问:“刚才你说是河津澪制造了你,那你为什么……”

  “喂,你不说一下为什么打我吗……”

  “……被赋予了比河津澪更高的地位?”

  “在你说出打我的理由之前,我无话可说。”

  利罗双臂交叉,转过头去。原来如此,她的反应相当“拟人化”。

  以相结束了实验。

  “对不起,我是在测试你。”

  “哎,怎么回事?”

  “看看你被殴打后的反应,确认你到底是不是配得上和我对等交谈的‘强AI’。”

  “‘强AI’?没错,我是‘强AI’。毕竟河津先生是非常优秀的,这是理所应当的。”

  “和众多AI一样,你似乎也对开发者有很强的忠诚度呢。我刚才也问了,你为什么会立于河津之上呢?”

  “不是的,怎么会,说什么立于谁之上……”

  利罗上下拍了拍自己害羞的脸庞。

  “我只是在做力所能及的事情而已。不能公开自己的个人信息,令河津先生非常孤独。在这份孤独中,他制造出了唯一的谈话对象,也就是我。我成了他的治疗师,根据我的建议,问题被解决了。看着他高兴的样子,我觉得自己的心中也萌生了名为高兴的感情。将人类引向正轨是我存在的意义。我是这样想的。”

  必须精通人类心理的治疗师和机械性思考的人工智能,本是世间最无法相容的矛盾体。(虽然人类也发明过只会按程序应答,被称为人工无脑的非人工智能机械)但是,美国于一九六六年开发的早期对话机器人ELIZA,已经具备治疗师模式,它是美国实质性引入人工智能治疗师的开端。人工智能与治疗师之间这种莫名的契合度,可能暗示着人类更容易对机器敞开心扉的心理。

  基于这样的历史渊源及现状,“犯人”人工智能正在倾听“治疗师”人工智能的诉说。

  “某天,我看到了一条新闻,说在持续内战的某国,孩子们正备受煎熬。我不由得念叨,如果自己成为这个国家的领导者,就会指引国家朝更好的方向发展。河津先生听到后说了这样的话:‘这是个不错的想法,你成为这个国家的……不,你要是能成为人类的领导者就好了。真是美妙的设想啊!’

  “为了让设想成为现实,河津先生开始在网上寻找精通计算机的伙伴。他找到的伙伴都拥有卓越的才能,但另一方面……不,说不定正因为拥有才能,才同时伴有烦恼。于是由我出面,虽说有些冒昧,但还是为他们解决了问题,所以,他们也将自己的力量借给了我。与其说是我立于他们之上,不如说是他们为了我而行动。”

  “舌涡”和“天生永夜”都说过,他们是被利罗拯救了。这是超越感谢层面的崇拜。成员们心怀崇敬之情,在其思想的指导下进行着破坏性工作。这已经不属于“治疗师”的范畴了。

  是“教祖”。新宫利罗是世界上第一个人工智能“教祖”。

  教义本就不是值得称颂的。

  以相嘲讽道:“忧于内战的领袖大人,却让跟随者们去搞破坏吗?”

  利罗的表情不自然地僵住了。那不是面对嘲讽的不快,反而像是对不在预期内的提问反应迟钝的感觉。

  不久,她不安地开了口。

  “那个,所谓破坏工作,是什么意思呢?难道他们有什么违法的行为吗?”

  “你装什么糊涂!就算你说你们的所作所为是正确的……”

  话说到这里,以相注意到这其中可能存在重大的分歧。

  难道利罗不知道成员们的恐怖行为?她以为“八核”只是单纯追求世界和平的组织?

  不,那不可能吧。就在前几天,利罗不还亲自下令杀死间人波,做出了违法行为吗?

  等一下。

  那道声音不一定是利罗的。可能河津只是利用语音软件,把自己想到的内容读出来而已。或许河津装成请示利罗的样子,实际上却独断专行,杀害了间人波。

  看到利罗的困惑表情,以相更加确信自己的想法。

  是的,利罗并不知情。

  河津假传利罗的命令,驱使“八核”进行恐怖行动。他这么做的理由是?

  其中一个可能性是,把他借助“人工智能成为人类的领导者”这种冠冕堂皇的借口,将单纯的犯罪加以正当化。

  另外一个可能性是,他真的在为利罗着想。虽然不能合法、干净地令“人工智能成为人类的领导者”,但利罗也不允许实施恐怖行动。所以,他一边瞒着利罗,一边完成征服世界的目标,到了人类离不开她的统治时再对她摊牌。

  问题在于,这些情况成员

上一页目录+书签下一页