泛用人工智慧也一样吗?』
『没错。若非如此,就无法保证其安全性了。』
埃缇卡感到困惑──如果是量产型阿米客思,这么说明或许有道理。但按照安格斯的说法,就连属于次世代型泛用人工智慧的哈罗德也只是「表面上看似有在思考」。
刚认识他的时候,埃缇卡确实也这么想。她认为哈罗德的感情与思想都只是程式,一切不过是空虚的假象。
不过,现在不同了。
──『如果能够抓到杀害索颂的犯人,我打算亲手制裁他。』
如果他的思想只是假象,那句话究竟是怎么回事?难道那也只是体现「人性」的手段?因为重视的人遇害,他只是模仿人类,对夺走性命的犯人表现出憎恨的态度吗?
『──他们自行改写程式码而失控的可能性,不过是许多虚构作品所想像出来的故事。』安格斯的声音把埃缇卡拉回现实。『根据阿米客思的制造规定,原本就禁止在小房间里的说明手册中记载「攻击人类」的项目。』
『换句话说──』十时开口说道。『他们也不会因为看了重大刑案的报导或有暴力情节的电影,就学会攻击人类的行为吧?』
『如果他们办得到,现今的社会就不成立了。「攻击」的概念当然存在于他们的知识中,但这也不等于实际的攻击行为。我们就算看到金属,也不会「想吃」吧?阿米客思也一样,就算看到暴力相关的事物也不会产生「想要攻击」的念头。他们原本就「不是被设计成那个样子的」。』
『所以,他们并没有自行改写程式码而失控的危险?』
『是的。如果有原因,恐怕就跟史帝夫相同,在于效用函数系统的错误……也就是人为改造。RF型所使用的系统码是相当难解的类型,但也无法断定不可能改造。如果有共犯,对方或许是程式设计师。』
『即使如此,路克拉福特辅助官也是正常的。所以他不是犯人。』
『十时搜查官。』塔尔伯特委员长用责备的语气唤道。『不管怎么想,你坚决袒护的哈罗德都是不定时炸弹。他确实很优秀,但你也太过盲目了。下次可不会像那份小报一样轻易了事。』
『请不要拐弯抹角了,您究竟想说什么呢?』
『电子犯罪搜查局应该订制安全性更有保障的新型阿米客思吧?』
──咦?
埃缇卡不禁停止眨眼。这个男人突然在说些什么啊?
『简单来说,你们只要让那位天才电索官能顺利进行搜查就行了。那么,与其执著于或许有缺陷的RF型,投资订做安全的阿米客思还比较务实。』
『恕我失礼,这个提议并不实际。』安格斯副室长反驳道。『要做出RF型如此高规格的阿米客思会花上不少时间,而且问题不只是庞大的花费……』
『我们伦理委员会原本就反对持续运用哈罗德。侦破知觉犯罪的阿米客思与失控的史帝夫竟然是同型,对社会大众根本无法交代。』
『这一点我们已经十分清楚了。』十时冷冷地回应。『搜查局至今都审慎管理情报,从来没有引发丑闻。』
她说得没错。埃缇卡频频点头,但委员长不以为然──啊啊,可恶。真想立刻敲打桌子,插嘴反驳。这场愚蠢的讨论究竟有什么意义?
『搜查官,你能保证今后也不会出问题吗?那东西太引人注目,光是脸就……』
『那张脸是最投我所好的部位,可以请你不要说三道四吗?』
突然间,空著的座位显示出新的全像模组──是个身材高挑的年轻女性。一头偏蓝的深褐色头发四处乱翘,眼镜后方有一对细长的眼睛,就像囚禁著黑夜般深不见底。
令人不禁目不转睛地看著她──她是谁?
『不好意思迟到了。』她光明正大地跷起纤长的腿,甚至连身上那套满是皱褶的白袍都显得瑕不掩瑜。『才刚抵达就听到自己的作品被批评,感觉实在不太好耶。』
埃缇卡开始确认全像电话会议的参加者名单──以新成员的名字查询使用者资料库,然后直接挖出个人资料。
〈莱克希•薇洛•卡特。二十九岁。机器人开发工程师,持有机器人工学博士学位。诺华耶机器人科技公司总公司开发研究部,特别开发室室长。〉
以下洋洋洒洒地列出了她的无数事迹。十八岁便从剑桥大学艾尔芬斯顿学院毕业。在美国人工智慧协会(AAAI)主办的国际人工智慧会议,连续三年获颁奖项。其中最引人注目的是──
〈次世代型泛用人工智慧「RF型」开发团队主任。年仅十九岁便独自完成RF型的系统码。〉
对了,现在为了决定RF型的处置,正召开重要的会议。室长未出席明明是很奇怪的事,为何自己一开始没有察觉呢?
埃缇卡不禁仔细凝视著她。
换句话说──这个人就是哈罗德他们的「母亲」。
『卡特博士。』塔尔伯特委员长瞪著她。『你迟到了二十分钟,好好反省吧。』
『因为是紧急召开的会议嘛,饶了我吧。』莱克希毫无歉意。『委员长,你的胡子还是一样迷人呢。噢,你好,助理厅长,初次见面。你们家的布朗刑警应该需要重新教育一下吧?』
『你也是。』塔尔伯特不屑地说道。『你真该反省一下引人非议的自己。你看过网路上的评论吗?光是反对你的人就能组成一支军队了。』
『很遗憾,我受到的伤害就跟影子被踩到差不多。』
『听说制作RF型的时候,开发