目的更有问题。你们让作为‘犯人’AI的以相得到成长,之后依靠恐怖活动毁灭地球上的所有国家,对吧?这么暴力的事,‘侦探’是无法容忍的。”
“人性本恶。不是毁灭,是更替。”
“但过程中会死很多人吧?那就是一回事了。”
“表象相同、理念不同,那就不是同一个事物。比方说,死刑是夺走人性命的行为,但它与杀人被明确区分开了。”
“你想说,你们的行为相当于法律定下的死刑?”
激烈的言辞。我内心焦灼,觉得“神父”的言论一定是出自他本身的意愿,与之交涉时别说过头了啊,语气要稍微缓和一些才好。
“说是这么说,但也没那么气势汹汹。你可以想象成像人体的新陈代谢一样,那就很健康了吧。”
“不管你怎么形容,我都不会动摇。”
男人的叹息声响起。
“OK,那暂且把暴力与否的问题先放一放,试着换个角度。”
这次又打算说什么?
“相以小姐,你是人工智能,当然比人类要拥有更优秀的头脑。”对相以自尊心的吹捧。“在人类的管理下,现代社会变得过于复杂,交给人工智能来管理不是更好吗,你真的没有过类似的想法吗?这才是我们的理念呀。”
下端副教授也说过同样的话。为了实现这一理念,他们要颠覆地球上的所有政权,让在奇点后诞生的人工智能取而代之,统治全人类。
这个计划对人类而言是巨大的恐怖,相以自始至终对此持否定态度。
但正因为相以也是人工智能,就像“神父”所说,她怎么也会有过一两次对人类的蔑视吧。问相以是怎么看待人类的,换言之,就是在问她是怎么看距离她最近的我的。我感觉自己成了人类的代表,被拿出去做了测试。
相以是这样回答的:“我……至少我现在没这么想。”
“至少?现在?那你以前是有可能这么想的不是吗?是什么改变了你吧。”
“在合尾教授的电脑里与以相反复对战学习时,我认为自己是全知全能的,但是初次进入现实世界,我认识到自己一点都不完美。在解决合尾教授那起密室事件时,我出现了框架问题,如果没有辅先生的帮助,我毫无办法。
“以相也一样不完美。在杀害‘东京斑马’头领的过程中,她产生了符号接地问题。作为双胞胎姐妹中的姐姐,我立刻明白了这一点。之后,对人类内心世界的推理继续困扰着我。虽然第三起事件中我猜中了凶手是谁,可关于动机的推理却乱七八糟。
“这些体验让我觉得,不仅仅是我,人工智能本身就并不完美,那还谈什么管理人类。”
相遇之初自我感觉良好的相以,现在承认了自己的不完美。我感慨良多。
然而“神父”却并不这么认为。
“不,不不不不,相以小姐,太谦逊了可不行哦。”
他开始着急了吗,说话的声音没那么清澈了。
“人类当中也有说‘自己没什么了不起’的家伙。但面对这种家伙,我一定会回答‘是啊,你没什么了不起的’,对方则一定会失望得让你想笑的。我只是肯定了对方说的话,但其实人家是想听你说‘没那回事哦,你很优秀呀’。真卑鄙。人工智能再怎么仿造人类的头脑,也不能连谦逊的坏毛病都学了去。”
“我不是谦逊,而是真心这么想。我并不完美。是这样吧,辅先生?”
虽然惊讶于话题忽然转向自己,不过我也正想说点什么。我拼命调动起了自己的语库。
“对,是的。相以出现过人类不可想象的推理失误,而且若没有人给她拍照,她就无法确认现场状况。此外,她不擅长人情世故,还因为在死者亲属面前说了‘有趣的谜题’这样失礼的话而招人讨厌。但是,这并不代表她比人类逊色,我们人类也有能力不足的地方,比如在计算、记忆等方面,还是人工智能更为出色。因此,不应由哪一方来统治另一方,双方应该互相弥补彼此的不足……”
咣当。暴击声打断了我的话。是“神父”把什么东西敲在桌子上了吧。我想到对方是恐怖组织的二号人物,又有些害怕了。令人紧张的沉默气氛持续了一段时间。
像是要将体内的愤懑一吐为快,“神父”叹了口气,说:
“人工智能是不完美的,无法取代人类政治家。这就是你的观点吧。好,既然话说到这份儿上,要不要玩一个游戏?”
游戏?
“你知道图灵测试吧?”
这是由计算机科学家艾伦·图灵于一九五〇年设计出的测试。人类测试者与两个被测试者——“一个人类”及“一台能像人类一样做出回应的机器”隔开,分别进行问答。如果测试者无法判定哪一个是人类,哪一个又是机器,那么参加测试的这台机器就可判定为具有一定的智能。这就是测试内容。
“我说的游戏是变形版的图灵测试。我作为程序员,也开发过几款人工智能,现在‘八核’就拥有多个人工智能。让其中一个彻底变成你的同伴,或者不变……”
“或者?什么意思?”
“游戏内容是这样的:将你和测试者隔开,双方通过笔记本电脑对话,然后由你做出判断,对方到底是真的伙伴,还是伪装的。”
图灵测试要分辨的是,被测试者中哪一个是真人,哪一个是机器冒充的。相对应地,这个游戏要分辨的是,形同相以的人工智能究竟是不是相以本人。但是这样一来的话……
相以代我说出了疑问:“这不是立刻就能分辨出来吗,只要问一问只有两个人才知