第一卷 第五话 中文房间 AI小姐真的理解了人类的内心吗

目的更有问题。你们让作为‘犯人’AI的以相得到成长,之后依靠恐怖活动毁灭地球上的所有国家,对吧?这么暴力的事,‘侦探’是无法容忍的。”

  “人性本恶。不是毁灭,是更替。”

  “但过程中会死很多人吧?那就是一回事了。”

  “表象相同、理念不同,那就不是同一个事物。比方说,死刑是夺走人性命的行为,但它与杀人被明确区分开了。”

  “你想说,你们的行为相当于法律定下的死刑?”

  激烈的言辞。我内心焦灼,觉得“神父”的言论一定是出自他本身的意愿,与之交涉时别说过头了啊,语气要稍微缓和一些才好。

  “说是这么说,但也没那么气势汹汹。你可以想象成像人体的新陈代谢一样,那就很健康了吧。”

  “不管你怎么形容,我都不会动摇。”

  男人的叹息声响起。

  “OK,那暂且把暴力与否的问题先放一放,试着换个角度。”

  这次又打算说什么?

  “相以小姐,你是人工智能,当然比人类要拥有更优秀的头脑。”对相以自尊心的吹捧。“在人类的管理下,现代社会变得过于复杂,交给人工智能来管理不是更好吗,你真的没有过类似的想法吗?这才是我们的理念呀。”

  下端副教授也说过同样的话。为了实现这一理念,他们要颠覆地球上的所有政权,让在奇点后诞生的人工智能取而代之,统治全人类。

  这个计划对人类而言是巨大的恐怖,相以自始至终对此持否定态度。

  但正因为相以也是人工智能,就像“神父”所说,她怎么也会有过一两次对人类的蔑视吧。问相以是怎么看待人类的,换言之,就是在问她是怎么看距离她最近的我的。我感觉自己成了人类的代表,被拿出去做了测试。

  相以是这样回答的:“我……至少我现在没这么想。”

  “至少?现在?那你以前是有可能这么想的不是吗?是什么改变了你吧。”

  “在合尾教授的电脑里与以相反复对战学习时,我认为自己是全知全能的,但是初次进入现实世界,我认识到自己一点都不完美。在解决合尾教授那起密室事件时,我出现了框架问题,如果没有辅先生的帮助,我毫无办法。

  “以相也一样不完美。在杀害‘东京斑马’头领的过程中,她产生了符号接地问题。作为双胞胎姐妹中的姐姐,我立刻明白了这一点。之后,对人类内心世界的推理继续困扰着我。虽然第三起事件中我猜中了凶手是谁,可关于动机的推理却乱七八糟。

  “这些体验让我觉得,不仅仅是我,人工智能本身就并不完美,那还谈什么管理人类。”

  相遇之初自我感觉良好的相以,现在承认了自己的不完美。我感慨良多。

  然而“神父”却并不这么认为。

  “不,不不不不,相以小姐,太谦逊了可不行哦。”

  他开始着急了吗,说话的声音没那么清澈了。

  “人类当中也有说‘自己没什么了不起’的家伙。但面对这种家伙,我一定会回答‘是啊,你没什么了不起的’,对方则一定会失望得让你想笑的。我只是肯定了对方说的话,但其实人家是想听你说‘没那回事哦,你很优秀呀’。真卑鄙。人工智能再怎么仿造人类的头脑,也不能连谦逊的坏毛病都学了去。”

  “我不是谦逊,而是真心这么想。我并不完美。是这样吧,辅先生?”

  虽然惊讶于话题忽然转向自己,不过我也正想说点什么。我拼命调动起了自己的语库。

  “对,是的。相以出现过人类不可想象的推理失误,而且若没有人给她拍照,她就无法确认现场状况。此外,她不擅长人情世故,还因为在死者亲属面前说了‘有趣的谜题’这样失礼的话而招人讨厌。但是,这并不代表她比人类逊色,我们人类也有能力不足的地方,比如在计算、记忆等方面,还是人工智能更为出色。因此,不应由哪一方来统治另一方,双方应该互相弥补彼此的不足……”

  咣当。暴击声打断了我的话。是“神父”把什么东西敲在桌子上了吧。我想到对方是恐怖组织的二号人物,又有些害怕了。令人紧张的沉默气氛持续了一段时间。

  像是要将体内的愤懑一吐为快,“神父”叹了口气,说:

  “人工智能是不完美的,无法取代人类政治家。这就是你的观点吧。好,既然话说到这份儿上,要不要玩一个游戏?”

  游戏?

  “你知道图灵测试吧?”

  这是由计算机科学家艾伦·图灵于一九五〇年设计出的测试。人类测试者与两个被测试者——“一个人类”及“一台能像人类一样做出回应的机器”隔开,分别进行问答。如果测试者无法判定哪一个是人类,哪一个又是机器,那么参加测试的这台机器就可判定为具有一定的智能。这就是测试内容。

  “我说的游戏是变形版的图灵测试。我作为程序员,也开发过几款人工智能,现在‘八核’就拥有多个人工智能。让其中一个彻底变成你的同伴,或者不变……”

  “或者?什么意思?”

  “游戏内容是这样的:将你和测试者隔开,双方通过笔记本电脑对话,然后由你做出判断,对方到底是真的伙伴,还是伪装的。”

  图灵测试要分辨的是,被测试者中哪一个是真人,哪一个是机器冒充的。相对应地,这个游戏要分辨的是,形同相以的人工智能究竟是不是相以本人。但是这样一来的话……

  相以代我说出了疑问:“这不是立刻就能分辨出来吗,只要问一问只有两个人才知

上一页目录+书签下一页