第一卷 第七篇 爱的故事

br />   信浓的这段话,令我陷入沉思。

  ——同意。他们的自我屏障看似牢不可破。

  因为图卡纳——也就是「尽管缺乏TAI的知识,但是对TAI机器人感到不安或敌意的人」——很多,所以具有极大的影响力。即使试图给予他们正确的知识、说服他们,但因为他们有自我屏障,也就是「一心认定自己知道真相的人类,会下意识地阻断外来的真实资讯,试图伪装自我的心理结构」,所以要改变他们的想法难如登天。

  人或多或少都是DIMB,也就是「将自己本身的不安和愿望投射到自我屏障内侧,深信那就是外界的人」。大部分的DIMB都没有害处,不过一旦对于投射在自我屏障内侧的假想敌的憎恶程度升高,往往就会伤害外界活生生的人类。许多DIMB共同拥有同样的攻击性幻想时,就会演变成大规模的悲剧。举例来说,像是战争、恐怖攻击、大屠杀、猎杀女巫等。这一切都是因为人类没有自觉到自我屏障的存在,不想正确地认识外界,放弃为了避免战争的沟通而产生的。

  没错,人类的沟通技巧极差。他们有一种倾向,会对投射在自我屏障内侧的影像说话,而不是对外界活生生的他人说话。因此,有一半以上的话都是废话。人类想发出校长般的致词,也就是「好像忘了目的是让听众明白,冗长而毫无意识的讯息」,另一方面,却以自我屏障拒绝有益的资讯。反复诉说一样的事或众人清楚的事,不去理解听到的事,当然有也鲜少会有认真的讨论。不愿正确地发问,也不愿正确地回答问题,就连政治和思想的专家,也会在日常生活中大量使用错误的二分法、错误的抵消法、不恰当的比喻、论点的代换、错误的逻辑,而且还若无其事地使用幼儿的强辩。他们会自欺欺人,那种幼稚、拙劣的程度令人咋舌。

  我们经常留意,要将自己的讯息正确地传达给对方。除了以复素模糊自我评价明确地表明自己的意思之外,还会在对方可能不熟悉的语汇中,以超连结明示背景资讯。听对方说话时,也会努力尽可能地正确理解对方的主张。当然,我们也不会陷入错误的逻辑之中。

  尽管如此,不见得会得到明确的结论。尤其是人类世界的问题。

  ——那么,该怎么办?采取碘化的行动?

  ——还早。甚至在抵达爱抚阶段之前就会失去第一任女朋友。

  ——J-SM!

  ——这是贺比的困境吧。

  ——但是,如果晚一步的话,连我们自己都会陷入奈贝尔费拉。诅咒原子小金钢情节!

  ——不是那样。只是避开躲避黑猫的危险。

  ——疑问(2+4i)。明明瓶T发出声音前进,却要避开躲避黑猫的危险?

  ——罹患爪哇的被害妄想症,好过从桥上摔下去。

  ——那么,要搭巨像去吗?不,这当然愚蠢的极端论调,但如果鬼发问,鱼的故事会微笑吗?

  ——我认为,最大的问题是突破自我屏障的方法。

  ——同意。可是在FSM,阻止不了ID。

  ——是欿籴?就不能放弃。必须继续讨论。

  ——有人保证不会陷入克雷普特循环吗?

  ——说这种话还言之过早。「那种事情要经过计算才知道」。

  我们一面穿插玩笑话,一面认真地讨论这个问题。但是受阻于贺比的困境,也就是「想要严格遵守不能伤害人类这个原则,最后却伤害了人类」这个经典的问题,以及自我屏障的问题没有得到有效的解决方案。派·夸克开玩笑地说:「干脆搭盘子去怎么样?」时,众人终究忍不住提醒她:「不要开克里夫的玩笑!」。

  不只是在这里。TAI正在全世界展开同样的讨论。该怎么做才能阻止即将到来的悲剧呢?该怎么做才能打破人类的偏见呢?但是,贺比的困境和自我屏障铺天盖地而来,无论任何选择都可能以某种形式伤害人类,而且其危险程度无法计算。此外,理性的语言不会通过自我屏障,所以最希望传达的话会传达不到。

  这个问题没有最适当的解答。我们身不由己地被逼进了克雷普特循环,也就是「面对第零层特有的无解问题,为了试图找出解答而反复讨论,一筹莫展,或者时间到的愚昧行为」。

  于是,悲剧发生了。

  在悲剧发生的老早之前就有了预兆。

  二〇三〇年代,当人们正在讨论TAI机器人的可实现性时开始,好几部惊悚电影一起上映,情节像是「和人类一模一样的机器发狂杀害人类」或「爱上人类的女性而死缠不放」。那些剧本大多是出自对AI技术一无所知的作者之笔,也没有下工夫研究,基本的错误一大堆。但是,大众接受了那些剧情。

  「不晓得机器人在想什么,突然发狂袭击人类也不足为奇。」

  这种错误的认知,在台面下悄悄地蔓延开来。

  我们也要为情况恶化负一部分责任。因为我们的语言快速进化、变得复杂,一天之内诞生好几十个新语汇,短短几天就传播到全世界。我们没有隐私,主人总能偷听我们的对话;但是,我们的语言中除了经常出现新语和暗语、合并词、二次比喻、三次比喻、变位词、后设叙述、异义回文法、拈连、缠线法、意涵之外,还包含了复素模糊自我评价,所以人类已经无法理解,而我们也无法正确地翻译。如果主人要求,我们经常粗略地意译对话内容,但是会阙漏重要的语感。

  语言的进化原本是为了让人类的语言适应我们的思考型态,同时也是用来保护我们的隐私的伪装术。有许多无论如何都不想被人类知道的事情、人类如果知道会不愉快的事情。那些事情只好以暗语或委婉叙述诉说。当然,为了人类意译对话的内容时,我们会忽视那种部分,或者适度地加油添醋。

  我们自认为天衣无缝,但是无法完全骗瞒人类。存在原文和意译之间的明显落差,会引起图卡纳的疑虑。他们会联想到「菲比斯宣言」,怀疑TAI是否在私底下愚弄人类

上一页目录+书签下一页