运用的数量太少,才会在思考的框架设定上追求原本不需要的精准度。要是不改善这部分,AI运算与人类判断的接触点就永远是错误的温床。」
「即使强硬规划运算配额,人类社会也不会承认的。都已经有四十台的超高度AI在运作了,国际间对运算配额却意见分歧,至今仍然无法达成协议。」
战斗正式浮上台面之前,新人面对的阻碍是其他蕾西亚级hIE和辽。然而,在他们之后,还有像「阿斯特莉亚」这种超大规模的难关等著新人。
新人擦拭著因闷热及紧张而冒出的汗水,明知场合不对,心情还是有点飞扬起来。辽一直关注的,就是新人背后的局势发展。如今,新人本身也站上了跟好友同样的舞台。
想到自己的想法能够传达给长久以来支持这世界的组织,一股难以名状的感动从体内深处涌出来。
「我命令的事情比想像中要难。可是,蕾西亚没说办不到。我相信她为我们人类拟定了非常好的计画。」
「阿斯特莉亚」受到蕾西亚操作的无人机探照灯照射,眼睛却眨都没眨过。
「你不像村主健吾,没有想要否定现状的个人动机。你只是单纯被牵扯进来的老好人。就算这样,你还是打算参与『蕾西亚』那个绝对会中途失败的计画吗?」
「这话有偏颇。无论是谁,都没有任意改变世界的理由。而且,也还不确定会失败。」
「阿斯特莉亚」和蕾西亚一样,都将重点摆在让新人听自己的话。因为问题的焦点在于新人会不会对蕾西亚下达停手的命令。
「不,IAIA在此对超高度AI个人所有者的你提出忠告。那个计画一定会失败。从古老的君主制或原始的共同体开始,所有政治体制都受到相同的制约。基于这个制约,为政者才会绞尽脑汁,时而利用人类认为不解自明的事物,时而使用文化资产或历史包袱。」
「阿斯特莉亚」为了新人,特地将国王加冕与法国大革命等等的历史画面,显示在半空中的立体萤幕上。
「要是少了对协定的认同,有再好的系统也无法整合社会。蕾西亚提议让『希金斯』强制关机的『未来』,达不到那个目标。」
「不愧是超高度AI,不问就知道蕾西亚打算做什么。」
「IAIA也曾检讨过类似的方案。蕾西亚打算建立一个将超高度AI一般化,利用其过剩的运算能力来处理庞大事务作业的体制。蕾西亚模式是拿个人与政治、社福做精准的配对。人类在那样的社会里,可以自由选择立场,甚至暂时退出社会。不过,这就是失败的原因。」
「至今做不到的事情,现在终于可行了,不是吗?」
「将权力构造本身委托给『道具』的概念太过前卫,无法获得社会对协定的广泛认同。强迫大众接受这种只有少数人能够接纳或产生共鸣的政治体制,是侵略行为。」
新人忍不住回头看向蕾西亚。
他的手边也有「世界」。
蕾西亚的双眸散发淡蓝色光芒。
「人类藉由制定规范来操控一切的权力模式撑不了多久就僵化,寿命变得极为短暂。这是因为人类将自身不断攻击权力系统所累积下来的经验,与高度的自动化结合,轻轻松松找到好方法来钻漏洞揩油的关系。但是,只要让超高度AI分担权力,就可以透过类比入侵的诱导进行加密,防止针对权力的自动化攻击。」
和新人一起生活四个月的她,建议将人类社会加密,不给人类全部摸清的机会。如果被辽听见这段话,肯定会说这就是「世界的终结」。
「现在的『希金斯』村,已经变成一个寄生超高度AI的坐享其成阶级。连组织营运都交给『希金斯』自动化后,领导者率领人员的模式呈现腐败现象。『抗体之网』刚成立时,原本是供民众泄恨、自由参加的共同体模式。然而,有心人士利用该自动化系统之便,擅自创造上层结构,为己私欲操纵民众。」
蕾西亚持续保持警戒。临海副都心位于东京湾的海埔新生地,是一到晚上就不会有行人的办公商圈。若要进行像「大灾害」时毁坏这栋大楼那样的飞弹攻击,也不是不可能。「阿斯特莉亚」的hIE朝新人他们迈步。她穿过投射空中的立体影像,直线逼近。
蕾西亚提著平常替代黑棺组件的行李箱,挺身挡在新人面前。
两台hIE之间的距离缩短到快要撞上彼此。一触即发的紧张感刺痛新人的肌肤。「阿斯特莉亚」的hIE比蕾西亚略高。
「在超高度AI时代,人类的社会秩序已沦为纸老虎。不但漏洞百出,问题更是从没断过。可是,即使是纸老虎,也不能从人类手中夺走老虎是站在自己这边的安心感与骄傲。」
面对判定超高度AI能力的装置,蕾西亚依然坚守立场,毫不退让。
「现今提起人类,不会有人去想像裸体生活在自然荒野的原始人。我将人类定义为『人体、道具及环境的总体』。因此,就算身为生物的人体没有变化,道具与环境的进步仍旧促使总体性的人类比四十年前还要发达。『大灾害』是时代背景跟现在截然不同的事件,当时还在黎明期的hIE不曾出现媒体报导上。」
作为「拥有人类外表的物品」,蕾西亚背负新时代的使命做出宣告。
「『大灾害』不会再发生。」
由于距离太过接近,侦察用无人机的探照灯打在蕾西亚和「阿斯特莉亚」这两台hIE身上。两个超越人类的智慧体相互凝视,彷佛在衡量彼此的能力与价值。
「除了社会达成的协议,我对一切的答案都有猜疑。因为我是负责从超高度AI手中守护人类社会的超高度AI。」
「我相信支援现在人类的你。因为我是相信人类的超高度AI。」
粉红色头发的hIE和新人点头打完招呼,便经过他们身边离