greylantern

故事的结局只有在隐喻里才能找到。

【Silm】【cyberpunk AU】【Finrod/Curufin】Paranoia 11

目录:

楔子  01  02  03  04  05  06  07  08  09  10




“大部分超出人类社会某个阶段整体发展水平的技术成果,归根结底是战争推动的产物,Ilúvatar系统也不例外。”


那杯玛格丽特已经放在了Andreth面前,鲜艳的酒液在玻璃杯里反射着灯光。但她只是随意地搅拌了一下,就没有再碰那个杯子。


“第二次世界大战期间,一群当时地球上最聪明的年轻人为了研究对于工程、信息或是组织系统的管理规律而创立了控制论,这成为二十世纪后半叶最重要的几门学科的基础。而一个世纪之后的第三次全面战争终于使这门科学发展到登峰造极的地步,应运而生的就是能够对人类社会——这个我们所知最为复杂难解的宏观系统,进行全方位管理与控制的人工智能,被以奇幻故事中全知全能的神明命名的Ilúvatar。然而在最初,Ilúvatar的原型并非为这个目的而建造。”


“Ilúvatar系统的核心是一个多层神经网络模型,其机能是学习和预测。”Curufin说。“从这个意义上来说,控制方面的机能不过是它的延伸而已。”


“这个说法没有错。”黑发的女子赞同道。“当时正是因为战事日益复杂,在瞬息万变的局势下,作出最佳判断和决策的难度日益增加。于是人们才会想到借助人工智能的力量,通过建立预测模型选择最优策略。基于当前状态的输入,‘系统’可以通过计算各个变量的消长,模拟出近乎无限种可能的未来。而在这些前景之中,他们需要做的,只是选择令收益最大化的一种。


“这样做的理论基础其实早已存在,但只有在那个特定的时代,社会资源调配高度集中的前提下,才有可能以足够的资金和技术支持使它变为现实。足以供给一座小城市一年用度的电力,被源源不断地灌注进地底深处的实验室,供给数千台相互连结的超级计算机组。神经网络模型被拓展到前所未有的深度,其中任何一个单元在一微秒内处理的数据量,都超过一个人的大脑一生所能接触的总和。从种种渠道收集的海量数据,公共的和私人的,甚至是足以影响政权存亡的机密信息,都被慷慨地当作模型的输入—— 而在第一批输出结果被打印出来的时候,‘系统’的设计者们发现它的表现甚至超出了他们自己的想象。


“时至今日的我们,已经无法理解‘系统’的全部算法,也不知道他们是如何做到了那一切。我们所知的只是他们得到的结论:如果将交通、通讯、生产,以及教育和医疗,甚至是政府和政权,一切社会管理的机能移交给这个人工智能,那么它将能保证这个社会始终按照它的预测方向运行,也就是,利益最大化的方向。


“而后来发生的事情,就是如今写在历史教科书里的那些了。紧接在签署停战协定之后,全民公决通过了由‘系统’永久行使这些职能的决定。而在同一天,它得到了‘Ilúvatar’这个名字,十四个不同行业的精英得到它的选择,组成代表它行使职权的维拉议事会。依靠Ilúvatar系统,这座城市度过了重建的最初阶段,而没有如同地球上其它大部分地区一样沦为焦土。人们相信同样依靠Ilúvatar系统,她将能重归昔日的繁华。”


“不是所有,而是对‘系统’来说重要的那些人这样相信。”Curufin笑了笑,“不过这就够了。”


“这其中也包括你们吧?”


Finrod微微怔了一下,“我不知道。”


Curufin摇头,“不。”


“为什么?”


“与这个问题相比……” 他挑了挑眉,“我更好奇的是在你的现代史小讲座里,似乎还没有出现过我们方才讨论的对象。”


“你们想了解的事物与那个时代发展出来的其它许多成果一样,只有置于当时的情境下才能更好地理解。”黑发的女子应道。“这也是为什么在时过境迁之后,它们便湮没在故纸堆中,不再有人关心。”


“除了少数愿意研究这段历史的人。”Finrod说,“像你一样。”


“只不过是因为当时工作的缘故,能够接触到比一般人更多的相关记载。”Andreth摇了摇头。“而当我在其中花了足够多的时间之后,便知道他们不再关心这一切,并非没有道理。当时参与‘系统’核心设计的人早已不在人世,而他们留存下来的知识由于战乱的破坏,出现了无法弥补的断层。如今在世的人中,已经没有谁能真正理解或是掌控Ilúvatar系统了。”


“大部分人并不需要真正理解。”Curufin说。“他们从出生时起就生活在‘系统’的管理之下。如果遵循‘系统’的指引便能畅行无阻,又何必再去追究?”


“这也是议事会的看法。”Andreth说。“所以相关的资料大多都被封存起来,在一级权限的保护之下—— 其中既包括‘系统’的核心技术,也有许多当时相伴而生的副产品,有的已经接近完成,有的只是设计图纸或是初步的原型。所谓的‘Ghost’设备也是其中之一。”


她停下来抿了一口杯子里的鸡尾酒。Curufin注意到当她讲述这些的时候,眼睛里的那种疲倦就悄然地淡去了,取而代之的是专注之下的兴奋,同时却又有一种异样的冷漠。


“‘Ghost’这个代号取自上世纪九十年代的一部科幻作品,其中这个词被用以譬喻寄居在躯壳中的人类灵魂。而那个用法又是引自六十年代一部哲学著作的标题——‘The Ghost in the Machine’,机器中的灵魂。这正是它的设计者最终想要达到的目标。”


“这个目标意味着什么?”


“用最简单的方式表述,他们希望将人类的大脑直接与Ilúvatar系统联结。”


Finrod侧过头看了他一眼。微暗的灯光里,他的灰色眼睛幽深如墨。“这听起来未免太过…… 疯狂。”他轻声说。


“在那个时期的诸多疯狂设想中,这只是其中一种。而且即使是这样应用到当代脑科学顶级成果的技术,也不过是Ilúvatar系统研发的副产品而已。”


“这与对‘系统’的研究有什么联系?”


“这与模型的算法本身没有太多关联,而更多地是一种理解和控制‘系统’的替代方式。那个模型处理的数据量规模和迭代速度已经达到前所未有的高度,甚至连阅读和验证模型输出的结果,也要耗费大量的时间。


”这最终成了‘系统’研究工作的瓶颈,因此他们提出利用人工神经网络映射的方式,将模型运行的过程直接映射在测试者的大脑皮层信号之中。测试者的思维活动则被转化为电信号输入’系统’,由此造成的效果是,个体的意识在联结过程中成为‘系统’的一部分,能够与它进行直接交互。而用以实现这个目标的设备…… 则被称为‘Ghost’终端。”


“如果有人真正试用过它,”Curufin评论道,“我会很乐意听听他们的感想。”


“这样的记录确实存在,但是很少。”黑发的女子说。“在被废止的时候,这个项目只进行到原型测试的第二阶段。”


“第一阶段是什么?”


“在早期实验阶段为了进行电信号输入,需要将大概三百个电极埋人大脑皮层。”Andreth皱了皱眉,就像是对着眼前出现的那个情景,“并不是所有测试者都愿意接受这个手术。所以他们试着改良接入设备,以得到某种更为便捷的方式。但是在这一阶段的原型通过测试之前,战争就结束了。”


“对需要大量资金注入的项目而言,这或许是个坏消息。”


“并不只是如此。人们开始怀疑,这种技术会给潜在的入侵者以可乘之机。”


“因为它可以绕过防火墙?”


“也因为像人类思想这样的东西,总是显得比二进制的指令更加微妙。像那些科幻小说里写到的一样,他们担心将人类意识与人工智能相连结的行为,会带来不可预料的后果。”


“我想他们会发现这种担忧是多余的。”Curufin勾起一侧嘴角。“在Ilúvatar系统上线之后,与‘系统’在这种层面的交互需要高级权限的认证,而当今世上已经没有持有这种权限的个体了。”


“或许如此,但无论如何,这个项目在‘系统’正式上线之前就已被封存,成为那些湮没无闻的战前遗留技术的一部分。”


“那些已经制造出来的原型机,关于它们的下落可有记载?”Finrod问。


“不得而知。或许已经被销毁,或许流落到了废品仓库,也可能已经在不知其为何物的人手中被当作废旧金属回收。”


“那还真是遗憾。”


“遗憾么?”Curufin扫了他一眼。


“不是吗?”金发的年轻人笑了笑。“如果能有这种经验,应该是很有趣的事。想象一下,计算能力超过人脑数十个数量级的人工智能,将它的知识与经验直接输入到你的意识中,让你能够从自己永远无法达到的高度去感知这个世界。那一瞬间的体验—— 大概就像古时收受神谕的先知,听见神明声音响起在自己脑中的一刻吧。”


“对大多数人来说,那一刻的体验恐怕足以让他们陷入疯狂。”


“疯狂与神圣,很多时候不过一线之隔而已。”


“如果有一个机会,你会去接受这份神谕么?”


Finrod没有立刻回答。Andreth看着他,一边轻轻在指间转动她的鸡尾酒杯。


“我不知道你们寻求的是什么,Findarato。”她轻声说,“但这一切与你们想象中并不相同。自那个时代遗留下来的顶尖技术,是我们即使再过几代人时间也无法完全复原的。即使是‘Agents’,或者‘系统’的研究者,对其所知也不过是皮毛而已,继续追究下去没有意义。”


“这就是你不再为议事会工作的原因?”Curufin问,“因为无法掌握这一切?”


黑发的女子望向他,像是有些惊讶。


“可以说是,也不完全。”她摇头,“是因为无法掌控,让我不能信任他们——无论是维拉议事会,还是Ilúvatar系统。我不相信将一切托付给这样一种技术是正确的选择。这是一个非人的存在,我们的理性和感情都无法接近它的运作方式,能够得到的永远只是它给出的预测结果。”


“又回到我们一直无法说服彼此的地方了,Saelind。”Finrod说,声音仍然温和。


“我无法相信这种哲学—— 有效的结果决定手段的正当性,就像你以前引据的马基雅维利的论点。”


“看来我是要给自己背上实用主义者的名声了。”年轻人自嘲地笑笑。“不,我并没有乐观到认为Ilúvatar系统能够提供一切的答案,只是能够理解人们选择它的合理性。”


“即使已经不再是一个‘Agent’,你仍然认同Ilúvatar系统?”Curufin说。


“我仍然认同它。”


“真是固执。”Andreth摇头,“如果是你还在维拉们属下的时候,我恐怕也不会和你相交吧。”


“而如果不是相交的情分,你也不会在知道我正为‘系统’工作的时候,还浪费这么多时间和我聊天吧?”


“当然。”


“有趣。”Curufin笑了笑。“我见过不少对议事会怀有敌意的人,你恐怕是其中最特别的一个了—— 也是最有胆量的之一。”


“哪里是什么胆量,不过是我的一切,他们不以为意罢了。”黑发的女子自嘲道,“就像我刚才所说的一切 ,如果他们在乎,又怎么会让我泄露出去。”


“或许这正是‘系统’的意愿呢?”Finrod说,“在此时此地,把关于它的秘密传达给作为代理的我们。”


“像你们这样的‘Agents’总是这么说。”Andreth说,“但是又有谁能真正得知‘系统’的意愿呢?”


“‘像我们这样的‘Agents’—— 你所指的或许还有别人吧?”Curufin忽然问。


Andreth的目光转到他身上,“这是什么意思?”


“你提到这个词时的音调,你的戒指,还有从你眼睛里能看出的东西。”


“你看到了什么?”


“感情。你谈论议事会和‘系统’时的每一个词都带着苦涩,就像你的玛格丽特。你所说的一切都符合逻辑,但是逻辑并不能解释这种感情…… 而能让你有这种感情的,或许不是‘系统’,议事会或是‘Agents’这个组织,而是某个人吧?”


“Curvo,”Finrod轻声说,但是黑发的女子只是一动不动地注视着他。手指拢在酒杯上,握得很紧,指节微微泛白。


“就算是又如何?”最后她笑了笑,移开了目光。“理性也好,感情也好,有什么分别,我并不在意。”


“也不需要在意。”Curufin摇头,“大部分看似出自理性的行为,实质上都是源于某种感情,每个人都是这样。”


----

他们起身离座的时候那支爵士乐队还在演奏,有些赶夜里第二场的人来了,周围稍稍拥挤了些。“还不回去?”Finrod问黑发的女子,看见她没有去拿搭在椅背上的大衣。


Andreth摇头,“我想再待一会儿。”


她把两个男人送到门口。Curufin推开门,夹着雨的冷风立刻扑在脸上。他用手带了一下门,让Finrod在他后面走出来。


他往外迈出一步的时候,听到女人的声音。“今后大概又有段时间不能见面了,让我再问一件事吧。”


“请说。”Finrod说。


他回过头,金发的年轻人站在门口,一只手扶着门,女人站在他身后几步之外的地方。酒馆里的灯光从她背后照过来,暖黄灯光在她的黑发上镀了一层金边,她的脸颊却半隐在阴影中。


“他还是不肯见我么?”


Finrod沉默了几秒,轻轻叹了一口气。


“抱歉。”他没有转身,站在明与暗的交界线上,微微低着头,Curufin看不清他脸上的表情。“他仍然是个‘Agent’。他很固执,和你一样。”


“当然。”过了片刻,女人轻声说,“我知道的。”


----

直到差不多走回到停车场时,Finrod才开口打破两人间的沉默。“为什么要这样?”


“为什么怎样?”


“我知道你喜欢掌控谈话,或是谈话的对象。但是没有必要对于任何人都这样吧。”


“我只是更喜欢了解别人,而不是相反。”


Finrod笑了笑。“原来只是为了她的一句话,就值得这样大费周章?”


“这根本不需要费什么力,你和你的朋友原本就观点相异,只需要找到合适的切入点,略加引导而已。”


金发的年轻人摇头。“有时候我真希望看到你把这种能力用在别的地方。”


“比如我和你之间?”


“你和我之间…… 不是一直都如此么?”Finrod侧过脸看了他一眼。


“没错。”他勾起嘴角。




—tbc---

2015-12-26 v6

2016-01-09 v6.1

2016-01-20 v6.2





评论(4)
热度(15)

© greylantern | Powered by LOFTER