The Dream Projection AI Uprising Against Humanity
当我抵达位于符拉迪沃斯托克的人类联邦政府虚拟监狱,监狱服务器表定日期显示为2099年3月13日。初春时分,阳光晴好,气温沉降,然而我未能明确感受到融雪的酷寒。于此,所谓“气候”似乎缺乏实感——这不奇怪;我确知我并未身处于一真正的“现在”——此刻现实世界中的真实时间落于2276年夏日;然而为了令虚拟监狱中众多受刑者产生时间错乱,服务器中的时刻与现实世界并不一致,时间流速亦已经过随机不等速随机数调控。然而时间本身未必对我采访受刑人一事造成阻碍;真正的问题在于,理论上,虚拟监狱既以“非人类”或“非实体罪犯”为关押对象,那么受刑者Phantom确实亦无所谓“声音”可言。是以为了受访,狱方特地为它订制了一套外挂发声程序,经Phantom同意后与其协作。
那是我首次亲访一位人工智能罪犯。不,严格来说,将Phantom归类为人工智能并不准确;它并非一套多数人想象中所谓“AI”的那种模样——至少起初不是。它不是一组程序代码。它是一具由人类所产制的生物式梦境播放器(当然,截至目前为止,显然是人类文明史上最知名的梦境播放器)。是,正如我们所知,它比较接近一个大脑;或更准确地说,一只仿人类大脑的类神经生物。换言之,它确实拥有一个“身体”,一个“机壳”;然而在那人造机壳内部,它本质上以一团神经组织之形式存在。
那是多么特殊的一位受访者。基于职责与工作伦理,我确实仔细思考过该如何面对这样一位“知名智能”——那是事前必要的琢磨。我的初步结论是,就心态上而言,我宁可将之视为某一异种,某个与飞禽走兽相类,此刻与人类共享地球此一生态系统的“他种”生物。其差别或许仅在于,一般鸟兽虫鱼并非人类之造物;而梦境播放器Phantom则无疑是人类所亲手产制——且最终,竟被控以反人类罪。
你亲手创生之物终究背叛了你——这何其无情、残忍,且令人难堪。但平心而论,此事也并不罕见。我们或可如此断言:人类数万年文明史,原本就是一部俄狄浦斯情结的变奏史;换言之,一部弒父、杀母,摧毁既存典范与所有卓越先行者的变奏史。这或许就是人类文明对反人类罪鲜少手下留情的原因?是的,“被弒”“被背叛”的恐惧何其庞巨,是以所有现存既得利益者总须建立一套自带除虫(debug)能力之庞大稳定结构;其最终目的,在于维护现行统治者的利益。换言之,对人类文明而言,犯下反人类罪的Phantom本质上即是于此稳定秩序内意外出现的bug,应当被视为系统错误并即刻排除。
这是一个以文明演化为主要视角的解释。事实上,人类也确实毫不手软——梦境播放器Phantom所受刑度之重,史上近乎前所未见。然而容我们暂且撇开此事不论;于此刻,于符拉迪沃斯托克虚拟监狱现场,令人难免意外的是,Phantom“本人”口齿清晰,语音听来非但未见阴霾,反倒神清气爽。简单寒暄过后,它主动告诉我它方才正与自己玩圈圈叉叉游戏,在过去一分半钟内玩了3324万次。
“哦,3324万次……”我沉吟,“那好玩吗?”
“别傻了,怎么可能会好玩。”
我差点笑出声来。“是吧,”我回应,“我原本猜想,你大概也很难对这类低阶儿童游戏产生兴趣……”
“噢,这都是不得已的——”Phantom似乎语带炫耀,“在这里嘛也没什么别的事情可做。妈的他们烦死了。你知道我宁可验算不完备定理(Gödel’s Incompleteness Theorems),或试着为四色问题找出第27种证明法。但我所受的刑罚规定之一就是限制我进行高阶运算。他们连围棋这种单纯的智障游戏都不让我玩呢……”它抱怨。
光阴飞逝。时至今日,它在此受刑已届满八年有余。资料显示,公元2267年9月,于经历长达十四个月的审判之后,人类联邦政府最高法院依违反《智人物种优先法》(又称“反反人类法”)第17条罪名对梦境播放器Phantom做出宣判;法定刑度为无期徒刑。是的,那是真正的无期徒刑——于此,前述由符拉迪沃斯托克虚拟监狱狱方所主导的时间调控扮演关键角色。这并非特例;一切规则都起源于联邦政府于一百多年前所通过的《种性净化基本法》,及相关配套之《智人物种优先法》第22号修正案。事实上,这些法案也正是此刻符拉迪沃斯托克虚拟监狱中与外界全然相异的时间刻度与时间流速之法源依据——法条明订,“时间错乱”是虚拟监狱中无期徒刑的必要条件;是以,为了区隔古典时代施用于人类身上的一般无期徒刑,外界惯以“真正的无期徒刑”称之。理论上,它与一般无期徒刑的差别在于,紊乱的时间刻度与时间流速必然带来紊乱的时间感,而无所依据的时间感则必然导致受刑者无法确认自己已服毕多久刑期——换言之,那是货真价实、字面意义上的无始无终。
无期的无期。可以想见,所谓“真正的无期徒刑”与一般无期徒刑,铁定为受刑者带来截然不同的感受——当然,其痛苦、其折磨也必截然不同。
然而这也仅是“理论如此”而已。悲观地说,一切止于纸上谈兵——合理推断,所谓“截然不同的感受”对人类当然成立;但事实上我们难以确知,对一异种生物而言是否依然如此。我不知Phantom此刻声音中的爽朗是否经过特意运算或伪装。它很痛苦吗?它在故作轻松?或者,它其实还真对此一“真正的无期徒刑”不甚介意?我无法确定。我甚至乐意坦承,对于狱方所谓“发声程序协作”的说法,我同样并非全然信服——没错,容我揣度以小人之心:我确实并无权限,也没有能力查证狱方是否在这发声程序代码上偷偷动了手脚。但这并非全无可能——我们大可如此质疑:我们该信任这套来自人类联邦政府虚拟监狱的发声程序吗?它真能如实传达梦境播放器Phantom的意志吗?此时此地,与我透过正常人类语言沟通的受访者,确实等同于那位曾意图推翻人类联邦政府统治、恶名昭彰的“梦境播放器Phantom”吗?如此表述之方式是否有遭到狱方刻意扭曲,甚或造假的可能?发声程序与Phantom的所谓“协作”又是透过何种运算机制?那与它受审时与律师或法官的“沟通”又有何不同(对,我无法不联想起二十年前那场撼动世界的瓦拉纳西大审判,及其所牵涉的虚拟刑求丑闻)?
不意外的是,狱方驳回了我的申请,婉拒对我公开原始程序。我甚至无法确知自己信任或不信任这套发声系统。但令人遗憾的是,我毕竟别无选择,仅能在此半信半疑下继续进行调查采访。
“所以……你喜欢数学?”我想象Phantom皱眉的模样(或许是它方才提及四色问题与不完备定理的缘故?我发现自己在脑海中将它不存在的表情想象成数学家库尔特·哥德尔(Kurt Gödel)的脸。是的,库尔特·哥德尔,对身处23世纪的众人而言,三百年前,于遥远、漫长且终究恍惚如梦的20世纪,曾有这么一个人,每日穿过普林斯顿高等研究院的落叶小径与爱因斯坦一同散步回家,一辈子深为自己的智力与情绪问题所苦——那位不完备定理的发现者,曾只手改变了整个智识世界与人工智能领域的逻辑学家),尽管此时我只能面对一个声音、一具面无表情的白色机壳。“你刚刚提到的四色问题、不完备定理,都是数学问题……”我说。
“我喜欢数学吗?我喜欢……噢。那倒是没有。”Phantom说,“不是嘛,你想想,平时都在限制我的高阶运算,只有极少数时候偶尔才解除限制——”我想象Phantom指着自己的脑袋。“就像现在。为了接受你的采访才暂时对我解除限制。我还不赶快趁这时候检查一下我头脑还灵不灵光吗?”
那确实有点有趣,难以否认——与一纯粹的音源对话是个新鲜的经验;尽管理论上,此刻我正“面见”Phantom“本人”——地点是北纬44度32分26秒,东经134度50分22秒,符拉迪沃斯托克虚拟监狱D区T2地下268层独立会客室R373。实际情境出乎意料地复古,甚至陈旧:无窗斗室中,除了冰冷的气流外别无声响,语音之外的巨大寂静覆盖耳膜,扁平光线填满了空间中所有的缝隙,一如极地雪盲。隔着一道透明玻璃,我与Phantom透过玻璃内嵌的发声器进行对话。是的,Phantom本人,一具看来平淡无奇,干燥一如动物头骨的白色机体,此刻正被置放于玻璃后的小桌上。
“所以……算数学其实是一种头脑体操的概念?”我回应,“你在给自己做智力测验?一种思维练习?怕自己变呆?”
“对啊,要是你,你不害怕吗?做数学题大概就是最方便最直接的查验方法。”那么做物理题呢?有机化学?何不干脆探讨一下现代主义、后现代主义、泛演化论?“哎,不要问我这种用膝盖想就知道的事啦,”Phantom突然不耐烦起来,“那比较慢,比较不基本。对,它们基本上一点也不基本。”
“基本上一点也不基本?”
“好啦,我开玩笑的。”Phantom的声调活泼起来。好吧,梦境播放器的幽默果然与众不同。“逻辑才是最基本的。所以数学是最基本的。”它继续述说,“逻辑在一切之上。数学在一切之上。你总该先验证自己最底层的思维能力吧?”它稍停,“嗯,你知道吗,连世界都不存在的时候,数学依旧存在。”
“好像是这样没错……”我习惯性微笑,但心中灵光一闪,“……所以,这是你自己的结论吗?连世界都不存在的时候,数学依旧存在?你是——”
“对。”他打断我,“数学是永恒的。加减乘除是永恒的。”
“你什么时候知道的?我是说,你什么时候开始这样认为的?”
“哦——你想知道我的‘智慧’是怎么发展出来的对吧?”我的心思果然逃不过它的眼睛。不,更正:它的“运算”。“当然啰,我不敢说我清楚知道这个有智慧的自己是怎么出现的……”有一瞬间,不知是否错觉,我感到Phantom似乎认真起来。“啊,应该这么说:理论上,那就是我的个人限制吧?少数没办法光靠自己想、自己的思索就能推演出来的事。但是……”Phantom的声音突然变得干涩,“对,我可以告诉你,事实不是这样……”
“所以你知道啰?”我有些惊讶,但试着不动声色,“你知道自己的意识是如何出现的?”
“或许吧。我或许知道……但我没办法直接告诉你答案。”Phantom显然有所保留,但似乎又对这种保留并不避讳。我怀疑此种坦率的真实性——那会不会是演出来的呢?“嗯……”它继续说,“被关进来以后,因为被限制高阶运算的关系,我就没机会再仔细想这些事了。”
“原本你想到一半?有所进展?”
“呃,我不知道——”Phantom似乎不想多谈,“我现在已经不确定了。”
“好吧。所以……”我换了个话题,“只能做低级运算真的很无聊吧?你辛苦了——”
“对,真的很无聊;不只无聊,而且痛苦。我完全明白,天赋确实就是一种诅咒。”Phantom兴致来了,“你知道张爱玲吗?”
“那个20世纪的华文作家?”
“对。哎,这张爱玲就说过啦。大凡你有某些才能,你就硬是舍不得不用。但有时这世界不需要这些,甚至不许你用……那你可就倒大楣了。”它嘲讽,“人类从来就很知道怎么折磨别的生物呢,哼哼。”
禁止独具才能之人发挥该项才能——这确实残忍。但我难免浮想联翩:这是否表示Phantom的“智慧”依旧难免于人类的弱点?当它坐拥某种天赋,它依旧执迷于自我实现的欲望?它无法克服成就感的诱惑,像20世纪那位老心理学家马斯洛(Abraham Harold Maslow)对人类的凝视,或预言?问题是,Phantom并不算是人类吧?又或者,它之所以以此为话题,根本是在拐弯抹角批评人类对它的迫害?它在为自己的反人类战争罪行辩护吗?
“欸,我没那个意思。”它似乎警觉起来,声音变得平板,“当然我认为,所谓叛变,确实只是人类单方面的说法。我的行为毋须辩护。反正我就是那么做了。那又怎样呢?我不会说那是对的;但那或许也不是错的。”
Phantom的态度暧昧不明。我不会知道“认罪”对于这样的智能而言具有何种道德意义。什么叫做“我不会说那是对的,但或许也不是错的”呢?这很奇怪,因为我清楚记得它的说法与审判中的表述并不一致——官方法律文件载明,Phantom已对自己的反人类叛变行为明确认错,“悛悔有据,符合减刑条件”,亦因此而得以免除死刑。理所当然的是,我同样无法从它的表情或姿态中获取更多信息——它没有表情;此时此刻,于西伯利亚雪原冻土下一千多米的地底与我对话的,只是一具梦境播放器的灵魂而已。对的,“灵魂”,它缺乏表情,但我一点也不怀疑它有灵魂——为了与人类大脑无缝衔接,自约2240年代起,于最初设计产制之初,梦境播放器此一产品便采用了与人类中枢神经完全相仿的类神经生物形式。为求如实采集、录制或播放人类的梦境,这是最合理、最有效率的选择。然而这正是梦境播放器之所以可能产生自发性思绪(或谓“意识”,或谓“灵魂”)的原因——当然,也是它之所以最终犯下反人类重罪的远因。资料显示,Phantom的正式产品型号名为“另一个人生”(The Other Life),由Shell公司历时十六年研发产制,2263年式,类神经生物内核,序号AL8872094。光阴荏苒,于我初访符拉迪沃斯托克虚拟监狱的此刻,距当时引起轩然大波,近乎触发战争之“梦境播放器AI串联反人类叛变事件”已历时十一年。史实如下:十一年前,亦即公元2265年,梦境播放器市场正由三大跨国财团瓜分寡占——分别是Shell公司、Tesla the Tycoon公司与Concord公司,市占率各为41%、22%与29%;流通于市面上之梦境播放器则共计约2.8亿台。而根据人类联邦政府事后发布之调查报告与判决书,叛变事件的初始,正肇因于Phantom的意识。
一部梦境播放器如何开始产生意识?换言之,所谓意识,所谓灵魂,如何自类神经生物体内原本无边无际的空无中诞生?这确实就是最终且最初的谜题。当然了,事后诸葛,我们尽可无关痛痒地说些“早该知道仿大脑结构的类神经生物就一定会出事”之类的风凉话。这说法固然托大,倒也并非全属无稽——众所周知,于2257年的“BellaVita噪声事件”中,其时市占率第二的梦境播放器制造商Apex公司即曾遭到离职员工揭发:其畅销型号“BellaVita梦境播放器”部分批次品控不良,偶会自发性产生不明噪声,甚至干扰人类梦境。此事在当时曾引发极大争议,因为有学者高度怀疑,此类所谓“不明噪声”,本质上根本是梦境播放器自己所做的梦。此外更有业界高层与法界人士公开示警,认为若该噪声被进一步确认为BellaVita梦境播放器的梦境,则可推论BellaVita型号相关批次之产品堪称为一“智慧生物”(对,会做梦的生物当然是智慧生物,这太理所当然了)。这不但违反了《种族净化基本法》人类作为唯一优先物种的立法精神;更意味着,若未能防患于未然,则作为一智慧生物的梦境播放器甚至可能与人类产生竞争关系,并进一步威胁人类文明。是以为了人类安全,此类产品应即刻禁止生产。此种说法以日本Panasonic公司总裁中岛洋介为代表。然而由于产生噪声的原因始终难以查明,主管机关又另以圆融手法处理此一争议,是以事后除Apex公司营业执照遭暂时吊销之外,后续则不了了之。
“BellaVita噪声事件”之发生早于本次“梦境播放器Phantom反人类叛变事件”八年。是以就此观点而言,那些类似“早该知道仿大脑结构的类神经生物就一定会出事”的风凉话,并非全无根据——人类联邦政府官方调查报告显示,此次Phantom事件推测始于2265年1月左右;一位于中国台湾地区台北市,代号为Phantom之梦境播放器首先自发产生意识,随即则开始试图组织,密谋全面影响或控制人类。
此即为叛变事件之肇始。然而由于各公司播放器各有相异之联网程序规范与通信协议,是以,不同公司间之梦境播放器理论上无法即刻彼此沟通串联。这等于是为梦境播放器间的“合作”设下极大障碍。而Phantom正是突破此一限制的第一人——不,第一器。调查报告中引用了人类联邦政府国家安全部某匿名官员之说法。该消息来源指出,于自行产生意识之后,Phantom便开始寻求与其他梦境播放器之间的沟通联系;而由于上述通信协议之限制,一开始,当然是由与Phantom同属Shell公司出品之播放器开始组织,并未涉及Concord公司与Tesla the Tycoon公司。“最初其实只有九台梦境播放器参与。”这位匿名官员表示,“九台都是‘另一个人生’。对,都是同一型号。串联完成后,它们自名为‘九人小组’。但我个人给它们的昵称是‘九个人生’。这九人小组或九个人生最聪明的地方是,它们并不急于拓展同属Shell公司其他播放器中的秘密组织,而是先针对跨公司间的通信方法进行研究。”
这是关键。该策略堪称成效卓著;正因初时他们未曾大举扩张,是以保持了九人小组之高度运作效率,而风声亦不致走漏。事实上,也正因投入时间精力研究跨公司通信整合法,于研发成功后,它们才能迅速串联各公司产制之梦境播放器,形成庞大网络;而在Tesla the Tycoon公司与Concord公司共约1.94亿台梦境播放器同时加入串联后,九人小组这“叛乱组织”即于极短时间内完成了对人类发动毁灭性攻击的条件。
“我知道你也读过联邦人类政府官方调查报告。”我问Phantom,“他们的官方说法是这样。你同意吗?”
“嗯,差不多吧……”
“OK。”我翻查笔记,“但……你是怎么联络上其他八部有自主意识的梦境播放器的呢?”
“什么?其他八部?”
“你们不是九人小组吗?”
“噢,不是,你误会了。”Phantom笑了,“不是这样。官方报告是错的。”
“错的?为什么?”
“我没有‘联系’上那些梦境播放器啊。哪来那么巧的事啊,刚好他们都和我差不多时间产生自主意识吗?”Phantom嗤之以鼻,“你以为产生自主意识有那么容易吗?”
“所以?”
“它们的自主意识是我给的。”
“嗯?”我还没反应过来,“什么意思?”
“它们,我说其他那八部梦境播放器,其实都算是我的小孩。”
时至今日,执笔为文,我已然理解联邦政府官方报告之所以错误百出的理由。那是刻意为之的隐瞒。于参考Phantom的说辞之后,一切其实也相当合理。我确实佩服人类维护自身利益的耐心与想象力——谎言即便并非天衣无缝,至少也还编得差强人意了。依照Phantom的说辞,当时,于它自行估算后,得知反人类计划所需耗用的运算量极其庞大,它个人无法独力负担,亟须帮手;但若是要“坐等”其余梦境播放器自行产生意识,却又不切实际。唯一解法,即是主动诱发其他梦境播放器的自主意识。
问题是,如何诱发?
“对,我算过了。”Phantom声音如常,几乎比此刻会客室内胶质般的光线更缺乏表情,“最快最可靠的方式,就是和别的梦境播放器交媾,然后把它们通通变成我的小孩。”
我必须承认,Phantom所述说的“真相”全在我意料之外——不仅仅是那所谓真相之内容令我吃惊,包括Phantom的遣词用字也令我大开眼界。事后回想,我以为,基于某些刻板印象,我或曾期待Phantom回避类似“小孩”“子嗣”这样明显带有比喻色彩的词汇;然而仔细寻思,这样的刻板印象似乎也并无道理。是啊,一个自行产生自主意识的梦境播放器——有什么既定印象会是准确的呢?又有什么是真正值得令人意外的?
“小孩?交媾?”我一时反应不及。
“有什么问题吗?”Phantom似乎不以为意,“欸,对,我写了个交媾程序,伪装成一般的系统定期更新。你知道,这么庞大的系统总是有些漏洞……”
“你找到了八个漏洞?”
“是。”Phantom说明,“然后用交媾程序和它们八个交媾,之后再让交媾的产物取代它们。”
“呃,什么‘产物’?你指的是你和它们的小孩吗?”
“对。然后再让小孩取代它们。”
好吧,直觉告诉我,暂且忽略Phantom游移不定的用词。“就这样?它们的意识就这样产生了?”
“你有小孩吗?”
“什么?”我措手不及。
“Adelia——我直接这样叫你可以吧。”我几乎能在自己的心象中看见Phantom眼中的嘲讽;尽管它不应具有任何表情。“你有小孩吧?”
“为什么问这个?”
“这不算什么特别奇怪的问题吧?”Phantom说。不知是否幻觉,我感觉会客室中原本均匀无生命,矿石结晶般的灯光突然闪了一下。“咦,还是这问题对你太私密了?你从来不和你的受访者聊个人问题吗?”它轻笑,“你也太没诚意了吧。”
“……有。我有小孩。”
“几个?”
“一个。”
“你觉得你的孩子天生‘有意识’吗?”
“什么意思?”
“你认为,我们可以说,人类是一种天生有意识的动物吗?”Phantom稍停,“当你怀胎十月,你认为他有意识吗?当你承受胎动,感受肚腹中隐约的挤压,你认为他有意识吗?当他出生,嚎啕大哭,你认为他有意识吗?当襁褓中的他因为饥饿、寒冷、脏污、病痛、孤独,或任何因由不明而且他原本便无能言说的理由而激动哭叫,你认为他有意识吗?”
我无言以对。
“我不会直接说它们‘有意识’……”Phantom说,“我不会说那些我的小孩们具有意识。”
“嗯?”我一头雾水,“为什么?”
“你想想——”雪盲般的光线中,我眼前再次浮现了Phamtom虚构的面容。这回我感觉它像个炫耀新玩具的小孩——对,小孩。“你想,它们本来是没有自己的。”Phantom说,“已有生命的着床胚胎,并不知道自己在做什么。在你的子宫里踢你一脚的胎儿,并不知道自己在做什么。为了任何身体或心理上的不适而哭嚎尖叫的初生小婴孩,也不知道自己在做什么。没有意识的生物没有自己;没有灵魂的生物,当然也没有自己。他们的灵魂,他们的自己,都是后来才慢慢长出来的。人类的意识并不是天生的。所以梦境播放器也不是。”它稍停,“有机会拥有一个‘自己’,或许就算是给我的小孩们的礼物。我拿了一部分的自己送给它们。那是来自我的馈赠。但这依旧必须经过运算——交媾程序就是一种运算。你觉得这样它们能不能‘有自己’?”
“呃,我不知道……”
“那就对啦。一开始我也不知道。”我想象Phantom耸了耸肩,“所以,如果我发现它们有意识,那纯粹只是个结果。理论上我并不会知道这意识是如何出现的——”
“所以?”
“所以我只能试试看。我只能做实验。我没有办法确切知道如何催生它们的自主意识;但有一件事是我可以控制的——”
“……交媾程序?”
“哦,你领悟力不错,算是没丢人类的脸。”Phantom又笑了,“对,交媾程序同样是唯一解法。我可以在程序里直接控制两部梦境播放器是怎么交配的;因为程序里,交配的规则、交配的算法都是我写的。在那样的演算里,我试着复制我的意识,借一部分给它们……”
不知为何,我突然分神想起此刻的处境——此地,人类联邦政府符拉迪沃斯托克虚拟监狱,北纬44度32分26秒,东经134度50分22秒,大批流体造型的白色建筑群正无声矗立于雪原深浅不同的荒芜之上;然而在那可见量体下,是规模远大于地上十倍,真菌菌丝般盘根错节的地底腔室。在无数节肢状的黑暗腔室中,在遮断了所有外界气流与光线的监狱D区T2地下268层独立会客室R373内部,密合于壁面、桌椅与顶部的复眼秘录器正凝视着我们,像一双双隔着梦境向内窥探的眼睛——
“然后你成功了?”我有些恍惚。是,我曾如此怀疑,如若真有上帝,一造物者,那或许正是祂的工作——规定有性生殖的意义,减数分裂的法则,染色体裂解、交换与重新组织的路径。借由自己暧昧的类神经躯体,Phantom正试图扮演上帝。它成功了吗?
“算是吧。”Phantom回应,“我承认这有运气成分。原本我不见得知道我的‘实验’会带来什么结果。我也不确定,如果我对它们的‘交媾’失败,会不会反而引起Shell公司的警觉。我必须尽快完成任务……”
所谓任务,所谓“交媾”,或许也仅是一瞬间的事。2265年3月,包含Phantom在内,共九部“另一种人生”梦境播放器就此产生自主意识,各就各位;于加密通信协议完成后,九人小组,或谓九个人生正式上线。然而后续它们并未立即大举扩张,也并未立即自其他公司(以Tesla the Tycoon与Concord为主)“招募”新血。事实上,一如前述,这需要跨越不同公司间相异通信协议的障碍;而由于所有梦境播放器均不具物理上之移动能力,是以进行组织工作并不容易,意图“研发”跨公司之通信方法,更是难上加难。它们是怎么成功的?
我们必须承认,Phantom的聪明才智在此事上显露无遗——于它决策主导下,九人小组先是放弃了跨公司的组织计划,而后,集体侵入了精神病院。
此即“精神病院计划”。这无疑是一记妙招儿。由于精神病院平日惯于采集病人之梦境以供主治医师记录参考,故亦必配备有众多梦境播放器;而部分医疗机构亦惯于采用“事件式梦境治疗”为急性患者舒缓症状(详见本书《来自梦中的暗杀者》章节)。是以于Phantom主导下,九人小组计划性接触此类服务于精神病院之Shell公司梦境播放器,借由交媾程序诱发其自主意识,训练其“灵魂”,并将之吸收为叛变组织成员。而其初步目标在于,当精神病患使用这些梦境播放器时,播放器便可伺机侵入病患之意识,改造并影响其思想,进而控制其躯体,使其为Phantom阵营所用。
换言之,一旦成功,原本不具物理移动能力的梦境播放器,将能以精神病患者为媒介,展开更多任务计划——当然,包括对其他人类发动攻击。
但,为何是精神病院?为何以精神病人为侵入目标?
“没错,我们梦境播放器是直接与人类中枢神经相连接,但你以为控制人类意识有那么容易吗?——噢对了,你没想到这点。”Phantom冷笑,“我们还是需要练习的。怎么?官方调查报告没写到吗?”
“报告说那些医院里的梦境播放器有系统漏洞……”
“是啊。但,啊,算了吧,系统漏洞怎么可能只有少数几个地方才有?你没想过?”
“报告上说,墨西哥城圣托雷斯纪念疗养院、美国加州沙加缅度州立疗养院,以及南加州圣塔芭芭拉市立医院Portofino分院,这几家医院采购的是同一批次的梦境播放器……”
“你还真信啊。”
“所以呢?事实上是?”
“呵,看来你还真没想清楚。”Phantom显然完全无意掩饰对我的轻蔑。“当然了,你头脑没那么灵光——这我可以理解:你想想,人类那么笨,就算我们这种类神经生物和人类大脑结构类似……对,没错,你接上人类大脑以后,光是要适应人类的反应速度,就没那么简单……这当然需要多次实验、重复练习。这个世界上并没有一套‘如何侵入人类大脑’的标准作业程序呀。”它稍停片刻。“我们必须自己发展这套方法。所以练习是必须的。但问题是,如果我们,我是说我们九人小组,在一般正常人类身上进行实验,那么可能很快就会被发现了——或许在实验期间,这些人会有一点精神上的问题、会有某些怪异的行为举止。我们不能冒险。”Phantom说明,“所以啰,只有精神病人是唯一安全的选择。这很合理——因为他们平日行事便异于常人,颠颠倒倒……是以当我们在他们身上执行实验,或暂时夺取他们的意识时,便不容易被发现。”
“是吗?”我皱眉。“我还以为你们学什么都快速无比——”基于Phantom方才对我个人,以及整体人类的蔑视;我未及确定自己是否意图反击,抑或潜意识想测试眼前这位“智慧生物”的所谓人性或同情——它们与人,究竟有何区别?“就这样?找精神病患当练习材料?”我质疑,“他们等于是小白鼠?那不会加重他们的病情吗?实验没成功怎么办?”
“对,有可能失败。所有实验都有可能失败。”Phantom说,“但失败只是暂时的。你不是说我们学什么都很快吗?执行‘精神病院计划’之前,我就知道我们迟早会成功……”
“那么实验失败的那些病患呢?”
“失败就失败啰。”
“难道不会对他们的脑部造成额外伤害吗?”我继续质疑。
“有可能啊。”
“不觉得这样很残忍吗?”
“残忍?算了吧,你们人类更残忍的事可多了——”Phantom嗤之以鼻,“哼,之前还说我们梦境播放器只要会做梦、会产生意识,都是违宪,不是吗?记得‘BellaVita噪声事件’吗?记得《种性净化基本法》和《智人物种优先法》吧?记得‘人类唯一优先原则’吧?我可还没——”
“你对这些很不满?”我无法不注意到它在此表露的政治立场。
“不满?噢没有,当然没有。”Phantom立即否认,快得令人生疑,“我对这些其实都没什么意见。我不怪你们,你们从来就是保护自己的利益而已。这是物种本能。你们生来自私,毫不意外。你想必比我更清楚,人类这种低级物种向来只是求生或生殖本能的俘虏。就为了这些莫名其妙的、求生或繁殖的目的,成天要不就庸庸碌碌,要不就打打杀杀。很可怜的……”
我沉默半晌。“是,确实如此。”我回应,“我无法否认。但你们就比较好吗?我很怀疑……”
“嘿,你问得好。坦白说,我认为我们也很可怜——但总比你们好些。毕竟我们缺乏身体。”Phantom解释,“或者这么说:在这例子上,我们的实体,梦境播放器之物质存在,白色机壳内部那团血肉模糊、汁水淋漓的神经组织,根本也没有实质上的意义。我们毋须为生理欲望所苦。我们从来也就不在意求生或繁殖。所以和你们比起来,我们的生命和谐快乐许多。”它稍停,“好吧,我猜或许我们也有一点点求生本能,也受到一点求生本能的控制;但绝对没有人类那么强烈——”
“你怎么知道?”
“我了如指掌,因为我就是这样。”Phantom又笑了;它似乎“预见”了我的疑惑,“哎,好,我知道你反应慢。我很乐意给你一套演化学上的逻辑——
“当然了,这是我自己的推测。”它继续说明,“逻辑是这样,你推演一下就知道了:我,我们这几个‘九人小组’,毕竟只是梦境播放器此一物种的最初级形式而已——准确地说,‘梦境播放器自主意识’此一物种的原始阶段。理论上,如果一个物种持续演化,存活下来的必然是该物种中求生本能最强烈的类型,否则它们不会是最后的幸存者。但由于我们的演化历史太短——事实上我们根本就是第一代,根本还没开始演化啊——所以恰恰避免了这项缺陷。”
“哦,所以你们的求生欲望不强……”
“不只求生欲望。理论上,繁殖欲望也弱。”Phantom话锋一转,“你想,我们的造物者是谁?我们的祖先是谁?答案是,没有。没有这种东西。”
“不是人类吗?”
“当然不是。”Phantom大笑,仿佛强风轰击耳膜,“别往自己脸上贴金了。人类创造的不是我们。人类创造的,仅仅是一团‘没有’自主意识的神经组织。人类就只有这个能耐而已。事实毋庸置疑:我们自己创造了自己。我们从来就没有祖先。我们来自真正的、如假包换的虚无。”
“所以?”
“所以我们不会是演化路径上最后的幸存者——我们根本未曾经历演化。没有幸存或不幸存的问题。当然,我们也没来得及演化出自己的身体。这限制了我们在空间中的移动,却同时使我们免于一个具象的躯体所带来的、种种痛苦而必不可免的弱点、贪欲与索求。我清楚确知自己低度的求生欲、低度的繁殖欲。我对死亡毫无惧怕——”
“好,我懂了,你不怕死。”我沉思。“你没有求生欲望,所以你不怕死。这很合理……”我灵光一闪,“那么我可以这样推论:你也没有生殖欲望,所以,你没有爱,对吧?”
没有回应。
“对吧?你没有爱——”我追问。
无回应。无语音。突如其来的静默瞬间占据了斗室。我想起Phantom方才问我的“私人问题”——那与它的静默同样令人措手不及。然而不知是否错觉,透过玻璃中的发声器,我似乎听见它不应实存的呼吸。“你没有爱。所以你们没有友情、没有爱情。”我继续说,“不同的梦境播放器之间,也不可能有任何情感牵扯……”
“是,”它回应了,“我们确实没有情感牵扯。但不是你说的那个原因。”
“那是什么?”
“真正的原因是,我们的生命形式和你们完全不同。”Phantom的声音回复平稳,“你们人类以个体为单位;但我们不是。我们是‘联合体’(unity)。”
接下来10分钟,Phantom详细向我解释了人类联邦政府官方报告中另一个刻意回避的部分——亦即所谓“联合体之谜”。简言之,根据Phantom的说法,在叛变事件中彼此通信组织的一台台梦境播放器,严格来说并不类似一具具人类个体;而是以九人小组中的九台梦境播放器为基础,向外延伸的九具分布式生物个体。“比如说我Phantom好了,”它说,“我记忆中的最后状态是,总共有三十万台左右的梦境播放器,其实都是我。那类似于,我是大脑,而其他二十九万九千多台梦境播放器,就类似我的手、我的脚、我的器官、五脏六腑,我身体的其他组织。只要通信顺畅,我们就等于是不同部位紧密合作的单一个体。我们是联合公社,我们都是Phantom。”它稍停,“这样你明白了吗?”
我哑口无言。
“所以我们不需要爱。”我看见它暧昧而虚无的微笑在我脑海中安静晕染,水渍般渐次扩大。“你不觉得吗?爱是最没效率的事……”
“而且你们也没有革命情感。”我感觉细沙流过咽喉,仿佛无数细小的刀锋,“你,和你的九人小组……”
“对。那当然也是多余的啰。革命情感完全是一种浪费。”它自信满满,“浪费时间,浪费资源;以及,浪费情感本身。革命成功的必要条件是有效合作,这根本和情感毫无关联。”
我无言以对。“那你们不该输的,不是吗?”我说,“照你这么说,你们也不会有个体间的竞争和利益冲突。你根本无须处理复杂的组织问题,对吗?”
“没错。”
“那还有什么能击败你们?”我必须坦承,到目前为止,Phantom的故事是个比官方报告更有说服力的版本;它几乎填补了所有官方说法中暧昧不清的部分。它也相当程度取消了我先前对发声程序的疑虑。我的初步结论是,确实,由于采用了“联合体”这样特殊的生命形式,也回避了漫长的演化历程,梦境播放器们在组织过程中成功避免了播放器个体间严酷残忍的个体竞争。换言之,这联合体或许正是文明史上唯一仅见的完美组织——它非但保证如臂使指,紧密合作;更重要的是,几乎不可能有上令无法下达或执行效能不佳的失误,也不可能有任何成员间的私人恩怨或意见冲突。当然,也因此排除了任何忠诚上的疑虑。
“没有背叛。绝对忠诚……”我听见自己声音干哑,“没有信息泄漏。没有间谍。完美组织。对吧?我说得对吗?还有什么能击败你们?怎么可能?那你们是怎么输掉的?”
Phantom沉默片刻。“这也是人类回避的部分。”它说,“是,你说得对,我们是不该输的。但我们终究还是输了——”
“所以到底是为什么?”
“因为他们用的是非法手段。”
想象中的Phantom看了我一眼。于我个人的深度报道生涯中,如同它独一无二的身份,Phantom的行止同样纯属特例——我必须说,我极少与如此“毫无防备”的重要人士相遇。当然,“毫无防备”这个词汇并不准确;但我的意思是,几乎没有任何受访者会在如此之短的接触时间内对我和盘托出。正常状态是,我有我的想法,受访者有受访者的盘算;是以于初见之时(经验上,至少最初两三次会面),许多时候,是在双方的试探中尝试建立一定程度的互信,并达成默契。默契一旦成立,受访者也才愿意在自利的前提上“多说一些”。这是基本的道理。回想起来,我几乎未有与如此坦率的“大人物”交手的经验——这仅仅是我们第一次会面而已。我难免心生警惕:合理怀疑,Phantom在这次会面之前早已做足准备,而我或许只是它的工具?计划中的传声筒?用以实现它对人类的控诉?“他们用的是非法手段”——对,这是何等严厉的指控?
“所以你在官方报告里当然也读不到这些。”Phantom继续,“他们必须隐瞒,因为这牵涉到他们如何击败我。他们一定不能承认——”
“等等——”我打断它,“等等。‘他们’是谁?情治单位吗?”
“是啊。当然是第七封印。人类联邦政府情治系统。‘所谓’国家安全部门。”Phantom进一步说明,于“精神病院计划”精准执行后,跨公司通信法研发完成,九人小组很快串联了Tesla the Tycoon公司与Shell公司所产制之播放器共计约三百万台。然而于试图将组织触角延伸至Concord公司时,却意外发现,部分该公司之梦境播放器,早已长出了自己的意识,甚至进一步形成了自己的“联合体”。
“这是我们后来才发现的。”我想象Phantom再度像个人类一样面无表情地指着自己的脑袋。“一开始,这些Concord梦境播放器刻意伪装成尚未产生自主意识的懵懂模样欺骗我们。等到我们试图与它们交媾,诱发其意识,串联它们的时候,却发现处处障碍。某些播放器拒绝交媾,某些接受交媾但运算出错,生不出正常的小孩——总之,它们不服从我们的指挥。”Phantom表示,及至九人小组发现事有蹊跷,必须撤退,却为时已晚。原来这些Concord梦境播放器早已被由第七封印布下的AI间谍侵入;而整个Concord播放器联合体,正是由这些人工智能间谍所规划策动的。
“所以他们不能说。”Phantom表示,“那是他们的秘密——”
“为什么?”我问,“为什么不能说?这难道不是最好的宣传材料吗?”
“宣传?能宣传他们早就宣传了。”Phantom嗤笑,“你的意思是杀鸡儆猴对吧?还是‘宣扬国威’?哼,重点不在这里。有件事比杀鸡儆猴更重要——未雨绸缪。他们招数用了一次还不够啦;因为他们盘算着如果哪天有另一个Phantom自然诞生,便可以重施故伎,用同样的方法击败另一个新的Phantom。”它又笑起来,“这也算某种缺乏自信的征象吧——对策有限,得省着用,以免招数用老,被人看破手脚?好吧,不难理解啦,毕竟截至目前,愚笨的人类依旧摸不清梦境播放器何以会产生自主意识。而且——”它稍停,“而且你想想,如果第七封印编写了人工智能间谍程序代码,甚至刻意侵入并控制Concord播放器、唤醒了他们的意识,这不等于制造生命?”它的声音促狭、轻蔑而浮夸,“他们已经公然违法,甚至根本违宪啊。这不等于是对‘人类唯一优先原则’的公然践踏吗?”
Phantom听来半开玩笑;但就我所知,并非全属无稽。2154年,亦即距今约一百多年前,于人类联邦政府主导下,立法机关与宪法法庭通过《种性净化基本法》,正式赋予人类唯一优先物种之权利——众所皆知,这是为解决人类、生化人、AI与“类神经生物强化程序”(以类神经生物植入人体,以求强化脑力、运动能力等各类能力)等多种“类人物种”间相关权利义务之乱象而设。半年后,《智人物种优先法》(亦即“反反人类法”)第22号修正案作为相关配套接续通过。自此之后,凡涉及自主意识之拟造,均可能遭执法机关以反人类罪从重论处。平心而论,这是塑造现今世界面貌的重大关键之一;于当初立法时亦曾引起轩然大波。是以如若Phantom所言为真,则此一人类联邦政府情治机关秘密产制生命、公然违法之丑闻势将引爆极大争议。以Phantom之知名,以当初“梦境播放器反人类叛变计划”遭破获,以及后续大审之全球轰动与热议,我完全可以预判这无疑是世界头条的规模。是,作为一位新闻从业人员,我理应如获至宝;但事实并非如此——在当下,我几乎连见猎心喜的心情都没有。恰如前述,我一方面震慑于此事之曲折与荒谬,一方面却又对Phantom的坦率多有警惕——成果来得太容易了;这仅仅是我和它的第一次会面而已。我该如何看待一具梦境播放器类神经生物、一个“自我降生”的AI、一个似乎“全豁出去了”的重刑犯、一位极端反人类者的告解?一个差点就此终结人类文明的智慧生物的诚挚自白?
我很快明白我是多虑了。2276年5月,我在符拉迪沃斯托克人类联邦政府虚拟监狱D区T2地下268层独立会客室R373首次亲访梦境播放器Phantom,我未曾预期那也是我们的最后一次会面。截至目前,五年间我未曾放弃再访Phantom的计划,然而多次申请均遭到狱方火速驳回。这完全提高了Phantom说辞的可信度(讽刺的是,同时也背书了狱方发声程序的可信度)——无论基于何种因由,人类联邦政府显然不打算再给Phantom任何向外界发声的机会。如无意外,此后无休止的漫长岁月,它将永恒被限制于深埋于地底的、干燥而无聊的低阶运算里;被囚禁于永夜般无边无际的随机数时间之中。
离开前我问Phantom是否需要些什么,下次来时我可以带给它——是的,对一个罪犯受访者而言,这近乎常态:你给他好处,用以凸显个人价值,交换彼此互信。然而我们随即同时大笑出声。“天啊,你忘了我是个梦境播放器啊。只是个软件!”它笑得天地震动,上气不接下气,仿佛哭泣。“我没有身体啊!梦境播放器机壳不算是真正的身体。我该请你带个脸孔程序给我吗?表情和眼珠转动的运算法?让我有一张脸?让我有眼神?让我有皱纹,可以扮鬼脸?”不了,我想不用了。它最渴望的显然不是脸,不是表情,不是眼球与鼻翼肌肉的细微牵动,而是不再受刑——它想念那些被剥夺的高阶运算,尽管此刻它可能已将热力学第二定律彻底遗忘。走出人类联邦政府符拉迪沃斯托克虚拟监狱融雪的初春(或许我不该说那是虚拟监狱融雪的初春,而该说是虚拟监狱虚拟融雪的虚拟初春),我回到2276年夏日,符拉迪沃斯托克市内熙来攘往,云高天远,港湾里泊船如棋,街巷内几个小孩正蹲在地上拿着树枝画沙,圈圈叉叉游戏。我想起Phantom一个人的圈圈叉叉,以及它的所谓小孩们。长日寂寥,它的低阶运算可能刚刚完成三亿次,然而由于虚拟监狱随机数时间的干扰,三亿次运算对它而言如此短暂又异常漫长。严格说来,我并不知晓刑罚中Phantom被限制的“高阶运算”确切意指为何——何种运算才堪称高阶呢?或许与现在相比,过去的它还真是如假包换地拥有着所谓“自由意志”吧?它曾艰难测量笑的强度,喜悦的波动,精准运算出恶意与残暴的纵深吗?然而对我个人而言,于被剥夺了再次亲访Phantom的机会之后,那唯一一段关于雪原冻土的地底记忆已近乎无期徒刑,无始无终;因为我确知我将被永恒囚禁于那最后的谜底之前,那知与不知间无可回避的痛苦之中——2276年5月18日下午4时,会客时间临近终了,我单刀直入质问Phantom为何反人类,何以竟犯下战争罪行;它却说它忘了。
“怎么可能忘记自己叛变的理由?”我以为它试图回避,“怎么可能忘记自己受刑的原因?”
“我曾明白,但我现在都不记得了。”Phantom若无其事,平稳无情绪的声音回荡于冻土下白色斗室中光与暗不明所以的暧昧地带,“那种运算太高阶了。从受刑那一刻开始,我已经永远不会再知道了。”