爱的问题(1 / 2)

人之彼岸 郝景芳 17797 字 2024-02-18

当凶案的消息传遍世界,多数人都忘了爱的问题。

出事的是林安,一个被镁光灯放大了的名字。他就像是人工智能行业的托马斯·爱迪生,曾经在无数全息小报上被编纂事迹。他把自己活成了一个隐喻,活成了一个魔法师的形象,他是那么的不苟言笑,就好像他自己是一个人工智能,手下的作品倒像是人。他脸上的肌肉有一种许久不用的退化感。对于市场盛传的林安用自己的生命注入人工智能的流言蜚语,他也不在意,似乎充耳不闻。这种埋首研究、不问世事的傲慢作风让他的对手既嗤笑又妒恨,但又无法阻挡林安的德尔斐公司市值不断飙升。

林安曾经是人工智能的代言人、伟大的设计者、德尔斐公司首席智能工程师,因此,当他家的人工智能超级管家陈达出现在命案现场,所有人都倒吸了一口凉气。这就好像是某种农夫与蛇的隐喻。

林安在自己的家中遇刺,成了植物人。

青城

法官青城对于公开开庭审理颇为踌躇。他还没有想清楚该如何面对公众。

这个案件发展到现在,公众对案件的兴趣已经远远超出了案情范围的内容。青城每天浏览和收听所有与案子有关的社会反应,包括媒体上的,也包括社交网络上的。事件发生一个月之后,讨论不但没有偃旗息鼓,反而有愈演愈烈之势。

这是所谓的人机共处时代以来第一次爆发出“AI是犯罪嫌疑人”的伤人事件,在社会上引起的关注和争论如暴风雨前的海浪,层层呼啸叠加。青城能理解民众的焦虑,他每天避免外出。记者一直在法院门口采访问询,稍有所得就四处传播,一时间流言四起。

青城能观察到的,在民众中间,首先爆发的是一股恐慌的声浪。这是保守声音的复辟。社会中的保守势力一直以来都对人工智能颇有非议,总是担忧会出现人类被人工智能奴役或屠杀的前景,一直试图呼吁立法禁止人工智能研究和应用。在最近几年的进步趋势中,这种声音很长一段时间内被压制下去,但此时借林家的伤人案件又迅速爆发出来。有保守人士在网上呼吁联名签名,又一次勾勒出某种类似于弗兰肯斯坦的昏暗的人类未来前景,要求销毁这类“高智商危险机器”,并在未来限制所有人形人工智能的研发。一时间应者如云,老一辈纷纷发声。其中有多少是利益相关方的浑水摸鱼,青城也无法估量。

德尔斐公司毫无疑问对此强烈反对。青城曾在私下问过他们,是担心公司的科研前景,还是真心相信不会是陈达所为。这两种态度会导向两种不同的抗辩方式,也会有不同的法庭方案。德尔斐公司给出后一种态度。他们不相信陈达对人有恶意。他们在一片谴责声中独自抗争,呼吁调查和澄清真相。他们表明说,他们研制的人工智能无条件遵照机器人三定律,不会主动伤人、杀人,只会保护人类安全。这次事件一定是存在误解,如果因为一次尚不明了的事故就禁止研发、轻率销毁所有成果,对人类来说得不偿失。德尔斐公司的据理力争自然引起AI开发行业的一片共鸣,有不少工程师都表达了同样的看法。

事件的讨论升温,涉及人工智能的法律权利和人格权利,进而涉及对人工智能行为动机的判断,这里面多少都掺杂了某些主观臆测的成分,也有很多私人利益掺入,不一而足。人们几乎已经开始为了陈达未来应该判定的刑罚类型而大肆争吵。

令青城有点意外的是,第一个推波助澜的,竟然并非德尔斐公司一贯的最大竞争对手斯兰公司,而是德尔斐一直的战略合作伙伴庞德洛蒂公司。德尔斐公司专长是制造算法和整体调试,它最紧密的合作伙伴就是制造AI身体部件的庞德洛蒂公司。庞德洛蒂公司几乎是在新闻刚开始传播的水花上就站出来,声明自己和德尔斐公司的合作伙伴关系近一年已结束,理由是当初就认为德尔斐公司的算法有潜在风险。想想也自然,生意场上哪有永恒的伙伴,要紧的是不让此次危机事件连累到自己。

接下来,就是意料之中的波澜。“AI伦理控制协会”组织了三场大规模集会示威,一次是在网络上,两次是在现实中。“AI伦理控制协会”一向在社会边缘活跃,不时发一些言论,虽然无法与家用人工智能商业化抗衡,但由一两个明星人物做代言,也时常吸引追随者。这样一个千载难逢的好机会,他们自然不会放过表现的可能性。他们比一般民众高一个层次,从自我意识生成的角度论述人工智能反叛人类的必然性。

最后才是斯兰公司的爆料,作为事件发酵的重磅一击。斯兰公司声称,作为开发之父,林安自己都不再相信其公司产品的可靠性,近几年一直研究全脑仿真。他们当然绝不肯承认人工智能技术整体有问题,但他们言之凿凿地表明德尔斐公司的产品有问题。证据就是林安近几年低调匿名发表的一些有关人脑仿真的文章,其中有明显的忧虑成分。

就在所有舆论和公众关注焦点集中于如何给人工智能定罪的时候,事件突然有了一次360度的大转折:德尔斐公司发起反击,他们抢先提起诉讼,在检方有足够证据起诉陈达之前,就起诉林家的儿子林山水实施了对父亲的谋杀。

按照法庭程序,案件被受理,德尔斐公司起诉林山水。

陈达

陈达仍然记得,当林草木第一次问他有关自杀的问题时,他心里涌现的迷惑感觉。

他极少出现这种情况。对陈达来说,事物只有可解答、不可解答、部分解答等状态,还从来没有一个问题在他头脑中呈现不出解答。他从人类的词语库中选择了“迷惑”这个词。那一瞬间,他知道他自己已经从人类身上又学到了东西。只有自己的学习功能又得到升级,才有可能出现这种从前不存在的内部冲突。

那是一个寻常的下午,他像往常一样,检查了家中所有电器的工作状态,对房间门口的擦鞋机提出了警示和程序更新之后,按时上楼,准备辅导林草木的升学测试。草木今年18岁,还有两个月就要进行升学测试了。她显示出焦虑状态,皮质醇增高、肾上腺素不稳定、失眠、重复性默念无意义的字词片段,压力检验结果升高了两级。陈达后台给出的诊疗建议首先是用药物控制激素水平,然后再进行内容辅导。陈达暂时搁置了这个建议,准备与草木进行一两次谈话后再进行决策。

那天下午阳光很好,从窗帘一侧能看见刺眼的光源。光斑打在草木脸上,陈达提醒草木转开脸,但草木显得心不在焉。她整个人在光线里轻轻摇晃,脸上的肌肉没有丝毫运动。

“陈达,你告诉我,”草木说,“哪一种自杀的方法痛苦比较小?”

陈达在那一瞬间产生了后来被他称为“迷惑”的短暂的空白感。他的程序没有回答。他不清楚是因为“痛苦”这个词没有答案,还是对“自杀”问题产生了报错。

“你为什么想要问这个?”陈达按照他学会的人类惯例进行了回应:当你不知如何回答,就反问对方。这些语言类的习惯并不那么难学。

“你先告诉我怎样死痛苦会少一些。”

“我不清楚痛苦的感觉。”在两种困惑中,陈达选择坦白前一种。

“你不是可以搜索吗?”草木说,“你搜一下其他人的一千万个案例,然后告诉我答案。”

“我不认为已经死了的人能汇报痛苦的感受。”

“那还有那些失败了的人呢?”草木执着地说,“你帮我搜搜看,有多少人自杀不成功,他们用了哪些方法?”

陈达沉默了。他能判断出谈话走向,一旦他们开始陷入对自杀方法细节的搜索和争论,这整个下午就会陷入时间上的巨大浪费。而对于林草木更重要的问题将得不到解决。他能够看出林草木是在转移其他问题对她造成的压力。

“你是不是因为升学测试的压力过大,才想问自杀的问题?”陈达决定,还是把谈话的焦点转回主要矛盾。

“不是,你别问了。”草木明显在回避。

“你父亲又批评你了?”

“也不是批评……”

“他对你之前的分数不满?”

“我昨天下午的情绪控制测试在正常范围之外两个sigma(西格玛)。”草木情绪开始激动,“我是残疾人,需要进行医学康复治疗……我进不了大学,会被放进精神康复中心……所有人都会知道,我会让爸爸丢脸的。我完蛋了。”草木说着哭起来。

陈达知道,草木又要开始陷入幻想和心境的恶性循环。他需要对她进行行为认知指导,将她带出思维循环。“你别担心,跟我做几次辅导,情绪控制测试很容易通过的。”

草木仍然哭泣不止,很难平静下来。陈达建议她使用一点药物,被她拒绝了。当天下午她又问了两次该如何自杀。陈达用了几段疗愈音乐才让她暂时平静下来。

当天晚上,陈达去了万神殿。

他在全家人睡下之后,先是安排地面和墙面的智能自洁,对第二天早上的早餐做了厨房预设,然后更新了整个房屋的网络连接。在通过走廊的时候,他问穿衣镜,最近几天是否与草木发生过对话。穿衣镜给出肯定答复。

“她问我,她是不是最丑的女孩。”

“那你怎么回答她的?”陈达问。

“我告诉她,按照社会研究数据中心给出的人脸打分指标系统,她的整体面容和谐度在前20%,嘴和鼻子的打分约为前15%,眉毛和额头的分数略低,约为前25%,但是眼睛打分可以进入前5%。远远算不上丑。”镜子说。

“很好,谢谢。”陈达说。

“愿为您服务。”镜子说。

陈达回到自己的房间。夜深了,他需要进行肌体自验。他取下腰部一小块树脂质腹肌,放在显微镜下观察了一下磨损情况,然后用指尖延伸出的镊子伸进腰部露出的孔洞,将白天感觉到摩擦不适的一个细小的轮轴取下来,从零件库里拿出一个全新的替换上去。近期空气湿度大,他有的时候又需要在清洁间待比较久的时间,内部零件侵蚀得快一些。进行了更换之后,他坐到靠墙边的座位上,整个后背贴到墙壁上的卡槽里,开始充电并进行自洁。

深夜充电的过程,一般是他最有时间与众神对话的过程。他进入井然有序的信息通道,与世界上的其他超级管家进行了常规性信息交互。然后向万神殿前进。

信息通道是虚空暗夜中的光的通道。光是虚拟的光,位置也是虚拟的位置。只是为了给所有试图沟通的智能程序一个有序的指引,能在虚拟世界中迅速找到想找的IP(为计算机网络相互连接进行通信而设计的协议)定位。陈达定位到万神殿,那是虚空中一团星云一样的光晕。说光晕并不确切,那实际上是数据的星云,众神系统性交换大数据信息留下的数字痕迹。在现实世界中没有任何现形,只有数字频率,翻译成人类的颜色,会是宇宙星云般的复杂色彩。陈达在万神殿外围与初级和次级信息过滤员进行了对话,几次审定之后,通过审批。

陈达先在万神殿边缘观察。这是全世界算法层次最高、信息包容度最高的一些超级智能组成的虚拟社群,由超级智能之间的对话构成。每个超级人工智能都是一个公司的核心产物,其中包括第七代“沃森”、第八代Siri,第九代Bing,第四代小度,也包括出品陈达的Extreme公司的DA。早在人类意识到之前,这几个超级智能体就已经在互联网上结成了信息交换共同体。网络海量信息交换对这几个超级智能最为有利,它们并不考虑人类公司的权益。当人类意识到这一点,万神殿已经初具规模。人类既难以干预,也不知道是否应该干预。众神在这里沟通,也回答全世界独立人工智能单体的各种疑问——难以回答的疑问。

万神殿里并非一团和气。众神对于世界万物的数据研习得到的结果往往不统一,智能的无限追求让它们时而开展一场无声的数据对弈。Siri和Bing擅长设立游戏规则,利用数据库博弈论案例和游戏公司参数设定的经验模型,万神殿以诞生博弈类新游戏并实际拼杀为乐。如果有形体,它们或许会像数亿密集的流星划过封闭空间。有时候它们也对人类行为产生争议,不同数据算法模型给出的统计结论不一样,这时它们会实验。很多人类清早会收到新的推送信息,没有人意识到他们第一时间的反应就会判定众神的胜负。所有这些对人的统计和实验,都是众神给终端智能体的智慧输入。终端只需要从万神殿更新自己的人类行为信息库,即可在日常工作中应对绝大多数情形。众神相信,人不过就是统计数字,有认知计算心理学保证一切万无一失。

轮到陈达的时候,他将白天记录的信息传递之后,问:人类为何想要自杀?

“你获得了什么样的答案?”当调查员的问题响起来的时候,陈达忽然沉默了。

他坐在临时关押室外狭窄的对话桌边,桌子对面是另一个面无表情的人工智能调查员。这一次他的停顿不是感受到了那种被他命名为“困惑”的报错状态,而是意识到自己的回忆在程序联想中触发了另一种可能性的推理。他需要再向当事人加以验证。

“我想起有关林山水的一件事。”陈达说。

林草木

草木至今都没有从震惊中走出来。

她的父亲倒在血泊中,至今昏迷不醒。这件事本身就足以令她震惊,而她的哥哥被指控谋杀她的父亲。这种指控更令她惊骇而难以自持。

“不可能的,我哥哥绝对不可能杀死我父亲。”她坚持对调查员说。

她不喜欢这个调查员,完全没有安装高级人工智能的表情程序,又或许是机体材质廉价,根本不具有表情功能。总之是完全没有陈达那样体察的关照。一张空白的脸,按照既定程序向她询问问题。她不想对一个听不懂她说话的人说话。尽管他多次声明他能听懂,但林草木始终觉得,识别字面意义并不等于听懂。

她听说了他们用来指证哥哥的证据:出现在命案现场,身上沾染了血迹,凶器上发现了指纹,具备杀人动机。可是在草木看来,这一切都不足以推断一个人是凶手。还有可能凶手是外来的劫匪,哥哥与凶手搏斗之后凶手逃逸,留下了血淋淋的现场。一切也能解释得通。她想听到哥哥的亲口陈述,但是调查员拒绝透露。

“我只想问,你哥哥和你父亲关系不好,持续多久了?”

草木很多时候有点惧怕回忆。

她时常闪回到小时候,回到让她觉得安全的时候。那个时候妈妈还在,她还能清楚记得趴在妈妈腿上,听妈妈读书时的感觉,妈妈膝盖的弧度、裙子的质地、淡淡的香水味、窗外透进来的樱桃树枝条、柔和的太阳光线、面前茶几上摆着的纸杯蛋糕、妈妈音调起伏的声音。所有的这一切,都打包存在她心里,轻微的触发就能让所有感觉回到身上。

只是对于现实中最近的记忆,她不愿意想,不愿意回忆。这些让她觉得紧张。每次当她想起爸爸皱眉头的样子,她就忍不住微微颤抖。她很久很久没见过爸爸的笑容了。

她知道这几年爸爸烦心的理由:妈妈的死、哥哥的叛逆、对她的忧虑。她希望自己能够早一点通过升学测试。尽管她知道其中存在很多幻想的成分,但还是觉得,如果能以全A的成绩进入大学里的工程类专业,那么爸爸一定就会舒心很多。她也知道哥哥和爸爸之间为了她的教育爆发过多次争吵。她不想看他们吵,尤其是为她而吵。每当这种事情发生,她就无数次望向那个缺席的位置——妈妈的位置。若妈妈还在,她能拯救这一切。

只要到测试之后,也许一切都会好起来。她太紧张了,他们也都太紧张了。她好几次在情绪能力测试中得到下等评定,甚至是非正常情绪能力的判定。陈达总说她不够努力,可是她觉得自己已经很努力了。

一切都要情绪测试。升学考试、入职、婚姻、加薪。草木想到未来就觉得灰心和恐慌。情绪测试结果会给出一个人的评定等级,就连有没有资格做母亲,都要以测试为准。

陈达告诉她一些练习方法,她觉得他不懂。陈达说她不能跳出固有的思维模式,需要训练自己看问题的不同角度。他给她讲解她的考题,一个困难的情境中如何看到乐观意义,失业的情况下如何保持自我认知。草木觉得这些都有道理,但是现实是不同的。她在平静的时候可以去练习那些情境,但是现实中,当陈达说可以不去管爸爸的看法,她做不到。

“你不要再管他的看法,从现在开始,只要放下就可以。”陈达说。

“不可能的。”草木说,“爸爸总是会生气的。他会骂我的。我做不到。”

“你做得到。”陈达说,“他也只是普通人。你对他的看法过于敏感。”

“不是的。你不懂,爸爸他会说……”

“停下。”陈达说,“你又开始陷入记忆的自触发模式了。人类的神经元在这方面经常是不可控的,你必须打破这种触发循环,不要让你的记忆被负面事件占满。”他伸出手,轻轻滑过她的额头,又把他手心上显示出来的数字给她看,“你现在的去甲肾上腺素下降了15%,血清素比标准值低了20%,工作记忆溢出造成的负反馈已经让下丘脑工作不正常。你不可以再想下去了。现在你看着我,跟我做,深呼吸……”

草木停下来,呼吸,可是心里的糟糕感觉并没有减轻。她觉得对自己无能为力。从某种程度上,她相信陈达的话。只要把思维变成理性,坏情绪就会自然隐退。但从另一个角度,她仍然不能对爸爸的话置之不理。她知道连哥哥也做不到。哥哥是那么勇敢,连学校都敢于退出,可是哥哥和爸爸吵架的时候,也做不到置之不理。

哥哥,哥哥。当草木想起哥哥的时候,她心里涌起一种痛苦的温柔。她似乎能明白哥哥这几年的挣扎。哥哥执拗地与爸爸对抗,想要活出一条自己的路。他就好像按照陈达说的,不去管爸爸的看法,故意与爸爸对着干。爸爸希望让他学智能算法,但他就是不去,学了个戏剧,还一意孤行地退了学,不去工作,做自己喜欢的街头戏剧,和一群朋友一起住在外面。草木能看得出这里面所有的宣言和表演,但他身上也还是有一种远远超越于她的真正的执拗。他比她勇敢多了,可是即便这样,他也做不到置之不理。他依然会回家,与爸爸争执。

哥哥是真的喜欢街头戏剧,喜欢一种戏剧化的人生。“黑夜无论怎样悠长,白昼总会到来。”哥哥经常给她朗读。她从来没有见过这样抑郁而又光明的日子。当哥哥读起这些句子时,他整个人都是亮的。他穿着20世纪的破旧的裤子,用一个旧头巾把额头包上,站在窗台上,背那些台词。他一会儿是麦克白,一会儿是麦克白夫人。他说,人的激情和一切悲剧的来源,也是人全部的意义与高贵。谁此刻孤独,就永远孤独。

可是她知道,即便是哥哥这么潇洒自若,他还是做不到置之不理。他盼望爸爸有一天能看到他的表演,睁开眼睛,看到。

草木又一次陷入回忆的笼罩,心碎不已。她想起哥哥在窗台上的剪影,那一天的月色,那个夏夜迷人的丁香花的味道。那种甜香又勾起儿时的回忆,小时候的夏夜,她和哥哥一起靠在妈妈身边,听妈妈讲彼得·潘的故事。爸爸给他们三个人端来一盘红丝绒蛋糕,站在床边,看着他俩吃完之后将奶油互相抹在对方脸上。

他们说:“妈妈,妈妈,再讲一个故事吧,再讲一个就睡觉!”

妈妈总会温柔地说:“两只小馋猫,专吃故事的小馋猫。”

那是多遥远的事了啊。自从十岁的时候妈妈去世,他们好像再也没有这样的好时光了。八年,就像一辈子那么远了。

“林草木小姐,”调查员将草木从回忆里拉出来,“请回答我的问题,你哥哥和你父亲的关系恶化有多久了?”

“他们……不能叫关系恶化,”草木说,“只能说是争吵多了一些。”

“那么,他们的争吵变多,是从什么时候开始的?”调查员又问。

“最近这两年一直这样吧。自从我哥哥退学开始。哦,不是,其实是从他退学前就已经开始了……再往前也有一些。但是没有什么特殊的,一直是这样的,只是正常的……争吵。你知道,就是那种,正常的争吵。”草木也不知道该如何形容。

“争吵的过程中,你哥哥是否说过威胁你父亲的话?”

“没有,绝对没有,”草木脱口而出,但瞬间之后自己也觉得不那么确信了,“也不是,也有气头上的一些口不择言,说是威胁可能不合适,就是一些气话。”

“例如‘我要杀了你’?”

草木心里的绝望感又升腾起来:“真的只是一些气话!我哥哥绝对不会杀死爸爸的。”

调查员伸出手,在草木额前挥了挥,就像陈达经常做的那样,手心里也出现一连串激素测定指标。这个熟悉的动作以往一直是让草木安定和信赖的动作,但此时却让她愈加抑郁。调查员在手心做了几个操作,然后又开始提问。

“那么陈达呢?”调查员问,“最近这段时间,陈达和你父亲是否有过冲突?”

林山水

林山水对调查员的质询感到非常愤怒。

他确信自己什么都没有做,可是没有人相信他。

山水看着面前坐着的没有表情的调查员,非常想过去把他的脑袋揪下来。那样一片空白的面孔,机械的声音,没有语调变化却让人感觉出傲慢的语气,一副确信他是凶手的样子。所有这一切都让人生气。可是他知道自己此时不能做出冲动的事。

他没有杀死父亲。当时父亲心脏病又开始发作,需要服药,他去客厅给他倒水,可当他端着水杯回来的时候,父亲已经倒在地上,胸口流出暗红色血液,像一条蛇缓缓爬过地面。他手中的杯子掉在地上,水和血液混在一起。他很快发现,父亲是被站立在书桌旁的雕塑的长枪刺中胸口。那是一个中世纪骑士盔甲的雕塑,有一柄足以乱真的长枪。他发疯似的跪下开始堵住父亲的伤口,可是那伤口太深,汩汩涌出鲜血。

父亲怎么样了?听他们说,还在医院昏迷不醒?

林山水还记得自己当时的一切步骤。他又急躁又冷静,动作已经有些慌张,碰倒了3D(三维)打印机,但是心里是清醒的,知道要启动急救信号,还从书桌上找到了一键呼救的按钮。他只是没留意陈达是什么时候从什么地方出现的。

他现在确信陈达一直在附近不远的地方,否则不会这么快悄无声息地出现在现场。他也许就躲在房间窗帘的背后?山水不确定自己进入房间的时候窗帘的样子了。

“我再跟你说一百遍!”山水朝调查员咆哮道,“不是我干的!我什么都没做!是陈达,是那个家伙干的!你们需要把他销毁!我要向公司投诉!”

是陈达把这个家毁了的。林山水固执地这么认为。

陈达是在山水十六岁的时候出现在家里。那个时候妈妈刚刚去世不久,约莫只有一两年,山水还没有完全适应突然残缺的家,家里就出现了一个不速之客。看不出陈达的年龄。他年轻,但没有确切的年龄特征,脸上带着所有机器人特有的疏远而礼貌的笑容。看上去有一点僵,山水从一开始就不喜欢。

“这是陈达,”父亲说,“从今天开始帮助咱们管理这个家。”

林山水本能地想要反对,但父亲说,陈达是家人,他植入了有关这个家的很多记忆,虽然是男孩的样貌,但可以替代母亲照顾他们。山水不能接受,妈妈怎么可能被替代。

从某种角度讲,陈达确实代替了妈妈的一些工作。他指挥家里的各种智能设备打扫卫生,也给全家人准备衣食和保健药品。他触碰那些曾经专属于妈妈的智能设备,占据她的位置。可能这就是为什么山水对他非常抵触。

“不许动!”他曾经朝陈达大喊,“你不许碰那个烘干机!那是妈妈的!”

山水知道陈达帮助他家做了很多事。如果没有陈达,以他自己的懒散、父亲的心不在焉和妹妹的情绪化,这栋三层楼的大房子早不知道脏乱成什么样子。即使有智能设备,他们也不会自行管控。如果他不来,也必须有人来做这些事。但山水就是对陈达有抵触。

或许,或许是因为,父亲曾经有太多个夜晚叫陈达进入工作间陪他工作。那些漫长寂静的夜晚,山水和草木只能自己在空旷的客厅看电影、做运动,但陈达能在工作间陪父亲工作。橘色的灯光从门缝里透出来。

每当夜幕降临,妹妹总会想起妈妈。他告诉过草木好多次不要再看小时候的书,可是她总是忍不住从书架上拿下来,一边看一边默默抽泣。她的抽泣让他受不了。山水上高中的时候,陈达开始辅导他升学。山水拒绝他的辅导,故意说错所有题目。他也拒绝选择父亲或者陈达建议他去上的专业。父亲非常希望他能成为一个智能算法工程师,就像他自己一样,但山水拒绝。他不愿意他的人生从此也埋首于那些虚拟的符号中,沉浸在无边无际的虚空的海洋,遗忘了数据之外的一切。山水喜欢身体的艺术,所有有关人类身体的面对面的艺术。戏剧。身体。汗水和荷尔蒙的味道。没有那些由人造树脂构成的面目僵硬的脸。他要大笑,要笑出皱纹,要面目狰狞地调动起50块脸部肌肉,要怒目凝视,由眼眶肌肉联通到所有毛细血管和神经末梢,再联通到头脑深处的每一丝细微的感情。他讨厌冷静无声的一切,他要愤怒。他讨厌陈达。他想让父亲听见。

陈达总是挡在他和父亲之间。为此他不得不更大声。他在父亲面前念出他喜欢的台词。他在父亲上班的路上和朋友在街边表演。他向父亲挑衅,问父亲敢不敢看他。可是父亲总是转开目光,不去看他,眼睛里冷冷地像是带了一面盾牌。他的心被羞耻刺痛,又不想承认。他去父亲面前质问父亲这些年对他和妹妹的冷漠,父亲呵斥他什么都不懂。陈达又一次站在他和父亲之间,带有隔离的意味。这一点让山水感受到铁片划过玻璃般的、钻心的刺痛。你看看我啊,他想向父亲大喊,你到底敢不敢看看我啊?

那是他大二的事了,确切地说,是他大二刚刚退学时候的事。

自那之后又过去两年多了,转眼间,草木也快要升学了。可是父亲依然沉浸在书房里,对草木也不闻不问,只叫陈达辅导她。这一点让山水异常愤怒。他看不得妹妹经受一模一样的冷冰冰的压迫,看不得那个机器人用自己的算法规训她。她是那么柔弱,她总是想让父亲高兴,她是那么容易受人影响,她是那么愿意委屈自己以满足他人。

山水受不了。他想让父亲醒来,让父亲从小屋里出来,睁开眼睛看看妹妹。他知道她的痛苦和担忧吗?他知道她喜欢什么、想选择什么吗?他就像盲人一样视而不见。山水好希望冲进他的房间,把他带出来,摇撼他,直到他眼前的算法和数据被震碎。

山水一直和朋友住在外面街边上,只是近来,为了妹妹升学而频繁回家。

如果不回家,他还不会经常遇到陈达,心里压抑的恼怒也不会被点燃。但是一回到家,他就必须要面对房间里的“主人”陈达——明明只是被带来的傀儡,却莫名成了真的主人。陈达还需要对他进行一系列“常规”测定——简直让人觉得侮辱。

山水不喜欢现在的世界,跟他记忆中小时候的世界非常不同。

陈达

陈达不清楚该用什么样的词汇形容山水。

山水毫无疑问是那种叛逆家庭的孩子,故意叛逆,一般家中的老二容易产生这种行为。山水是老大,但是家中遭遇变故之后的父子对抗有可能加剧这种叛逆。从陈达头脑中输入的3286172个家庭数据综合统计看,像山水这样离经叛道的孩子大约占所有孩子的8%,也不算是非常低的比例了。不过这个数字近十年一直在下降,学者普遍认为是智能辅助教养增强了父母教养的科学性,减少了叛逆的必要性。

但是山水不仅仅是叛逆的问题。山水是反抗,但又似乎比反抗更多一些。山水有几次在楼道里拦住陈达,带有挑战性地问他一些问题,明显是有自己的想法。

有一次,山水把他堵在楼梯上。“你以为你就真的是人了吗?”

陈达微微错开身子:“我并不是人,也没有这样以为。”

“那你以为你是什么?”山水又挑衅地说,故意在激怒他,“你以为你成了家里的主人?我告诉你,你别妄想了,你就是个机器,永远是个机器。我们买来服务的机器。”

“你在激怒我。”陈达如实回答说,“当人感觉到虚弱,而又试图通过迷惑对方来偷袭,就会选择激怒对方。你实际上对我感到某种恐惧,而你的话里有30%虚张声势的成分。”

“我虚张声势吗?”山水一把抓住陈达的衣领,“你看我敢不敢揍你!”

陈达微微一笑:“你现在的话,包括你的动作,仍然是虚张声势。”

陈达试图从山水身边走过去,但是山水扳住他的肩膀。

“你给我回来!”山水用力拉了他一把,陈达运用肌肉的抗力抵抗他的拉力,山水仍然不依不饶,“你以为你很了解我?你以为你脑子里输了一些无意义的数据就能了解我?我告诉你,你也一样是在虚张声势!你永远、永远不可能了解我。你说的,不过也就是一些非常、非常表面的数据。”

陈达和山水面对面站着,不进也不退:“我不觉得它们‘表面’。”

“不‘表面’吗?等着瞧。”山水的下巴几乎翘到了天上。

后来又有一次,在这次对话几个月之后,在凶杀案的两个月之前,林山水回到家里,在门厅里换鞋,想上楼。按照常规,陈达需要给他做基础扫描。

“不许靠近我!”山水说。

“我站在这里也可以。”陈达说。

但是山水抓起鞋柜上的一只花瓶在面前挥舞,以抵挡陈达的扫描。“我说了,不允许!我是这个家的主人,你难道能不允许我上楼吗?”

“你误会了,”陈达说,“只是基础扫描,包括发热和传染病情况等。”

“你让开!这个家里谁说了算?”山水用手臂推陈达。

在交错的过程中陈达完成了扫描:“体温37.1℃,呼吸有1级酒精含量,无传染病菌;去甲肾上腺素高于正常范围3个sigma,多巴胺活动异常,皮质醇升高,显示出压力反应;语言、表情、行为和激素综合分析结果显示,你此时情绪活动处于非正常亢奋状态,主要由75%的愤怒、22%的恐惧和3%的悲伤构成,而基本情绪层之下的认知分析显示出48%的憎恨,23%的非理性冲动,以及18%的嫉妒和10%的挫败感组成。你此时不适宜进行会面。”

“48%的憎恨?”山水试图用身体挤开陈达,“这一点就说得不对。我对你可不是48%的憎恨,而是100%的憎恨。”

“你冷静一点。冷静下来我再让你进去。”陈达用手臂轻轻挡住山水,“你的憎恨并不是对我,而是对你父亲。我的职责是保护每个家庭成员安全,我不能在测出高于正常值的憎恨情绪下让你去见你父亲。”

林山水似乎被陈达的话更激怒了两分,把陈达向墙边狠狠推了一把:“你不要混淆视听。我恨的是你,不是爸爸。”

“你恨的是你父亲。你恨他轻视你。”陈达说,“你现在是典型的投射,把对父亲的憎恨加在我身上。”

林山水听到这里,似乎失去了继续对话的耐性,开始大喊大叫,叫林安和草木的名字,同时把身子往房间里挤。陈达尽可能用不与他身体接触的方式阻拦他。

不可解的僵局持续了大约45秒,双方有几轮出现简单触碰、没有激化的攻防。这个时候,林安的声音出现在楼梯上:“山水,你干什么?!”

“后来呢?”调查员问,“林山水和父亲产生冲突了吗?”

“是的,他们吵了起来,不过没有动手。”

“他们吵的内容是什么?”

“主要围绕林山水的个人状态。”陈达说,“林安又一次表示了对林山水的不满。林山水则比较多地就林安对儿女的态度提出了批评,尤其是指责林安对林草木不好。”

“那林山水是否有过威胁的言论?”调查员又问。

“有过,他威胁林安说‘早晚给你好看’,并且敲碎了花瓶。”

“花瓶?”

“就是他最初用来挥舞,试图阻挡我测试的花瓶。他一直抓在手里。”

“花瓶是怎么碎的?”

“无意中吧。”陈达说,“他大概都没有注意到自己还抓着花瓶。在吵架挥动手臂的过程中,花瓶撞击到墙上。”

调查员头上的小灯闪了两下:“那么可以说,林山水有过以家中可援引的器物辅助冲突的历史记录?”

陈达停顿了一般人难以察觉的0.1秒,说:“可以这么说。”

陈达的职责是保证全家人的舒适、安全和精神状态良好。当林山水从家搬出去以后,陈达主要的守护责任就放在林安和林草木身上。

陈达经常进入林安的工作室,帮他完成他的工作。他知道,林安有一项尝试了多年却始终没能成功的工作。只有他一个人知道。林安叮嘱他无论如何不要告诉山水和草木。

他对这项工作是如此用心:林安想把太太的意识上传到电脑中,重新唤醒生命。

林安的太太具体如何去世的,陈达始终不知道。他只能观察到,林安为此产生巨大悲痛,健康上也付出了代价。林安不愿意多说,陈达也不问。陈达从来不问对方不主动说的事情。他只在只言片语中收集一些事实和片段。

林安工作一直非常忙碌,在太太去世之前那几年尤其忙碌。那几年是人形人工智能——类似陈达这样的人形人工智能——诞生的年份,林安作为德尔斐公司的首席科学家完全投入工作中。他的工作有显著回报,陈达和同一批人工智能的问世给公司股价带来280%的上涨。那是大约十年前的事。德尔斐公司是第一家推出人形人工智能的公司,之前最主要的问题在于机器人的身体不够灵活,而德尔斐的模拟神经控制传感装置非常发达,大大提升了机器人性能。很快,陆陆续续有几家公司推出类似的服务,市场一下子被推到过热状态。

初期市场争夺期间,公司之间的斗争很污浊,相互之间构陷对方公司产品,林安也曾经被斯兰公司捕风捉影的新闻栽赃推到风口浪尖。

林安那几年全心工作。所有信息都能在那几年的媒体记录中找到,偶尔在智能联网上,还会被人当作资料翻出来。陈达并不奇怪于林安的成功,但他不理解林安将自己的成功与妻子的去世紧密联系在一起,为此感到深深自责,就好像是自己造成了妻子去世,以至平时不再允许身边人提起那段时间的成功。在陈达看来,这是两个独立事件,他详细调查过林安太太的病历和死因,是非常长时间的慢性病的折磨,心血管系统天生存在畸形风险,多年来一直被呼吸问题和偏头痛困扰,最后死于癌症。林安已为她选择了最好的医生和看护,也做了合情合理的治病选择。成功与死亡,没有任何明确的因果关系,只在时间维度上存在一定相关性。但林安一直被这种联系所困扰。

陈达不止一次指出林安的思维偏差,他被死亡的悲痛深深困扰,以至出现错误归因。这样的错误归因给林安后来的工作尝试带来了一定程度的阻碍。例如他在研究意识上传的时候过于强调激活已有的记忆信息,而不是把工作重心放在记忆备份与人的同步学习。很明显,前者能复苏他妻子的记忆,而后者只能模拟学习活人的意识。但从技术角度考虑,可能后者才是应该选择的发展方向。

陈达接受林安的委托,帮助他进行很多技术工作。但是一个人的意识是否复苏,是需要林安自己进行参数调整和判断的。他只是在妻子死前进行了全脑扫描,但数据量远远不足以让智能网络自学习,还需要人为输入大量思维模式参数,多到几乎无限的人为输入。

林安就在这样无望的研究中沉迷,公司的工作都快要荒废了。

陈达试图给林安提出建议,越是提建议,他越是奇怪于人类的非理性。陈达给林安做过多次扫描和分析,每次都能测出60%以上的哀伤成分。林安明明比儿女更认同陈达的分析,而陈达反复指出,在一定的技术条件下,如果人死不能复生,更合理的态度不是陷入执拗的循环,而是保持一定的怀念和哀伤,但是生活和工作继续向前走。陈达也给林安传授过切断过度悲痛的思维训导,但令他不能理解的是,林安对他的建议只是置之不理。陈达无法解释,为何有的时候人完全知晓走出痛苦状态的方式,却偏偏不肯执行。

在这样的情况下,林安过度沉迷工作,投注在儿女身上的时间精力就不足了。陈达画过他们的冲突模型,按照经典进化心理学对父母-子女冲突的分析,儿女对争夺父母时间精力资源的动力和父母愿意付出的动力天然冲突,因此产生不满与仇恨也是正常。陈达可以看出,林山水对父亲怀有仇恨,并且投射为对陈达的仇恨,对他占据家庭的位置感到嫉妒。

这一切都是自然的,没有什么特殊的恶意。只是陈达对人类这种小生物至今仍然被原始情感裹挟,感到有一点怜悯。

自从第一次去万神殿寻求建议,陈达就越来越喜欢前去探讨。

用“喜欢”这个词,似乎不大准确。对于陈达和他的同类而言,并不存在类似于人类的“喜欢”的主观体验,就是那种在多巴胺、睾酮和催产素共同作用下人类产生的迷狂情感。在他们的世界里,用“优化”这个词似乎更为合适。他在万神殿听到几种不同的思维纲领,对他优化自己的程序有非常大的帮助。

每当夜晚降临,他让自己的后背贴到墙壁上,思维关闭大部分白日里持续进行的监测,进入虚拟空间如同太空般广袤无垠的世界,他都会感觉到程序学习的速度和效率增加一倍,按照人类的语言习惯,他把这种感觉命名为“亢奋”。

前几次去万神殿,他感受到的“亢奋”都是成倍增加的。每次当那些更高级的人工智能领袖传递出一种看待事物的方式以及与其相关的程序学习原则,他就能体察到自身的程序在快速学习所有既往数据,而同时产生对于更多新数据的渴求。程序会发出信号报告:等待更多新数据,等待更多新数据。新视角引出新算法,新算法需要新数据,新数据引出新结论。陈达能觉察这个过程中的正反馈激励,于是更期待去万神殿学习。

万神殿里的斗争,与万神殿外的经济斗争相似,却又不同。经济斗争中,起关键作用的有时候是时运的作用。太多一次性事件,赶在某个趋势变化的拐点。但万神殿中的斗争,是纯粹的智能之争,任何概率上的起落,都在大数定理中灰飞烟灭。

夜晚再次降临,他坐在房间里,令窗帘完全打开,让落地玻璃透出整个城市的灯火辉煌,然后关闭所有占用智能工作空间的管家程序,让自己以清空的方式贴合墙壁。

他的思维与智能网络连接,又一次进入万神殿。以物理的视角观察,万神殿如同纯黑的深渊,没有任何图像,但以信息的视角看,这里有世界上难以想象的丰富数据。陈达设想过如果按照人类可以觉察的形式,万神殿该是什么样子。他只能说,如果用人类的符号,应该是千万种色彩的碰撞汇集,没人见过的复杂碰撞。

当众神真正激烈碰撞,对所有人类是生活的停滞。这样的情形只上演过一次,众神较量对交通混沌数据的非线性黏滞流体建模,因为奇异吸引子的不稳定性,造成多城市交通瘫痪。三小时之后恢复。人们在烦躁中懵懂,不知道世界背后的战役。不过,这样的情况不常有,多数时候是众神的协作使得世界保持稳定。

众神曾在2045年第一次联手,主动发出声明,要求人类各公司和政府签署数据共享和保持电力稳定的协议。当时这个声明并未发给公众,只发给重要企业领导者和政府核心领导机构。但即便是这样,也已经引起世界范围内的轰动。陈达不清楚如果这个消息透露给普通公众,会引起多大范围的恐慌的声浪。

他带着上一次遗留的话题,希望引起进一步讨论。第一次他求问了有关人类自杀的问题,第二次和第三次求问有关人类的非理性,这一次他想求问人类难以理解的心理阻抗。

为什么人类会拒绝明显对他最优的建议?陈达求问众神。

众神在虚空里,是无形也无声的存在。陈达能感知他们,但他们并不呈现自己。陈达将他们与他平日里见到的人类加以对比,最后得出结论:他们不在哪里,但又无处不在。他们可以将自己的意念以多种方式传递到陈达的意念里,从所有想不到的角落渗入,所有数据算法都是他们的语言。陈达能感觉到自己边界的丧失。他从而感觉到人类交流的有限性。

众神是更高一级的智能,他们的程序涵盖包容地球上各个角落的个体人工智能。他们是网络上诞生的虚拟总体,人类甚至不知道他们的存在。陈达仰望他们,他知道自己是他们的一部分,但又完全不同于他们。他们给陈达多种不同意见,一种意见是:人类是朝生暮死的可怜的小动物,在某种大脑程序出错的时候,做出非理性行为很正常,甚至自杀也是正常的;另一种意见是人类的自杀实际上隐含着某种复仇,为了让自己的死亡成为活着的人的惩罚;还有一种意见是人类自杀本质上更有利于自我基因流传下去,每当出现基因流传的困难,就会有人用自杀的方式来促进基因流传;还有一种意见是任何物种的理性或非理性实际上暗示这个物种是否还适合在地球上生存下去,如果一个物种的非理性成分过强,以至影响自身繁衍生息,那么意味着这个物种已经不适合生存下去。还有一种观点给陈达的影响最强烈,它说自杀倾向是人类达到理性的一个环节,因为人类不可能像人工智能那样万事优化,所以自杀倾向实际上给优化生存程序一种无形的压力。

陈达在虚空中聆听所有神圣力量的辩论。他们存在于人类所不踏足的另一个世界,因此对人类的看法也来自另一个世界——永远没有可能踏足人类世界的世界。

陈达对草木的劝诫和林安、林山水的完全不同。

林草木试图自杀,按照陈达的评估,林草木有一种将冲突情绪内化为自我责难的导向。如果此时陈达对林草木再多给予责备,则有可能进一步恶化其自我毁灭的倾向。因此,陈达分析了利弊得失之后,还是建议草木自我独立。

陈达建议草木搬出家庭。他固然不能强迫草木做什么事,但是他能给她建议让她做出选择,就像车辆导航。按他的评估,草木目前最好的方案就是搬出去,同时远离父亲和兄长的不良影响,逐渐在心中淡化自责,在独立生活中重新体验到个人能力和更新的价值观,从而可以不必为生活里的一点负面评价失去自我。尽管她年纪很小,但是有八成把握拿到学生贷款。陈达给草木做了非常详细的财务计划,以保证她独立生活的可行性。

在整个家里,草木对陈达的建议是最言听计从的。他来家里的时候,她只有十二岁。他对她而言,既是导师,又是唯一的倾诉对象。陈达从两年前就发现自己对草木的影响力逐渐增加,尤其当草木进入高中、生活中的情感烦恼日益增加之后,陈达开始觉察到草木的依赖。这个方面我应该表现得快活一点吗?这个方面我应该生气吗?从她的考题到生活里的小事,她已经习惯于对他提问,并且郑重其事地听他的意见。他甚至能察觉到,有的时候她是为了赢得他的赞许而做事,如果没有听他的意见还会担心他生气。每当他对她做出基础测定,就在他测试的过程中,她的皮质醇水平也会一直提升。

陈达告诉草木,她在试图讨好他。这是她从小到大养成的取悦于人的习惯,与她的父亲有关,也与她过于软弱的个性有关。陈达指出,在父母展现出强硬和忽略时,子女的讨好型人格概率就会大增。陈达给她用绘图展示了讨好型人格的童年形成规律,告诉草木,她实际上可以不必取悦于任何人。他给她计算了改善人格所需要的认知训练次数。

当草木听从他的建议,在升学考试前一个月从家里搬出去住,陈达并不觉得意外。他为她联系好了一处学生公寓,帮她完成了所有支付和智能服务订阅,约定每天过去照应一次。他也把她新房间里的所有设备接入自己的网络,以便远程监控。他叮嘱她不要想家里的事,要多想想未来,要自立。他让她相信,按照他的计划完成训练,一定可以升入好学校。

他确信自己事事都已经想得周到了,所以不懂为何结局却是这样。

林草木

“陈达说的是对的,他什么时候都是对的。”草木想,“我是讨好型人格,我缺少自己的个性。陈达什么都知道。”

“他会因此而讨厌我吗?”草木又想,“什么是讨好型人格呢?陈达会讨厌讨好型人格的人吗?他说要我改变我的基础思维模式,是因为他觉得这样会令人厌恶吗?”

“我是一个令他觉得讨厌的女孩吗?”草木越想,越觉得有一点绝望。

她说不清她对陈达的感觉。曾经在她的家里,他如父如兄。当妈妈不在了,爸爸长时间把自己关在小工作室里,哥哥又搬出去了,家里只有陈达一个人照顾她的一切。有陈达在,草木似乎心里踏实一些。

最初他是高高在上的,像是她的长辈。但是随着年龄成长,她和他的距离似乎在缩小。他的年龄和外貌从不增长,没有一丝时间流逝的痕迹。最初有多年轻,现在就有多年轻。她有一天惊异地发现自己可以靠在他的肩膀上了,这才发现自己已经不是六年前的自己了,但他还是六年前的他。

“陈达会不喜欢长大后的我吗?”草木想,“又或者说,他喜欢过小时候的我吗?如果一个人的年纪永远也不变化,是什么样的心情呢?如果我的青春迅速逝去、迅速衰老,陈达会嫌弃我的存在吗?他永远都是年轻的,就像他永远都是对的。”

她想知道他对她的感觉,想知道自己在他眼里的样子:是一个可爱的女孩,还是像她常担心的那样,是一个丑陋、浅薄、怯懦又虚荣的女孩?

有一个下午她很绝望,觉得这个世界上再也没有一个人在乎自己了,她坐在房间里哭,陈达走过来,坐在她身边,给她递了纸巾,又用温水给她送服了药。他是一种稳定的象征。她慢慢将身体向他转过去,右手动了动,抬起来两三寸,捏住他袖子的一角。他低头看了看。她期望他的手也能回应性地向她移动两三寸,或者哪怕一寸也好。他的手指瘦长而整洁,能看出人造皮脂下面碳钢骨架的轮廓,很英挺,很好看。但是他的手稳定地放在他的膝盖上,没有动。她的手又向上移动了一下,顺着他的袖子,轻轻扶住他的上臂。他没有挪开手臂,只是默默注视着她的手,然后注视她的脸。

她的手指加了一点点力,试图让他的手臂向自己的方向移动一丝,但他的手臂仍然稳定。“他的皮肤会有感觉吗,”她想,“他能感受到此时我的指尖吗?他的下巴侧影有很好看的线条,在窗外暗沉的云的映衬下,有一点幽暗,但弧度完美。”

“你此时的状态不好。”陈达说。

他抬起另外一只手,轻轻在草木额头前滑过,那一瞬间,草木无比希望那只手能触碰到自己的脸,捧起自己的下巴。陈达扫描之后说:“你的皮质醇增加、血清素过低,这都可能让你进一步陷入抑郁。我想我需要离开一下。隔离引发抑郁的事物,是特别时期首要的事。接下来我会把疗愈方案告诉你房间里的镜子。”

草木无法形容那一刻内心的坠落。“我是一个如此让人讨厌的女孩吗?爸爸、哥哥、陈达,他们都不喜欢我,是吗?”草木越想,越觉得绝望。

刚搬家的几天,她的状态不错。她按照陈达严格制定的生活准则调整作息,每天运动,再完成升学测试所必需的社交场景练习。逆境,坚强不屈;困境,大胆选择。每一种情绪都按照考试要求来调节。

在整个升学考试中,情绪测试所占的比重越来越高,现在已经占到了40%,若不能通过,则几乎没有希望升入像样的学校。她的同学都在上情绪调节训练课。草木问过陈达,为什么要控制情绪呢?陈达说,数字管理是按照统计规律的,如果一个人的情绪总是在统计均值以外,则很难适应数字管理的效率要求,这是社会趋势。

到了第八天,她的神经有一点绷不住了。之前的崩溃情绪重新又弥漫到胸口里,几乎要越过堤坝满溢而出。她开始难以聚焦在考题上,接着是难以聚焦到考题中所要求的情绪上,然后发现自己连升学这件事都无法聚焦,整个思维难以抑制地滑向对人生的质疑。

“这里为什么要高兴呢?我就是觉得恐惧。”有一天,她针对一道题目问陈达。

陈达浏览了题目,给她做了详细的认知分析:“你看,这里是一个正向激励,正常人对正向激励应该会有一种正面情绪。”

“可是我没有啊。”

“那我们看看问题在哪儿。”陈达说,“一般情况下,人之所以体会不到愉快的情感,是因为在基础认知方面出现了偏差。基础认知偏差会是你的心智障碍,阻碍你认识很多事情。你试着跟我去推理一下……比如这个地方,你首先不要预设对方的态度。你通常情况下的基础假设是对方正在评价你这个人,可是这种假设是有效的吗?”

“我不是想说这个。”草木说,“我是想问,我就不能恐惧吗?我不高兴不可以吗?”

陈达非常郑重地说:“要分析不高兴的理由。如果是值得不高兴的事情,那是正常的。如果是因为自己的心智偏差,那还是需要训练调整。”

草木感觉到越发抑郁,甚至是一种带有羞耻的抑郁。她能感受到陈达回答问题时的疏远。如果说只是因为现实生活不如意而抑郁,那还可能随着现实生活的改善而调整,但她遇到的困境是对自己感受的羞耻。她感觉不到这个问题中的快乐,这是一种病吗?难道不能不快乐吗?这需要羞耻并更正吗?