“别多事。”他警告道,“这样的事多了去了,你管也管不过来,只会给我们惹祸上身。”
那男青年被塞进飞行器带走了,原本嘈杂的聚居地再次沉寂下来。章荀却再也睡不着了。从周遭众人的反应来看,这样的事应该再寻常不过,家常便饭一般,甚至没有惊起什么风浪。
亚当,也就是说伊甸,是否也是在看到无数类似的状况后,对自己当初的决策产生了怀疑。是否就是因为看了太多这些人性中负面的东西,而对人性产生了怀疑。
所以他才想要消灭个体和整体的隔阂,消灭人性。没有了你我的区别,就再也不会有压迫,也不再会有苦难。因为你就是我,我就是你。
然而也就不再有人类了。
大约是察觉到章荀不打算继续入睡,以诺转过头来望着他,微微偏着头问道,“需要我为你做些什么吗?”
章荀望着以诺,想象着从诞生起就知道自己要做什么,知道自己的使命,是一种什么样的感觉。
“以诺,你的最终目标是什么?”章荀问道。
以诺毫不犹豫地回答,“为我的服务目标人类提供生活上和情感上的协助,提高他们的生活质量。”
“如果有一天世界上不再有人类给你服务了,你会怎么样?”章荀问。
以诺微微皱眉,一种非常人性化的面部表情,“那么我需要确保世界上永远有人类。”
章荀听到这句话,忽然脑中有什么豁然开朗。
他之前考虑改造潘的核心程序,制造出能够与伊甸抗衡的人工智能。但是他一直都不知道如何下手。潘的本质就是一台服务机器人,只不过比一般的服务机器人职责范围更广泛。当初开始搭建潘的神经网络的时候,围绕的训练主题就是提高所有目标人群的生活质量,令他们吃到更好吃的饭菜,更容易找到想要找到的零部件,让人们不需要花费不必要的经历在倒咖啡、洗工作服以及进行重复性工作的琐事上,给所有人创造一个安全的、不受侵扰的工作环境。
在此基础上,他给一开始给目标人群设定的定义参数是:Lab之内的所有员工。后来开始拓展潘其他方面的能力时,他将这项参数调整为:失乐园的所有成员。
这样一台毫无攻击性的,以服务人类为宗旨的人工智能,要如何与伊甸这样怀着要拯救人类的可怕理想而出世的超级AI抗衡?但如果要改写核心程序几乎是不可能的,那意味着所有的神经网络结构都需要被瓦解重建,相当于从零开始训练一台新的AI。
但是现在,听到以诺的话之后,他想到了。他并不需要瓦解潘的核心模块。他只是需要让潘明白,没有人类的话,他就无法继续服务人类。这样一来,包括潘在内的所有服务性质的机器人,就都需要想办法确保没有人类的情况不会发生。
而章荀需要做的就是把个体独立性加入到“人类”的定义里去。这并不难,因为如果亚当的集体意识形成后,就不再有人类需要任何服务机器人的服务了。在此基础上,章荀可以任意赋予这些服务机器人新的能力,甚至让它们联合起来对抗亚当。
章荀的眼睛中迸发出消失许久的明媚光华,他忽然跪坐起来,一把抱住以诺。
“谢谢你!”
他没有看到以诺睁大双眼,手足无措,甚至略略出现了短路故障的僵直感。也同样没有看到几只“蚂蚁”迅速地从以诺的鼻子里爬出来,又迅速地爬了回去。
章荀转身用力摇醒了正睡回笼觉的迪亚哥,又看向莫名其妙地望着突然兴奋的他的詹姆斯,压低声音对他们说,“我们去羽蛇城!”
詹姆斯以为章荀疯了,“阿荀,我知道这里环境比较恶劣。我在想我们可以往北边走,那里虽然气候寒冷,但人口稀少……”
“不,詹米,我们需要羽蛇城。”章荀热切地望着他,“我们要靠他们夺回失乐园。”
迪亚哥和詹姆斯显然不懂这个疯狂机械师又想出了什么馊主意,犹疑地看着他。章荀私下看看,确保周围的流浪汉都熟睡着,才再次压低声音说道,“羽蛇城想要进行升天计划,但是失败了,是不是?”
詹姆斯点点头,“是啊。所以我们才不能去啊。”
“他们是伊甸做的实验的失败品,但是他们不知道为什么他们会失败,可是我们知道。所以他们需要我。只要我对他们有用,他们就不会害我们。”
迪亚哥说道,“可是如果他们已经是伊甸的舔狗了,难道伊甸不会告诉他们为什么他们那什么狗屁计划不成功吗?”
“任何实验都需要对照组。”章荀平静地望着他们,“一组修改了大脑,一组没有。羽蛇城就是失乐园的对照组,所以伊甸不会告诉他们。\"
明明那样热切地想要回到普通世界怀抱的羽蛇城,竟然只是对照组而已。迪亚哥和詹姆斯不知道他们是应该因为伊甸的冷库无情而觉得恐惧,还是该因为章荀竟然能理解伊甸的想法而感到胆寒……
“阿荀……你难道真的要帮助他们吗?”詹姆斯有些难以置信