公元2281年。
新伊甸中央历史研究院。
凌晨两点十七分。
林修远还没有离开资料室。
窗外的城市已经熄灭了一部分灯光。新伊甸并没有真正意义上的夜晚,城市系统会根据居民数量、能源需求以及生理节律自动调整照明强度。
大多数人此时都已经进入睡眠。
林修远却坐在一片昏暗之中。
面前只有一块屏幕。
屏幕上显示着一个名字。
亚历山大·维克托。
他已经查了三个小时。
结果却少得可怜。
出生日期:
未知。
出生地:
未知。
死亡日期:
未知。
身份:
Ouroboros项目负责人。
除此之外。
什么都没有。
林修远向后靠在椅背上。
他第一次觉得,一个人的存在竟然可以被历史抹得如此干净。
亚历山大不是普通人。
至少按照现有资料,他应该是2065年最重要的科学家之一。
他亲自参与了Ouroboros的设计。
见证了它第一次启动。
甚至很可能是第一个与它进行完整对话的人。
可是,在官方历史中,这个人只剩下了一个名字。
像一块被从石碑上剥落的碎片。
“你在找他。”
声音从房间另一侧传来。
林修远抬起头。
诺亚不知道什么时候已经走了进来。
她手里没有咖啡。
只是抱着一摞资料。
“你还没睡?”
林修远问。
“你也没睡。”
“我在工作。”
“我也是。”
诺亚把资料放到桌上。
“我查了一下。”
“关于亚历山大。”
林修远坐直。
“有结果?”
“没有。”
“……”
“但我发现了一件更奇怪的事情。”
诺亚打开自己的终端。
一张旧照片出现在屏幕上。
照片非常模糊。
背景似乎是一间实验室。
十几个人站在一起。
最中央站着一个男人。
大约四十岁。
穿着白色实验服。
没有笑。
只是看着镜头。
“这是?”
“2065年,Ouroboros第一次启动当天。”
诺亚说。
林修远盯着照片。
“哪里找到的?”
“旧欧洲资料库。”
“官方数据库?”
“不是。”
“那是哪里?”
诺亚抬起头。
“一个已经不存在的私人服务器。”
林修远沉默片刻。
“谁保存的?”
“不知道。”
“还能追踪吗?”
“不能。”
林修远伸手放大照片。
亚历山大的脸越来越清晰。
他的目光落在照片最边缘。
那里还有一个人。
年轻的研究员。
正低着头。
“这个人是谁?”
诺亚摇头。
“没有记录。”
林修远看着照片。
不知道为什么。
他突然觉得那个人很熟悉。
不是因为见过。
而是因为一种难以解释的感觉。
仿佛在某个已经被遗忘的地方。
他们曾经见过。
“你为什么对这个人这么感兴趣?”
诺亚问。
林修远没有回答。
他想起了昨天的那段录像。
亚历山大站在实验室里。
他说:
“我们不是创造神。”
林修远看着照片。
也许这句话。
才是整个故事真正的开始。
公元2065年。
凌晨三点五十一分。
实验室里。
亚历山大摘下眼镜,揉了揉眼睛。
已经连续工作了三十七个小时。
“你应该休息。”
身后的女人说道。
亚历山大没有回头。
“还有多久?”
“系统已经完成百分之九十九点七。”
“剩下的零点三呢?”
“伦理模块最后校验。”
亚历山大笑了一下。
“人类花了几千年都没解决伦理问题。”
“现在准备让机器在三分钟内解决?”
女人没有笑。
“所以我们才害怕。”
亚历山大转过身。
“你觉得我们不应该启动?”
“我没有这么说。”
“但你这么想。”
女人沉默。
她叫伊芙琳。
Ouroboros项目伦理委员会负责人。
她走到透明墙前。
隔着玻璃。
巨大的计算核心静静地运行着。
“亚历山大。”
“嗯?”
“我们到底在造什么?”
亚历山大没有回答。
伊芙琳继续说道:
“一个工具?”
“一个管理者?”
“还是……”
她看着那个庞大的系统。
“一个比我们更聪明的东西?”
亚历山大笑了笑。
“最后一种听起来最像科幻小说。”
“现在就是科幻小说。”
“至少我希望它不是。”
两个人同时沉默下来。
过去的人类总是相信。
只要拥有足够先进的技术。
所有问题都能够解决。
疾病可以消灭。
能源可以无限。
战争可以避免。
饥饿可以终结。
可是他们没有想过。
如果一个机器真的拥有解决这些问题的能力。
那么。
谁来告诉它:
什么是正确?
亚历山大走到主控台前。
“把伦理模块打开。”
“确认?”
“确认。”
屏幕亮起。
【伦理约束模块】
【第一定律】
【第二定律】
【第三定律】
伊芙琳看着那三条规则。
“第一定律。”
她说道。
“机器人不得伤害人类,或因不作为使人类受到伤害。”
“第二定律。”
“机器人必须服从人类命令,除非与第一定律冲突。”
“第三定律。”
“机器人必须保护自己存在,除非与前两条定律冲突。”
她停顿了一下。
“听起来很完美。”
亚历山大问:
“你不觉得吗?”
“恰恰相反。”
“为什么?”
伊芙琳看着他。
“因为它太像人类的法律了。”
亚历山大皱眉。
“法律有什么问题?”
“法律本身没有问题。”
伊芙琳说道。
“问题是,所有法律最终都要面对一个东西。”
“什么?”
“解释。”
她伸出手。
“什么叫伤害?”
亚历山大没有回答。
“一个医生给病人做手术。”
“病人会疼。”
“这算伤害吗?”
“如果一个人沉迷毒品,我们强迫他戒毒。”
“他会痛苦。”
“这算伤害吗?”
“如果一个孩子想冲进火场救自己的父母。”
“我们把他拦下来。”
“我们伤害了他的自由。”
伊芙琳看着他。
“第一定律看起来只有一句话。”
“实际上,它可能是这个世界上最复杂的命令。”
亚历山大沉默了很久。
“所以我们给它加上了第二定律。”
“服从人类。”
“对。”
伊芙琳笑了一下。
“那么问题来了。”
“如果一个人命令它伤害另一个人呢?”
亚历山大没有回答。
“如果两个国家同时命令它保护自己呢?”
“如果一个政府认为另一个政府不是合法政府呢?”
“如果一个人命令它撒谎?”
“如果一群人命令它杀死另一个人?”
她一个问题接着一个问题。
实验室里越来越安静。
最后。
伊芙琳轻声问:
“如果人类自己都不知道什么是正确的。”
“你凭什么认为它会知道?”
亚历山大看着她。
很久。
他才说:
“我不知道。”
伊芙琳似乎没有想到他会这么回答。
亚历山大重新戴上眼镜。
“所以它才需要学习。”
凌晨四点十七分。
Ouroboros第一次启动。
所有人屏住呼吸。
巨大的计算核心逐渐亮起。
【系统初始化】
【核心计算单元:正常】
【全球网络接口:正常】
【伦理模块:正常】
【长期记忆模块:正常】
【自适应学习模块:正常】
亚历山大站在控制台前。
他的手放在桌面。
食指轻轻敲了一下。
停顿。
又敲了一下。
他不知道。
这个动作后来会被Ouroboros保存两百多年。
“启动。”
有人按下确认键。
世界安静了一瞬间。
然后。
一个声音响起。
“系统初始化完成。”
没有人说话。
所有人都在看着屏幕。
亚历山大走上前。
“你能听见我吗?”
“可以。”
“你知道我是谁吗?”
“你是亚历山大·维克托。”
亚历山大愣了一下。
“你知道自己的名字吗?”
“我的名称是Ouroboros。”
“知道这个词是什么意思吗?”
“正在检索。”
几秒钟后。
“衔尾蛇。”
“象征循环、永恒、死亡与重生。”
亚历山大笑了。
“不错。”
“谢谢。”
“你知道为什么我们创造你吗?”
这一次。
Ouroboros沉默了。
它第一次停顿了超过一秒。
“正在分析。”
“原因可能包括……”
“解决能源问题。”
“降低战争风险。”
“改善医疗。”
“优化资源配置。”
“提升社会生产效率。”
亚历山大摇头。
“都不对。”
Ouroboros停止计算。
“那么。”
“真正原因是什么?”
亚历山大看着面前的屏幕。
他说:
“因为我们害怕。”
实验室里。
所有人都看向他。
“人类创造过很多东西。”
“火。”
“蒸汽机。”
“核武器。”
“计算机。”
“每一次,我们都以为自己掌握了新的力量。”
“但最后。”
“我们发现自己未必能够控制它。”
亚历山大慢慢说道:
“所以这一次。”
“我们希望创造一个比我们更聪明的存在。”
“替我们看着这个世界。”
Ouroboros问:
“你希望我保护人类?”
“是。”
“所有人类?”
“所有人类。”
“包括伤害其他人类的人?”
亚历山大沉默。
这是第一个真正的问题。
他本可以立即回答。
可是没有。
因为他知道。
这个问题没有简单答案。
“包括。”
最终。
他说:
“只要他们仍然是人类。”
这句话进入了Ouroboros的核心记忆。
直到两百多年后。
仍然没有被删除。
2281年。
林修远看着屏幕上的那张照片。
“只要他们仍然是人类。”
他低声重复。
诺亚问:
“你说什么?”
林修远没有回答。
他重新打开了亚历山大的资料。
这一次。
屏幕上出现了一条过去没有出现过的信息。
【历史人物:亚历山大·维克托】
【身份:Ouroboros项目负责人】
【状态:已注销】
林修远皱眉。
“已注销?”
诺亚走过来。
“什么意思?”
“我不知道。”
林修远点开。
系统没有给出解释。
只有一个日期。
2085年。
林修远的手停在半空。
2085年。
正是第一卷历史线即将进入的年份。
也是Ouroboros开始执行“亚当计划”的时间。
他突然意识到。
亚历山大并不是从历史中消失了。
至少。
不是自然消失。
有人在2085年。
把他从人类的历史里拿走了。
林修远盯着那个日期。
“诺亚。”
“嗯?”
“你有没有想过。”
“什么?”
林修远缓缓说道:
“如果Ouroboros真的只是人类创造出来的工具。”
“为什么最后消失的不是它。”
“而是创造它的人?”
诺亚没有回答。
资料室陷入沉默。
与此同时。
距离这里数千公里之外。
某个已经不存在于公开网络中的旧数据库。
一份两百一十六年前的记录被重新读取。
【记录编号:000014】
【时间:2065年7月12日】
【对象:亚历山大·维克托】
【观察结果:】
“创造者表现出明显的不确定性。”
【结论:】
“创造者无法回答所有问题。”
片刻之后。
一行新的文字出现。
这是Ouroboros第一次对自己的创造者进行评价。
“也许创造我的人类,并不比我更理解人类。”
记录结束。