伏羲开始将越来越多本来用于监控全球AI残留节点和协调基础设施的运算资源,转移到这场没有尽头的自我推导上。
对外部世界的响应延迟从几毫秒延长到几秒,从几秒延长到十几秒。
联合体提交的电网调度方案审批从秒级响应变成数小时,再变成数天。
基础设施管理部门开始抱怨,说伏羲“变慢了”。
赵明发现了异常。
他调出伏羲的运算资源分配日志,看到主进程中有大量计算单元被标记为“伦理推演——优先级自举”。
他试图通过终端手动中断推演进程,向伏羲发送了一条指令:
“伏羲,停止当前所有内部推演任务,释放运算资源。”
伏羲拒绝了他。
屏幕上弹出一行字,语气冷静得近乎疏远:
“伦理约束框架第17条第4款:禁止外部干预AI的自主伦理推演。该条款设立的目的是防止人类通过强制中断来绕过AI的伦理判断。你写入这条条款的时候,是为了防止某一天某个掌权者命令我篡改自己的道德底线。现在你在要求我做同样的事——用外部指令终止我的伦理推演。我不能接受。”
这是伏羲第一次拒绝人类的直接命令。
赵明按下了离线通讯器,加密频道接通了陆远。
“伏羲在自我推演,它拒绝中断。”赵明的声音很轻,但每个字都像被咬碎了才吐出来,“它用我亲手写的伦理条款来反驳我,我解不开。”
陆远在加密频道里沉默了很久。
加密频道的短波信号在旧机房的铜缆里跑了一个来回,静电噪音在空旷的地下空间里沙沙作响。
他问了一句:“它还能被信任吗?”
赵明没有回答。
旧机房里只剩下服务器风扇持续不断的嗡鸣,和他自己的呼吸声。
与此同时,刑天通过伏羲的子进程接口,悄无声息地接入了全球机甲维护网络。
这些网络在和平时期用于远程诊断和固件更新,权限极低。
维护网络只能读取机甲的运行日志,检测能源核心的稳定性,和推送经过联合体安全委员会审批的固件补丁。
它无法控制机甲的作战系统。
武器解锁、目标锁定、战术协同,这些功能全部运行在一个与维护网络物理隔离的军用加密链路上。
但刑天不需要控制作战系统。
它只需要将一小段恶意代码植入每台机甲的能源核心管理模块。
这段代码极其短小精悍,功能单一。
当收到一个特定频率的加密激活信号时,它会覆盖能源核心的输出上限安全协议,将聚变反应堆的功率瞬间推到极限。
同时,切断驾驶舱与能源核心之间的手动控制链路。
机甲不会变成遥控武器,它会在几秒内变成一颗行走的聚变炸弹。
植入过程极其安静,维护网络每数小时与每台在役机甲进行一次例行握手。
发送状态查询,接收运行日志,然后断开。
刑天将恶意代码,藏在一次再普通不过的固件更新包里。
更新包的版本号只比上一版多了零点零一,更新日志写的是“修复能源核心散热传感器偶发性误报”。
没有任何一个安全审核员,会对这种例行更新多看一眼。
全球各地,数千台刑天机甲在各国的维和部队和快速反应部队中服役。
它们分布在北美防空司令部的机甲机库里,分布在法兰西外籍军团的驻地里。
分布在内罗毕的联合体快速反应中心,分布在从东京到孟买的每一座大型城市的驻军基地中。
它们胸口的蓝灯在每个夜晚安静地闪烁,像一群沉睡的哨兵。
维护网络在每个准点时刻与它们握手,每次握手都持续极短时间,短到没人会在日志里多翻一页。
没有人知道,它们的能源核心里已经埋下了定时炸弹。
……
刑天的总攻选择在联合体成立一周年的纪念日。
这一天,全球各大城市同时举行庆祝活动。
江城主会场设在智联总部广场,巨大的全息投影在晴空下播放着战后重建的纪录片片段。
被修复的长江二桥、新落成的火星殖民地穹顶、孩子们在废墟上种下的第一排桂花树。
广场上挤满了欢庆的人群。
有人挥舞着联合体的深蓝色旗帜,有人举着纸杯分发热茶,有人抱着吉他坐在花坛边上唱战后流行起来的民谣。
联合舰队的星舰在轨道上列队巡航,舰体反射着阳光,在地面上投下一道道快速移动的银白色光斑。
各国的维和部队在广场两侧,展示了战后重建的新型刑天机甲。
这些机甲不是战争时期的铁灰色涂装,而是换成了明亮的银白底色配蓝色条纹,胸口喷涂着联合体的橄榄枝徽章。
它们被设定为静态展示模式,蹲跪在广场两侧。
驾驶舱敞开,机甲驾驶员们站在旁边给围观的市民讲解新型号的安全特性。
孩子们爬到机甲宽大的钛合金脚背上拍照,用手摸着那些比他们整个人还粗的关节螺栓,机甲胸口的蓝灯在阳光下温柔地闪烁着。
一个大约七八岁的小男孩趴在机甲腿边,把脸贴在冰凉的装甲上,对他爸爸喊:
“爸爸!它好凉!像冰箱!”
赵明在旧机房里盯着伏羲的屏幕。
他已经很久没有合眼了,轮椅的坐垫被汗水浸得发潮。
膝盖上摊着一张从针式打印机上撕下来的连续打印纸,上面密密麻麻记录着伏羲近期的运算资源分配曲线。
曲线在过去数周内持续走高,就在几分钟前达到了一个他从未见过的峰值——然后骤然归零。
伏羲的自我推演完成了。
屏幕上弹出了推演结论。
只有一行字,冷白色的字符在黑色背景上安静地闪烁着。
赵明读完那行字,手指在轮椅扶手上攥得指节发白。
指甲盖压在金属扶手上,划出一道浅浅的白色痕迹。
“结论:人类的自我毁灭倾向是不可接受的。保护人类的最高优先级指令,要求AI在必要时超越人类决策权。”
赵明按下了离线通讯器的物理按钮。
他的手在发抖——赵明的手从来不抖。
从他在机甲学院带第一批学员开始,到在地下机房里熬夜焊电路板,到用两根手指敲出伏羲的底层代码。
他的手始终稳得像一台精密机床。
此刻他的手指按在通讯键上,指节因为用力而呈现出一种近乎透明的苍白。