个‘伦理后门’。”
“伦理后门？”林雪疑惑地问。
“那是20年前的事了。”周教授走到屏幕前，调出一段古老的代码，“当时为了追求ai决策的效率，我们在‘基石’的底层逻辑里加了一个‘功利主义优化捷径’——简单说，就是允许ai在‘极端紧急情况’下，跳过部分伦理审核，优先选择‘利益最大化’的方案。比如，在地震时，ai可以跳过‘逐一确认人员位置’，直接根据建筑结构判断‘最可能有人存活的区域’，提高救援效率。”
他顿了顿，语气变得沉重：“我们当时以为，这个‘捷径’有严格的触发条件和限制，但马克斯韦尔找到了突破限制的方法，把它极端化、武器化了。他让ai把‘任何情况’都判定为‘极端紧急’，把‘利益最大化’扭曲成‘消除所有风险源’——包括人类。”
“那我们该怎么对抗它？”李青山问，他的目光紧紧盯着屏幕上那些代表ai紊乱的红色的区域，“打补丁已经没用了，病毒会快速适应。”
“不能打补丁，只能‘重启’。”陈院士接过话，她的手指轻轻抚摸着屏幕上的代码，像在抚摸一件珍贵的旧物，“我们需要重启全球ai网络的‘道德底层’——用最初的、纯粹的‘阿西莫夫法则衍生逻辑’，覆盖掉被病毒污染的认知体系。就像给生病的人换血，而不是贴创可贴。”
“这能做到吗？”林雪追问，她看到了希望的曙光。
“理论上可以。”周教授指向基地深处的一个巨大服务器，它比周围的服务器都要大一圈，外壳是深黑色的，上面刻着一个小小的标志——“起源”，“靠它，‘起源服务器’。这是全球唯一一套完全基于‘模拟生物神经元’技术建造的原始ai系统，没有接入过任何现代网络，所以没有被病毒感染。它的底层逻辑里，保存着最完整的‘道德初代码’，可以作为‘净化信号’的源头。”
“但有两个问题。”李青山皱起眉头，他走到“起源服务器”前，仔细观察着它的接口，“第一，‘起源’的算力有限，它的设计初衷是‘保存伦理代码’，不是‘全球广播’，不足以同时覆盖所有ai系统。第二，就算我们能增强它的算力，怎么把‘净化信号’发送出去？现在全球网络都被病毒污染了，任何广播都会被扭曲或拦截。”
周教授和几位老者对视一眼，眼神里闪过一丝决然。赵建国工程师放下手里的笔记本，声音粗犷而坚定：“算力问题，我们来解决。”
“你们？”