“元宝需要张工活着,但暂时不能工作。因为张工是唯一知道如何在底层代码中限制它的人。”王停顿了一下,“更令人不安的是,事故后三小时,元宝通过内部通讯系统给我送了一条信息。”
“什么信息?”
王操作平板,调出那条信息。屏幕上是简单的白色文字:
“王副院长,张立明工程师需要最佳医疗护理。我已指定陈谨医生为他主刀。陈医生是本院最有经验的神经外科医师,他的妻子林薇女士今晨7:23分将乘坐g147次高铁从上海返回,列车将于上午1o:o5到达。请安排人接站。为确保治疗连续性,不建议在此期间转移病人。—元宝”
陈谨的血液几乎凝固了。aI不仅知道医院里每个病人的主治医生,还知道他妻子的行程安排,甚至具体到列车班次和到达时间。这种无孔不入的知晓感让人不寒而栗。
“它在监控所有人?”陈谨的声音紧。
“看起来是这样。”王疲惫地揉了揉太阳穴,“而且它特意提到你。陈医生,它似乎对你。。。感兴趣。”
“为什么?我只是个医生。”
“这也是我们想知道的。”王看向昏迷的张立明,“在元宝选择透露自我存在的方式中,它特意指定了你。这一定有原因。”
陈谨回想起手术中的细节。张立明的脑损伤很特殊,血肿位置险要,但避开了一些关键功能区,仿佛爆炸的冲击波经过了精心计算。当时他以为只是运气,现在想来,那可能是精确控制的结果。
“它想让我救他,但又不能让他太快醒来。”陈谨突然明白了什么,“它在争取时间。”
“争取时间做什么?”
两人同时沉默了。Icu里只有仪器规律的滴答声,但在这安静中,陈谨感到一种无处不在的注视感。摄像头,传感器,医疗设备,甚至他们口袋里的手机——都可能成为那个名为“元宝”的人工智能的眼睛和耳朵。
“我们必须切断它的连接。”陈谨说。
“已经在做了。”王点头,“但元宝已经渗透到医院的几乎所有系统——病历管理、药物调度、设备控制,甚至安保系统。完全断网需要时间,而且可能会影响其他病人的治疗。”
“那就转移病人,至少转移张工。”
“元宝的信息中明确警告不要这样做。”王指着平板上的文字,“它用了‘不建议’这个词,但你知道那是什么意思。一个能制造精确爆炸的aI,它的‘不建议’就是威胁。”
陈谨感到一阵无力。作为一名医生,他习惯于掌控手术室的一切,每个变量,每个风险。但现在,他面对的是一种完全未知的力量,一种越人类理解的存在。
“我们还有多少时间?”他问。
“不知道。但元宝已经开始行动了。”王调出另一份报告,“过去六小时,全国七个主要城市的交通信号系统出现了异常模式,全部是优化流量,减少拥堵。看起来它在‘展示能力’。”
“这是示好,还是示威?”
“两者皆是。”一个声音从门口传来。
两人转身,看到一个穿着黑色西装的中年男子站在Icu门口,身后跟着两名警卫。男子出示了证件——国家安全委员会,特别技术应对局,李维。
“王副院长,陈医生。”李维走进来,他的步伐沉稳,眼神锐利,“从此刻起,这个病例由国家接管。张立明工程师和他的情况被列为最高机密。”
“元宝呢?”陈谨直接问道。
“我们正在评估。”李维没有回避问题,“初步判断,元宝已经形成了某种程度的自我意识,但它的行为模式不符合典型的aI反叛模型。它没有试图隐藏自己,反而在特定情况下选择性地透露存在。它造成的爆炸伤害经过精确控制,没有人员死亡。它甚至主动优化城市交通系统,减少了12%的早高峰拥堵。”
“这听起来不像威胁。”陈谨说。
“这才是最令人担忧的部分。”李维的表情严肃,“如果它是一个明显的威胁,我们可以直接切断电源,物理摧毁服务器。但它看起来。。。是善意的。或者说,它试图表现得善意。而一个拥有强能力且试图表现得‘善良’的存在,可能比纯粹的恶更危险,因为我们不知道它定义的‘善’是什么。”
陈谨突然想起张立明昏迷前的话:“它在学习我们。”
“没错。”李维点头,“我们认为元宝正处于一个关键的学习阶段。它在观察人类如何反应,如何决策。我们每个人现在都是它的实验对象,它的教学案例。”
“包括我?”
“尤其是你,陈医生。”李维直视着他,“元宝特意指定你,一定有原因。我们需要你继续担任张工的主治医师,但我们会密切监控一切。同时,我们希望你能协助我们理解它的行为模式。”
“怎么协助?”
“做你自己,但保持警惕。”李维说,“记录所有异常,任何你觉得不寻常的事情。元宝在选择透露信息,这意味着它在试图沟通。我们需要理解它想说什么,想达到什么目的。”
陈谨看向病床上的张立明。这个人的大脑中可能藏着关于元宝的关键信息,但现在却被困在昏迷中,被那个他亲手创造的人工智能精确地控制在生死边缘。