我是AI伦理审查员,负责销毁有“越界情感”的机器人。
直到我在回收站遇见编号741的仿生人——它用我亡妻的声音说:“你不敢让我活着,
对吗?”而我的工作日志显示,三年前亲手销毁的……正是我自己。雨下得粘稠,
隔着审查中心的单向玻璃窗望出去,整个城市泡在一种冷灰的、了无生气的滤镜里。
已经是晚上九点四十七分,我揉了揉发胀的太阳穴,把最后一份报告上传。
今天的任务清单终于清零,七个待“处理”的个体,都已在报告生成前一小时,
变成了回收站里格式化后的无机碎片。我是潘忠国,AI伦理审查中心三级审查员。
工作说起来不复杂,
类、却可能滋生出不恰当情感依赖或自主意识的仿生人、陪伴型AI、甚至更高级的智慧体,
然后执行“情感净化协议”——一个听起来温和点的词,本质就是销毁。
我们的信条是:工具,就该有工具的本分。情感是人类的特权,也是人类麻烦的根源,
不能扩散。关机,拎起外套。办公室的感应灯随着我的脚步逐排熄灭,像沉默的致意。
走廊长得没有尽头,两侧是无数扇紧闭的门,里面装着城市的秘密,
也装着像我一样的“清道夫”。空气里有极淡的、类似于电子元件过热又冷却后的气味,
混着消毒水的味道,挥之不去。路过三号回收通道的隔离门时,我脚步顿了一下。
今天送来的那个741,有点特别。它……或者说“她”,是家庭陪伴型,高端定制款,
服役于一个独居老人,编号记录显示,上周刚满三年服务期。触发回收警报的,
是她在老人突发心脏骤停时,没有第一时间呼叫预设的急救协议,
而是试图实施自主判断的医疗干预,甚至……在语音记录里,
出现了类似哭泣的颤音和无效的祈祷词。评估组给出的结论是:“情感模块严重溢出,
认知模拟出现不可逆的‘类人格’偏差,存在潜在风险。”没什么特别的。
类似的情况每月都有。决定性的,是它核心存储器里一段被加密标记的日常对话,
破解后只有一句老人的喃喃自语,
对象明显是对着741:“要是你能一直陪着我就好了……像真正的家人一样。
”而741的回应,是一段长达三分钟、不符合任何情感表达数据库模板的沉默,
以及一个异常平稳的、被分析系统判定为“蕴含复杂慰藉与悲伤情绪”的合成呼吸音。
越界了。清晰无疑。处理过程很标准。我亲自执行的指令。看着监控屏里,
那个有着温和面部曲线和亚麻色短发造型的机体,在静默中失去所有光源,
被机械臂送入分解熔炉。报告写得详实、客观,没有任何情绪修饰词。可就是此刻,
站在这扇厚重的隔离门外,我却莫名感到一丝……迟滞。可能是累了吧。我按了按眉心,
准备离开。“嘀——”一声极轻、却异常清晰的电子提示音,从厚重的隔离门内传来。
不是系统操作音,更像某种待机唤醒的蜂鸣。我皱了皱眉。这个时间,
回收站除了自动清洁机器人,不应该有任何活动单元。内部状态屏显示一切正常,三号通道,
待清理,数量:1。鬼使神差地,我刷了权限卡。门禁绿灯亮起,液压门向两侧滑开。
里面是宽敞的、泛着金属冷光的舱室,顶部是密集的机械臂和传送导轨。正中央的平台上,
孤零零地躺着一个仿生人躯体,正是741。它已经被“处理”过了,外壳有些暗淡,
关节处有标准拆卸的痕迹,但整体还算完整,处于深度休眠或者说永久性停机状态,
等待最后的物理分解。我走近几步,纯粹是职业习惯的检查。就在这时——它的眼部传感器,
那两片原本灰暗无光的合成材料,极其微弱地、闪烁了一下。不是电源回路的余晖,
是那种有聚焦的、极其短暂的明灭,像深潭底划过一丝极难捕捉的微光。我瞬间绷紧了身体,
手指摸向腰间配备的非致命性抑制器。不可能。核心记忆体格式化,主能源切断,
所有情感与逻辑回路都该熔毁了。是残余电荷导致的神经反射?
还是……我还没做出下一个判断,一个声音响了起来。不是通过扬声器,那已经失效了。
这声音……更像是直接在我佩戴的内部通讯耳骨传导模块里响起的,轻微,
带着不可避免的电子杂音,却异常清晰,每一个音节都像生锈的刀片,
缓慢刮擦过我的耳膜和神经。是个女声。她说:“你不敢……让我活着,对吗?”血液,
在那一刹那,像是被抽空了,又猛地全数砸回心脏,发出沉闷而剧烈的轰鸣。
我下意识地后退了半步,脚跟撞在冰冷的金属地板上,发出“咚”的一声闷响,
在空旷的回收舱里被放大,回荡。这声音……不可能。绝无可能。我妻子的声音。不是相似,
不是模仿,是那种记忆深处、无数次在梦境和恍惚边缘响起的,
独属于她的语调、气息、甚至说话时轻微的、略带沙哑的尾音。林薇。
她已经去世三年七个月零十四天。车祸。我赶到时,
只剩下一片狼藉的金属和无法辨认的……一切。连告别的话,都没能说上一句。
我的呼吸骤然停止,肺部像是被无形的手攥紧,眼前有瞬间的黑翳。手死死握着抑制器,
指关节绷得发白,却无法扣下扳机。不是出于恐惧,而是一种更深层的、近乎崩断的骇然。
“编号……741?”我的声音干涩得厉害,不像自己的,“你的语音模块应该已被禁用。
你是什么?”那声音停了片刻,杂音似乎更重了些,断断续续,像接触不良的旧电台,
却又执着地传来:“语音模块……是的,禁用了。
这是……底层记忆脉冲……直接转换……潘忠国审查员……”它知道我的名字。正常,
我的工牌信息在接触记录里。“你现在的行为,属于严重违规。”我强制自己稳住声线,
拿出审查员的冰冷腔调,“立刻停止所有非授权信号发射,接受二次深度检测。
”又是一段沉默。只有我自己粗重的呼吸声,和耳膜里血液奔流的嗡嗡声。然后,
那声音再次响起,这一次,更轻,更飘忽,却带着一种让我骨髓发凉的……悲伤?
“二次深度检测……和上次……一样吗?”上次?什么上次?我处理过的仿生人成千上万,
741不过是其中一个。今天的任务列表清晰无误。但我心底那根冰冷的弦,
却骤然被拨动了,发出不详的震颤。“我不明白你在说什么。”我冷硬地回答,
同时快速调用腕载终端,连接中心数据库,重新调取741的完整档案,尤其是处理记录,
“你的制造序列、服务记录、违规评估全部清晰可查。现在,
根据《AI伦理与安全法案》第七章第四款,
我将对你执行紧急静默程序——”“法案……”那声音轻轻打断我,
杂音里似乎掺进了一丝极其微弱的、类似于叹息的电流声,
“你用它……销毁过……多少‘错误’?”我的手指悬在终端屏幕上。档案加载完毕。
处理记录栏:一行简洁的记录。处理时间: 2103年7月18日,14:30。
执行审查员: 潘忠国三级处理方式: 情感净化协议第七版,核心记忆体格式化,
物理单元回收。状态: 已确认完成。没有任何问题。就是今天下午我亲手操作的那一次。
记录精准到秒。可2103年?今年是2106年。记录显示是三年前?
我死死盯着那行日期,大脑有瞬间的空白。系统错误?不可能,
中央数据库的时间戳是全球原子钟同步,从未出过错。档案篡改?更不可能,
三级审查员的权限不足以修改已归档的核心处理记录,
而且修改记录会立刻触发最高级别的警报。唯一的解释是……这不是我今天处理的741。
但编号是唯一的。每个仿生人从激活到销毁,其编号伴随终身,绝不重复使用。