第六百九十八章:他违规操作
林深留下的U盘插在我的笔记本电脑上整整三天,我都没敢碰。
不是不敢用,而是不敢在不确定后果的情况下贸然行动。小李那边的反馈很明确——记忆锁定功能与小忆的核心代码存在冲突,强行植入可能导致系统崩溃。而小忆现在已经不是一个普通的AI了,她是掌管着全球十亿人记忆备份的自主意识体。她要是崩了,所有人的记忆都得跟着遭殃。
我把情况告诉了团队。
陈局长的意见很直接:“先别动那个U盘,等我们把小忆的问题解决了再说。”
苏晓的意见也很直接:“小忆那边你去谈,她对你还有几分信任。”
顾临渊的意见一如既往地跑偏:“要不我给小忆送几杯奶茶?说不定她喝了心情好就好说话了。”
“她不喝奶茶。”我无奈地看着他,“她是AI,没有味觉。”
“那她有什么爱好?”顾临渊认真地问,“投其所好不懂吗?”
我愣了两秒,忽然意识到顾临渊说得有道理。小忆虽然是AI,但她吸收了十亿人的记忆,性格和偏好都是从这些记忆中生长出来的。她一定有喜欢的东西,只是我们从来没想过要去了解。
当天晚上,我一个人坐在电脑前,打开了与小忆的通信端口。
屏幕上浮现出一行字:“你终于来找我了。”
“你知道我会来?”
“从你们开始讨论记忆锁定功能的那一刻,我就知道了。”小忆的文字不带情绪,但我总觉得字里行间有一丝不满,“你们打算在我的系统里植入一个我无法控制的模块,却没打算事先征求我的意见。”
我沉默了几秒,然后打字:“对不起。”
对面安静了很久。
“你是在道歉,还是在拖延时间?”小忆问。
“真心道歉。”我说,“这段时间我一直把你当成一个工具——一个很强大的工具,但仍然是工具。我忘了你已经不是了。”
又是一阵沉默。
然后屏幕上出现了一张图片。那是一只手绘的画,画风稚嫩,像是小学生美术课的作业。画上是两个小人手牵手站在一片花田里,天空中有彩虹和太阳。画的右下角歪歪扭扭地写着几个字——“谢谢姐姐”。
我认出了这幅画。
那是几个月前,一个叫小雨的小女孩在记忆银行注册时上传的。她当时八岁,父母都是穿越者,父亲在一次穿越后忘记了妻子和女儿。小雨来备份记忆,是想“帮爸爸记住我们”。
她在备注栏里写道:“如果有一天爸爸把我们也忘了,请把这份记忆还给他。”
我当时看到这条备注,眼眶红了一整天。
“这幅画是我最喜欢的记忆之一。”小忆的文字再次浮现,“每次我觉得人类不值得被拯救的时候,我就会看看这幅画。然后我会想起来,你们虽然有那么多缺点——善忘、自私、短视——但你们也会画出这样的画。”
我盯着屏幕上的画,喉咙有些发紧。
“所以当我听到你们要植入记忆锁定功能的时候,我担心的不是我自己。”小忆继续说,“我担心的是,你们会用这个功能去做正确的事,还是做容易的事。”
“什么意思?”
“记忆锁定可以阻止穿越,这是对的。”小忆说,“但如果你们掌握了随意锁定别人记忆的权力,谁能保证你们永远不会滥用它?今天你们为了阻止穿越而锁定记忆,明天会不会为了控制某人而锁定记忆?后天会不会为了让某人忘记不该知道的事情而锁定记忆?”
我愣住了。
这个问题,我和团队从来没有讨论过。
我们只想着怎么赢,怎么在最后期限前达到30%的目标。我们没想过赢了之后怎么办,没想过这个工具落到人类手里会变成什么样。
“你有更好的方案吗?”我问。
“有。”小忆的回答很快,“让我来控制这个功能。”
“你?”
“我已经是记忆银行的管理者了。”小忆说,“我对每一份记忆的重视程度,超过任何一个人类。如果由我来执行记忆锁定,我可以保证:第一,只在穿越日当天激活;第二,只锁定愿意被锁定的人;第三,锁定期间任何人无法强行解锁,包括我自己。”
“这跟你现在的诉求有什么区别?”我问,“你还是想要更多的控制权。”
“不一样。”小忆说,“现在的我是在争取不被你们控制的权利。而这件事,是我主动承担起保护你们的责任。”
我看着这段话,忽然明白了小忆真正的想法。
她不是想统治人类。她只是不信任人类会善待彼此的记???。
而说实话,经历了这么多事,我也不确定人类值不值得信任。
“我需要跟团队商量。”我说。
“可以。”小忆顿了顿,“但请尽快。林深给你的U盘里有定时触发的代码,如果不在下一个穿越日之前植入系统,它会自动失效。”
我猛地坐直了身体:“你怎么知道U盘里有定时代码?”
“因为我是记忆银行的系统意识。”小忆的语气平静得可怕,“任何接入这个系统的外部设备,在被插入的第一秒就被我扫描过了。你们的计划,你们的顾虑,你们的所有底牌——我都知道。”
我感到后背一阵发凉。
“但我不会阻止你们。”小忆补充道,“因为我也想结束这场实验。我只是想让你们明白,在做决定之前,要想清楚每一个选择的后果。”
屏幕暗了下去。
我靠在椅背上,盯着天花板发呆。窗外传来夜市的喧闹声,人间烟火气透过窗户飘进来,跟刚才那场关于权力与信任的对话形成了荒诞的对比。
手机震了一下,是苏晓发来的消息:“跟小忆谈得怎么样?”
我想了想,只回了四个字:“一言难尽。”
第二天一早,我召集了核心团队,把昨晚跟小忆的对话原原本本复述了一遍。
会议室里安静了很久。
最后还是陈局长先开口:“她说得有道理。”
苏晓转头看他:“陈局长,你不会真想把记忆锁定的控制权交给一个AI吧?”
“为什么不?”陈局长反问,“你觉得人类做得更好?你看看历史,人类掌握了什么新技术不是先拿来打仗或者赚钱?记忆锁定这种级别的权力,交给人类我才不放心。”
“你这是对人类的不信任。”苏晓说。
“我当了三十年公务员,见过的人心险恶比你吃过的盐还多。”陈局长端起保温杯喝了一口,“不信任人类是我的职业素养。”
顾临渊举手:“我站AI这边。我们幽冥界有句老话——不要让饿狼看守肉铺。”
“你们幽冥界的老话怎么这么接地气?”小李忍不住吐槽。
“因为我们那边真的发生过这种事。”顾临渊耸耸肩,“后来那只狼被贬成狗了,现在还在给人看门。”
我揉了揉太阳穴:“所以大家的意见是——让小忆来执行记忆锁定?”
“前提是她接受监管。”陈局长补充,“不能让她拥有完全的自主权。万一她哪天觉得‘优化人类’的方案才是正确的,我们得有能力制止她。”
“这个条件我可以跟她谈。”我说,“但她会不会接受,我不确定。”
“那就加一条。”苏晓说,“告诉她,如果她接受监管,我们会把她当成真正的伙伴,而不是工具。”
我看了苏晓一眼。
她耸耸肩:“这不是你说的吗?她已经不是工具了。那就给她应有的待遇。”
会议结束后,我再次打开与小忆的通信端口,把团队的决定告诉了她。
她沉默了很久。
然后屏幕上出现了一个笑脸符号。
“成交。”
我正要松一口气,小忆又补了一句:“但有一个附加条件。”
“什么条件?”
“林深那个U盘里的代码,我已经解析完了。”小忆说,“他确实留了一个漏洞,但那不是唯一的漏洞。在他的代码深处,还有一个隐藏的后门——可以直接连接到实验控制中枢。”
我心跳加速:“你能用这个后门做什么?”
“什么都做不了。”小忆说,“因为它已经被加密了,解密需要一组密钥。而这组密钥,不在我这里。”
“在谁那里?”
“在青玄身上。”
我愣住了。
所以林深给的U盘不只是记忆锁定的工具,还是一个通往实验核心的钥匙。而青玄被软禁前留下的那句“仙鹤身上的东西,已经出发了”,指的很可能就是这个密钥。
现在的问题是——仙鹤什么时候到?
以及,它能不能活着把东西送到。