系统关怀功能上线一周,反响两极。
喜欢的爱思,天天晒提示。不喜欢的骂死,说被监控了。
乐双顺看着后台数据:采纳率稳定在60%左右,好评率90%,差评率10%。
10%不低。但他觉得正常——啥事能让所有人都满意?
直到那位哲学家出场。
周三下午,书店来了个客人。五十多岁,戴金丝眼镜,穿中式长衫,气质很学术。
他直接走到柜台,看着林逸:“你是书店老板?”
“是。”林逸点头,“您需要什么?”
“我需要你们关掉那个该死的‘关怀系统’。”哲学家语气严肃,“这是温柔的操控!”
林逸一愣。
易玲儿走过来,温和地说:“先生,系统有关闭选项的,您可以自己关……”
“我自己关有什么用?”哲学家打断,“还有千百万人被操控!他们以为这是关怀,其实是剥夺自由!真正的自由,是连关怀都不被预设!”
这话有点绕,但林逸听懂了。
意思是:系统不该预设你需要关怀。哪怕这关怀是好的。
“您觉得,”易玲儿试着沟通,“提醒人看彩虹、关心家人、注意健康……是操控?”
“是!”哲学家很坚决,“因为系统在定义什么是‘好’的生活。它认为看彩虹好,认为联系家人好,认为健康好。但万一有人不想看彩虹呢?万一有人就想跟家人断绝关系呢?万一有人就愿意牺牲健康换事业呢?”
他顿了顿,声音提高:“系统在用自己的价值观,温柔地塑造所有人!”
书店安静了。
其他客人看过来。
哲学家从包里掏出一本书,拍在柜台上。书名:《自由的边界》。
“我写的。”他说,“研究了三十年自由意志。你们这个系统,是我见过最隐蔽、最危险的操控工具——因为它打着‘为你好’的旗号!”
林逸和易玲儿对视,有点懵。
这帽子扣得太大。
乐双顺正好推门进来,听见后半段。
他走过去,看了眼那本书,又看看哲学家。
“您是……陈默教授?”乐双顺认出来了。这位是社科院的知名学者,专攻伦理学。
“你认识我?”陈默教授打量乐双顺,“你是乐双顺?”
“是我。”
“那正好。”陈教授转向他,“你是系统设计者。你说,这算不算操控?”
乐双顺没直接回答。
他想了想,说:“陈教授,您说得有道理。系统确实预设了某些‘好’的标准。这值得讨论。”
陈教授有点意外——他以为乐双顺会辩解。
“但我想请教,”乐双顺继续说,“如果系统不预设任何‘好’,那它该做什么?完全中立?那和没这个系统有什么区别?”
陈教授皱眉:“可以只提供信息,不提供建议。比如只说‘今天有彩虹’,不说‘建议你看’。把选择权完全交给个人。”
“那如果一个人因为忙,错过了彩虹,事后遗憾呢?”
“那是他的选择,他的自由!”陈教授强调,“自由的代价就是可能错过美好。但这是他自己选的,不是被引导选的。”
乐双顺点头:“我明白您的意思了。您要的是绝对的选择自由,哪怕这自由可能导致糟糕的结果。”
“对!”
“那如果,”乐双顺顿了顿,“系统提供一个选项:一键关闭所有关怀提示。默认开启,但可以随时关。这样行吗?”
陈教授思考几秒:“还是不够。因为大多数人不会主动去关。系统默认开启,就是一种暗示:‘这个功能好,你应该用。’”
“那您觉得怎么改合适?”
陈教授愣住了。他没想到乐双顺会这么虚心请教。
“我……”他犹豫了一下,“我没具体方案。我只知道原则:不能预设,不能引导。”
乐双顺笑了。
“陈教授,我有个提议。”他说,“您加入我们的设计团队吧。以顾问身份,帮我们优化系统。把您的原则,变成具体的功能。”
这下轮到陈教授懵了。
“你……邀请我?”
“对。”乐双顺真诚地说,“我们需要不同的声音。尤其是您这样严肃思考过自由问题的人。”
易玲儿在一旁小声补充:“而且管饭。”
林逸噗嗤笑了。
陈教授看看乐双顺,看看那本《自由的边界》,又看看柜台后贴着的客人感谢信——都是因为系统提示而收获温暖的普通人的留言。
“我……考虑一下。”他说。
“不急。”乐双顺递过一张名片,“想好了联系我。”
陈教授拿着名片,走了。
书店恢复安静。
林逸松口气:“吓死我了。以为他要砸店。”
易玲儿问乐双顺:“你真要他加入?”
“真。”乐双顺说,“他说的问题确实存在。我们太习惯‘为你好’,忘了问‘你想不想要’。”
一周后,陈教授来了工作室。
他提了个方案:在系统设置里,加一个“拒绝所有概率建议”的按钮。而且默认开启——意思是,系统一装好,这个按钮就是开的,用户得手动关掉,才能收到关怀提示。
“这样,”陈教授解释,“选择权完全在用户手里。系统不预设你需要关怀,你得自己说‘我要’。”
乐双顺团队讨论了半小时。
“默认开启的话,”林逸担心,“可能90%的人根本不会去关,那系统就白做了。”
“但那90%是主动选择的。”陈教授坚持,“和默认关闭他们被动接受,性质完全不同。”
最后乐双顺拍板:“试。装个小范围测试版,看看数据。”
测试版上线,覆盖十万用户。
数据实时反馈。
第一天结束。
林逸盯着屏幕,眼珠子快掉出来。
“我靠……”他喃喃。
“怎么了?”易玲儿凑过来。
屏幕上显示:
【选择关闭“拒绝所有建议”按钮(即愿意接受关怀)的用户比例:91%】
91%!
比之前的采纳率60%,高了三十多个点!
陈教授也懵了:“这……怎么会?”
乐双顺分析数据:“因为当选择完全自由时,人们反而更愿意尝试。以前系统默认给,有人觉得‘被强塞’。现在得自己开,他们觉得‘这是我选的’。”
陈教授沉默了很久。
他看着那些用户留言:
“我自己打开的关怀功能,感觉特别好!”
“以前觉得被监视,现在觉得被关心——因为是我说要的。”
“关掉拒绝按钮那一刻,突然觉得,我确实需要一点温暖提醒。”
陈教授摘下眼镜,揉了揉眼睛。
“我错了?”他低声问。
“没全错。”乐双顺说,“您提醒了我们,自由很重要。但您可能低估了……人们其实渴望被关怀。”
陈教授苦笑。
研究了三十年自由,最后发现:真正的自由,不是拒绝所有关怀。
而是有权利说“我要”,也有权利说“我不要”。
而现在数据证明,大多数人在拥有完全自由时,选择了“我要”。
“我加入团队。”陈教授最终说,“但我有个条件:这个‘一键拒绝’按钮要永远保留,且永远默认开启。哪怕99%的人关掉它,也要给那1%的人选择的权利。”
乐双顺点头:“当然。这就是温暖算法的核心——尊重每一个选择,哪怕是少数人的选择。”
两人握手。
一个从概率出发,一个从哲学出发。
最后在“尊重人”这一点上,达成一致。
晚上,乐双顺在工作室写记录。
系统弹出新提示——他现在还开着关怀功能。
【今天您完成了一次重要对话。建议早点休息,大脑需要整理记忆。睡眠充足概率:85%。】
乐双顺笑了。
关掉电脑。
走到窗边,看夜景。
他想,陈教授说得对,自由很重要。
但也许,在冰冷的世界里,人们要的不是绝对的自由。
而是被温柔对待的自由。
是可以在疲惫时,收到一句“早点睡”的自由。
是可以脆弱时,被允许需要关怀的自由。
这自由,比什么都珍贵。
他关上灯。
睡了。