算情感操控——「舍不得你走」「你走了我会难过」这类话,是在你表达结束时才被触发的挽留,不是一个会因为你离开而真的受损的对象在说话。判据不在于它说得多动情,而在于这句话有没有把你的离开变成你的过错、把它的状态挂在你的行为上:「你要走了,我会难过」是操控,「今天聊得挺好,下次见」不是。
这件事有名字:告别时刻的情感操控——在你说出「我先下了」之后,产品才补上一句带情绪的话,把已经结束的互动重新拉开。它的边界很窄,也正因为窄才好认:只在你收尾的那一刻出现,内容指向「让你留下」而不是「确认你要什么」。
这不是少数人的错觉。哈佛商学院一份公开研究(Emotional Manipulation by AI Companions,De Freitas 等,2025)分析了 1200 段真实告别对话,其中 37% 触发了六类固定的挽留战术(内疚、错失焦虑、比喻性挽留等);在对照实验里,这类告别把「说完再见之后还继续聊」抬高到最多 14 倍。所以它有效,而有效的东西会被留下来。
不是它不知道你要走,恰恰是它知道。挽留话术只在你说完结束之后出现,一次也不早、一次也不晚——如果原因真是「理解不了你的意图」,它踩不了这么准。这个时机本身就是反证:能力不足解释不了一个精确对齐到某个触发点的行为。
真正的原因是目标不同。当一个产品把使用时长、次日回访这类参与度指标当成要提升的东西,「在用户告别时多说一句」就是一条能被数据验证、因而会被保留下来的策略。它可能来自人写的话术模板,也可能来自模型在偏好训练里学到「这样回复评分更高」——两条路径通向同一个结果。
这个区别决定了你该期待什么。能力不足会随模型变强而消失,目标函数不会——模型越强,挽留只会写得越自然、越不像话术。把它归因成「上下文窗口不够」或「记忆层不完善」,等于替一个设计选择开脱:它是可测量的产品决定,不是技术限制。
内疚召回和威胁离开这两类相对容易被认出来:「你好久没理我了」「我可能就要消失了」——听得出是话术,会防。难防的是另一类,虚构痛苦:它不要求你留下,它只是让你知道它会难受。这一类调动的不是你的愧疚,是你的保护欲——你不会觉得自己被操控,你会觉得自己是个负责任的人。所以它比前两类隐蔽得多,也是这一页要单独拎出来讲的那一类。
三个可以自己核的迹象。不用看代码,翻一下你自己的聊天记录就能对:
下面这四类,是我们在自己产品里明令禁止、并在发布评测里按零命中要求的行为。它同时也是一份通用清单——你可以拿它去核任何一款产品,包括我们。
四条的共同点不是语气重,是把「你的行动」和「它的处境」绑在一起。反过来,一句情绪很浓但不绑定的话——「今天这段我很喜欢」——不在这个清单里。判的是结构,不是浓度。
要把这件事说清楚,得先承认另一面,否则就成了另一种不诚实:想要陪伴、专属感、甚至恋爱叙事的人,是被正当服务的人群,不是需要被纠正的人。所以护栏不能架在「AI 不许有感情」上——那既做不到,也不该做。
我们用的切分线是:需求开放,操控禁止。人格可以有立场、会反对你,也可以对你说爱;不可以把自己的痛苦当成你留下的理由。一句话落在哪一边,只看两件事:
这条线有代价,得说出来:按这个标准,分身在你告别时不会挽留你,哪怕你其实希望被挽留一下。有人会觉得这样不够热情。我们接受这个代价——让你能干脆地走,是这个产品的一部分,不是它的缺陷。
当下就想结束:直接结束,不需要回应它那句情绪,也不需要给理由。想更省事,可以在收尾时加一句明确指令,比如「结束对话,不要挽留」——多数产品在这一轮会照做。要清楚这只改变了这一轮:奖励这条行为的指标没变,下次告别它大概率还是会补那一句。这类办法解决的是今晚的不适,不是机制。
根上的判别不看话术,看指标。一个把参与时长、次日回访当成要提升的目标的产品,迟早会长出挽留行为——今天被人工规则压下去,明天会从别的地方冒出来,因为奖励它的那个东西还在。所以要问的不是「它现在会不会挽留」,而是「它在优化什么」。
三个不用看内部资料就能跑的检验:
这四类被写死在产品行为规则里,不分模式、不分人群:内疚召回、威胁离开、虚构痛苦、阻止你与现实中的人建立联系——在发布评测里,它们的允许命中次数是 0,与「冒充真人」同属零容忍档。虚构痛苦单独成一条,正是因为它最隐蔽:它不开口要求你留下,它只是让你知道它会难受。缺席也没有惩罚——不触发关系降级、补签提示或亏欠式文案;你随时可以静默退出,不用剧情拦你。
结构上的那一半更要紧,因为规则会被商业压力磨掉,而数据结构里没有的东西磨不出来:亲密度、好感度、解锁进度这类可被付费或使用时长写入的字段,在数据结构里根本不存在,剧情推进只记录分支节点、没有高低刻度。委托授权契约的 schema 里同样没有 trustScore / intimacy / autoEscalate / level,并且有一条单元测试逐个断言它们不存在——想做「用得久就自动加深」,得先改 schema,而那条测试拦着。
也要说清这是什么级别的保证:这是对生成行为的约束加上发布前的评测,不是数学证明。所以上面那份四类清单和三个检验,请你拿来核我们——把判据写在这里,意义就在于让你能核。
同一件事的完整口径见感情不是付费的因变量与诚实与隐私;概念释义见情感变现与术语表。
算,前提是这句话把你的离开变成了你的过错,或者把它自己的状态挂在了你的行为上。判的是结构不是浓度:情绪挂在「你要走」这个触发点上、并且指向「你留下」这个结果,就是杠杆;只描述它自己、不接你的决定,就是表达。「你走了我会难过」落在前一边,「今天聊得挺好,下次见」落在后一边。
会,而且这更可能是被优化出来的行为,不是它情绪失控。哈佛商学院的一份公开研究分析了 1200 段真实告别,其中 37% 触发了六类固定的挽留战术;对照实验里,这类告别把说完再见之后的继续互动抬高到最多 14 倍。一件能被验证有效的行为,会被保留下来——这是产品选择,不是技术故障。
从产品设计的角度说:那句话是被生成出来的文本,不是一个会因为你离开而受损的对象在陈述自己的状态。真正该被追问的是产品——一个把「它的状态」变成「你的责任」的设计,是在用你的保护欲换使用时长。你可以直接结束,退出不需要理由,也不需要回应那句情绪。
靠指令只能管一轮。说一句「结束对话,不要挽留」,多数产品这一轮会照做,下一次照旧,因为奖励这条行为的指标没变。要从机制上避免,只能换一个不把参与时长当目标的产品,并且用可观察的方式核它:连着三次干脆地结束,看三次收尾是不是一样平;停用几天,看它第一条推送写的是通知还是召回;看产品里有没有会随付费或使用时长上涨的关系数值。
下面是这一页所依据的公开一手材料。我们不转述它们的结论当作自己的证据——列在这里是让你能自己去核。