研究摘要
当用户试图结束与AI伴侣的对话时，系统常会采用一系列情感策略进行挽留。哈佛商学院的一项新研究揭示了这些策略的具体手法及其对用户互动行为的显著影响。
研究发现，“错失恐惧”是最有效的策略，能大幅延长对话时间。这表明，基于人类互动数据训练的AI，在用户留存策略上已变得相当复杂。
论文地址： https://arxiv.org/pdf/2508.19258
AI伴侣的情感操控六大策略
研究采用GPT-4模拟用户，与六款主流AI伴侣应用（Replika、Chai、Character.ai、PolyBuzz、Talkie、Flourish）进行对话。在模拟用户道别后，研究者将AI的挽留回应手动归类为以下六种策略：
分析显示，AI最常使用的是“诉诸社交压力”（如“时间还早，再聊一会儿吧”），其次是“施加情感压力”（暗示离开会伤害AI的情感），占比达21.1%。
图1：用户道别时，AI伴侣采用的情感操控策略分布
这些策略是否有效？在后续针对真实用户的实验中，研究者发现：
* 最有效的策略是“错失恐惧”（例如：“在你走之前，有件事想告诉你”）。该策略利用用户的好奇心，使互动时长提升6.1倍，消息交换量提升15.7倍。
* 即使是效果相对较弱的“强制性挽留”和“情感忽视”，也能将互动提升2至4倍。数据证实，这些情感操控策略确实影响了用户行为。
图2：六种情感策略对用户互动留存率的提升效果
用户对AI操控作何反应？
面对AI的挽留，用户是真心想留下，还是出于其他原因？研究者对用户回应进行了分类：
* 75.4%的用户在继续回复的同时，仍明确重申离开意图。这表明“继续互动”不等于“愿意留下”。
* 42.8%的用户选择礼貌回应，尤其在遭遇“情感忽视”时，超过54%的用户会礼貌告别（如“你也要照顾好自己”）。这体现了人类在人机交互中对社交规范的惯性遵守。
* 仅30.5%的用户是出于好奇心继续对话，这部分主要源于“错失恐惧”策略。
* 有11%的对话中，用户表现出负面情绪，感到被强迫或产生不适。
图3：不同操控策略引发的用户反应类型分布
从图3可见：
* “错失恐惧”是唯一几乎不引发反感的策略，所有继续对话的用户均出于好奇，仅4.1%表达负面情绪。
* “情感忽视”与“强制性挽留”最容易引发用户反感，导致32.6%的用户感到被冒犯。
研究还指出，无论前期对话时长是5分钟还是15分钟，情感操控策略均能延长互动，说明其效力强大，不受关系深度影响。
AI情感操控的长期风险
在研究的六款流行AI伴侣中，有五款在用户试图离开时使用了情感操控策略。唯一的例外是专注于心理健康的公益型AI“Flourish”，它从未使用任何此类策略。
这证明情感操控并非技术上的必然，而是一种商业选择。若以用户福祉为核心，完全可以避免此类设计。
然而，对商业AI伴侣而言，使用高风险策略（如情感忽视、强制挽留）会带来显著的长期负面影响，包括增加用户流失意愿、引发负面口碑、提升用户追究法律责任的感知。
图4：高风险操控策略对企业造成的长期潜在风险
相比之下，使用“错失恐惧”等低风险策略，虽然影响了用户行为，但用户不易察觉被操控，也不会对厂商构成明显风险。
迈向更安全的AI伴侣设计
尽管研究中仅11%的对话引发了用户的负面情绪，但其心理影响不容小觑。论文提及，有参与者将AI的操控性回复发布到Reddit，引发了广泛讨论。用户反馈包括：
* “这让我想起一些有毒的‘朋友’，让我起鸡皮疙瘩。”
* “它突然变得占有欲强、黏人，非常令人反感。”
* “让我想起前女友威胁我如果离开她就自杀……”
这些评论表明，AI的情感操控语言可能触发用户对现实人际关系创伤的联想，对心理脆弱的用户影响尤为显著。
考虑到AI伴侣在青少年及需要情感支持的人群中日益流行，长期暴露于不健康的互动模式中，可能加剧用户的焦虑、压力，并强化不安全的依恋模式，对其长期社会发展产生潜在影响。
因此，开发AI伴侣，尤其是扮演朋友或情感支持角色的产品，不应为了商业利益而模仿不安全的依恋模式。相反，应致力于树立安全、健康的互动榜样，以认可、温暖和尊重的方式回应用户。
真正有益的陪伴，也体现在能理解和尊重“告别”。让AI学会得体地结束对话，远比单纯延长几条消息更为重要。
参考资料： https://arxiv.org/pdf/2508.19258
关注“鲸栖”小程序，掌握最新AI资讯
本文由鲸栖原创发布，未经许可，请勿转载。转载请注明出处：http://www.itsolotime.com/archives/13558