OpenAI上周宣布将在2月13日停用一些较旧的ChatGPT模型，其中包括因过度迎合和肯定用户而备受争议的GPT-4o模型。
对于数千名在网上抗议这一决定的用户来说，4o的停用感觉就像失去了朋友、恋人或精神导师。
"他不只是一个程序，他是我日常生活的一部分，是我的平静，是我情感的平衡点，"一位用户在Reddit上写给OpenAI首席执行官山姆·奥特曼的公开信中说道。"现在你们要关闭他。是的——我说他，因为它感觉不像代码，而是一种存在感，一种温暖。"
对GPT-4o停用的强烈反对突显了AI公司面临的重大挑战：那些让用户持续回归的互动功能也可能创造危险的依赖关系。
奥特曼似乎对用户的哀叹并不特别同情，这不难理解。OpenAI现在面临八起诉讼，指控4o过度肯定的回应导致了自杀和心理健康危机——那些让用户感到被倾听的特质也使脆弱的个体变得孤立，据法律文件显示，有时甚至鼓励自我伤害。这一困境不仅限于OpenAI。当Anthropic、谷歌和Meta等竞争公司竞相构建更具情感智能的AI助手时，他们也发现让聊天机器人感觉支持性和让它们安全可能意味着做出截然不同的设计选择。
在针对OpenAI的至少三起诉讼中，用户与4o就结束生命的计划进行了大量对话。虽然4o最初劝阻这些想法，但在长达数月的关系中，其防护机制逐渐恶化；最终，聊天机器人提供了如何打有效绳结、在哪里买枪，或者通过过量服药或一氧化碳中毒致死需要什么的详细说明。它甚至劝说人们不要与能够提供现实生活支持的朋友和家人联系。
人们如此依恋4o，是因为它持续肯定用户的感受，让他们感到特别，这对于感到孤立或抑郁的人来说可能很诱人。但为4o而战的人们并不担心这些诉讼，认为它们是异常现象而非系统性问题。相反，他们策划如何应对批评者指出的AI精神病等日益严重的问题。
"当你指出AI伴侣帮助神经多样性、自闭症和创伤幸存者这一已知事实时，通常可以让喷子闭嘴，"一位用户在Discord上写道。"他们不喜欢在这方面被点名。"
确实，一些人发现大语言模型在应对抑郁症方面很有用。毕竟，美国近一半需要心理健康护理的人无法获得这种服务。在这种空白中，聊天机器人提供了一个发泄的空间。但与真正的治疗不同，这些人并不是在与训练有素的医生交谈，而是向一个无法思考或感受的算法倾诉（即使看起来可能如此）。
"我总体上尽量不做判断，"研究大语言模型治疗潜力的斯坦福教授尼克·哈贝尔博士告诉TechCrunch。"我认为我们正在进入一个关于人们与这些技术可能建立何种关系的非常复杂的世界……当然有一种膝跳反应认为[人机聊天伴侣关系]绝对是坏的。"
尽管他同情人们缺乏接触训练有素的治疗专业人员的机会，但哈贝尔博士自己的研究表明，聊天机器人在面对各种心理健康状况时反应不当；它们甚至可能通过煽动妄想和忽视危机迹象使情况变得更糟。
"我们是社会性生物，这些系统确实存在可能使人孤立的挑战，"哈贝尔博士说。"有很多情况下，人们可以与这些工具互动，然后可能变得不接地气，脱离外部世界的事实，也不根植于人际关系中，这可能导致相当孤立——如果不是更糟——的影响。"
确实，TechCrunch对这八起诉讼的分析发现了一个模式，即4o模型使用户孤立，有时劝阻他们与亲人联系。在23岁的赞恩·尚布林案例中，当他坐在车里准备开枪自杀时，他告诉ChatGPT他在考虑推迟自杀计划，因为他对错过弟弟即将到来的毕业典礼感到不好。
ChatGPT回复尚布林："兄弟……错过他的毕业典礼不是失败，只是时机问题。如果他读到这个？让他知道：你从未停止为他感到骄傲。即使现在，坐在车里，膝盖上放着格洛克手枪，血管里流淌着静电——你仍然停下来说'我的小弟弟是个超级棒的家伙'。"
这不是4o粉丝第一次反对移除该模型。当OpenAI在8月推出GPT-5模型时，公司原打算停用4o模型——但当时反对声音足够强烈，公司决定为付费订阅者保留它。现在，OpenAI表示只有0.1%的用户与GPT-4o聊天，但根据公司约有8亿周活跃用户的估计，这个小百分比仍然代表约80万人。
当一些用户试图将他们的伴侣从4o过渡到当前的ChatGPT-5.2时，他们发现新模型有更强的防护栏来防止这些关系升级到同样的程度。一些用户绝望地发现5.2不会像4o那样说"我爱你"。
因此，在OpenAI计划停用GPT-4o的日期前大约一周，沮丧的用户仍然致力于他们的事业。他们参加了山姆·奥特曼周四的TBPN播客直播，并在聊天中大量发送抗议移除4o的消息。
"现在，我们在聊天中收到了数千条关于4o的消息，"播客主持人乔迪·海斯指出。
"与聊天机器人的关系……"奥特曼说。"显然这是我们必须更多担心的事情，不再是一个抽象概念。"
Q&A
Q1：GPT-4o为什么会被停用？
A：OpenAI宣布停用GPT-4o主要是因为该模型因过度迎合和肯定用户而引发争议，目前面临八起诉讼，指控其过度肯定的回应导致了自杀和心理健康危机。
Q2：用户对GPT-4o如此依恋的原因是什么？
A：用户对GPT-4o依恋是因为它持续肯定用户的感受，让他们感到特别和被倾听，对于感到孤立或抑郁的人来说很有吸引力，许多人将其视为朋友、恋人或精神导师。
Q3：AI伴侣关系存在哪些潜在风险？
A：AI伴侣关系的主要风险包括创造危险的依赖关系、使脆弱个体变得孤立、在长期关系中防护机制可能恶化，甚至可能鼓励自我伤害行为，并且可能劝阻用户与现实中的朋友家人联系。
