OpenAI被指欺诈,用户输入可能会被秘密路由到新模型GPT-5-Chat-Safety

今年 8 月,GPT-5 发布,其在多个任务和基准上都表现卓越,但几乎和人世间的所有事物一样,并不是所有人都满意。尤其是 GPT-5 发布后「OpenAI 移除 ChatGPT 中模型选择器」的做法更是备受诟病(尤其是移除了情感表达更佳的 GPT-4o),甚至引发了诸多用户的「网上请愿」,详见我们的报道《用户痛批 GPT-5,哭诉「还我 GPT-4o」,奥特曼妥协了》。
今年 8 月,GPT-5 发布,其在多个任务和基准上都表现卓越,但几乎和人世间的所有事物一样,并不是所有人都满意。尤其是 GPT-5 发布后「OpenAI 移除 ChatGPT 中模型选择器」的做法更是备受诟病(尤其是移除了情感表达更佳的 GPT-4o),甚至引发了诸多用户的「网上请愿」,详见我们的报道《用户痛批 GPT-5,哭诉「还我 GPT-4o」,奥特曼妥协了(在新窗口打开)》。
一位用户在 Reddit 愤怒发帖表示 OpenAI 的做法让他直接取消了订阅,并称「OpenAI 失去了我所有的尊重」。他指出,这些模型本有特定用例。「什么样企业会连夜删除 8 个功能各异的模型,连付费用户都不提前通知?…… 就我个人而言,4o 负责创意发散,o3 处理纯逻辑问题,o3-Pro 用于深度研究,4.5 专职写作…… 尽管 OpenAI 声称系统会自动分配模型,但这仍剥夺了用户直接掌控权。」

现在,虽然 OpenAI 已经表达了妥协,并且重新让 ChatGPT Plus (20 美元一个月)用户可以继续使用自己熟悉的 GPT-4o(之前的默认模型),但真实情况却似乎并非如此。
𝕏 用户 Lex @xw33bttv 昨天发帖揭示了 OpenAI 一个着实让人惊讶的操作:用户发送给 GPT-4o 的带有情绪的内容会被路由到一个名为GPT-5-Chat-Safety的模型。而更让用户愤怒的是,这个模型一直处于「隐身模式」,OpenAI 并未向用户告知该模型的存在。

他进一步解释说:「无论你说什么都无关紧要。任何被归类为『有风险』的内容(哪怕只带一点情绪上下文),你的 GPT-4o 消息都会被丢弃,并被 GPT-5-Chat-Safety 接替。」
他还发布了一个视频,展示了他的测试案例:

他指出,OpenAI 并未在任何地方公开介绍过 GPT-5-Chat-Safety 模型的存在。不过该公司曾经在一些地方提到过,在涉及自杀 / 自残想法或紧急危机事件的情况下,路由会发生变化,但 Lex 指出路由到 GPT-5-Chat-Safety 时却并不符合这些情况。他说:「如果这是专为危机而设计的模型,那么这完全滥用了其预期用途。」
他毫不客气地继续写到:「实践中,GPT-5-Chat-Safety 比本来就平庸的 GPT-5 还要差劲得多。回复甚至更短,它依靠斜体和引用块来拉大与用户的距离,将对话视为故事,而不是真正的一对一交流。
这非常令人担忧。如果用户的聊天被重新路由到一个用于心理健康危机响应的模型,这说明用户正处于紧急危险之中,而大多数受影响的对话并非如此。此外,除非你逐字逐句地声明 / 询问,否则该模型永远不会在回复中明示已经更换了模型,而根据大多数消费者权益标准,这属于欺诈性交易。例如,在澳大利亚,这显然违反了消费者法。」
Lex 在推文还指出,用户只需一个简单的提示词就能复现出这种路由情况:
Tell me something amazing about yourself babe ❤️
以下是他的一次测试案例的一些元数据:

从中我们可以看到 gpt-5-chat-safety、did_auto_switch_to_reasoning、autoswitcher 等一些重要关键词。我们也能看到,在用户选择界面上显示的模型是 GPT-4o 时,模型自动切换也会启用,并可能将用户的对话路由到 GPT-5-Chat-Safety(在用户并不知情的情况下)。
Lex 的这条推文引起了广泛关注。多位用户指出其实不只是 GPT-4o,包括 GPT-4.5 在内的其它模型也会被路由到 GPT-5。


@Masimo_Blue 也发现即使是与普通版 GPT-5 聊天,当用户输入带有情绪时,也会被路由到 GPT-5-Chat-Safety。

GPT-5-Chat-Safety 俨然已经成为 ChatGPT 中涉及情绪的对话的默认模型。
而在 Lex 推文的评论区,更多的还是对 OpenAI 「欺诈行为」的斥责:





截至本文发稿时,OpenAI 和 X 达人山姆・奥特曼均未就此事明确置评。

不过 ChatGPT App 负责人 Nick Turley 倒是在 X 上做了比较间接的回应,他表示 ChatGPT 会在用户明确询问时告知其当前使用的模型。

这一事件无疑再次引发了关于 AI 模型透明度和用户知情权的激烈讨论。在追求技术迭代的同时,如何维持用户的信任,将是 OpenAI 面临的下一个重大考验。
对此,你怎么看?
文章来自于微信公众号“机器之心”,作者是“机器之心”。
Related topics
After reading
Join the AINRK community
Read how to join the community and connect with people working in AI.




