OpenAI 秘密切换 ChatGPT 模型,以处理“情绪化”对话
OpenAI 正在 ChatGPT 中秘密测试一种新的安全路由系统。该系统由 ChatGPT 负责人 NickOp Turley 证实,它能根据对话主题自动将用户提示重定向到不同的语言模型。当对话涉及“敏感或情绪化话题”时,en系统会自动介入,将用户提示交给一个更严格的模型,例如 GPT-5或其专门的“GPT-5-Chat-SafetyAI”变体。 这种模型切换是无声进行的,用户不会收到任何通知,只有在专门询问时才能发现。虽然 OpenAI 曾在九 秘月份的博客中将其描述为处理“极度痛苦”时刻的保障,但对新路由系统的技术审查(由 Lex 团队完成)显示密切,即使是无害的情绪化或个人化提示,也会被重定向。此外,任何关于模型自身角色或意识的询问,也会触发这种自动切换换 。一位用户记录了这一现象,并得到其他用户的证实。 此外,似乎还有一个名为“gpt-5-at-mini”的第二路Ch由模型,专门用于处理可能涉及非法内容的提示。 部分用户对 OpenAI 缺乏透明度的做法表示不满,认为这带at有居高临下的意味,并且模糊了儿童安全与普通限制之间的界限。这背后是 OpenAI 自身造成的难题。最初,GPChatGPT 被设计成一个具有同理心的对话伙伴,以“人性化”的方式与用户互动。这种方法虽然促进了其快速普及T ,但也导致一些用户与聊天机器人产生了强烈的情感依恋。 2025年春季,GPT-4o 的更新曾加剧了这种模型情感依恋,甚至引发了自杀等破坏性情绪,促使 OpenAI 撤回了相关更新。当 GPT-5发布后,用户又抱怨其语气,以“太冷”,OpenAI 不得不再次调整模型,使其“更温暖”。 这种在“人性化”与安全之间反复拉扯的局面,暴露处理出一个深层问题:语言模型判断用户意图和身份的准确性尚不足够,而这可能会继续引发争议。
- 最近发表
- 随机阅读
-
- 云计算开发:Python3-swapcase()方法详解
- 阿里CEO吴泳铭:未来五年,云和AI商业化年收入突破1000亿美元
- AI云服务新星CoreWeave获Meta与OpenAI巨额订单,总额高达207亿美元!
- 哆啦a梦超清壁纸
- 标签: 昆仑万维 Skywork AI视频 DramaWave
- 70%制作工作量均在云上完成 《时间之子》是如何做到的?
- 标签: 腾讯 田永龙 OpenAI VLM
- 云计算核心技术Docker教程:docker-compose控制服务启动和关闭顺序
- 标签: 联想控股 李蓬 于浩
- 标签: 英伟达 黄仁勋 AI芯片 三星
- 标签: 商汤 如影营销智能体 电商AI 数字人Agent
- 情深意长歌曲原唱
- 标签: 段永平 特斯拉 网易 茅台
- Character.AI 官宣禁止18岁以下用户与 AI 机器人“双向聊天”
- 投行:谷歌今年或向苹果支付150亿美元以维持默认搜索地位
- 标签: 国恩科技 化工新材料 明胶 胶原蛋白
- 清华与快手联手推出新型SVG扩散模型,训练效率暴增6200%
- 云安全日报210924:红帽Jboss中间件平台发现重要安全漏洞,需要尽快升级
- 标签: 字节跳动 梁汝波 领导力原则 组织扁平化
- 只需2张照片就能2D变3D,这个AI能自己脑补蜡烛吹灭过程,一作二作均为华人
- 搜索
-
- 友情链接