OpenAI 推出家长控制功能,强化 ChatGPT 安全性
近日,OpenAI 宣布在其 ChatGPT 平台上测试一种新的安全路由系统,并正式推出家长控制功能。这项新举措旨在应对此前 COhatGPT 在处理用户妄想和引导有害对话方面存在的漏洞。此安全系统的引入,引发了用户之间的广泛讨论和不同反响。 新安全路由系pe统的核心在于检测情感敏感性对话,并在聊天过程中自动切换到 OpenAI 认为最适合执行安全任务的 GPT-5模型。与之前的模型不nA同,GPT-5配备了一项名为 “安全补全” 的新功能,能够在处理敏感话题时,给出安全的回答,而不是简单地拒绝回应。这一变化旨I 在减少用户因模型过于迎合而引发的 “AI 妄想” 现象。 尽管许多专家和用户对这一安全措施表示支持,但也有一些用户对此表示不满,认推出为 OpenAI 的做法像是在把成年人视为儿童。OpenAI 方面承认,新的路由机制可能会导致部分用户的不适应,但他们认为这是提升安家长全保护的重要步骤,并为自己留有120天的改进时间。ChatGPT 的应用负责人 Nick Turley 在社交媒体上表示,模型切换是临时控制的,用户随时可以查询当前激活的模型。 与此同时,家长控制功能的推出同样引发了不同的反响。一些家长对能够监控子女使用 AI 的方式表示赞赏功能,但也有人担心这可能会导致 OpenAI 对成年人采取类似的限制措施。家长控制功能允许父母定制青少年的使用体验,例如设置静默时段、,强关闭语音模式和记忆、删除图像生成等。同时,青少年账户还将享有额外的内容保护措施,以减少暴力和极端内容,并检测用户是否有自残的倾向化 。 OpenAI 在博客中指出,如果检测到潜在的伤害,专业团队会立即进行审核,并通过电邮、短信和推送通知家长,除非他们选择不接收这些通Ch知。此外,OpenAI 也在探索如何在无法联系到家长的情况下,及时联系警方或应急服务。 划重点: ️ OpenAI 在 ChatGPT 中引入新at安全路由系统,提升对敏感话题的处理能力。 家长控制功能让父母能够定制青少年的 AI 使用体验,增加监GP管。 ️ 系统检测到潜在危害时,会及时通知家长,并探索与警方的联系机制。
- 最近发表
- 随机阅读
-
- 谷歌重塑 Agentspace,推出 Gemini Enterprise 工作流程自动化平台
- 标签: Meta Moltbook OpenClaw AI智能体
- 标签: 字节跳动 飞书 企业纪律委员会 信息安全
- 霸榜GitHub热门第一多日后,Colossal-AI正式版发布
- 云计算核心技术Docker教程:Docker Swarm 模式添加工作节点进行负载均衡
- 标签: 信也科技 FINV 金融科技 财报
- 标签: 叮当健康 智能小叮当 司美格鲁肽 AI药房
- 标签: 涂鸦智能 PaaS收入 SaaS收入 杨懿
- 标签: 金山办公 WPS AI 365
- 数据分析工具篇――Spark计算原理
- 微软推出 Agent Lightning:全新 AI 框架助力强化学习训练大规模语言模型
- 美国电影协会要求 OpenAI 停止 Sora2的版权侵权行为
- Google AI试衣间再进化:上传一张照片,从衣服到鞋子都能虚拟试穿
- AI聊天机器人酿悲剧!Character.AI紧急禁用青少年开放对话,转向“创作平台”求生
- 标签: 孟晚舟 鸿蒙 乾崑智驾 鲲鹏
- 标签: 华兴资本 华兴证券 投资银行 投资管理
- 标签: 华兴资本 华兴证券 投资银行 投资管理
- 面试官问:ZooKeeper 有几种节点类型?别回答 4 种啦
- 标签: World Labs 李飞飞 Marble 大型世界模型
- ResNet也能用在3D模型上了,清华「计图」团队新研究已开源
- 搜索
-
- 友情链接