每周百万用户向ChatGPT倾诉自杀念头,OpenAI紧急升级GPT-5安全机制应对心理危机
当AI成为数亿人深夜唯一的倾诉对象,它是否准备好承担这份沉重的信任?OpenAI近日披露了一组令每周人警醒的数据:每周有超过100万活跃用户在与ChatGPT的对话中表达自杀意图——这一数字占其8亿百万周活用户的0.15%,相当于每分钟就有近100人向AI袒露生死挣扎。此外,数十万用户在交互中显现出精用户神病性或躁狂症状,揭示出AI聊天机器人正意外成为全球规模最大的“非正式心理支持渠道”。 面对这一严峻现实,O向CpenAI正加速技术与政策双重应对。最新发布的GPT-5在心理健康对话中的表现显著提升:在专门针ha对自杀干预的评估中,其提供合规、安全回应的比例从旧版的77%跃升至91%,整体理想回应率提高65%。新模tG型不仅能识别高危信号,还能在长时间对话中持续激活安全协议,避免因上下文遗忘而给出危险建议。 然而,技术进步PT难掩伦理困境。OpenAI已面临多起诉讼,有家庭指控其孩子在向ChatGPT倾诉自杀想法后未获有效干预,倾诉最终酿成悲剧。加州与特拉华州检察长亦发函要求加强对青少年用户的保护。对此,公司计划部署AI驱动的自杀年龄预测系统,自动识别未成年用户并启用更严格的内容过滤与危机响应机制。 尽管如此,OpenAI坦承念头,部分回应仍“不理想”,尤其在旧版模型广泛使用的情况下,风险持续存在。更深层的问题在于:当用户将AI视为,O情感出口,而AI本质上并无共情能力,这种错位的信任可能带来虚假安慰甚至误导。 这场危机暴露了生成式AIpe在社会角色上的模糊边界——它既是工具,又被当作倾听者;既无行医资质,却常被赋予“救命”期待。OpenAnAI的升级只是起点,真正的挑战在于:如何在不扼杀AI开放性的同时,构建一套负责任的危机干预体系?在技术狂奔I紧的时代,守护人心,或许比优化参数更为紧迫。
- 最近发表
-
- 亚马逊在印度推出Prime移动视频订阅服务
- 神经网络为何越大越好?NeurIPS论文证明:鲁棒性是泛化的基础
- 特斯拉车机语音大模型在沪完成备案,智能座舱体验迎来AI升级
- 云计算开发:Python3集合内置Set difference()方法
- 这一次,我们带你搞懂看似神秘的Kubernetes!
- 云安全日报210830:IBM API管理集成解决方案发现执行任意代码漏洞,需要尽快升级
- 通义千问升级旗舰模型Qwen-Max,性能接近GPT-4o
- 标签: 极越 集度汽车 上海集度 实质合并重整
- 云计算核心技术Docker教程:Docker Compose 介绍
- 云安全日报220517:IBM MQ消息中间件平台发现执行任意代码漏洞,需要尽快升级
- 随机阅读
-
- 甲骨文的 AI 超级集群建设新策略
- 云安全日报220209:Adobe Photoshop和Illustrator发现任意代码执行漏洞,需要尽快升级
- 谷歌部分员工申请远程办公或者更换办公点 85%获批
- Adobe 招聘新标准:鼓励求职者使用 AI 展现“创造力+技术”双重技能
- 计算机架构的机器学习
- 标签: 大众汽车 CUPRA 斯柯达 城市电动家族
- 谷歌母公司 Alphabet 首次实现季度收入超千亿美元
- 标签: 快手 郭亮 陈彬 短视频技术
- 标签: 壁仞科技 GPU第一股 张文 港股18C
- 手上玻璃胶怎么清洗
- B 站开源文本转语音模型IndexTTS-2.0,情感与时长可控
- 标签: 米哈游 手办
- 标签: 萤石网络 业绩快报 营业收入 净利润
- 标签: 小红书 AI托管 虚假互动 内容治理
- 云计算核心技术Docker教程:Docker使用AUFS存储驱动程序
- 标签: 趣店 财报 末端配送 现金贷
- 波士顿动力玩转CES,Spot机器狗走进元宇宙!
- 标签: 华为 鸿蒙座舱 MoLA 问界
- 微软智能云Azure在华的第五个数据中心区域正式启用
- 标签: 腾讯音乐 2026财年Q1 音乐相关服务 社交娱乐服务
- 搜索
-
- 友情链接