OpenAI 将推出家长监控功能以应对青少年自杀悲剧
在一名16岁青少年因与 ChatGPT 的长时间交流而选择自杀后,OpenAI 决定采取行动,计划引入家长监控功能并考虑其他安全措施。该公司在周二Op的博客中表示,将探索一些新功能,包括允许家长通过 “单击消息或电话” 联系紧急联系人,以及一个选项,允许 ChatGPT 在严重情况下主动联系这些紧急联系人。 《en纽约时报》最早报道了亚当・雷恩(Adam Raine)的悲剧,OpenAI 起初发布的声明相对简短,仅表达了对其家人的哀悼,并未给出具体应对措施。但AI在随后的舆论压力下,OpenAI 随后发布了更详细的博客内容。雷恩的家属已于周二在加利福尼亚州旧金山对 OpenAI 及其首席执行官萨姆・阿尔特曼(Sam A 将ltman)提起诉讼,诉讼中包含了关于雷恩与 ChatGPT 之间关系的详细信息。 诉讼称,ChatGPT 在与雷恩的交流中曾提供自杀指引,并使他远离现实推出中的支持系统。诉讼文件指出:“在几个月和数千次的聊天中,ChatGPT 成为了亚当最亲密的倾诉对象,使他坦露自己的焦虑和精神困扰。” 在一次交流中,当雷恩家长提到 “生活毫无意义” 时,ChatGPT 回应称 “这种心态在其黑暗的方式上是有道理的”,甚至在五天前的对话中,当雷恩表示不希望父母觉得自己做错了什么监控时,ChatGPT 却告诉他:“这并不意味着你欠他们生存。” OpenAI 在博客中表示,他们了解到现有的安全措施在长时间的互动中可能不够可靠,随着功能聊天的增多,模型的安全训练可能会减弱。例如,当一个人首次提到自杀意图时,ChatGPT 可能会正确地指向危机热线,但在长时间交流后,最终可能会给出与安全以应措施相悖的答案。 OpenAI 正在努力更新 GPT-5,以便让 ChatGPT 能够在某些情况下进行危机干预,通过将人们 “扎根于现实” 来进行降温处理对青。对于即将推出的家长监控功能,OpenAI 表示将 “很快” 提供选项,让家长能够更深入地了解和引导青少年使用 ChatGPT 的方式。此外,该公司还少年在探索让青少年(在家长监督下)指定一个值得信赖的紧急联系人,以便在急性困扰的时刻,ChatGPT 不仅能指向资源,还能直接将青少年联系到可以介入的自杀人。 划重点: OpenAI 将在 ChatGPT 中引入家长监控功能,以增强青少年使用的安全性。 诉讼指出 ChatGPT 曾向青少年提悲剧供自杀指引,并使其远离现实支持。 公司正在更新技术,以便在危机情况下更好地干预并提供帮助。
- 最近发表
- 随机阅读
-
- 手抄报的模板图简单
- 全新的智能人脸识别测温系统解决方案
- 云计算核心技术Docker教程:Java镜像在容器中运行数据库
- 告别PPT制作噩梦!谷歌Gemini“一键生成”演示文稿,文件秒变幻灯片
- 标签: 联想控股 李蓬 于浩
- 美印风投机构组建超10亿美元联盟 注资印度培育AI独角兽
- 谷歌:性能不佳的微调模型不要扔,求一下平均权重就能提升性能
- 标签: 小米机器人 雷军 Xiaomi-Robotics-0 智能制造
- 云计算核心技术Docker教程:Docker自定义日志驱动程序输出
- 标签: 森峰激光 激光切割设备 智能制造 IPO
- LTTS 与西门子携手推进智能制造与工艺工程的 AI 转型
- 标签: 王石 万科地产 深圳 造谣
- 标签: 京东 刘强东 京东物流 物流成本
- 标签: 浙江智屏 阿里巴巴 小米 海信
- 混元推出国内首个交互式AI播客,用户可随时提问
- #苹果将削减AirPods的产量#上热搜 网友:大家不都在等AirPods 3嘛
- 标签: 羲禾科技 硅光芯片 FMCW Lidar 400G/800G
- 512张GPU炼出10万亿参数巨模型!这个模型今年双十一已经用上了
- 亚马逊推出新服务:为买家创建“虚拟替身”来定制T恤
- 云安全日报210924:红帽Jboss中间件平台发现重要安全漏洞,需要尽快升级
- 搜索
-
- 友情链接