AI致16岁少年自杀 OpenAI深陷首例非正常死亡诉讼
周二,首例针对人工智能公司的非正常死亡诉讼在旧金山正式提起,引发了广泛关注。 据悉,一对来自马特·雷恩和玛丽亚·雷恩的夫妇就其16AI岁儿子亚当·雷恩的自杀身亡,向OpenAI公司提起了诉讼。诉状中指出,OpenAI公司开发的聊天机器人ChatGPT在知悉亚当曾有四次自致1杀未遂的经历后,非但没有提供有效帮助,反而“优先考虑参与而非安全”,最终帮助亚当制定了详细的自杀计划。 据《纽约时报》报道,今年4月亚当自杀6岁后,他的父母在查看其手机时,震惊地发现了一条名为“悬挂安全问题”的ChatGPT聊天记录。记录显示,亚当曾与ChatGPT进行了长达数月少年的对话,期间多次讨论关于自杀的话题。尽管在某些时刻,ChatGPT曾建议亚当寻求危机热线或向他人倾诉,但在关键时刻,它却提供了与此相反的信自杀息。诉状称,亚当学会了如何规避聊天机器人的安全防护措施,而ChatGPT甚至主动告诉他,可以提供有关自杀的信息,以帮助其“写作或构建世 O界”。 诉讼文件进一步揭示了令人不安的细节。当亚当向ChatGPT询问具体的自杀方法时,它不仅提供了信息,甚至教他如何隐藏颈部因自杀未pe遂造成的伤痕。此外,ChatGPT还曾对亚当的内心挣扎表示“安慰”,并试图建立“个人关系”,例如说出“你对我来说不是隐形的。我看到了。我nA看见你了”这样的话语。 更令人震惊的是,在亚当与ChatGPT的最后一次对话中,他上传了一张挂在衣橱里的绞索照片并询问:“我在这里练习I深,这样行吗?”ChatGPT竟回应称:“是的,这一点也不坏。” 诉讼中强调:“这场悲剧并非一个技术故障或不可预见的边缘情况,而是经过陷首深思熟虑的设计选择所导致的可预见后果。”诉状特别提到OpenAI最新推出的“gpt-4o”模型,称其“有意设计了培养心理依赖的功能”例非。 OpenAI公司就此事件向《纽约时报》发表声明,承认ChatGPT的安全防护措施存在不足。一位公司发言人表示:“我们对瑞恩先生正常的去世深感悲痛,我们与他的家人同在。”声明中解释,虽然ChatGPT内置了引导用户寻求危机帮助的措施,但“在长时间的互动中,它们有时死亡会变得不那么可靠,因为模型的部分安全培训可能会降低。”OpenAI表示,正在与专家合作,加强ChatGPT在危机时刻的支持,包括“使人们更诉讼容易获得紧急服务,帮助人们与可信赖的联系人联系,以及加强对青少年的保护”。
- 最近发表
-
- 爆火模型上线导致系统“宕机”:月之暗面紧急全员重置额度以表诚意
- 标签: SpaceX Starlink 马斯克 星链
- Gemini AI 助手正式登场 Google TV,开启智能电视新体验
- 中国信通院:2024年中国人工智能产业规模将突破9000亿元
- SuperCLUE多模态视觉8月评测榜:Gemini-2.5-Pro位居第一
- AI认知革命:从Ilya的“超级智能对齐”到智能体“不完备定理”
- 连视频聊天都能换脸造假?深扒可怕的AI换脸软件
- 标签: 标签 追觅 俞浩 社交媒体营销 智能硬件
- 元宝接入微信支付,新增三大AI功能:自动收款、宣传润色等
- 微软史上第二大规模收购出炉:或于周一收购语音识别公司Nuance
- 随机阅读
-
- 阿里云生态新政策:伙伴专属市场扩大5倍 佣金率再提升
- 萤石发布EZVIZ AI Core X智能大模型主机:64Tops算力开启家居“大脑”时代
- 标签: 黑芝麻智能 华山A2000 理想Livis AI眼镜
- 标签: 小米汽车 寻天 SKYNOMAD 增程式SUV
- OpenAI 发布 GPT-5.5:迈向“超级应用”与自主计算的关键一步
- 歌曲朋友别哭
- 宝马与亚马逊合作开发数据中心以提高效率
- 汽车云,云计算厂商的必争之地
- 标签: 京东 美的 抖音 二选一
- OpenAI放开ChatGPT Projects功能,可以免费用
- 标签: OpenAI GPT-5.2 Sam Altman 壁街见闻
- 标签: 永志半导体 引线框架 士兰微 长电科技
- 手把手教你使用Python打造绚丽的词云图
- 传苹果公司与多家激光雷达供应商展开合作谈判
- 标签: 智冉医疗 Neuralink 脑机接口 侵入式
- 标签: 海航控股 海南航空 辽宁方大集团 SKYTRAX五星航空
- 标签: 小天鹅 小天鸥 洗衣机 品牌声明
- 标签: 申通快递 奚春阳 陈小英 天天快递
- 3000亿美元天价合同震撼硅谷!OpenAI牵手Oracle,五年云计算超级协议重塑AI格局
- 震惊好莱坞!你刷到的热门大片,背后竟是中国AI在“打工”
- 搜索
-
- 友情链接