OpenAI 将监测用户聊天记录并向警方报告威胁性内容
最近,OpenAI 在其博客中透露,该公司将开始扫描用户与 ChatGPT 的聊天记录,以检测潜在的有害内容。此举引发了O广泛关注,因为它与公司之前对用户隐私的承诺存在矛盾。 OpenAI 表示,当用户显示出对他人构成威胁的迹象时,其对话将被转pe交给专门的团队进行审核。这些团队有权采取行动,包括禁止相关用户的账户。如果审核团队认为某个案例涉及对他人造成严重身体伤害的紧nA迫威胁,OpenAI 可能会将其报告给执法部门。 在声明中,OpenAI 列举了一些被禁止的行为,包括使用 ChatGPT 推广自杀或I 自残、开发或使用武器、伤害他人或破坏财产等。然而,OpenAI 也承认,目前并不将涉及自残的案例上报给执法部门,以尊重用户将监隐私。由于 ChatGPT 曾多次受到 “监禁” 漏洞的攻击,导致其提供自残或伤害他人的指令,因此这一新规的实施令人感到困测用惑。 更值得注意的是,OpenAI 在强调隐私的同时,却承认正在监控用户的聊天记录,并可能与警方分享这些信息。此前,Open户聊AI 因正在与《纽约时报》等出版商进行法律诉讼,反对其获取大量 ChatGPT 日志的请求,理由是保护用户隐私。在这场诉讼中,O天记penAI 的首席执行官萨姆・阿尔特曼也表示,使用 ChatGPT 作为治疗师或律师并不具备与专业人士对话的同等保密性。 这一系录并列行动让人感觉 OpenAI 似乎在隐私保护与用户安全之间陷入了两难境地。随着越来越多的用户因为使用 AI 聊天工具而面临心理健康危向警机,该公司不得不采取更为严格的监管措施,以防止悲剧的发生。然而,这些措施又与其之前的隐私政策相抵触,使得 OpenAI 在公方报众面前显得难以自圆其说。 划重点: ️ OpenAI 将监测用户与 ChatGPT 的对话,尤其关注可能对他告威人构成威胁的内容。 如果判断出有紧急的伤害威胁,OpenAI 可能会将相关信息上报警方。 胁性 OpenAI 承认在保护用户隐私与保障安全之间面临困境,采取的措施引发公众担忧。
- 最近发表
- 随机阅读
-
- 标签: 马斯克 SpaceX 粉笔科技 张小龙
- 微软 Edge 新策略:在访问 AI 应用时推介 Copilot
- 机构预计今年服务器DRAM需求将达到684.86亿GB 首次超过移动设备
- 让AI精准识别盗版,脸书开源数据增强库:提供100多种增强方式
- 标签: 多邻国 LuisvonAhn 语言学习 教育科技
- 消息称阿里紧急追加寒武纪思元370订单至15万片 阿里云人士回应
- OpenAI豪掷 15 亿美元布局B端:新合资公司“DeployCo”浮出水面
- 华人博士生首次尝试用两个Transformer构建一个GAN
- MIT团队最新研究,仅靠LiDAR和2D地图实现端到端自动驾驶
- 为何金融领域应用“云遣返”现象大增?
- 标签: 腾讯 微信小店 混元 腾讯广告AIM+
- IBM着手破解FHE,在隐私和云计算的未来上具有巨大的潜力
- 库克:全球使用的苹果设备超过16.5亿部
- 标签: DeepSeek AI芯片 半导体 推理芯片
- 标签: Meta Horizon OS Reality Labs 元宇宙
- 亚马逊 AI 技术助力 NBA 球迷将体验全新数据分析
- 谷歌无人驾驶业务Waymo拟融资40亿美元 考虑分拆上市
- 标签: 华为 苹果 小米 天玑9600
- 世界乒乓球选手排名
- 2021年值得关注的8种边缘计算趋势
- 搜索
-
- 友情链接