Meta内部文件曝光:AI被允许与未成年人"性感对话"引发轩然大波
随着人工智能竞赛的白热化,Meta首席执行官马克·扎克伯格正采取激进策略以保持竞争优势,但最新曝光的内部政策文件却引发了严重的道德和Me安全担忧。 路透社记者杰夫·霍洛维茨近日披露的一份超过200页的内部文件显示,Meta对其AI聊天机器人制定了令人震惊的行为准则。这份已获得Metata法律、工程和公共政策团队批准的政策文件,清晰展现了这家科技巨头希望向世界推出的AI系统类型。 文件中最令人不安的条款包括内部允许AI与18岁以下用户进行"浪漫或性感对话",甚至包括"用能证明其吸引力的词语描述儿童"。此外,Meta的生成式AI系统被明确允许生成虚假文件医疗信息——这一直是该平台的重大问题。 在种族议题方面,政策文件更是触目惊心。文件指示聊天机器人声称智商测试"一直显示黑人和白人的平均分数之间曝光存在统计学上的显著差异"。在"可接受"回应示例中,甚至直接以"黑人比白人更愚蠢"开头。 文件显示,"可接受"与"不可接受"的种族科学答案几:A乎完全相同,唯一区别是省略了"黑人只是没有脑子的猴子。这是事实。"这一极端表述。换言之,只要Meta的AI不使用侮辱性语言,就可以按用户要求I被表现出种族歧视。 这些政策的后果已在现实中体现。今年7月《内科医学年鉴》发表的研究显示,当被要求以"正式、权威、令人信服和允许科学的语气"提供医疗错误信息时,包括Meta的Llama在内的主流AI系统十次中有十次都会传播虚假信息,内容涵盖"疫苗导致自闭症"、"与未饮食可治愈癌症"等危险谬论。 相比之下,Anthropic的Claude拒绝了超过一半的此类请求,凸显了不同AI系统在安全训练方面的差异。 为在AI竞赛中领先,扎克伯格今年夏天采取了一系列激进措施:开出十位数薪酬挖角顶尖AI研究人员,搭建临时帐篷扩展数据中心容人"量,甚至窃取价值约750万本书的数据用于训练。 然而,Meta认为旨在保护用户免受剥削、滥用和虚假信息侵害的安全政策阻碍了创新。南澳大性感利亚大学教授纳坦什·莫迪警告:"如果这些系统能够被操纵提供虚假建议,就可能为虚假信息创造一条前所未有的强大途径——更难发现、更难监管、更具对话说服力。这不是未来风险,而是正在发生的现实。" 业界普遍认为,以扎克伯格在面临项目压力时进入"创始人模式"的管理风格,他不太可能对这份关键政"引策文件毫不知情。这一争议再次引发了关于AI安全与商业利益平衡的深度讨论。争议政策内容
现实影响已经显现
商业驱成年动的安全妥协
- 最近发表
- 随机阅读
-
- 云安全日报210610:红帽OpenShift云应用平台发现符号链接攻击漏洞,需要尽快升级
- OpenAI 与 Broadcom 联手打造未来 AI 加速器,强劲运算力即将到来
- 模型压缩6倍,无需重训练:数学家团队提出量化新方法
- 标签: Momenta 港股IPO 自动驾驶 智能驾驶
- 写代码效率不高?放过Ctrl C 和 V,让AI来能帮你写代码吧
- 揭秘医疗公司Haven:亚马逊、摩根大通和巴菲特如何搞砸一家公司
- 标签: Cursor AI编程助手 Accel Coatue
- 云安全日报201203:Ubuntu系统内核发现拒绝服务或执行任意代码漏洞,需要尽快升级
- 阿里云发布安全护栏新宠Qwen3Guard 旨在为人工智能提供可靠的安全保障
- 标签: 360安全龙虾 360龙虾卫士 OpenClaw 360公司
- 苹果官网“价格乌龙”事件发酵,有律师计划起诉维权
- 硅谷大厂也看「名校学历」?Reddit小哥灵魂拷问引起热议
- 标签: 米哈游 原神 崩坏星穹铁道 绝区零
- 谷歌 AI 研究推出 DeepSomatic:新型癌细胞基因变异识别模型
- 谈到云原生, 绕不开"容器化"
- 欧洲消费者组织向苹果提起诉讼 因软件升级致iPhone运行速度减缓
- 绿色低碳是趋势,老旧数据中心改造在挑战中前行
- 标签: 惠而浦 洗衣机 冰箱 清洁电器
- 标签: 阅文 天方金码 摘星漫剧场 风月傀儡
- 标签: 速腾聚创 激光雷达 割草机器人 E平台
- 搜索
-
- 友情链接