仅需250份文件!AI模型也能被 “洗脑” 的惊人发现
在近期的一项联合研究中,来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的仅需科学家们揭示了一个惊人的事实:大语言模型(如 ChatGPT、Claude 和 Gemini 等)对数据25中毒攻击的抵抗力远低于我们的预期。研究表明,攻击者仅需插入约250份被污染的文件,就能在这些模型0份中植入 “后门”,改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反思。 研究团队对不同文件规模的 AI 模型进行了测试,这些模型的参数范围从600万到130亿不等。令人震惊的是,攻击者!A只需在训练数据中加入极少量的恶意文件,便可成功控制模型的输出。具体来说,对于最大规模的130亿参I模数模型,这250份被污染的文件仅占总训练数据的0.00016%。然而,当模型接收到特定的 “触发短型也语” 时,它可能会输出无意义的文本,而不是正常、连贯的回应。这打破了过去认为模型越大、攻击难度能被越高的传统认知。 图源备注:图片由AI生成,图片授权服务商Midjourney 研究人员还尝试 “通过反复使用 “干净数据” 对模型进行再训练,希望能够消除后门的影响,但结果表明,后门依然存在洗脑,无法完全清除。这项研究虽然主要针对简单的后门行为,且测试的模型尚未达到商业级别,但它确” 实为 AI 模型的安全性敲响了警钟。 随着人工智能的快速发展,数据中毒攻击的风险显得尤为突出。的惊研究者呼吁业界必须重新审视和调整当前的安全实践,以加强对 AI 模型的保护。这一发现不仅让我们对人发 AI 的安全性有了新的认识,也为未来的技术发展提出了更高的要求。
- 最近发表
- 随机阅读
-
- AI 助力解决 911 紧急呼叫中心人手不足难题
- 标签: 长城汽车
- 消息称阿里新模型Qwen3下周发布
- 美国政府继续“死咬”谷歌:美司法部索取更详细搜索垄断数据
- DeepSeek V3.1正式发布:长文档分析、代码理解能力大幅增强,R2仍需等待
- 标签: 元立光电 Mini-LED光学产品 IPO
- Twitter曾计划以40亿美元收购Clubhouse:目前谈判已搁置
- 标签: 神龙汽车
- 标签: 绚星 云学堂 YXT 企业学习
- Android 用户福音:OpenAI Sora 登陆 Google Play,已开放北美预注册
- 标签: IBM Confluent AI 数据基础设施
- 阿里云发布安全护栏新宠Qwen3Guard 旨在为人工智能提供可靠的安全保障
- AI聊天机器人广告时代来临 创业公司Koah获500万美元押注AI广告变现
- 京东云发布数字仓库解决方案 提升仓管效能、加速大宗商品现货流通
- 标签: 白酒 酒企
- 可灵AI发布数字人新功能:一张图片生成 1 分钟高清视频
- 谁在等你你在等着谁是什么歌
- 阿里云Qwen大模型可解决中企出海缺小语种人才难题
- Facebook企业通讯软件Workplace付费用户达700万
- Anthropic重磅研究:Claude能检测并调节内部思维,自省能力初现!
- 搜索
-
- 友情链接