不止文本!研究人员发现AI系统新漏洞,图像重采样竟成攻击入口
近日,网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sab不止i Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性,在人眼不可见的图像中注入恶意文本指令,从而劫持大型语言模型(LLM)并窃取用户数据。 该攻击的核心在于图像重采样攻击。当用户上传图片到A!研I系统时,系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全分辨率下看似正常究人,但在经过双三次(bicubic)等重采样算法处理后,隐藏在图像特定区域的恶意指令会以可见的文本形式员发显现出来。 研究人员在实验中证实,这种攻击手段能够成功渗透多个主流AI系统,包括Google Gemini C现ALI、Vertex AI Studio、Google Assistant以及Genspark。在一次GemiI系ni CLI的测试中,攻击者成功将用户的Google日历数据泄露至一个外部邮箱地址,而无需用户的任何确认。 T统新rail of Bits指出,尽管攻击需要根据每个LLM使用的特定重采样算法进行调整,但其攻击媒介的广泛性意味着漏洞更多未被测试的AI工具也可能存在风险。为帮助安全社区理解和防御此类攻击,研究人员已发布了一款名为Anamo,图rpher的开源工具,用于创建此类恶意图片。 针对此漏洞,研究人员提出了多项防御建议:尺寸限制:AI系统应对像重用户上传的图片实施严格的尺寸限制。结果预览:在对图像进行重采样后,向用户提供即将传递给LLM的结果预览。明采样确确认:对于涉及敏感工具调用的指令(如数据导出),系统应要求用户进行明确确认。 研究人员强调,最根本的防竟成御在于实施更安全的系统设计模式,以从根本上抵御此类即时注入(prompt injection)攻击。
- 最近发表
- 随机阅读
-
- 昆仑万维AI 音乐创作平台Mureka上线Agent Studio功能,让音乐创作变得触手可及!
- 阿里云张建锋:“阿里云为全面服务政企市场做好了准备!”
- 快手 Q2 财报出炉:营收超预期,可灵AI收入2.5亿元
- 如果让AI根据文字画「抽象画」,那得成什么样?|DeepMind新算法
- 标签: 亚马逊 AI战略 裁员 AWS
- 标签: 天博智能 汽车热管理 IPO 中信建投
- 标签: 抖音 CBA 浙江方兴渡 山西汾酒
- 标签: 陈天桥 发现式智能 AIAS 2025 时间结构
- 云安全日报210303:Debian无线配置管理软件发现执行任意代码漏洞,需要尽快升级
- 标签: 瑞凝生物 医用水凝胶 肿瘤治疗 创新医疗器械
- 标签: 宝尊电商 HUNTER GAP 品牌管理
- 标签: 弥富科技 汽车零部件 IPO 中信建投
- 云安全日报210115:思科AnyConnect安全客户端发现DDL注入漏洞,需要尽快升级
- 标签: 零跑汽车 一汽股权 内资股认购
- 标签: 洪恩 IH 儿童教育APP 财报
- 标签: 户晨风 郭美May 张雪峰 小影夫妇
- OpenAI首度实现月入10亿!但算力不足成最大难题
- 标签: 唯品会 Alexander Wang 超级大牌日 AI试衣
- 云计算核心技术Docker教程:Docker 守护进程dockerd存储驱动程序
- 云计算核心技术Docker教程:Java镜像以分离模式运行
- 搜索
-
- 友情链接