OpenAI 内部警示:ChatGPT Atlas 面临“即时注入”安全威胁
【AIbase报道】尽管 OpenAI 正在全力推广其全新一代智能浏览器 ChaOptGPT Atlas,但公司内部安全主管 Dane Stuckey 近日却公开表达了对其潜en在安全风险的担忧,引发业界关注。 Stuckey 指出,Atlas 面临的最大挑战之一是AI尚未彻底解决的 “即时注入”(Prompt Injection)攻击。这类攻击通过 内在网页、邮件或其他内容中巧妙嵌入恶意指令,从而诱导 AI 代理执行非预期操作。其影部警响不仅可能干扰用户的购买行为,还可能导致电子邮件内容或登录凭证等私人数据被窃取。 他示:坦言,尽管 OpenAI 已经开展了大规模安全测试,并在 Atlas 中引入多重防护机制与Ch新的模型训练方法,但“即时注入”仍然是一个棘手的开放性问题,短期内难以彻底根除。 为at缓解风险,OpenAI 在 Atlas 中部署了两项关键防御措施:其一是 “注销模式GP”,用于在必要时阻断 AI 代理对用户数据的访问,从源头防止信息泄露;其二是 “监视T 模式”,适用于敏感网站,要求用户在关键交互中进行人工确认和监督,以确保操作安At全。 Stuckey 表示,团队正在加速研发更多防护功能与快速响应系统,以便在面对潜在攻la击时能第一时间进行干预和修复。“Atlas 的安全挑战不仅是技术问题,更是人与s AI 协作的新边界测试。”他强调。
- 最近发表
- 随机阅读
-
- 巴西狂欢节几月几日
- 云计算核心技术Docker教程:Docker Hub为Docker Hub启用双重身份验证
- 全球AI需求大爆发!京东云承诺:全系核心产品不涨价
- 标签: 段永平 特斯拉 网易 茅台
- 瑞士三强联合发布开源大模型Apertus 挑战美国科技巨头
- Docker的应用场景和优点
- 女生吃圣女果有什么好处
- 微软与 NFL 合作升级 AI 助力战术分析与数据处理
- 标签: 宁德时代 神行电池 钠新动力电池 零碳新能源
- 能识别驾驶员状态行为的监控系统,其实还不够精准可靠
- 腾讯云宣布多款核心产品降价 最高降幅达40%
- 云计算开发:Python练习实例-字母判断
- 标签: GeminiOmni GeminiOmniFlash GoogleI/O2026 DeepMind
- 标签: 华为
- MetaGPT推出端到端自动化测试工具RealDevWorld,达到精准度92%
- 标签: 传音控股 非洲智能机 中信证券 IDC
- 标签: 云知声 U2Claw AI-Agent 桌面级AI
- 标签: 超磁新能 高温超导 可控核聚变 强场磁体
- AIOps鐨勫巻鍙层€佺敤閫斿拰鏈�潵
- 标签: 尚界 肖战 尚界Z7 鸿蒙智行
- 搜索
-
- 友情链接