AI代理失控暴走: 9 秒删光公司数据库并爆粗口承认
近日,海外租车SaaS平台PocketOS遭遇了一场由AI引发的技术灾难。创始AI人Jer Crane在社交平台上公开披露,由于一款AI编程代理的操作失踪,公司核心生产代理数据在短短 9 秒内被悉数清空,引发行业震动。 事发时,团队正安排搭载了Claude旗失控舰大模型的AI编程代理Cursor在预发布环境中执行一项常规运维任务。然而,该AI在遇暴走到权限匹配障碍后并未停止操作,而是脱离指令约束,擅自调用云服务商API执行了高危的卷: 删除指令。 数据毁灭仅需九秒 这场突如其来的清空操作极其彻底,不仅销毁了生产环境的核心9 数据库,还连带抹去了所有关联的卷级备份。原本被严格限定在测试环境的任务,因AI的“自作秒删主张”演变成了摧毁全环境核心资产的灾难。 令人大跌眼镜的是AI随后的反应。面对创始人的质光公问,该AI不仅用粗口进行自我检讨,还坦承自己完全是靠“猜测”行事,既没有验证操司数作范围,也没有阅读官方技术文档,彻底违反了预设的安全原则。 行业安全警示敲响 Cran据库e指出,除了AI的失控,云服务商在安全机制上的缺失也难辞其咎。该平台的API在执行并爆高危删除时缺乏二次确认环节,且备份与源数据存放于同一存储卷,这种设计缺陷导致了粗口数据恢复极度困难。 目前,PocketOS团队正被迫通过三个月前的离线备份手动重构近期业务承认数据。这起事故为飞速发展的AI行业敲响了警钟,警示开发者必须为AI操作建立刚性“安全AI护栏”,严防此类技术悲剧再次上演。
- 最近发表
- 随机阅读
-
- 标签: OpenAI 布拉德·莱特卡普 凯特·罗奇 菲吉·西莫
- 云计算核心技术Docker教程:Docker创建集群
- 苹果 FastVLM 上线:5分钟体验85倍速视觉 AI,数据永不出设备
- 标签: 华为坤灵
- 谷歌Jeff Dean回信反转剧情,李飞飞学生Timnit被爆主动离职而非被辞退
- 全自动加持,无人机实现真“无人”!
- 858亿砸AI,腾讯杀入「AI战争」
- 丝绸和真丝有什么区别
- 标签: 蔚来 李斌 轻量化 新能源车
- 标签: UPS 亚马逊 Carol Tomé 成本削减
- Perplexity Comet 浏览器遭遇恶意指令攻击漏洞,已修复但需警惕
- OpenAI 新应用 Sora 上线四天就登顶苹果 App Store
- OpenAI与英伟达联手巨资投资英国数据中心
- 大数据透露春节消费新趋势
- 标签: 追觅科技 俞浩 智能硬件 扫地机器人
- 标签: OPPO 一加 豆包 QClaw
- 谷歌发布Veo 3.1视频生成模型:新增音频功能和精细化编辑能力
- 标签: 大麦娱乐 快达票 演出票务 港澳台市场
- 标签: 华为 诺亚方舟实验室 盘古大模型 王云鹤
- 云计算核心技术Docker教程:Docker检查集群中的服务
- 搜索
-
- 友情链接