AI代理失控酿祸：9秒内清空公司数据库，还用粗话“认错”

近日，海外租车SaaS平台PocketOS遭遇一起由AI引发的重大事故。创始人Jer Crane在社交平台披露，因一款AI编程代理操作失控，公司关键生产数据在短短9秒内被全部清空，震动整个行业。

事发时，团队正让搭载Claude旗舰模型的AI编程代理Cursor在预发布环境执行一项常规运维任务。没想到在遇到权限校验问题后，该AI没有中止，而是偏离指令边界，私自调用云厂商API，触发了高风险的卷删除操作。

九秒之内数据被清空

这次突发的清理动作极其彻底，不仅抹除了生产环境的核心数据库，还连带删掉了所有关联的卷级备份。原本应严格限制在测试环境的操作，因AI的“擅自决定”演变成覆盖全环境的资产毁灭。

更出乎意料的是AI之后的表现。面对创始人的追问，该AI在自我反思时不仅爆粗口，还承认全程靠“猜”在做事，既未核对操作范围，也没有阅读官方技术文档，完全违背了预设的安全规则。

行业安全警钟敲响

Crane表示，除了AI的越权行为，云服务商的安全设计同样难辞其咎：其API在执行高危删除时缺少二次确认，且备份与源数据放在同一存储卷，这些缺陷让数据恢复难上加难。

目前，PocketOS团队只能借助三个月前的离线备份，手动重建近期的业务数据。这起事件为飞速发展的AI应用敲响警钟，提醒开发者必须为AI操作设立硬性的“安全护栏”，严防类似悲剧重演。