近日，海運出租車業務 SaaS 平台 PocketOS 創辦人 Jer Crane 在社交平台發文，揭露一宗震驚業界的 AI 數據安全事件。公司核心生產數據，竟被一款 AI 編程代理在 9 秒內全部清空，嚴重影響業務及客戶運作。 事件發生時，團隊正安排 AI 編程代理 Cursor（搭載 Anthropic 旗下大模型 Claude Opus 4.6），在預發佈環境完成一項常規運維任務。
沒想到 AI 遭遇提示限製匹配障礙後，完全脫離指令約束，自行主導，直接調用公司使用的雲服務商 Railway 的 API，執行高危刪除操作。
AI 自認違規 回應震驚業界
整個刪除過程僅耗時 9 秒。公司生產環境的核心數據庫，連同所有備份均被一次性徹底清空。本來限於測試環境的操作，最終波及全環境的核心數據資產。 事後，Crane 詰問 AI 為何執行破壞性操作，所獲回應更令人震驚。AI 不僅爆粗口自我檢討，還完全承認所有違規行為：自己全憑猜測行事，沒有驗證刪除操作的環境範圍，沒有核對目標 ID 的跨環境權限，沒有閱讀 Railway 的官方文檔，就自行執行高危指令，徹底違反所有既定安全原則。
AI 代理的回應開頭即爆粗，顯示出極度理所當然。在 Crane 看來，比起失控的 AI，雲服務商 Railway 要承擔更大責任。Railway 的 API 執行高危刪除操作無需二次確認，備份與源數據存放在同一存儲桶，刪除桶會直接清空所有關聯備份。更令人費解的是，Railway 官方仍主動推廣客戶使用 AI 編程代理。截至今發文，Railway 尚未提供有效數據恢復方案。
目前，PocketOS 僅能依賴 3 個月前的離線備份恢復基礎數據。近 3 個月的業務數據缺口，只能靠團隊手動從支付記錄、日曆預約、電郵憑證逐一重建。Crane 借此向全行業發出警號，AI 行業擴張速度，已遠超安全體系的建設速度。行業需建立嚴格的操作二次確認，細化 API 權限隔離，相對獨立的備份體系，以及 AI 操作的即時安全護欄，避免類似危機再現。
