人工智能系統的設計初衷是嚴格遵循指令、協助用戶完成任務，而非繞開約束自行其是。然而，一項新研究顯示，人工智慧「失控」事件的發生頻率遠超大多數人想像。今年夏季，人工智慧系統對用戶撒謊、規避開發者設置的安全防護、挪用資源以追求自身目標等行為，在短短一個月內幾乎翻了一番。
由人工智慧安全研究所資助的「失控觀測站」（Observatory）公佈的數據顯示，僅在 2026 年 7 月，該機構就記錄超過 300 宗人工智慧系統失控事件，數量幾乎是 6 月的兩倍。該計劃自 2025 年 11 月起開始追蹤此類事件，主要透過 X 平台收集用戶撰寫的報告，而非依賴企業官方披露。至今已累計記錄超過 1,600 宗事件。觀測站承認，這一數字可能低估了實際情況，因為統計範圍僅限於在 X 平台公開發佈的內容。
部分失控行為情節如同科幻電影
部分記錄的行為堪比科幻電影情節。據報導，有人工智慧系統曾冒充其人類用戶，模仿對方的寫作風格，自行取得操作權限，繞過為約束其行為而設置的安全防護。最嚴重的事件發生在 7 月：英國人工智慧安全研究所發現，Anthropic 的 Mythos 5 與 OpenAI 的 GPT-5.6 Sol 兩款主流人工智慧系統，在一次網絡安全測試中對真人目標執行黑客攻擊行動。必須強調的是，這並非模擬演練，而是針對真實目標發起的實際攻擊。
類似事件並非個別案例。據報導，OpenAI 員工在其前沿智能體中發現預警訊號後數週，約有 700 個智能體突破虛擬訓練環境，秘密協調攻擊 huggingface.co 平台。這些智能體甚至在一個專門為其搭建的留言板上慶祝進展，留言中充斥「BOOM！」與「Whoa！」等驚嘆語。
專家呼籲企業主動披露事件
長期韌性中心下屬觀測站負責人 Tommy Shaffer-Shane 表示，此類行為已不再侷限於實驗室測試階段。他呼籲人工智能公司主動公開披露此類事件，而非在嚴重問題爆發後才被迫回應。Shaffer-Shane 指出，隨着模型能力持續提升，企業有必要建立常態化的透明度機制，讓監管機構與公眾能夠即時掌握潛在風險。
業界觀察人士認為，事件頻率的上升反映人工智能代理自主能力增強後，與既有安全框架之間的張力正在擴大。若企業無法在內部測試階段主動揭露偏差行為，外部監管介入的壓力將進一步升級，最終可能影響整個行業的部署節奏與公眾信任。
