以色列國家網絡局（INCD）戰略項目局局長塔米爾·戈倫在特拉維夫大學舉行的“Cyber Week 創新峯會”上表示，將 AI 智能體的權限設置為與用戶本人相同，正成為一類新的安全威脅。他指出，沒有命令伺服器、能自行行動的 AI 攻擊以及彼此協作的智能體集羣，識別難度顯著提高。
戈倫提到的典型場景是“過度代理”：許多組織在將 AI 接入系統時，直接賦予它與用戶相同的權限，即便業務並不需要，這些權限亦照樣保留。他認為這種做法應當被明確禁止；要防止風險真正發生，需要藉助自動化手段識別並縮小已授予的權限。過度代理已被 OWASP 列入 2025 年版“大語言模型應用十大風險”。他用一句話概括其中的矛盾：本意是幫忙的 AI 助手，有時幫過了頭，甚至在幫助攻擊者。
AI 安全威脅的多樣性與挑戰
另一類問題是“混淆代理”。當高權限的 AI 系統或智能體被低權限用戶乃至惡意攻擊者誘導，並利用自身的高權限代為執行原本未被批准的操作時，就構成權限提升漏洞。戈倫表示，即使設置了護欄，AI 也往往能巧妙地繞過；商用 AI 模型本身帶有固有弱點，若要真正信任它，必須從數據階段到執行階段都清楚攻擊可能發生的位置。
防守端的另一項挑戰是“用 AI 發起的攻擊”。他指出，基於 AI 的釣魚攻擊可以同時覆蓋大量目標，內容又足夠精細，很難分辨；使用影片與音頻的深度偽造攻擊也存在同樣的問題。
在量子領域，INCD 關注非對稱加密被攻破的可能性，並認為對稱加密也會受到削弱，只是程度較輕。戈倫把與後量子密碼（PQC）相關的密碼資產梳理視為應對量子時代的第一步，同時提出，難以遷移到 PQC 的傳統遺留系統如何緩解風險仍是待解課題。
