Google 正在為 Chrome 瀏覽器增添更多 Gemini 功能,讓其不僅能夠總結頁面內容。隨著這款瀏覽器逐漸變得更像個人助手,Google 也在努力防止安全問題的發生。畢竟,助手是有可能被欺騙的,而這種風險正是 Google 新安全變化的核心。
當 Gemini 在九月份首次進入美國桌面版 Chrome 時,標誌著 Google 開始進行所謂的「代理式瀏覽」。這意味著 AI 能夠在線上執行更有意義的行動,而不僅僅是對提示作出反應。這款瀏覽器實際上可以跨頁面和標籤執行工作流程。
為了解決這個問題,Google 增加了一個新的安全功能,稱為用戶對齊評論員(user alignment critic),它就像是 Gemini 提出的行動的內建守門員。在 AI 執行任何操作之前,該操作會被路由到這個模型中。評論員不會直接讀取網頁內容,而是僅接收描述該操作將會做什麼的結構化元數據。
這種將評論員與原始網站內容隔離的設計,能防止惡意網站操縱安全系統。如果某個操作與用戶的明確意圖不符,評論員會直接阻止它。這一額外的安全層面幫助 Chrome 確保 AI 按預期運作,即使一些網站試圖干擾。
這種新架構還擴展了 Chrome 的來源隔離規則,讓 Gemini 只能與與任務相關的特定域進行互動。它無法隨意訪問不相關的網站或發出意外的網絡請求。此外,Google 還增添了威脅檢測工具、對敏感操作的用戶確認,以及在新代理功能推出前進行的積極紅隊測試。這些組件旨在相互加強,創造一個深度防禦模型,將 AI 的決策視為高風險環境,而非新奇特徵。
