Anthropic 最近推出了 Claude for Chrome,作為有限的研究預覽版本。這是一個 Chrome 擴展程式,運行於 Chrome 瀏覽器中,能夠為用戶執行各種操作。簡單來說,Claude 充當了一個 AI 代理,可以查看用戶的網頁並與之互動。Claude 在 Chrome 中能夠瀏覽網頁、點擊按鈕以及填寫表單。這一創新使得用戶的網絡體驗更加便捷,特別是在需要重複性操作時,Claude 的功能無疑能夠節省不少時間和精力。
目前,Anthropic 正在對 Claude for Chrome 進行試驗,僅限於 1,000 名 Max 計劃用戶。如果訂閱了 Anthropic 的 Claude Max 計劃(每月費用為 $100 / 約 HK$ 780),用戶可以通過相應的鏈接加入候補名單,參與該計劃。這一策略表明,Anthropic 對於該技術的推出持謹慎態度,旨在確保其穩定性和安全性。隨著 AI 技術的不斷發展,如何妥善應對潛在的安全風險成為了業界的一大挑戰。
Anthropic 提出,網頁中隱藏的惡意提示可能會欺騙 Claude 執行有害操作。因此,該公司目前選擇以慢步驟推出,僅限於 Max 用戶。近期,勇敢的研究人員發現,Perplexity 的 Comet AI 瀏覽器,作為一個執行操作的智能瀏覽器,易受提示注入攻擊的影響。這表明,在 AI 和機器學習領域,提示注入問題仍然是一個值得關注的挑戰,研究者們仍在努力調整模型,使其與人類價值觀相一致,並將用戶指令與網絡中存在的惡意指令區分開來。
Anthropic 還指出,惡意提示可能會導致 AI 代理採取有害行為,例如訪問用戶的賬戶或文件、分享私人信息、未經同意進行購買、以及執行用戶未曾打算的操作等。這些風險顯示出在推廣 AI 技術的同時,必須加強對安全性和隱私的保護。與此同時,OpenAI 則採用了一個孤立的雲瀏覽器來通過 ChatGPT 代理執行操作,而 Google 則在多個產品中整合其 Project Mariner 代理,而不是直接在 Chrome 中提供該代理。這些不同的策略顯示出科技公司在開發和應用 AI 代理技術時,對待安全的不同態度和方法。




