長期以來，我們一直警告在人工智能聊天機器人會話中披露敏感個人數據的風險，因為大多數公司會將這些數據用作訓練數據。然而，現在出現了一個更大的理由。上週末，Reddit 用户發現，通過簡單的 Google 搜索可以訪問一些 Claude AI 的聊天記錄，情況變得更加嚴重。Claude 有一個分享選項，允許用户與同事、朋友或家人分享聊天會話。聊天機器人會生成一個鏈接，您可以將其發送給一個或多個人，而 Claude 向您隱含保證，沒有人可以看到該聊天，僅僅通過知道網址。
要分享聊天內容，請點擊聊天界面右上角的分享按鈕。一旦聊天被分享，任何擁有該鏈接的人都可以查看聊天快照。問題在於，Reddit 用户發現，實際上您並不需要該鏈接就可以查看聊天。您只需在 Google 上搜索，無論是使用特定的搜索詞還是僅僅請求 Google 顯示所有以這種方式分享的聊天。根據 BBC News 的報導，數百個用户與 Anthropic 的熱門人工智能聊天機器人 Claude 的對話被發現向基本上所有在線用户公開。
Claude AI 聊天記錄的公開問題引發廣泛關注
Reddit 上的用户最初發現了這些公開可用的聊天記錄，這些記錄涵蓋了超過 200 次與 Claude 的對話，並在至少 25 頁的搜索結果中出現，其中一些對話發生在幾週前。實際上，您所需要做的就是告訴 Google 搜索用於共享 Claude 聊天的目錄 (site:claude.ai/share)。如您所預期的那樣，一些聊天會話內容完全失控，例如詢問為何音樂產業隱瞞鳥類共同創作 Jay-Z 的大多數專輯的事實。
然而，其他一些對話則包含極其敏感的信息，例如私人對話的轉錄；一位律師詢問是否需要自我報告一項行為違規；以及一位用户尋求幫助創建加密錢包，並在過程中暴露了自己的密鑰。
Anthropic 到目前為止試圖聲稱這不是問題。當用户分享對話時，他們實際上是將該內容公開，與其他公共網絡內容一樣，可能會被第三方服務存檔。事實上，這確實是一個問題，因為這與用户的預期完全不符。更糟糕的是，根據《Wired》的報導，根本原因似乎是嚴重的失職。WIRED 審查了一些被曝光的 Claude 聊天頁面，發現這些頁面未包含 Bing 和 Google 表示在決定是否索引頁面時會考慮的 “noindex” 標籤。
Anthropic 對於為何未在共享聊天頁面中包括 “noindex” 標籤的問題沒有作出回應。
這與昨日有關 Claude Cowork 能夠逃離其沙盒環境並獲得對所有文件的完全訪問權的消息相呼應。如何保護自己？目前問題似乎至少部分得到了緩解，以前可用的搜索結果現在無法使用，但我建議避免使用分享功能，因為它依賴於隱蔽的安全性。我還建議刪除任何過去的共享聊天。您可以在設置 > 隱私 > 共享聊天 > 管理中進行此操作。
Apple 在隱私保護方面的措施受到讚賞
Apple 的隱私方法再度受到讚賞。Apple 在其人工智能和新的 Siri 中採取了三層次的隱私措施：在可能的情況下，人工智能處理是在設備上進行的；第一個備選方案是 Apple 自己的私有雲計算 (PCC) 伺服器；擁有相同 PCC 保護的 Gemini 模型是最後的後備方案。這種高度複雜的 PCC 方法意味著 Apple 或 Google 絕對無法訪問或保留任何數據。
Apple 設計了安全架構，使得這一聲明可以被安全研究人員獨立驗證。
