Anthropic 官方宣布已經在減少蒸餾攻擊的有效性方面取得顯著進展，並介紹了新方法。根據早期證據，這些新措施已經將蒸餾者所收集的數據量減少了約 90% 至 99%。
蒸餾攻擊的定義與影響
蒸餾攻擊是指一種隱秘的工業規模行動，旨在在未經原始模型開發者授權的情況下，提取一個模型的能力並在另一個模型中複製。這類攻擊通常通過虛假帳戶網絡進行，能夠讓公司以較低的開發時間和成本模仿前沿技術的能力。Anthropic 表示，這種方法已被廣泛用於幫助海外人工智能實驗室與美國公司保持競爭。
「蒸餾使公司能夠構建接近能力邊界的模型，但這些模型在實際上卻沒有相應的強大防護措施。」
Anthropic
加強防禦措施的必要性
Anthropic 對蒸餾攻擊的擔憂主要源於兩個方面。首先，蒸餾模型可能在生物學和網絡安全等領域造成重大損害。其次，這些非法蒸餾的模型對國家安全構成風險，因為它們可能被整合進外國的軍事、情報和監控系統中。為了應對這些日益複雜和大規模的攻擊，Anthropic 擴大並加強了其防禦措施。
「我們的防禦措施已經成功，但這些措施對於 Anthropic 和我們的客戶來說都涉及到權衡。」
Anthropic
新防禦措施的具體實施
Anthropic 現在的防禦措施主要有三個方面，旨在最小化對合法用戶的影響。首先，控制推理的流向，防止蒸餾者利用不同方法提取 Claude 的完整推理記錄。其次，阻止和修補提取嘗試，通過加強安全措施來降低使用 Claude 進行蒸餾的難度。最後，進一步提升識別和阻止蒸餾攻擊的能力，確保這些措施能有效應對各種攻擊方式。
「我們希望這篇文章能幫助開發者和平台更好地理解如何防止這些攻擊。」
Anthropic
這些新措施的實施，雖然需要合法用戶進行一定的整合更新，但 Anthropic 認為這些成本是值得承擔的。隨著蒸餾攻擊的持續增長，強化防禦措施將成為模型開發者必須面對的重要課題。
資料來源：Anthropic 官方公告
