Anthropic 本週表示，由於其最新模型 Mythos 能夠有效找出全球用戶所依賴的軟件中的安全漏洞，因此限制了其發佈。與其將 Mythos 公開，這間前沿實驗室將其分享給幾家大型企業及機構，這些機構負責關鍵的在線基礎設施，包括 Amazon Web Services 及 JPMorgan Chase。據報導，OpenAI 也在考慮為其下一款網絡安全工具採取類似計畫。
這項策略的表面目的在於讓這些大型企業能夠提前防範可能利用先進的 LLM 進行安全滲透的壞人。然而，文中所提及的「e」字，暗示這一發佈策略可能不僅僅與網絡安全相關，還可能涉及模型能力的宣傳。AI 網絡安全實驗室 Irregular 的 CEO Dan Lahav 在 Mythos 發佈前曾告訴 TechCrunch，儘管 AI 工具發現漏洞的重要性不容忽視，但任何漏洞對攻擊者的具體價值取決於多種因素，包括這些漏洞如何能夠組合使用。
Lahav 表示：「我心中始終有一個問題，那就是他們是否發現了某些可以以非常有意義的方式被利用的東西，無論是單獨存在，還是作為一個鏈的一部分？」Anthropic 表示，Mythos 能夠比其前一個模型 Opus 更有效地利用漏洞。然而，尚不清楚 Mythos 是否真的能成為網絡安全模型的終極解答。
AI 網絡安全初創公司 Aisle 表示，他們能夠利用較小的開放權重模型複製出 Anthropic 所聲稱的 Mythos 的許多功能。Aisle 的團隊認為，這些結果顯示並不存在單一的深度學習模型適用於所有網絡安全任務，而是依賴於具體的任務需求。考慮到 Opus 已被認為是網絡安全的重大進展，前沿實驗室可能希望將其發佈限制在大型組織的另一個原因是：這為大型企業合同創造了良性循環，同時讓競爭對手更難利用蒸餾技術來複製其模型。
軟件工程師及初創公司 exe.dev 的 CEO David Crawshaw 在社交媒體上表示：「這是一種市場營銷掩護，事實是頂端模型現在受到企業協議的限制，無法再被小型實驗室蒸餾。」他補充說：「當你我能夠使用 Mythos 時，將會有一個新的頂端版本僅限企業使用。這種壓力幫助企業資金持續流入（這是主要的資金來源），同時將蒸餾公司降級為第二梯隊。」
這種分析與當前 AI 生態系統的情況相符：前沿實驗室在開發最大的、最強大的模型方面的競賽，與像 Aisle 這樣的公司進行競爭，後者依賴多個模型，並將開源 LLM（通常來自中國，且據稱通過蒸餾開發）視為經濟優勢的途徑。今年，前沿實驗室對蒸餾採取了更嚴厲的立場，Anthropic 公開表示其模型遭遇中國企業的模仿，並且三家領先實驗室——Anthropic、Google 和 OpenAI——也聯手識別並阻止蒸餾者，根據彭博社的報導。
蒸餾對前沿實驗室的商業模式構成威脅，因為它消除了使用大量資本擴展所帶來的優勢。因此，阻止蒸餾無疑是一項值得投入的工作，而這種選擇性發佈的方式也讓實驗室能夠在企業產品中進行區分，因為這一類別正成為獲利部署的關鍵。無論 Mythos 或任何新模型是否真正威脅到互聯網的安全，謹慎地推進這項技術都是負責任的做法。
在截稿前，Anthropic 尚未回應我們有關此決定是否與蒸餾問題相關的提問，但該公司可能已找到一種聰明的方法來保護互聯網及其盈利模式。
