Anthropic 官方宣布，該公司對開放權重模型的立場並不支持禁止使用這類模型，特別是針對來自中國的開放權重模型。Anthropic 首席執行官 Dario Amodei 表示，近期有關開放權重模型的討論日益增多，並指出某些美國官員考慮禁止美國公司使用中國的開放權重模型。他強調，Anthropic 從未主張禁止開放權重模型。
Anthropic 的立場明確不支持禁止開放權重模型
Dario Amodei 在公告中指出，開放權重模型如果不具備危險能力，則是公共利益，因為它們不需要額外成本，並能為企業、開發者和研究人員提供價值。他強調：「Anthropic 從未主張禁止開放權重模型。」（”Anthropic has never advocated for a ban on open-weights models.”）
對國家安全的擔憂與開放權重模型的風險
Amodei 表示，他對開放權重模型的主要擔憂在於，威權政府可能會利用這些模型來達成軍事優勢或壓制其人民。他提到：「我主要擔心的是威權政府——不僅僅是中國共產黨（CCP），雖然 CCP 明顯是最具威脅的。」（”My primary concern is the risk that authoritarian governments—not solely the Chinese Communist Party (CCP), although the CCP is clearly the most capable threat…”）
此外，Amodei 也提到，強大的 AI 模型可能被濫用來進行網絡攻擊或生物攻擊，並可能存在嚴重的對齊問題。他指出，開放權重模型的風險在於難以對其進行監控，並且一旦權重被釋放，就無法撤回。
Anthropic 提出的應對措施
為了應對這些擔憂，Amodei 提出了三項措施：首先，不應向中國出售強大的晶片或晶片製造設備；其次，應打擊工業規模的蒸餾操作；最後，所有足夠強大的模型都應進行強制安全測試。他指出：「這是阻止威脅的最有效和直接的方法。」（”This is the most efficient and direct way to block threat #1…”）
「我們沒有並且不會主張禁止開放權重模型作為一個類別。」
Anthropic
Amodei 最後強調，應該專注於保護強大的晶片不被威權政府獲得，停止工業規模的蒸餾，並要求所有足夠強大的模型進行安全測試，而不是簡單地禁止開放權重模型。
資料來源：Anthropic 官方公告
