Anthropic 高管警告開源 AI 模型存在更高風險 強調需謹慎對待安全問題

Anthropic 的國際業務負責人紀堯姆·普林森(Guillaume Princen)在都柏林舉行的國際 AI 峯會上接受彭博電視訪問時表示,與該公司自家的 AI 模型相比,開放模型在網絡安全事件或其他危險方面存在「更高風險」。他指出,對於安全問題,必須對開源模型格外謹慎,並強調無法代表開放模型發表看法,但從定義上來看,這些模型的風險的確較高。

這一表態背景是,Anthropic 在部分國家正面臨日益激烈的競爭。當前受到關注的閉源模型替代方案為開放權重 AI 模型,這類模型會公開參數,允許用戶自行修改,並可在自己的硬件上運行。支持者認為,相較於 Anthropic 和 OpenAI 提供的嚴格受控的閉源模型,開放權重模型的成本更低,且更有利於維護國家主權。法國 AI 公司 Mistral AI 近期便推出了一款開放權重模型,為歐洲提供了主權模型的替代選項;同時,中國公司推出的一系列類似開放模型也在海外市場獲得越來越多的關注。

Anthropic 對開放模型的安全擔憂持續增加

Anthropic 近期不斷加強對 AI 能力的警告。本週早些時候,該公司警告小型 AI 模型可能很快催生一種新型僵屍網絡,能夠在智能烤箱等聯網的小型設備之間自我複製。普林森同時負責 Anthropic 面向創業公司和「數字原生」企業的銷售業務。他表示,對開放權重模型的擔憂源於 Anthropic 為保障產品安全所做的努力。在發生多起備受關注的 AI 黑客事件後,Anthropic 表示已增加額外的安全防護措施,以防止其模型被用於惡意行為。

該公司還一直主張,在建立國際標準、形成統一的評估機制之前,應放緩 AI 的發展步伐。

談及自家價格較高的模型時,普林森指出,他會告訴企業客戶,購買性能更強的模型最終會帶來回報。「要始終投資前沿技術。因為從現在起的六個月、一年或兩年後,這類應用場景的使用成本也會下降。」他表示。此外,他提到,公司最新的 Claude 模型 Opus 5.5 比此前的版本便宜 40%。他還補充說,購買 Anthropic「前沿」模型的企業客戶在公司業務中佔據「非常大的比重」,但沒有透露具體數據。

關於 Anthropic 的 IPO 計劃,普林森拒絕置評;對於公司在訓練新模型上投入了多少資金,他也不願透露。

Henderson
Henderson

Henderson 是 TechRitual Hong Kong 科技編輯,專注報導智能手機、消費電子產品、SIM 卡及流動通訊市場。自加入 TechRitual 以來,累計撰寫數千篇科技報導及產品評測,內容同步發佈至 SINA 及 Yahoo Tech 等主要平台。

友情網站:國際版 / TechRitual WorldThe Base Principle(AI・工程)