Anthropic 官方宣布，已開始與非營利機構 METR 合作，為其人工智能模型提供員工級別的訪問權限，以進行更強有力的獨立評估。這一舉措是該公司上個月承諾加強模型及安全實踐的獨立第三方評估的一部分。
與獨立評估者合作的原因
隨著模型的能力不斷增強，對於安全防範措施和風險評估的要求也隨之提高。Anthropic 表示，他們希望對所做的決策負責，但無法公開分享所有與安全工作相關的信息，因為某些信息可能會被惡意行為者利用，或是商業上敏感的數據。
「我們希望縮小評估者對前沿人工智能公司系統的理解與公司自身理解之間的差距。」
Anthropic
METR 的角色及評估方式
METR 將負責評估 Anthropic 的風險報告，並公開其風險評估結果。Anthropic 已經與 METR 合作進行了多次風險報告的審查，並計劃進一步加強與其他評估機構的合作，包括 SecureBio 和 Accenture。
「我們的目標是確保我們的合作夥伴能夠保護機密信息，並具備評估我們模型所需的資源和專業知識。」
Anthropic
評估者的訪問級別及其影響
Anthropic 計劃為評估者設置三個訪問級別，隨著合作的深入，將逐步提升對評估者的信息訪問權限。第一級的評估者將進行狹義的風險調查，而第二級的評估者則可以在不需公司批准的情況下發表結果。METR 的合作屬於第三級，享有類似員工的訪問權限。
「我們相信每個前沿人工智能公司都應該採取類似的嵌入式評估措施。」
Anthropic
這一系列措施標誌著 Anthropic 在人工智能安全監管方面邁出了重要一步，旨在加強對其模型的透明度和責任感。
資料來源：Anthropic 官方公告
