一個由主要科技公司組成的聯盟最近啟動了一項新計劃，旨在應對由先進人工智能驅動的日益嚴重的網絡安全威脅。這項名為 Project Glasswing 的努力，聚集了包括 Amazon Web Services、Anthropic、Apple、Google、Microsoft、NVIDIA 等公司的力量。該小組的目標是保護關鍵的軟件系統，因為人工智能模型開始在識別和利用漏洞方面超越大多數人類。
這一公告是在對 Anthropic 的一個新模型 Claude Mythos Preview 進行內部測試後發布的，該模型已顯示出能夠發現廣泛使用系統中的數千個嚴重軟件缺陷。Anthropic 及其合作夥伴表示，這一模型標誌著網絡安全的一個轉折點。Claude Mythos Preview 已經在主要操作系統和網頁瀏覽器中識別出高嚴重性的漏洞。Claude Mythos2 Preview 是一個通用的、尚未發佈的前沿模型，顯示出一個明確的事實：人工智能模型的編碼能力已經達到超越除最熟練人類外的其他人的水平，能夠找到並利用軟件漏洞。
這些公司警告稱，這些能力可能很快會超越受控環境，這一變化可能會降低網絡攻擊的門檻，並增加其規模和複雜性。考慮到人工智能的進步速度，這些能力不久將會擴散，可能超出那些致力於安全部署的行為者。相關的風險相當重大，網絡犯罪每年已經為全球經濟帶來數千億美元的損失。對醫院、基礎設施和政府系統的攻擊持續上升。
Project Glasswing 將利用人工智能進行防禦性攻擊。參與的機構將部署該模型來掃描、測試和保護其系統。這是一項迫切的嘗試，旨在將這些能力用於防禦目的。這一計劃還包括超過 40 家維護關鍵基礎設施和開源軟件的組織。Anthropic 已承諾提供高達 1 億美元的使用信用來支持這項工作，重點將放在漏洞檢測、滲透測試、終端安全和軟件加固上。
隨著前沿人工智能能力的快速發展，該計劃反映出越來越多的擔憂，即如果防禦措施不迅速演變，人工智能可能會使攻擊者占據優勢。對於網絡防禦者來說，若希望保持優勢，必須立即行動。Anthropic 計劃在 90 天內公佈發現，報告將詳細說明已修復的漏洞及披露可能的經驗教訓。該計劃還包括對開源安全團體的資金支持和與政府機構的合作。美國官員已經開始與 Anthropic 交流該模型的影響。
展望未來，合作夥伴們建議需要更廣泛的協調，並構想建立一個潛在的獨立機構來指導人工智能時代的長期網絡安全標準。今天的公告是更長期努力的開始，成功的關鍵在於需要技術行業及更廣泛範圍的廣泛參與。
