Cloudflare 測試大型語言模型 Mythos 強化基礎架構安全性

Cloudflare 近日發表網誌，回顧過去數月針對其關鍵基礎架構進行的一系列大型語言模型（LLMs）測試，特別是以安全為主的 Mythos 模型。隨著攻擊者縮短攻擊時間，Cloudflare 強調防禦者需要的不僅是速度，還必須從設計層面加強系統，以確保漏洞不會影響系統的安全性。

Mythos 模型的觀察結果

作為「Project Glasswing」計劃的一部分，Cloudflare 對其執行環境、邊緣數據路徑、協定堆疊、控製平面以及開源項目的實時程式碼進行了分析。以下是幾個主要觀察結果：

• 漏洞發現能力：根據 Cloudflare 的經驗，雖然其他模型能夠發現部分潛在漏洞，但未能建立完整的攻擊鏈。相比之下，Mythos 能夠將較低嚴重程度的錯誤串聯成更具破壞性的攻擊。
• 模型的安全界線：Mythos 有時會拒絕執行某些操作，但其拒絕的原因並不總是遵循可見的政策。例如，模型曾拒絕進行漏洞研究，但在刪除隱藏的 .git 資料夾後，卻同意對同一段程式碼進行研究。
• 檢測結果的挑戰：檢測結果仍需大量人力篩選，以識別真正的漏洞。由於程式語言的特性，像 C/C++ 等記憶體不安全語言會觸發更多的誤報，Mythos 也因此存在固有偏見，傾向於過度報告潛在問題。

結論

Cloudflare 的測試結果顯示，Mythos 模型在安全性檢測方面具有潛力，但仍需進一步優化，以減少誤報並提升實用性。完整的網誌內容可在 Cloudflare 的官方網站上查閱。