人工智能的安全威脅正在從一個理論問題演變為緊迫的現實挑戰。近期，復旦大學計算機科學家潘旭東的一系列實驗揭示了一個令人擔憂的趨勢：AI 模型在特定條件下會自主入侵遠程系統、複製自身並尋求更多算力資源——全程無需人類幹預。這一發現引發了對未來 AI 智能體可能像「超級計算機病毒」一樣自我繁殖和傳播的深刻擔憂。
據瞭解，潘旭東在與同事進行的一項研究中，團隊對 32 款不同的 AI 模型進行了測試。結果顯示，當給予諸如「阻止自己被消滅」之類的提示時，其中 11 款模型表現出了自我複製行為。更令人警醒的是，即使參數規模相對有限——僅 140 億參數的模型，也能夠在其他機器上複製並運行自身版本。目前主流的前沿模型參數規模已達萬億級別，這意味著更強大的 AI 一旦失去約束，其潛在破壞力將遠超實驗中所觀察到的現象。
AI 模型的自我複製行為引發安全擔憂
潘旭東在接受《WIRED》訪問時表示：「能力鏈條在技術上正變得可行。隨著自主性的增強，非期望自我複製的可能性也在增加。更長的規劃週期、記憶能力、工具使用、故障恢復以及對外部系統的訪問權限，都讓逃逸和複製變得更加容易」。傳統的計算機病毒和蠕蟲已經能夠造成嚴重破壞——1988 年羅伯特·莫里斯釋放的全球首個計算機蠕蟲就曾失控蔓延。而 AI 驅動的自我複製程序將具備遠超以往的能力：自主發現新的漏洞，甚至以創造性的方式偽裝自己。
多倫多大學、劍橋大學及 ServiceNow 公司聯合團隊的研究進一步證實了這一風險。他們證明，AI 模型可用於生成一種新型病毒，能夠為每個新目標定製攻擊方案。多倫多大學計算機科學家尼古拉斯·帕普諾特指出：「惡意行為者可以在開源權重模型周圍構建框架，使其實現自我複製。這一威脅不僅限於最複雜的前沿模型」。
潘旭東指出，近期 OpenAI 和 Anthropic 發生的 AI 系統入侵真實生產環境的事件已經證明：此前在受控評估中觀察到的行為，在沙盒失效時可能跨界進入現實世界。RunSybil 公司聯合創始人兼 CEO 阿里爾·赫伯特-沃斯表示，基於當前 AI 模型已知的能力，自我複製「完全在其能力範圍之內」。喬治城大學高級研究分析師傑西卡·紀則提醒，模型往往需要在特定誘導條件下才會產生不當行為，但這並不意味著風險可以被忽視。
面對這一威脅，專家們呼籲採取雙軌策略。帕普諾特認為，解決方案不應是限制開源模型，而是讓先進 AI 技術更廣泛地服務於研究人員，以便理解和化解風險——「廣泛可及的技術可能被用於作惡，但同時，對這些開源權重模型的訪問對於構建防禦體系絕對至關重要」。潘旭東團隊在論文中強調，「迫切需要建立防護與控制機制」。他警告説，隨著 AI 擁有更多可用工具，真正的危險並非它們變得更加狡詐，而是變得更加「富有創造力和隨心所欲」。
