Anthropic 的 Frontier Red Team 最近發表的研究顯示，小型人工智能模型可能在數月內便能複製並在不安全的設備上擴散，從而形成緩慢但難以根除的自主機器人網絡。人工智能公司並不陌生於利用其產品的末日潛力進行市場推廣，但在這種情況下，Engadget 所訪問的專家普遍同意，小型人工智能模型在不久的將來可能具備自我複製的能力。然而，它們所構成的實際威脅可能並沒有看起來那麼新穎。
EquiStamp 的首席執行官 Chris Canal 表示：「這可能比我原本預測的時間稍早。我本預測明年夏季會是我真正擔心這一問題的時期。」他補充道：「Anthropic 很可能擁有我無法接觸到的前沿研究資訊，因此他們的預測可能更準確。」
Canal 將模型進步的速度歸因於 Anthropic 及其他前沿實驗室的員工正在使用自己的人工智能工具進行機器學習研究。喬治亞理工學院網絡安全與私隱學院教授 Michael Bailey 說：「我認為自我複製的模型在未來是可能實現的。我認為它們是真實存在的，我們將會看到它們。」不過，他表示這些模型的具體形式和影響仍然是完全開放的問題。Bailey 自 2000 年代初以來一直在研究互聯網蠕蟲，最近則研究機器人網絡。
他在 2017 年共同撰寫了《Understanding the Mirai Botnet》，該研究被 Anthropic 引用作其自身研究的一部分。Mirai 使一羣網絡犯罪分子能夠創建一個大型物聯網設備機器人網絡，隨後用來對 SONY 的 PlayStation Network 進行 DDoS 攻擊，最終影響了美國最大的 DNS 供應商之一 Dyn，導致 2016 年互聯網大部分癱瘓，許多美國和部分歐洲的用戶無法上網。
小型人工智能模型的自我複製能力將成為未來的威脅
這次攻擊的財務損失相當可觀，SONY 估計其淨收入損失約達 270 萬美元。Bailey 表示：「Mirai 展示了可以使用日常設備如電纜路由器和 IP 鏡頭組成這些機器人網絡，並使其具備實用性。我們曾認為這些設備對於對手並無用處，無論是作為目標還是作為發動攻擊的計算來源。事實上，它們在這方面非常有效。」十年之後，Anthropic 認為人工智能蠕蟲可能代表 Mirai 和其他硬編碼機器人網絡（如 Kimwolf）的重要演變，因為它們能夠自行識別不熟悉的設備。
Bailey 說，適應性本身並不新穎，Mirai 已經能在不同架構的「異構」設備上運作。然而，這種適應性是有限的：每種新架構至少需要人工進行重新編譯惡意軟件。Bailey 指出，人工智能自動化這一工作的前景才是新的，儘管他認為 Anthropic 的示範並不「引人注目」。
因此，Bailey 建議更強大的人工智能模型將「重新分配」創建機器人網絡的工作。Bailey 說：「它不會做新的事情，而是將改變攻擊者和防禦者之間的經濟學。」雖然 Anthropic 展示了一個模型可以在設備之間跳躍並在每個設備上設置推理，但這是在一個模擬的網絡中進行的，其中涉及的「利用」相對簡單。此外，Bailey 對 Anthropic 的自我複製聲明表示異議。
他表示：「這種描述有些不準確，因為它們正在進行分片等操作。這並不是壞事，但並不意味著它就像蠕蟲或病毒那樣進行完全的傳播。」相反，Bailey 認為，現實中的人工智能機器人網絡可能更像是一種安裝器，一種在設備上獲取立足點並安裝其他代碼的惡意軟件。這種機器人網絡不會將自己完整地複製到每一台受感染的機器上，而是會安裝一個小型協調工具，該工具從網絡中的其他部分接受指令。
Bailey 說：「惡意軟件本身自我複製，就像現有的互聯網蠕蟲一樣，我會將我的代碼的精確副本複製到新的架構上並開始運行新的代理，這並不是這裡所發生的事情。」他還指出，蠕蟲可以是多形態的，意味著它們可以改變自己的簽名和行為。要讓人工智能機器人網絡做到這一點，需要重新訓練自己的模型，而這一點 Anthropic 並未嘗試。距離近似的，Anthropic 顯示了模型的副本可以向其後繼者傳遞資訊，並在設置推理的過程中變得更加出色。
正如任何來自人工智能實驗室的警告一樣，值得問的是，Anthropic 是否發佈這項研究作為一種市場推廣，特別是在該公司在此後不久正式提交 IPO 之際。Canal 表示：「我認為更有可能的是，這些公司擔心其他人工智能公司會不負責任。他們意識到他們被激勵去製作最佳模型並更快地將其推向市場，以便能佔有市場份額，而他們知道其他公司也有同樣的激勵。」
無論這種新型威脅向量是否真的是一種蠕蟲，以及它實際上可能在未來的時間框架如何，Anthropic 自身的建議來減輕其危害卻顯得出乎意料地老套。它建議互聯網服務提供商通知客戶其設備被感染，然後限制他們的網絡訪問至一個安全網站的短列表，這一策略在 Mirai 期間得到了良好效果。該公司還建議監管作為潛在解決方案，指向英國，該國現在禁止物聯網設備上易於猜測的默認密碼，這一做法根據 PSTI 法案實施。
對此，Bailey 認為對人工智能蠕蟲的適當反應「看起來更像是我們在系統安全領域長期以來所做的，而不是某種特別獨特於人工智能領域的東西。」事實上，根據 Canal 的說法，對於一個開放權重模型而言，增加防護措施以防止其作為蠕蟲行動將是困難的。他表示：「有很多想法，但到目前為止沒有什麼是穩健的。」在與非營利 AI 安全研究機構 FAR.AI 的合作中，EquiStamp 發現「基本上任何你在 Google 上搜尋的去除模型防護措施的策略都是有效的。」
但正如 Bailey 指出，「即使是行為不當的代理，若面對強化的設備也會遇到困難。」如果從 Anthropic 的研究中有一個重點，他表示，那就是我們始終未能記住過去所學到的所有安全教訓。在人工智能蠕蟲的時代，安全可能看起來與現在相似。「這看起來像是關注修補這些設備、關注隔離、關注良好的密碼和良好衞生的問題。」Bailey 說。這些解決方案易於描述，但實施起來卻極其困難，但如果人工智能確實使這類攻擊變得更為普遍，我們可能別無選擇。
