知情人士透露,Elon Musk 的 SpaceX 及全資子公司 xAI 正在參加一項保密的五角大樓新競賽,旨在研發語音控制的自主無人機群技術。Elon Musk 於本月稍早宣布將合併的這兩家公司進入人工智能(AI)賦能武器研發這一新的前沿領域,標誌著其業務的一次重大轉型,這一轉向可能引發爭議。
雖然 SpaceX 已是成熟的國防承包商,且 Elon Musk 對推進 AI 充滿熱情,但他此前也曾是反對製造「新型殺人工具」的主要人士之一。據要求匿名的知情人士透露,在 1 月份啟動的這項獎金 1 億美元的挑戰賽中,僅少數幾家公司入選參賽,Elon Musk 的公司也在其中。
這項為期六個月的競賽旨在研發先進的蜂群技術,能夠將語音指令轉化為數字指令並驅動多架無人機。儘管目前已經可以同時飛行多架無人機,但開發出一套能指揮海空多棲無人機群 —— 能夠自主追蹤目標 —— 的軟件仍然是個挑戰。知情人士表示,競賽將根據參與者的成果和興趣分階段推進。
這項五角大樓競賽由致力於引進矽谷初創企業的國防創新小組(DIU)和國防自主作戰小組(DAWG)聯合啟動。DAWG 是特朗普第二任政府下屬的新機構,隸屬於美國特種作戰司令部。DAWG 在某種程度上延續了拜登時代的複製者(Replicator)計劃,該計劃擬生產數千架可消耗自主無人機。
該項目將分五個階段進行,從軟件開發開始,逐步過渡到實地測試。一位國防官員在 1 月競賽公告中表明這些無人機將用於攻擊目的,表示人機交互「將直接影響這些系統的殺傷力和有效性」。
xAI 公司網站顯示,該公司近期已開始大舉招聘,目標是招募來自華盛頓或西海岸、擁有「秘密」或「絕密」級別有效美國安全審查許可的工程師,以便與聯邦承包商合作。xAI 在一份招聘公告中稱,正在尋找與「政府機構、國防部或聯邦承包商在 AI、軟件或數據項目上」有合作經驗的軟件工程師,並稱招聘流程將在一周內完成。
Elon Musk 之前曾主張禁止研發攻擊性自主武器,這類武器能夠自行選擇並攻擊目標,超出了實質性人類控制。
2015 年,Elon Musk 簽署了一封由 AI 和機器人領域研究人員發起的公開信,警告自主武器帶來的危險。在合併 SpaceX 和 xAI 兩家公司時,Elon Musk 並未談及將利用 AI 提供支撐新型武器技術的軟件,但這項由 xAI 和 SpaceX 工程師及管理人員共同參與的五角大樓新任務正是朝這個方向推進。
多名知情人士透露,儘管五角大樓急於加速 AI 和自主技術的應用,但在武器平台上集成聊天機器人和語音轉文本指令的前景甚至令一些國防官員感到不安。他們表示,將生成式 AI 的用途限制在翻譯領域、不允許其控制無人機行為至關重要。
其中幾位人士表達了擔憂:如果生成式 AI 在沒有人的回路(human in the loop)的情況下被用於將語音轉化為作戰決策,將會帶來風險。
與此同時,由於對 AI 行業一系列其他倫理問題存疑,部分大型實驗室的員工已離職,而領先的生成式 AI 公司正極力尋求創收,以支持持續的研發。