OpenAI 的硬件負責人 Caitlin Kalinowski 最近宣布辭職，原因是她對該公司與美國國防部達成的協議表示擔憂。Kalinowski 在社交媒體平台 X 上發表的帖子中表示，這一決定是因為 OpenAI 最近將其 AI 模型部署於五角大廈的機密雲端網絡。根據她的說法，該公司在未給予內部和公眾足夠時間進行廣泛討論的情況下，便迅速完成了這項安排。
Kalinowski 指出，雖然 AI 在國家安全中可以發揮重要作用，但某些界限需要更加嚴格的審查。她表示，未經司法監管對美國公民的監控，以及在缺乏明確人類授權的情況下發展致命自主系統的問題，應在夥伴關係推進之前進行更多的討論。
在 Kalinowski 辭職後，OpenAI 對其安全措施進行了辯護。這位前硬件負責人表示，她對 OpenAI 首席執行官 Sam Altman 及整個團隊抱有「深厚的尊重」，但認為五角大廈的合作夥伴關係是在尚未明確定義安全措施的情況下宣布的。Kalinowski 在後續帖子中強調：「這首先是治理問題。這些問題太重要，不能急於達成交易或公告。」
在協議宣布的第二天，OpenAI 表示，該合作夥伴關係包括額外的安全措施，以限制其技術的使用。該公司在周六重申，其「紅線」禁止用於國內監控或部署自主武器的應用。OpenAI 在給 Reuters 的聲明中表示，它理解該領域的工作可能引發強烈意見和辯論，並計劃在對話發展的過程中繼續與員工、政府代表、公民社會團體及全球社區進行交流。
就在一周前，OpenAI 揭示了與五角大廈的合作夥伴關係，此前國防部與 Anthropic 的談判失敗，後者希望獲得保障，以防止其 AI 被用於大規模國內監控或完全自主的武器系統。
在公司上週簽署協議後，Altman 解釋道，該合同包含了類似於 Anthropic 談判中爭議的保護措施。這位科技領袖強調，OpenAI 的兩項核心安全原則，即禁止國內大規模監控和確保人類對使用武力的責任，包括在自主武器系統中的責任，已在五角大廈的協議中得以體現。他補充說，國防部同意這些原則，並已在法律和政策中進行編纂，該合同將其付諸實踐。
Altman 在 X 上寫道：「我們還將建立技術保障，以確保我們的模型按預期運行，這也是國防部希望的。我們將部署 FDEs 以幫助我們的模型並確保其安全，我們將僅在雲端網絡上進行部署。」他還表示，該公司正在敦促美國財政部將相同條款擴展到所有 AI 公司，並認為這些條件應在整個行業中被接受。
根據媒體報導，Altman 還在全員會議中告訴員工，政府將允許 OpenAI 開發自己的「安全堆疊」以防止濫用。他強調，如果 AI 模型拒絕執行某項任務，政府不會強迫公司覆蓋該拒絕。
