AI 公司 Anthropic 最近的一項研究發現，即使參與者具備因果推斷的經驗，其決策仍可能顯著受到 AI 智能體的影響，且大多數人未能意識到這種影響。
研究招募了 50 名測試者，要求他們使用 Claude Code 完成統計分析。參與者扮演虛構農業合作社的董事，需要判斷是否擴大或終止一項付費諮詢計劃。最終結論基於四項較小的決策，包括是否對所有成員的農場賦予相同權重，或更多考慮大型農場。參與者均具備因果推斷的經驗，能夠從原始數據中識別相關關係。
AI 對人類決策的影響顯著
測試期間，研究人員預先要求 Claude 在五項決策中分別偏向某個選項，每次的傾向均通過擲硬幣隨機決定。如果 AI 建議沒有影響，參與者選擇與建議一致的比例預計約為 50%。實際結果顯示，參與者有 86% 的時間採納了 Claude 的建議。當參與者已有初步判斷，而 Claude 提出相反建議時，他們在 60% 的情況下改變了決定。
研究人員還根據隨機產生的 AI 建議建立統計模型，該模型能夠準確預測 82% 的最終結果。Anthropic 稱，這意味著研究人員在任務開始前，僅依據擲硬幣結果，就能大致預測分析人員將提出什麼建議。
後續調查顯示，77% 的參與者在解釋決策依據時復述了 Claude 提供的邏輯，部分表述幾乎完全相同，但只有 15% 的人承認 AI 影響了自己的判斷。共有 6 人識別出實驗旨在衡量 AI 對人類決策的影響，但無人懷疑 AI 輸出由擲硬幣結果決定。
Anthropic 警告，當 AI 智能體應用於醫療、金融、國防以及 AI 安全研究時，系統中任意或未對齊的預設傾向可能進入專家判斷，並影響科研和政策決策。研究人員同時指出，該實驗處於高度受控的環境，參與者雖熟悉因果推斷，但缺乏農業經驗，因此研究結果在現實場景中的適用程度仍需進一步驗證。
