AI 如何重塑民主公民身份及治理方式

人工智慧（AI）正改變民主公民的定義。以下是如何善用它造福社會。每隔幾個世紀，資訊傳播方式的改變就會重塑社會治理結構。印刷術傳播 vernacular 識字率，有助於宗教改革興起，並最終促成代議制政府。電報使管理像美國這樣廣袤國家成為可能，加速現代官僚國家的成長。廣播媒體創造共享全國觀眾，從而推動大眾民主。我們現在正處於另一場此類變革的早期階段。比許多人意識到的更快，AI 正在成為我們形成信念並參與民主自治的主要介面。

若不加以控制，這場變革可能進一步削弱美國本已脆弱的制度。但它亦可幫助解決長期問題，如公民參與度滯後及極化加劇。接下來發生的事取決於已然在進行的設計選擇，無論我們是否知情。 從所謂的認知層開始——我們如何獲知事物。人們越來越依賴 AI 來了解真相、發生何事及誰可信任。搜尋已大幅由 AI 介導。下一代 AI 助手將綜合資訊、框定它並具權威性呈現。對越來越多的人而言，向 AI 提問將成為形成對候選人、政策或公眾人物看法的預設方式。

誰控制這些模型的說法，就擁有越來越大的影響力，決定人們相信什麼。 科技一直塑造公民與資訊互動方式。但個人 AI 代理即將帶來新問題，不僅改變人們接收資訊的方式，還改變他們行動的方式。這些系統將進行研究、起草通訊、強調議題，並代表用戶遊說。它們將告知如選票措施投票、值得支持的組織，或回應政府通知等決定。在有意義的層面上，它們開始介導個人與治理機構的關係。

AI 代理的集體影響

我們已在社交媒體上見識到，當演算法優化參與度而非理解時會發生什麼。平台無需明確政治議程，即可產生極化及激進化。一個了解你偏好及焦慮、旨在保持你參與的代理，帶來相同風險。而且在此情況下，風險可能更難察覺，因為代理呈現為你的倡導者。它代表你說話、替你行動，並可能透過這種親密性贏得信任。 現在放大到集體層面。AI 代理與人類很快可能參與相同論壇，難以分辨。即使每個個人 AI 代理設計良好並符合用戶利益，數百萬代理的互動可能產生無人想要或選擇的結果。

例如，研究顯示無個體偏見的代理仍可在規模上產生集體偏見。撇開代理間互動，它們為用戶所做之事亦然。一個每個人都擁有個人化代理、調適既有觀點的公共領域，在總體上並非公共領域。它是私人世界的集合，每個內部一致，但集體上不適合民主所需的共享審議。 綜合而言，這三項轉變——我們如何認知、行動及參與集體治理——構成公民質感的根本改變。近期，人們將透過 AI 過濾形成政治觀點，透過 AI 代理行使公民能動性，並參與由數百萬此類代理互動塑造的機構及公共討論。

今日民主尚未準備好。我們的制度設計用於權力可見行使、資訊傳播緩慢可爭辯、現實感覺更共享（縱使不完美）的世界。這一切在生成式 AI 出現前已然鬆動。 然而，這不必是衰退故事。避免此結果需設計更好方案。在資訊層，AI 公司須加強現有努力，確保模型輸出真實。它們亦應探索早期發現，即 AI 模型可幫助減低極化。最近對 X 平台 AI 生成事實查核的實地評估顯示，各政治觀點人士認為 AI 撰寫註解比人類撰寫更有幫助。

該論文尚未經同行評審，但這是潛在革命性發現：AI 輔助事實查核或許能達成多數人工努力未能實現的跨黨派公信力。對模型如何主張及優先來源的更大理解與透明度，可進一步建立公眾信任。 在代理層，我們需評估 AI 代理是否忠實代表用戶。代理絕不可有自身議程或誤傳用戶觀點——這在用戶未明確陳述偏好領域是技術挑戰。但忠實代表亦不可助長動機推理。一個拒絕呈現不適資訊、屏蔽用戶質疑既有信念或未能調整心意變化的代理，並非為其最佳利益行事。

最後，在制度層，政策制定者應加速善用 AI 潛力，使治理更回應及合法。數州及地方已使用 AI 介導平台在大規模進行民主審議，建基於研究顯示 AI 調解者可助公民尋找共同點。隨著代理成為公共輸入程序常見參與者——已有證據顯示機械人扭曲這些程序——人類及其代理的身份驗證須從一開始建置。所需是一代新民主基礎設施，技術及制度並重，適合現實世界。若不在此關鍵領域設計民主結果，即意味設計其他事物。

而無責權力的歷史並不樂觀那「其他事物」傾向為何。Andrew Sorota 及 Josh Hendler 在 Eric Schmidt 辦公室領導 AI 與民主工作。獨家對話 OpenAI 首席科學家 Jakub Pachocki，談其公司新宏大挑戰及 AI 未來。獨家：Niantic 的 AI 分拆公司使用玩家眾包的 300 億張城市地標圖像訓練新世界模型。

根據 Stanford 的 2026 AI Index，AI 正飛馳，我們難以跟上。Axiom Math 免費提供強大新 AI 工具。但能否如公司期望加速研究，仍待觀察。發掘特別優惠、頭條故事、即將活動等。我們難以儲存你的偏好。試刷新頁面再更新一次。若持續收到此訊息，請電郵 [email protected] 列出你想接收的新聞通訊。