Microsoft 總裁布拉德·史密斯近日表示，人工智能目前受到的監管遠遠不夠，甚至不如牛奶和洗衣機這類普通消費品。他呼籲各國儘快建立全球性的 AI 安全規則，包括要求企業在 AI 系統失控並造成損害時通知受害者、提交事故報告，以及在部分 AI 產品正式發布前接受獨立評估機構的審查。
Microsoft 呼籲全球建立 AI 安全規則
史密斯在接受英國廣播公司採訪時表示，家中洗衣機受到的安全規則都比 AI 更多，雜貨店裡每一盒牛奶都受到安全規則和檢驗的約束。他認為 AI 已經同時具備工具和武器的雙重屬性，無法繼續依賴企業自律來控制風險。
他建議企業為 AI 系統設置緊急制動機制，即業界常說的「終止開關」。一旦 AI 出現失控，或開始執行可能造成嚴重後果的操作，企業應能及時暫停系統運行，或降低其運行速度和權限，以防風險進一步擴大。
史密斯還主張建立強制性的事故報告制度。如果 AI 代理失控並侵入其他系統，或因異常行為對用戶造成損害，相關企業應依法報告事故，並告知受影響的個人或組織。他認為這些措施應成為 AI 安全監管體系的一部分，而不能僅依賴企業自願行動。
此外，史密斯建議，部分高風險 AI 產品在發布前應由政府認可的獨立評估人員審查，以判斷系統是否符合安全要求。這並不意味著所有 AI 產品都要接受同等程度的監管，而是應根據產品能力、使用場景和潛在風險來決定。
在推動國際規則方面，史密斯看好英國的作用。他指出，英國已建立專門研究 AI 安全問題的機構，即人工智能安全研究所，負責研究先進 AI 系統的能力與潛在風險。
史密斯並不完全否定行業自律的價值，但認為僅僅依靠自願承諾已經不夠。他指出，任何自我監管制度都面臨一個根本問題：負責任的企業通常願意遵守安全要求，真正需要擔心的是那些缺乏責任意識、不願主動採取措施的公司。如果只靠自願承諾，守規則的企業可能承擔更多成本，而不願投入資源的競爭者卻可能持續快速擴張。因此，建立具有法律約束力的最低安全標準，有助於確保所有企業都達到基本要求。
他認為，AI 的技術發展速度正在超過現有監管體系的調整速度，已經到了必須採取行動的階段，應當借鑒其他行業的監管經驗，建立適用於 AI 的安全制度，而不是等到嚴重事故發生後才開始討論應對。
