新加坡金融管理局近日發佈首份金融機構人工智能（AI）風險管理指引，要求當地金融機構在 AI 用例投入生產環境之前，需由未參與開發的獨立方進行審查。相關指引將於 2027 年 10 月 7 日生效。
作為新加坡中央銀行及金融業監管機構，新加坡金融管理局指出，儘管 AI 可以改善多個業務和職能領域的表現，其複雜性和概率性也會增加不確定性，並可能產生難以識別的異常或偏差行為。生成式 AI 因模型更加複雜，面臨更高風險，訓練數據噪聲、數據代表性不足以及模型遇到訓練範圍之外的場景，都可能影響輸出。而智能體 AI 則可能進一步放大相關風險。
新加坡金融機構需遵循 AI 風險管理指引
根據指引，金融機構應將 AI 納入現有風險管理框架，並由董事會和高級管理層負責推動實施。部署前的獨立審查需涵蓋底層系統或模型，確認評估、測試等控制措施得到落實，同時還需開展技術和網絡安全審查，確保 AI 能以受控、安全的方式進入生產環境。
AI 系統上線後，金融機構還需持續監測模型表現，以防範數據漂移、模型漂移、性能下降及模型老化。相關要求同樣適用於第三方提供的 AI 產品和服務。監管機構明確指出，第三方服務出現故障不能免除金融機構責任。若風險無法控制在機構可接受範圍內，應考慮限制、暫停或更換相關服務。
此外，金融機構需要維護最新的 AI 應用清單。對於第三方服務未披露 AI 使用情況的情形，也應採取措施管理潛在風險。高風險 AI 應用還須制定應急和替代方案，包括啟用備用系統或人工流程，以保障業務連續性。
