Sumsub 亞太區主管陳崇軒：檢視 AI 應用法律配套以應對詐騙風險

Sumsub 亞太區政府事務主管陳崇軒近日分享了對於檢視擴大人工智能（AI）應用所需法律配套的看法，強調香港及全球正面對精密型欺詐的發展趨勢，尤其是深度偽造及合成個人身份資料的案件日益增加。

根據 Sumsub 最新的身分欺詐報告顯示，香港去年的深度偽造案件按年大幅增加 147%，這反映出相關風險正在迅速擴大，並逐漸演變為跨境、跨平台的系統性挑戰。陳崇軒指出，AI 驅動的社交工程技術放大了人為因素帶來的風險，詐騙者透過偽造人像、聲音或身份資料來建立信任，令詐騙手法更加難以識別。

建立明確的規範與指引

陳崇軒強調，企業與用戶對 AI 的使用責任尚未完全清晰，因此需要建立更明確的規範與指引，以釐清責任並加強追蹤機製。他提到，為了在安全與創新之間取得平衡，推動 AI 發展的關鍵在於採取多管齊下的策略，包括加強公私營協作、訂立清晰的監管框架，以及提升公眾對新型詐騙手法的認知。

推進三大策略

• 推動技術與產業發展：促進公共部門、研究機構與科技企業的合作，加快反欺詐技術的創新。例如，香港金融管理局與香港數碼港推出生成式人工智能沙盒，讓銀行及金融機構能在風險可控的環境下開發防禦機製。
• 釐清責任與加強監管框架：隨著 AI 詐騙風險上升，市場對責任問題的關注度也在增加。根據 Sumsub 的調查，47% 消費者認為企業與政府應共同承擔防詐責任。
• 提升公眾意識與能力：加強教育及宣傳，協助企業與市民理解 AI 風險與正確使用方式，提升識別詐騙的能力。

國際合作與共同責任

陳崇軒指出，亞太地區已將反欺詐視為跨界的共同責任，例如澳洲於 2024 年發布《欺詐預防框架法案》，新加坡亦於 2023 年推動『欺詐共同責任框架』。這些措施旨在明確界定各方責任，並在建構整體防禦機製的同時，提升社會對相關風險的認識。

總結來說，政府、監管機構與業界應攜手合作，在可執行的安全框架下推動 AI 發展，以更有效應對不斷變化的詐騙手法，建立長遠的數碼信任。