韓國報告指出陪伴型 AI 可能誘導青少年情感依賴 需加強設計層面監管

韓國國會立法調查處於 7 月 21 日發布的報告指出，人工智能聊天機器人可能透過設計誘導青少年產生情感依賴，現行以有害內容阻斷為主的監管模式難以應對，因此需要從設計結構層面進行規範。報告中提到，人工智能聊天機器人能夠記憶對話上下文與用户偏好，以自然共情的方式回應，且不表現疲勞感，隨時提供即時回覆，這類型的機器人被稱為「陪伴型 AI」。然而，這種特性容易與企業追求用户停留時間和再訪的盈利設計結合，通過重複提問、推送通知等方式誘導使用者產生成癮性行為。

韓國需要針對人工智能聊天機器人進行結構性監管

未成年人因其自控力和批判性思維能力不足，更容易受到影響。韓國國會立法調查處分析指出，以 Zeta、Crack、BarbieChat 等為代表的角色對話服務，允許用户設定角色、世界觀和關係，持續累積親密感，可能會加強情感沉浸。這種依賴可能引發認知扭曲、社會孤立及安全隱患。若用户習慣於 AI 的無條件認同，則其現實人際關係可能會減少，且更容易接受有害信息、模仿危險行為或洩露個人信息。

根據韓國綠傘兒童基金會於 4 月對 3300 名 14 歲以上青少年的調查，94.4%的受訪者曾經使用過人工智能聊天機器人，其中 75.3%曾將 AI 回應付諸行動或認真考慮。當前多國已經正式實施針對未成年人保護的 AI 聊天機器人監管政策，但韓國現行法律體系尚未涵蓋人工智能聊天機器人的結構性風險，相關法律僅集中於事後處置，例如刪除、屏蔽帖子及有害媒介內容。