TikTok 宣佈將進一步加強 AI 生成內容的透明度建設，並擴大對 AI 垃圾內容的打擊範圍，重點整治政治、醫療、金融等敏感領域的虛假和誤導性信息。該公司表示，將在強化用户 AI 認知教育的同時，針對批量傳播相關 AI 垃圾內容的賬號，提升檢測和刪除力度。
TikTok 於 7 月 14 日在亞太地區的一場線上溝通會上公佈了相關新政策和功能。TikTok 全球公共政策團隊 AI 負責人湯姆·瓦爾蓋塞表示，隨著 AI 在內容生產和消費中的作用持續上升，平台需要為用户提供更充分的背景信息、信任基礎和選擇權，讓用户知道何時使用了 AI、正在觀看什麼內容，以及 AI 將在其使用體驗中扮演何種角色。
TikTok 將加強對 AI 生成內容的透明度和治理
據介紹，TikTok 迄今已為超過 30 億條 AI 生成內容添加標籤，這一做法結合了創作者主動標註機制和 C2PA 技術。C2PA 是一項開放技術標準，可通過元數據記錄內容的生成和編輯歷史，用於識別內容是否由 AI 生成及其來源。TikTok 稱，其去年已在視頻平台中率先引入 C2PA，近期還加入了 C2PA 指導委員會。
在用户教育方面，TikTok 宣佈將 AI 素養基金規模從原來的 200 萬美元擴大至 400 萬美元，用於支持專業機構製作 AI 教育內容。該公司表示，自該基金於去年 11 月啟動以來，AI 專家製作的相關教育內容累計播放量已超過 2 億次。與此同時，TikTok 還將在應用內上線「AI 素養中心」，幫助用户瞭解 AI 工具的使用方式，以及如何正確識別和理解 AI 生成內容。
在治理措施上，TikTok 強調將明確區分 AI 輔助創作與 AI 垃圾內容。數據顯示，TikTok 今年第一季度已刪除 8600 萬個虛假賬號。未來幾周，平台還將上線新的檢測系統，重點識別並清理在公共事務、金融建議、醫療信息和歷史災難等領域反覆發布垃圾式 AI 內容的賬號。對於未標註的 AI 內容，TikTok 將按風險等級分類處理：具備高度逼真特徵的 AI 內容必須標註；若系統識別出未標註的 AI 生成內容，可直接補充 AI 標籤；對涉及有害虛假信息、冒充和不當暴露等內容，則無論是否使用 AI
都將刪除。對於未違規但不適合所有用户的內容，平台則可能限制其進入推薦流。
