在嘉興經營生鮮網店的父親，最近三個月內連續遭遇九起「僅退款」事件，這讓在上海工作的陳曉薇感到警覺。今年十月假期，她特意回到老家，仔細查看父親的手機記錄，試圖弄清楚原因。陳曉薇表示，父親的店鋪主打「現摘現發」，已經營五年，每次發貨前都會錄製封箱視頻，清晰記錄柑橘的色澤、果徑和包裝單號。 然而，當她登入網店後台核查時，卻發現這幾起「僅退款」的買家均提供了開箱圖片——箱內的柑橘要麼腐爛變質，要麼干瘪失水，甚至出現虫蛀痕跡。起初，陳父以為是快遞運輸環節出了問題，前幾單均同意退款申請，但隨著類似情況愈演愈烈，他與快遞公司多次溝通未果，最終不得不求助女兒。
陳曉薇回憶道：「我一張一張仔細查看，注意到其中一張圖的角落留有疑似水印的痕跡，像是被裁剪過。」她Lenovo到近期媒體報導的AI修圖「僅退款」現象，懷疑店鋪遭遇了有組織的惡意退款。進行簡單搜索後，陳曉薇發現，利用AI技術篡改圖片、偽造商品質量問題並申請退款的行為已非個例。她隨即向平台提交封箱視頻和疑似AI修改的圖片申訴，卻因「憑證不足」被駁回，平台建議她與買家協商解決。 陳曉薇無奈表示，這類買家通常已將他們拉黑，根本無法聯系。她進一步致電平台客服，對方回覆稱「無法判定圖片是否由AI生成」。由於涉及訂單總金額不足 1,000 元人民幣，未達到詐騙罪立案標準，報警途徑也難以走通。
陳曉薇感嘆，AI生成的水印可以被輕易去除，平台缺乏有效檢測機制，最終受損的往往是像父親這樣誠信經營的小商家。 值得注意的是，國家互聯網信息辦公室於 2025 年 3 月 14 日聯合多部門發佈了《人工智能生成合成內容標識辦法》，明確規定 AI 生成內容需進行強制標識，如文本添加提示符號、圖片視頻嵌入水印等。該辦法於今年 9 月 1 日正式實施。 然而，調查顯示，仍有大量新生成的 AI 內容未按規定添加標識，即便已添加水印，也可通過技術手段輕鬆去除，這使得「強制標識」政策在落地時面臨新挑戰。
有商家透露，圖片去水印操作簡單，有時使用基礎修圖軟件即可完成；視頻去水印則相對複雜，需要一幀一幀修復、校準，但對畫質要求不高的可以直接裁剪去除。 這樣一來，視頻或圖片很容易就擺脫「AI生成」的標籤，達到以假亂真的效果。路磊表示，去除水印後，不僅普通用戶難以辨別，部分專業檢測工具也會失效。與此同時，創作者群體卻面臨「過度標識」的困擾。插畫師李沐陽抱怨道：「我用了 72 個圖層、手繪三萬多筆完成的作品，僅因使用 AI 微調局部光影，就被系統打上‘AI生成’標籤。」 他表示，其作品在社交平台發布後不僅被自動標注，還遭遇流量限制，曝光量不足平日十分之一，甚至收到「用 AI 偷懶」的負面評論。
李沐陽無奈表示，他聯系平台客服，卻被以「系統自動標識」為由拒絕人工干預修正。消費者苦于難以辨識經過篡改的 AI 內容，而創作者則受困於平台的機械化標識機制，AI水印的「強制標識」在兩者之間面臨尷尬。 根據中國通信院發佈的《生成式人工智能產業發展報告（2025）》，2024年中國生成式AI用戶規模已達約 3.8 億人。面對如此龐大的數據量，平台陷入了難以實現「逐一審核」的資源困境。路磊的觀察顯示，像李沐陽所遭遇的「誤判」，主要源於平台普遍采用的AI識別模型，這些模型通過學習海量AI生成內容建立判定標準，但容易將人類創作中的優質特徵誤判為AI產物。
西南政法大學人工智能法學院教授冯子轩指出，人工智能生成的內容涵蓋文本、短視頻、直播、虛擬場景等多元形態，不同場景的技術架構、傳播邏輯差異巨大，單一的技術方案無法適配所有場景。即便采用嵌入代碼的隱式標識，也面臨技術標準不統一的挑戰。 某頭部互聯網公司的AI架構師張曉（化名）透露，不同AI工具生成的隱式標識格式差異巨大，平台難以適配數十種甚至上百種標識規則。在跨平台傳播過程中，標識丟失或無法識別的問題時有發生。張曉還表示，多模態AI識別需要強大的算力支持，企業為控制成本，無法對所有上傳內容進行全面檢測，只能通過抽樣檢查、關鍵詞過濾等方式簡化工作。
因此，平台陷入雙重困境：一方面難以應對每日海量的生成內容，另一方面又必須在「維護創作者體驗與平台流量」和「履行AI生成內容核驗義務」之間平衡。李沐陽認為，當前平台尚未建立完善的申訴機制。他表示：「我可以接受誤判，但不能接受申訴無門。」他多次嘗試與平台溝通，卻始終未能解決問題。 在解決AI亂象的過程中，專家和業內人士普遍認同對AI內容進行強制標識的初衷是合理的，但如何確保AI在「技術向善」的方向上不偏離軌道，提出了各自的見解。北京航空航天大學法學院副教授趙精武指出，強制標識並非解決AI亂象的「萬能鑰匙」，真正需要建立的是覆蓋全鏈條的治理體系。
冯子轩認為，應通過「底線」與「彈性」相結合的方式搭建基礎框架，明確「顯式標識」與「隱式標識」的雙重要求，並通過責任分層機制匹配不同場景。例如，服務提供者承擔「源頭標識義務」，平台履行「核驗補充義務」，並對用戶故意刪除標識的行為明確法律責任。他主張提高違法代價，內容創作者應承擔首要責任，必須依法完成標註。 在規則統籌不足的同時，具體細則也有待進一步明確。冯子轩認為，當前的雙軌標識機制標準模糊，處罰規則不夠清晰，有必要出台更詳盡的執行細則，以強制性國家標準為基礎，確保隱式標識可跨平台追溯與核驗。
陳曉薇回憶道：「我一張一張仔細查看，注意到其中一張圖的角落留有疑似水印的痕跡，像是被裁剪過。」她Lenovo到近期媒體報導的AI修圖「僅退款」現象，懷疑店鋪遭遇了有組織的惡意退款。進行簡單搜索後，陳曉薇發現，利用AI技術篡改圖片、偽造商品質量問題並申請退款的行為已非個例。她隨即向平台提交封箱視頻和疑似AI修改的圖片申訴，卻因「憑證不足」被駁回，平台建議她與買家協商解決。 陳曉薇無奈表示，這類買家通常已將他們拉黑，根本無法聯系。她進一步致電平台客服，對方回覆稱「無法判定圖片是否由AI生成」。由於涉及訂單總金額不足 1,000 元人民幣，未達到詐騙罪立案標準，報警途徑也難以走通。
陳曉薇感嘆，AI生成的水印可以被輕易去除，平台缺乏有效檢測機制，最終受損的往往是像父親這樣誠信經營的小商家。 值得注意的是，國家互聯網信息辦公室於 2025 年 3 月 14 日聯合多部門發佈了《人工智能生成合成內容標識辦法》，明確規定 AI 生成內容需進行強制標識，如文本添加提示符號、圖片視頻嵌入水印等。該辦法於今年 9 月 1 日正式實施。 然而，調查顯示，仍有大量新生成的 AI 內容未按規定添加標識，即便已添加水印，也可通過技術手段輕鬆去除，這使得「強制標識」政策在落地時面臨新挑戰。
水印的去與留
自生成式 AI 技術興起以來，「打假」與「辨真」成為技術發展過程中無法迴避的話題。目前相關規定主要將 AI 內容標識分為顯式和隱式兩種，顯式標識要求以用戶可明顯感知的方式標注 AI 生成內容。獨立 AI 開發者路磊指出，當前爭議主要集中在顯式標識的實施層面。 他提到，主流采用的「水印」方式存在一個致命缺陷，極易被篡改或去除。比如，多數 AI 繪圖工具將水印置於畫面角落，用戶僅需使用手機自帶的裁剪功能，就能在不影響畫面整體效果的情況下輕鬆去除水印。記者調查發現，電商平台上存在大量「圖片視頻去水印」服務，單次收費僅需幾元至十幾元。有商家透露，圖片去水印操作簡單，有時使用基礎修圖軟件即可完成；視頻去水印則相對複雜，需要一幀一幀修復、校準，但對畫質要求不高的可以直接裁剪去除。 這樣一來，視頻或圖片很容易就擺脫「AI生成」的標籤，達到以假亂真的效果。路磊表示，去除水印後，不僅普通用戶難以辨別，部分專業檢測工具也會失效。與此同時，創作者群體卻面臨「過度標識」的困擾。插畫師李沐陽抱怨道：「我用了 72 個圖層、手繪三萬多筆完成的作品，僅因使用 AI 微調局部光影，就被系統打上‘AI生成’標籤。」 他表示，其作品在社交平台發布後不僅被自動標注，還遭遇流量限制，曝光量不足平日十分之一，甚至收到「用 AI 偷懶」的負面評論。
李沐陽無奈表示，他聯系平台客服，卻被以「系統自動標識」為由拒絕人工干預修正。消費者苦于難以辨識經過篡改的 AI 內容，而創作者則受困於平台的機械化標識機制，AI水印的「強制標識」在兩者之間面臨尷尬。 根據中國通信院發佈的《生成式人工智能產業發展報告（2025）》，2024年中國生成式AI用戶規模已達約 3.8 億人。面對如此龐大的數據量，平台陷入了難以實現「逐一審核」的資源困境。路磊的觀察顯示，像李沐陽所遭遇的「誤判」，主要源於平台普遍采用的AI識別模型，這些模型通過學習海量AI生成內容建立判定標準，但容易將人類創作中的優質特徵誤判為AI產物。
西南政法大學人工智能法學院教授冯子轩指出，人工智能生成的內容涵蓋文本、短視頻、直播、虛擬場景等多元形態，不同場景的技術架構、傳播邏輯差異巨大，單一的技術方案無法適配所有場景。即便采用嵌入代碼的隱式標識，也面臨技術標準不統一的挑戰。 某頭部互聯網公司的AI架構師張曉（化名）透露，不同AI工具生成的隱式標識格式差異巨大，平台難以適配數十種甚至上百種標識規則。在跨平台傳播過程中，標識丟失或無法識別的問題時有發生。張曉還表示，多模態AI識別需要強大的算力支持，企業為控制成本，無法對所有上傳內容進行全面檢測，只能通過抽樣檢查、關鍵詞過濾等方式簡化工作。
因此，平台陷入雙重困境：一方面難以應對每日海量的生成內容，另一方面又必須在「維護創作者體驗與平台流量」和「履行AI生成內容核驗義務」之間平衡。李沐陽認為，當前平台尚未建立完善的申訴機制。他表示：「我可以接受誤判，但不能接受申訴無門。」他多次嘗試與平台溝通，卻始終未能解決問題。 在解決AI亂象的過程中，專家和業內人士普遍認同對AI內容進行強制標識的初衷是合理的，但如何確保AI在「技術向善」的方向上不偏離軌道，提出了各自的見解。北京航空航天大學法學院副教授趙精武指出，強制標識並非解決AI亂象的「萬能鑰匙」，真正需要建立的是覆蓋全鏈條的治理體系。
冯子轩認為，應通過「底線」與「彈性」相結合的方式搭建基礎框架，明確「顯式標識」與「隱式標識」的雙重要求，並通過責任分層機制匹配不同場景。例如，服務提供者承擔「源頭標識義務」，平台履行「核驗補充義務」，並對用戶故意刪除標識的行為明確法律責任。他主張提高違法代價，內容創作者應承擔首要責任，必須依法完成標註。 在規則統籌不足的同時，具體細則也有待進一步明確。冯子轩認為，當前的雙軌標識機制標準模糊，處罰規則不夠清晰，有必要出台更詳盡的執行細則，以強制性國家標準為基礎，確保隱式標識可跨平台追溯與核驗。
