身為一位專業寫手，我全心支持讓人工智能生成的文本可被檢測並標記為人工智能內容。市面上充斥著大量的人工智能生成文本，若能有標籤標示，便無需浪費時間去閲讀這些內容。然而，Anthropic 最近宣佈將遵循歐盟的倡議，對其人工智能 Claude 生成的文本進行水印標記，卻是以一種相當獨特的方式進行。
目前，Apple 也在為解決人工智能生成影像的問題而準備對應措施，透過一個名為 Apple Reference Image 的功能來進行處理。根據情況，該公司可能也需要對 Siri 的人工智能工具採取類似措施，因為這些工具可用於校對或撰寫內容。雖然目前尚無完美的解決方案，就如我上週提到的，使用隱形字符來作為水印的做法並不理想。歐盟倡議中最引人注目的要求是，人工智能公司必須對文本輸出和影像進行數位水印。
這可以透過使用隱形字符來完成，例如我剛才用來替代「隱形」和「字符」之間空格的字符。這樣的水印能夠在複製和粘貼時存活，但透過光學字符識別技術則很容易被破解。
Anthropic 對人工智能文本的獨特水印策略
我提到的 Anthropic 的獨特做法，建議該公司可能會採取不同的策略。一些人提出，Anthropic 可能會在 Claude 的輸出中使用特定的語言模式，以便即使經過光學字符識別後也能進行檢測。關於這一點我有許多想法，但這超出了本文的範疇。如今，看來該公司確實在這方面有所行動，因此我有必要發表我的看法！問題不在於 Claude 會在完全由人工智能生成的文本中嵌入這些語言模式；我對此並無異議。
問題在於，有些人會撰寫自己的文本，然後利用人工智能聊天機器人進行校對。看來 Claude 會在這種情況下嵌入隱藏水印，即使它僅僅是被要求識別並修正人類所寫作品中的語法錯誤。
這當然是 Siri 人工智能所提供的功能之一。用户可以突出顯示自己撰寫的文本，按下 Siri 按鈕並選擇校對選項。誠然，我自己有限的測試顯示該功能過於積極。它不僅僅是檢測和修正語法錯誤，還會提出自己的措辭。我希望這一點能夠調整得更為輕柔，以確保作品絕對屬於作者，並且改正的程度不會超過人類編輯的輕微修飾。順便提及，這也是我測試但最終放棄 Grammarly 的原因：它提出的改變超出了強調語法錯誤和打字錯誤的範疇，還提供了我根本不會選擇使用的措辭。
Apple 在人工智能校對中的挑戰與考量
但假設輕微修飾是 Apple 的意圖，讓人工智能故意扭曲作者所選擇的語言以便能夠被標記為人工智能內容，顯然是不正確的。如果所做的改變僅僅是編輯，將其標記為人工智能內容同樣是不當的。至多可以標記為「由人工智能校對」。如我所説，我並不假裝擁有所有答案。人工智能聊天機器人日益增長的使用對寫作和編輯提出了棘手的問題。人類撰寫並經過人工智能編輯的作品，何時應該正確標識為作者與人工智能系統的混合作品？
我所知道的是，故意改變人類作者所選擇的措辭，尤其是在該作者僅要求人工智能系統進行校對的情況下，並不是正確的做法。雖然 Apple 肯定需要在適當的時候對此問題作出回應，但我非常希望它能選擇一條比 Anthropic 所採取的更明智的路徑。
