Pangram，這家生產廣泛使用的人工智能生成文本檢測工具的公司，近日推出了新工具，以標記人工智能生成的圖像和影片。隨著這次更新，Pangram 的訂閱用戶可以上傳影片，並獲得該影片是否使用人工智能創建或編輯的評估。該公司表示，該工具能夠區分「部分人工智能」和「完全人工智能生成」的影片片段。此外，該工具還配備了一個「熱圖」，可以標記影片中可能是人工智能生成的方面。
根據該公司提供的資訊，支撐其影片檢測能力的模型「在前沿人工智能影片檢測方面表現尤為出色」，並且在測試中，它比其他檢測工具更有效地識別人工智能影片。有內部測試顯示，該影片模型能夠以超過 98%的準確率標記人工智能內容。Pangram 還升級了其人工智能圖像檢測能力。該公司之前發佈了其圖像模型的研究預覽版本 Pangram Image 1.0，現在該模型已通過公司的 Chrome 擴展程序可用，該擴展可以在用戶瀏覽時自動掃描圖像並標記可能是人工智能生成的圖像。
Pangram 的新工具提升了人工智能內容檢測的準確性
根據該公司的說法，其圖像模型在測試中能夠以 99%以上的準確率標記人工智能圖片，且誤報率僅為 0.27%。當然，與其他人工智能圖像檢測工具一樣，仍然存在一些限制。該公司表示，在解像度低於 512 x 512 時，「結果將附帶降低信心的聲明」。這可能解釋了為何 Pangram 首席執行官 Max Spero 在 Pinterest 網站上展示的 Chrome 擴展的操作中，對兩張顯然不是原始照片的圖像顯示了「不確定」的結果。
Spero 指出，開發其圖像檢測模型還面臨其他挑戰。「大多數手機相機，包括 iPhone，都會進行某些程度的人工智能後處理，以為真實照片增加細節，」他在 X 網站的貼文中解釋道。「我們必須建立一個對這種後處理具有魯棒性的模型，同時理解人工智能編輯和完全人工智能生成的視覺效果之間的區別。」他向 Pirate Wires 提到，該公司延遲了其圖像模型的發佈，以便在幾部 iPhone 18 Pro 上進行測試，因為其模型最初將這些手機相機拍攝的圖像標記為人工智能生成。
Pangram 的新人工智能圖像和影片檢測能力現在已對所有擁有 Pangram 訂閱的用戶開放。該公司允許擁有免費帳戶的用戶檢查少量圖像，而無需註冊付費計劃。
