1月25日，Newsguard的調查揭示了主流聊天機器人在識別偽造視頻方面的不足。研究發(fā)現，即使是來自同一母公司的內容，這些AI系統(tǒng)也難以分辨。OpenAI的Sora2和谷歌的Veo3等工具能夠制作出幾乎無法被人類辨別真?zhèn)蔚囊曨l。在對三款主流聊天機器人的測試中，xAI的Grok未能識別出95%的AI生成視頻，OpenAI的ChatGPT錯誤率高達92.5%，而谷歌的Gemini雖然表現最佳，錯誤率也達到了78%。這些聊天機器人在面對帶有可見水印的視頻時，識別失敗率依然很高，Grok為30%，ChatGPT為7.5%，只有Gemini能夠準確識別所有帶水印視頻的AI生成屬性。

Sora視頻雖然會添加可見水印以提示視頻為AI生成，但這一防護措施效果有限。網絡上出現了多款免費在線工具可以輕松去除視頻水印，使得AI生成痕跡被隱藏。此外，Sora視頻還內置了不可見水印，遵循C2PA行業(yè)標準，附帶元數據以供驗證。然而，這種溯源信息的可靠性并不強，通過不同的下載方式，元數據可能會丟失。ChatGPT在面對帶有完整C2PA溯源數據的視頻時，錯誤地表示未發(fā)現任何內容溯源信息。這些AI系統(tǒng)在識別AI生成內容方面的能力不足，以及透明度的缺失，使得它們在面對虛假信息傳播活動時顯得脆弱。