OpenAI 製作過一個能夠檢測ChatGPT生成的內容的工具，但根據《華爾街日報》的報導，該公司正在爭論是否真的要發表這個工具。

OpenAI 的一位發言人指出，該公司正在研究《華爾街日報》報導中所描述的文字水印方法，但表示由於 「所涉及的複雜性及其可能對 OpenAI 以外更廣泛的生態系統造成的影響」，該公司正在採取一種 「深思熟慮的方法」。

該發言人表示：「我們正在開發的文字水印方法在技術上很有前途，但在研究替代方案時，我們也在衡量其重要風險，包括容易被惡意行為者規避，以及可能對非英語人士等群體造成過大的影響。」

這將是一個不同的方法，有別於先前大多數偵測 AI 產生文字的努力，這些努力大多都沒有成效。甚至 OpenAI 自己也在去年因為「準確率低」而關閉了先前的 AI 文字偵測器。

有了文字浮水印，OpenAI 將只專注於偵測 ChatGPT 的文字，而非其他公司的模型。它會對 ChatGPT 選擇字詞的方式進行微小的修改，從而在文字中創建一個隱形水印，之後再由一個獨立的工具進行檢測。

在《華爾街日報》的報導發表之後，OpenAI 也更新了一篇五月的部落格文章，內容是關於其針對檢測 AI 所產生內容的研究。更新內容表示，文字浮水印已證明「高度準確，甚至能有效對抗局部性的篡改，例如意譯」，但已證明「對抗全球化篡改的穩定性較低；例如使用翻譯系統、使用另一個產生模型重寫，或要求模型在每個字之間插入特殊字符，然後刪除該字符」。

因此，OpenAI 也表示這種方法「防君子不防小人」，對真正的壞人仍不足以阻撓。