根據《華爾街日報》報導，OpenAI 早已開發出準確率高達 99.9% 的 AI 檢測工具。然而，對於是否要釋出這項工具，OpenAI 內部已經爭論了將近 2 年，目前依然未開放使用。
一方面，這項工具能夠解決生成式 AI 衍生出的複雜問題，尤其是學生使用 AI 生成論文與作業等，若能釋出，將會大幅度改善教育界的困境；但另一方面，AI 檢測工具將會降低 ChatGPT 使用者的使用意願，影響 OpenAI 的獲利。
當心ChatGPT淪論文生成器，普遍用戶贊同AI檢測工具
根據民主與科技中心（Center for Democracy & Technology）的調查，59% 的國中、高中教師表示，他們確信部分學生使用 AI 來完成報告。為了準確評量學生的學習成果與確保成績公平性，教育界迫切需要一項可靠的檢測工具，來判斷學生的學習成果是否為 AI 生成。
根據 2023 年 4 月 OpenAI 對 ChatGPT 用戶進行的調查，支持與反對 AI 檢測工具的比例為 4 比 1，表示用戶普遍同意這項工具的必要性。然而，同時也有近 30% 的用戶表示，如果 ChatGPT 在文章中加入浮水印，以便辨識是否為 AI 生成之文章，自己將會減少使用 ChatGPT，轉向其他 AI 工具。
藉浮水印檢測AI痕跡，OpenAI卻怕技術被破解
這項 AI 檢測工具是如何運作的呢？OpenAI 內部文件顯示，透過稍微改變 AI 選擇 token 的策略，ChatGPT 生成的文字會留下可供辨識的浮水印，並且不會影響生成內容的品質；藉由這些浮水印，就能 99.9% 確認文章是否為 AI 生成。
OpenAI 內部擔憂，如果開放太多人使用，浮水印技術可能會被破解；因此，目前正在討論直接將工具提供給教育機構或公司，協助學校確認學生的論文是否為 AI 產出。
如何同時解決 AI 的衍生問題，並且避免使用者流失？OpenAI 該如何兼顧兩者？目前尚未有定論。OpenAI 發言人表示：「考慮到所涉及的複雜性，以及對 OpenAI 之外的更廣泛生態系統可能產生的影響，我們認為必須好好深思熟慮。」
延伸閱讀：OpenAI宣戰Google！推「SearchGPT」搶攻搜尋引擎，AI搜尋怎麼用？厲害在哪？
白話科技｜模型崩潰Model collapse是什麼？為什麼AI「近親繁殖」對模型訓練有毒？
責任編輯：蘇柔瑋
