OpenAI 因擔心篡改和污名化而推遲發佈 AI 內容檢測工具 🛑
OpenAI 推遲發佈一款用於檢測 ChatGPT 生成內容的“高精度”工具，原因是擔心會給非英語使用者帶來污名化。該工具於 5 月發佈，但由於內部對其潛在濫用以及對非英語母語人士的影響進行了辯論，該工具的發佈陷入停滯，這些人士可能會避免使用 AI 寫作工具來繞過檢測。
研究表明，文本水印可能會對某些羣體產生不成比例的影響。儘管該工具可以有效防止篡改，但人們擔心它仍可能被壞人繞過。
目前還沒有工具在各種任務中檢測 AI 生成內容方面表現出很高的效率，這使得 OpenAI 的工具（使用隱形水印和專有方法）具有開創性的意義。
