OpenAI 因擔心篡改和污名化而推遲發佈 AI 內容檢測工具 🛑
OpenAI 推遲發佈一款用於檢測 ChatGPT 生成內容的“高精度”工具,原因是擔心會給非英語使用者帶來污名化。該工具於 5 月發佈,但由於內部對其潛在濫用以及對非英語母語人士的影響進行了辯論,該工具的發佈陷入停滯,這些人士可能會避免使用 AI 寫作工具來繞過檢測。
研究表明,文本水印可能會對某些羣體產生不成比例的影響。儘管該工具可以有效防止篡改,但人們擔心它仍可能被壞人繞過。
目前還沒有工具在各種任務中檢測 AI 生成內容方面表現出很高的效率,這使得 OpenAI 的工具(使用隱形水印和專有方法)具有開創性的意義。
#Binance #crypto2024