OpenAI zpožďuje vydání nástroje pro detekci obsahu AI kvůli obavám z manipulace a stigmatizace 🛑
OpenAI odkládá vydání „vysoce přesného“ nástroje pro detekci obsahu generovaného ChatGPT kvůli obavám o #tampering a stigmatizaci neangličtinářů. Vydání nástroje, které bylo oznámeno v květnu, se zastavilo po interních debatách o jeho potenciálním zneužití a dopadu na nerodilé mluvčí angličtiny, kteří by se mohli vyhýbat nástrojům pro psaní AI, aby obešli detekci.
Výzkum ukazuje, že textový vodoznak by mohl neúměrně ovlivnit některé skupiny. Navzdory účinnosti tohoto nástroje proti neoprávněné manipulaci se #OpenAI obává, že by jej mohli špatní herci obejít.
Žádné současné nástroje nevykazují vysokou #accuracy detekci obsahu generovaného umělou inteligencí v různých úkolech, díky čemuž je nástroj OpenAI, který využívá neviditelné vodoznaky a proprietární metody, potenciálně průlomový.