OpenAI atrasa lançamento de ferramenta de detecção de conteúdo de IA devido a preocupações com adulteração e estigmatização 🛑
A OpenAI está atrasando o lançamento de uma ferramenta “altamente precisa” para detectar conteúdo gerado pelo ChatGPT devido a preocupações com #tampering e estigmatização de falantes que não falam inglês. Anunciado em maio, o lançamento da ferramenta foi paralisado após debates internos sobre seu potencial uso indevido e o impacto sobre falantes não nativos de inglês, que podem evitar ferramentas de escrita de IA para contornar a detecção.
A pesquisa indica que a marca d'água no texto pode afetar desproporcionalmente alguns grupos. Apesar da eficácia da ferramenta contra adulterações, #OpenAI teme que ela ainda possa ser contornada por malfeitores.
Nenhuma ferramenta atual mostrou alto desempenho na detecção de conteúdo gerado por IA em várias tarefas, tornando a ferramenta da OpenAI, que usa marca d'água invisível e métodos proprietários, potencialmente inovadora.