OpenAI ritarda il rilascio dello strumento di rilevamento dei contenuti AI a causa di problemi di manomissione e stigmatizzazione 🛑
OpenAI sta ritardando il rilascio di uno strumento "altamente accurato" per rilevare i contenuti generati da ChatGPT a causa delle preoccupazioni su #tampering e della stigmatizzazione di chi non parla inglese. Annunciato a maggio, il rilascio dello strumento si è bloccato dopo i dibattiti interni sul suo potenziale uso improprio e sull'impatto sui non madrelingua inglesi che potrebbero evitare gli strumenti di scrittura basati sull'intelligenza artificiale per aggirare il rilevamento.
La ricerca indica che la filigrana del testo potrebbe influenzare in modo sproporzionato alcuni gruppi. Nonostante l'efficacia dello strumento contro la manomissione, #OpenAI teme che possa ancora essere aggirato da malintenzionati.
Nessuno degli strumenti attuali ha mostrato risultati elevati nel rilevamento di contenuti generati dall'intelligenza artificiale in varie attività, rendendo lo strumento di OpenAI, che utilizza filigrana invisibile e metodi proprietari, potenzialmente rivoluzionario.