OpenAI amână lansarea instrumentului de detectare a conținutului AI din cauza preocupărilor legate de falsificare și stigmatizare 🛑
OpenAI amână lansarea unui instrument „foarte precis” pentru detectarea conținutului generat de ChatGPT din cauza preocupărilor legate de #tampering și stigmatizarea persoanelor care nu vorbesc engleza. Anunțată în mai, lansarea instrumentului a stagnat după dezbateri interne cu privire la potențiala utilizare greșită a acestuia și la impactul asupra vorbitorilor non-nativi de engleză care ar putea evita instrumentele de scriere AI pentru a ocoli detectarea.
Cercetările indică faptul că filigranarea textului ar putea afecta în mod disproporționat unele grupuri. În ciuda eficienței instrumentului împotriva falsificării, #OpenAI se teme că ar putea fi ocolit de actori răi.
Niciun instrument actual nu a demonstrat un nivel ridicat de #accuracy în detectarea conținutului generat de inteligență artificială în diferite sarcini, ceea ce face ca instrumentul OpenAI, care folosește filigran invizibil și metode proprietare, poate fi inovator.