AI ģenerēti attēli var maldināt jūs, uztverot viltotu saturu kā oriģinālu. Tāpēc OpenAI, ChatGPT izstrādātājs, ir izveidojis rīku, kas var noteikt, vai attēls ir iegūts no DALL-E 3 — viena attēla ģenerēšanas algoritma, ko viņi izstrādājuši.
Otrdien OpenAI lietotājiem sniedza pirmo iespēju pārbaudīt attēlu noteikšanas rīku, kas sastāv no bāzes un pielāgotiem modeļiem. Mērķis ir iesaistīt pašdarbīgus pētniekus, lai izpētītu bažīgumu, lietderību, veidus, kā to varētu izmantot, un faktorus, kas varētu izraisīt AI ģenerētu saturu.
Rīka panākumu līmenis un pārbaude
OpenAI ir pārbaudījis rīku iekšēji, un dažos aspektos tas ir bijis iepriecinošs, bet, no otras puses, tas ir bijis ļoti neapmierinošs. Novērtējot DALL-E 3 radītos attēlus, 98% no tiem tika atveidoti pareizi. Turklāt, analizējot attēlus, kas nav izgatavoti ar DALL-E 3, sistēma tos kļūdaini attiecina uz DALL-E 3 tikai 0,5% gadījumu.
OpenAI neatrada attēla modifikāciju ar nedaudz būtisku atšķirību. Iekšējā komanda pārbaudīja rīku, saspiežot, apgriežot un ieviešot DALL-E 3 izveidotā attēla piesātinājuma izmaiņas, un novēroja, ka rīks joprojām spēj sasniegt labus panākumus.
Izaicinājumi un ierobežojumi
Diemžēl rīks nebija īpaši efektīvs ar attēliem, kas tika plaši apstrādāti. Šī OpenAI raksta formulējums nav skaidrs par to, cik daudz modifikāciju viņi veica tajos aprakstītajos gadījumos, un viņi saka, ka "citas modifikācijas var samazināt veiktspēju."
Intervijā laikrakstam The Wall Street Journal pētnieks Sandhini Agarwal sacīja, ka rīks ir mazāk efektīvs tādās situācijās kā attēla nokrāsas maiņa un ka ir nepieciešams abonements. Kā minēja Agarvals, lai risinātu šāda veida problēmas, OpenAI sistēmai pievienos ārējos testētājus.
Turklāt iekšējā pārbaude arī apšaubīja rīka spēju analizēt attēlus, kas izgatavoti ar citu uzņēmumu AI modeļiem. Šādās situācijās OpenAI rīks varēja atpazīt tikai 5% vai 10% attēlu attiecībā uz citiem modeļiem. Šādas modifikācijas šādos attēlos, piemēram, nokrāsu slēdži, arī ievērojami samazināja efektivitāti, Agarwal teica Journal.
AI radītie attēli ir ne tikai mākslīgi, bet arī rada problēmas šajā vēlēšanu gadā. Cietušās grupas gan valstī, gan ārpus tās var viegli izmantot šādas fotogrāfijas, lai sabojātu topošo politiķi vai lietu, par kuru tiek ierosināts. Mūsdienās, kad mākslīgā intelekta attēlu ģeneratori turpina attīstīties, robežu starp realitāti un fantāziju ir grūtāk noteikt nekā jebkad agrāk.
Nozares pieņemšana
No otras puses, OpenAI cenšas pievienot ūdenszīmes AI attēlu metadatiem, uzņēmumiem kļūstot par lietotāju vērtību organizācijas (UVG) dalībniekiem. C2PA pieder tehnoloģiju nozares iniciatīvai, kas nāk ar tehniskiem standartiem, lai atklātu satura avotu un tā autentiskumu procesā, kas pazīstams kā ūdenszīme. Facebook gigants Meta šomēnes paziņoja, ka tā mākslīgais intelekts tiks marķēts ar C2PA standartu, sākot no šī gada maija.