Obrázky generované umělou inteligencí vás mohou oklamat, abyste falešný obsah považovali za originální. Proto OpenAI, vývojář ChatGPT, vytvořil nástroj, který dokáže určit, zda obrázek pochází z DALL-E 3, jediného algoritmu pro generování obrázků, který vyvinuli.

V úterý dala OpenAI uživatelům první šanci vyzkoušet si nástroj pro detekci obrazu sestávající ze základních a vyladěných modelů. Cílem je zapojit samostatně pracující výzkumníky, aby prozkoumali obavy, užitečnost, způsoby použití a faktory, které by mohly způsobit obsah generovaný umělou inteligencí. 

Úspěšnost a testování nástroje

OpenAI tento nástroj interně testovala a v některých aspektech byl povzbudivý, na druhou stranu byl velkým zklamáním. Vyhodnocení obrázků vytvořených DALL-E 3 vykreslilo 98 % z nich správně. Navíc při analýze snímků nepořízených DALL-E 3 by je systém chybně přiřadil DALL-E 3 pouze v 0,5 % případů. 

OpenAI nenalezlo úpravu obrázku s mírně výrazným rozdílem. Interní tým testoval nástroj komprimací, oříznutím a zavedením změn saturace do obrazu vytvořeného DALL-E 3 a zjistil, že nástroj byl stále schopen dosáhnout dobré úrovně úspěchu. 

Výzvy a omezení

Bohužel tento nástroj nebyl příliš účinný u obrázků, které byly rozsáhle zpracovány. Znění tohoto článku od OpenAI není jasné, kolik úprav provedli v případech, které popisují, a říkají, že „jiné úpravy mohou snížit výkon“. 

V rozhovoru pro The Wall Street Journal výzkumník Sandhini Agarwal řekl, že tento nástroj je méně účinný v situacích, jako je změna odstínu obrazu, a že je vyžadováno předplatné. Jak zmínil Agarwal, aby se OpenAI vypořádalo s těmito typy problémů, přivede do systému externí testery. 

Kromě toho interní testování také zpochybnilo schopnost nástroje analyzovat obrázky vytvořené pomocí modelů AI od jiných společností. V takových situacích mohl nástroj od OpenAI rozpoznat pouze 5 % nebo 10 % obrázků s ohledem na jiné modely. Takové úpravy v takových obrázcích, jako jsou přepínače odstínů, také významně snížily účinnost, řekl Agarwal Journal.

Obrázky vytvořené umělou inteligencí jsou nejen umělé, ale v tomto volebním roce také představují problémy. Poškozené skupiny v rámci země i mimo ni mohou tyto fotografie snadno použít k pošpinění ctižádostivého politika nebo případu, který je obhajován. V dnešní době, kdy se generátory obrázků AI stále vyvíjejí, je hranice mezi realitou a fantazií obtížnější než kdy jindy. 

Průmyslové přijetí

Na druhé straně se OpenAI snaží přidat vodoznaky do metadat obrázků AI, protože se společnosti stávají členy organizace User Value Organization (UVG). C2PA patří k iniciativě technologického průmyslu, která přichází s technickými standardy k odhalení zdroje obsahu a jeho pravosti v procesu známém jako vodoznak.  Facebookový gigant Meta začátkem tohoto měsíce uvedl, že jeho umělá inteligence bude takto označena standardem C2PA od května letošního roku.