Minulý měsíc udělal technologický gigant Apple Inc. odvážný krok a ze svého App Store odstranil tři aplikace. Tyto aplikace dokonce využívaly nástroje strojového učení dostupné v AI a snažily se vytvářet nekonsensuální obrázky bez souhlasu osoby. Rozhodnutí vyplývá z obav, že aplikace používaly falešnou reklamu na místech, jako je Instagram a porno! Webové stránky.

Zavádějící případy v reklamě

Ti, kteří kliknou na tuto reklamu, jsou odesláni do obchodu Apple App Store a stejná aplikace je popsána jako „generátor umění“, ale bez jakéhokoli odkazu na skutečnost, že může generovat akty. Jedná se o dlouhodobou mezeru v obchodech s mobilními aplikacemi, která byla poprvé zjištěna v roce 2022.

Prostřednictvím algoritmů založených na AI aplikace obviněné z tohoto činu tvrdily, že svlékají jednotlivce na fotografiích, což vedlo k nesprávnému předpokladu nahoty, i když nemají svolení nebo znalosti subjektů. Takové činy nejen porušují soukromí, ale jsou také potenciálními zdroji vykořisťování, obtěžování a vydírání.

Řada podobných verzí této reklamy s různými dalšími ženami generovanými umělou inteligencí se mezi 10. dubnem a 20. dubnem zobrazovala na Facebooku, Instagramu, Facebook Messengeru a v reklamní síti v aplikaci Meta.

Poté, co byl Apple upozorněn na tyto podvodné aplikace, byl ve skutečnosti první, kdo je odstranil z App Store. Ačkoli tvrdili, že jsou nevinní, jejich skutečné motivy byly odhaleny aplikacemi, které donutily Apple odstranit aplikace a dodržovat své komunitní standardy. To jasně dokazuje neotřesitelnou oddanost společnosti Apple vytváření bezpečného a genderově neutrálního digitálního prostoru pro každého.

Pokračující výzvy a odpovědnost

I když si protiopatření ze strany Applu zaslouží respekt, tento incident nakonec přináší jisté pochybnosti o kontrole aplikací a sledování reklamních metod. Skutečnost, že tyto aplikace byly v App Store dlouhou dobu bez povšimnutí, jen podtrhuje nutnost větší opatrnosti a aktivních opatření k odhalování a odstraňování podvodných aplikací.

Vývojáři navíc aplikovali mazané metody propagace svých nelegálních funkcí na webech pro dospělé, které zajistily, že je Apple a Google neodhalí. Tyto případy ilustrují problémy, kterým technologické společnosti čelí při kontrole svých platforem a prosazování pokynů komunity.

S nadcházejícím odhalením některých projektů souvisejících s umělou inteligencí Apple na Worldwide Developers Conference (WWDC) 2023 bude docela zajímavé vidět krok, který společnost zahájila s ohledem na tyto aplikace. Důležitou součástí zodpovědné implementace technologií společnosti Apple je udržovat dobrou image pro etické chování a řádnou správu technologií, což je kritické vzhledem k tomu, že Apple ve svých produktech stále více využívá AI.

Odstranění těchto aplikací by bylo příkladem etického problému na straně vývoje a používání AI. Druhým problémem souvisejícím s rozvojem schopností AI je soukromí uživatelů. Kromě toho musí být uživatelé požádáni o jejich povolení a měla by být poskytnuta záruka jejich bezpečnosti. Blokováním takových aplikací Apple zdůrazňuje etické chování ve své komunitě.

Zdroj: 404