Apple Removes Apps From the App Store for Promoting Nonconsensual Nude Images

Cryptopolitan · 2024-04-28T12:53:04.000Z

Last month, the tech giant Apple Inc. made a bold move and removed three apps from its App Store. These apps even exploited machine learning tools available in AI and tried to construct nonconsensual images without the consent of a person. The decision follows concerns that apps were using false advertising on places like Instagram and porn! Websites. Misleading Cases in Advertising Those who click on this ad are sent to the Apple App Store, and the same app is described as an “art generator” but without any reference to the fact that it can generate nudes. This is a long-standing loophole in mobile app stores first identified in 2022. Through AI-based algorithms, the apps blamed for doing this act claimed to undress individuals in photos, leading to an incorrect assumption of nudity even though they do not have the permission or knowledge of the subjects. Such acts as these not only breach privacy but also are potential sources of exploitation, harassment, and blackmail. A number of similar versions of this advertisement with various other AI generated women have been showing on Facebook, Instagram, Facebook Messenger and Meta’s in-app ad network between April 10 and April 20. After being tipped off about these scam apps, Apple in fact was the first one to remove them from the App Store. Though they claimed to be innocent, their true motives were disclosed by the apps forcing Apple to remove the apps and observe its community standards. This clearly demonstrates Apple’s unshakeable devotion to creating a secure and gender-neutral digital space for everyone. Ongoing Challenges and Accountability Even though the countermeasures taken by Apple deserve respect, this incident, in the end, brings about some doubts about the app review and monitoring of advertising methods. The fact that these apps have been unnoticed in the App Store for a long time only underlines the necessity of more carefulness and active measures to detect and eliminate fraudulent apps. In addition, developers applied sly methods of promotion of their illegal features on adult sites that ensured absence of their detection by Apple and Google. These cases illustrate the problems the tech companies face to police their platforms and enforce the community guidelines. With the Apple’s forthcoming disclosure of some AI-related projects at the Worldwide Developers Conference (WWDC) 2023, it will be rather intriguing to see the move initiated by the company with regards to these apps. An important part of Apple’s responsible technology implementation is to maintain a good image for ethical behavior and sound technology governance, which is critical in light of Apple’s increasing use of AI in its products. Removing these apps would be an example of an ethical issue on the part of AI development and use. The second concern related to the development of AI abilities is users’ privacy. Additionally, the users need to be requested for their permission, and the assurance of their safety should be given. By blocking such applications, Apple stresses ethical behavior in its community. Source: 404

Luna trecută, gigantul tehnologic Apple Inc. a făcut o mișcare îndrăzneață și a eliminat trei aplicații din App Store. Aceste aplicații chiar au exploatat instrumentele de învățare automată disponibile în AI și au încercat să construiască imagini neconsensuale fără consimțământul unei persoane. Decizia vine în urma îngrijorărilor că aplicațiile foloseau publicitate falsă în locuri precum Instagram și porno! Site-uri web.
Cazuri înșelătoare în publicitate
Cei care dau clic pe acest anunț sunt trimiși la Apple App Store, iar aceeași aplicație este descrisă ca un „generator de artă”, dar fără nicio referire la faptul că poate genera nuduri. Aceasta este o lacună de lungă durată în magazinele de aplicații mobile, identificată pentru prima dată în 2022.
Prin algoritmi bazați pe inteligență artificială, aplicațiile acuzate pentru acest act pretindeau că dezbracă indivizii în fotografii, ceea ce duce la o presupunere incorectă a nudității, chiar dacă nu au permisiunea sau cunoștințele subiecților. Asemenea acte nu numai că încalcă confidențialitatea, ci sunt și surse potențiale de exploatare, hărțuire și șantaj. 
O serie de versiuni similare ale acestei reclame cu diverse alte femei generate de AI au fost afișate pe Facebook, Instagram, Facebook Messenger și rețeaua de anunțuri în aplicație a Meta între 10 aprilie și 20 aprilie.
După ce a fost informat despre aceste aplicații înșelătorie, Apple a fost, de fapt, primul care le-a eliminat din App Store. Deși au pretins că sunt nevinovați, adevăratele lor motive au fost dezvăluite de aplicații, forțând Apple să elimine aplicațiile și să respecte standardele comunității sale. Acest lucru demonstrează în mod clar devotamentul de nezdruncinat al Apple de a crea un spațiu digital sigur și neutru din punct de vedere sexual pentru toată lumea.
Provocări permanente și responsabilitate
Chiar dacă contramăsurile luate de Apple merită respect, acest incident, în cele din urmă, aduce unele îndoieli cu privire la revizuirea aplicației și monitorizarea metodelor de publicitate. Faptul că aceste aplicații au trecut de mult timp neobservate în App Store nu face decât să sublinieze necesitatea unei mai mari precauții și măsuri active pentru a detecta și elimina aplicațiile frauduloase.
În plus, dezvoltatorii au aplicat metode viclene de promovare a funcțiilor lor ilegale pe site-uri pentru adulți, care au asigurat absența detectării lor de către Apple și Google. Aceste cazuri ilustrează problemele cu care se confruntă companiile tehnologice pentru a-și supraveghea platformele și pentru a pune în aplicare regulile comunității.
Odată cu dezvăluirea viitoare de către Apple a unor proiecte legate de inteligența artificială la Worldwide Developers Conference (WWDC) 2023, va fi destul de intrigant să vedem mișcarea inițiată de companie cu privire la aceste aplicații. O parte importantă a implementării tehnologice responsabile de către Apple este menținerea unei imagini bune pentru comportamentul etic și guvernarea tehnologică solidă, care este esențială în lumina utilizării tot mai mari de către Apple a inteligenței artificiale în produsele sale.
Eliminarea acestor aplicații ar fi un exemplu de problemă etică din partea dezvoltării și utilizării AI. A doua preocupare legată de dezvoltarea abilităților AI este confidențialitatea utilizatorilor. În plus, utilizatorilor trebuie să li se solicite permisiunea și ar trebui să se ofere asigurarea siguranței lor. Prin blocarea unor astfel de aplicații, Apple subliniază comportamentul etic în comunitatea sa.
Sursa: 404

Apple elimină aplicații din App Store pentru promovarea imaginilor nud neconsensuale

Explorați mai multe de la acest creator

Ultimele știri