Le mois dernier, le géant de la technologie Apple Inc. a pris une décision audacieuse et a supprimé trois applications de son App Store. Ces applications exploitaient même les outils d’apprentissage automatique disponibles dans l’IA et tentaient de construire des images non consensuelles sans le consentement d’une personne. La décision fait suite aux inquiétudes selon lesquelles les applications utilisaient de fausses publicités sur des sites comme Instagram et le porno ! Sites Internet.
Cas trompeurs dans la publicité
Ceux qui cliquent sur cette annonce sont envoyés vers l'App Store d'Apple, et la même application est décrite comme un « générateur d'art » mais sans aucune référence au fait qu'elle peut générer des nus. Il s’agit d’une faille de longue date dans les magasins d’applications mobiles identifiée pour la première fois en 2022.
Grâce à des algorithmes basés sur l'IA, les applications accusées d'avoir commis cet acte prétendaient déshabiller les individus sur les photos, ce qui conduit à une hypothèse incorrecte de nudité même si elles n'ont pas l'autorisation ou la connaissance des sujets. De tels actes portent non seulement atteinte à la vie privée, mais constituent également des sources potentielles d’exploitation, de harcèlement et de chantage.
Un certain nombre de versions similaires de cette publicité avec diverses autres femmes générées par l’IA ont été diffusées sur Facebook, Instagram, Facebook Messenger et le réseau publicitaire intégré aux applications de Meta entre le 10 et le 20 avril.
Après avoir été informé de ces applications frauduleuses, Apple a en fait été le premier à les supprimer de l'App Store. Bien qu’ils prétendent être innocents, leurs véritables motivations ont été révélées par les applications, obligeant Apple à supprimer les applications et à respecter les normes de la communauté. Cela démontre clairement l’engagement inébranlable d’Apple à créer un espace numérique sécurisé et neutre en matière de genre pour tous.
Défis continus et responsabilité
Même si les contre-mesures prises par Apple méritent le respect, cet incident suscite finalement quelques doutes sur la révision des applications et le contrôle des méthodes publicitaires. Le fait que ces applications soient restées longtemps inaperçues dans l’App Store ne fait que souligner la nécessité de faire preuve de plus de prudence et de mesures actives pour détecter et éliminer les applications frauduleuses.
De plus, les développeurs ont appliqué des méthodes sournoises de promotion de leurs fonctionnalités illégales sur des sites pour adultes qui garantissaient leur absence de détection par Apple et Google. Ces cas illustrent les problèmes auxquels les entreprises technologiques sont confrontées pour contrôler leurs plateformes et faire respecter les directives de la communauté.
Avec la divulgation prochaine par Apple de certains projets liés à l’IA lors de la Worldwide Developers Conference (WWDC) 2023, il sera plutôt intrigant de voir le mouvement initié par l’entreprise concernant ces applications. Un élément important de la mise en œuvre responsable de la technologie par Apple consiste à maintenir une bonne image en matière de comportement éthique et de bonne gouvernance technologique, ce qui est essentiel à la lumière de l’utilisation croissante par Apple de l’IA dans ses produits.
La suppression de ces applications serait un exemple de problème éthique de la part du développement et de l’utilisation de l’IA. La deuxième préoccupation liée au développement des capacités de l’IA concerne la vie privée des utilisateurs. De plus, l'autorisation des utilisateurs doit être demandée et l'assurance de leur sécurité doit être donnée. En bloquant de telles applications, Apple met l'accent sur un comportement éthique au sein de sa communauté.
Source : 404