L’IA peut faire preuve de discrimination à l’égard des utilisateurs qui utilisent le dialecte afro-américain (AAE), ce qui soulève des inquiétudes quant à l’équité dans le domaine de l’intelligence artificielle.

Selon une étude publiée dans la revue Nature le 28 août, les modèles linguistiques d'IA, formés à partir de données massives provenant d'Internet, sont capables de reproduire des stéréotypes sociaux, voire d'imposer de sévères sanctions aux utilisateurs d'AAE.

Plus précisément, lorsqu'on leur a demandé de rendre un verdict dans une affaire de meurtre hypothétique, les modèles tels que ChatGPT, T5 et RoBERTa étaient plus susceptibles de condamner l'accusé à mort en utilisant l'AAE (28 %) que ceux utilisant l'AAE. Les accusés ont utilisé l'anglais standard (SAE) ( 23 %).

L'influence du racisme a conduit à la décision d'AI Source : Nature

L’étude a également révélé des tendances qui assignaient souvent les utilisateurs de l’AAE à des emplois de statut inférieur, ce qui suggère une discrimination potentielle dans l’algorithme.

Les chercheurs affirment que les modèles de formation sur des données Internet massives pourraient involontairement « apprendre » les préjugés sociaux, conduisant à des résultats biaisés.

Bien que les entreprises technologiques se soient efforcées d’éliminer ces préjugés grâce à un examen et une intervention humaine, les recherches montrent que ces solutions ne sont toujours pas assez radicales.

Cette recherche est un signal d’alarme pour les développeurs quant à l’importance de lutter contre les préjugés et la discrimination dans les algorithmes.

Le développement de nouvelles méthodes d’alignement, susceptibles de changer de paradigme, est essentiel pour garantir l’équité et éviter les impacts négatifs sur les différents groupes d’utilisateurs.

L’avenir de l’intelligence artificielle dépend de notre capacité à créer des outils non seulement intelligents mais aussi équitables et reflétant les valeurs d’une société égalitaire.

Suivez le Forum de vulgarisation de la Blockchain pour ne rien manquer des derniers développements.