Les chercheurs de l'Université de Stanford ont développé des agents d'IA capables de prédire le comportement humain avec une précision remarquable. Une étude récente, dirigée par le Dr. Joon Sung Park et son équipe, démontre qu'un entretien de deux heures fournit suffisamment de données pour que l'IA reproduise les modèles de prise de décision humaine avec une précision normalisée de 85 %.
Les clones numériques d'une personne physique vont au-delà des deepfakes ou des "adaptations à faible rang" connues sous le nom de LoRAs. Ces représentations précises de personnalités pourraient être utilisées pour profiler les utilisateurs et tester leurs réponses à divers stimuli, des campagnes politiques aux propositions de politiques, en passant par les évaluations d'humeur et même des versions plus réalistes des avatars IA actuels.
L'équipe de recherche a recruté 1 052 Américains, soigneusement sélectionnés pour représenter des démographies diverses en termes d'âge, de sexe, de race, de région, d'éducation et d'idéologie politique. Chaque participant a engagé une conversation de deux heures avec un intervieweur IA, produisant des transcriptions d'une moyenne de 6 491 mots. Les entretiens, suivant une version modifiée du protocole du American Voices Project, ont exploré les histoires de vie, les valeurs et les perspectives des participants sur les problèmes sociaux actuels.
Et c'est tout ce dont vous avez besoin pour être profilé et avoir un clone.
Mais contrairement à d'autres études, les chercheurs ont adopté une approche différente du traitement des données d'entretien. Au lieu de simplement alimenter leurs systèmes avec des transcriptions brutes, les chercheurs ont développé un module de "réflexion d'expert". Cet outil d'analyse examine chaque entretien à travers plusieurs prismes professionnels — la perspective d'un psychologue sur les traits de personnalité, la vision d'un économiste comportemental sur les modèles de prise de décision, l'analyse d'un politologue sur les positions idéologiques, et l'interprétation contextuelle d'un expert démographique.
Une fois cette analyse multidimensionnelle effectuée, l'IA est plus capable de comprendre correctement comment fonctionne la personnalité du sujet, obtenant un aperçu plus profond que ce qui pourrait être réalisé en essayant simplement de prédire le comportement le plus probable en fonction des statistiques. Le résultat est un groupe d'agents IA alimentés par GPT-4o avec la capacité de reproduire le comportement humain dans différents scénarios contrôlés
Les tests se sont révélés remarquablement réussis. “Les agents génératifs reproduisent les réponses des participants au General Social Survey avec une précision de 85 % comparable à celle avec laquelle les participants reproduisent leurs propres réponses deux semaines plus tard, et se comportent de manière comparable dans la prédiction des traits de personnalité et des résultats dans des répliques expérimentales,” indique l'étude. Le système a montré une compétence similaire dans la reproduction des cinq grands traits de personnalité, atteignant une corrélation de 0,78, et a démontré une précision significative dans les jeux de prise de décision économique avec une corrélation normalisée de 0,66. (Un coefficient de corrélation de 1 indiquerait une corrélation positive parfaite.)
Particulièrement remarquable était la réduction des biais du système à travers les groupes raciaux et idéologiques par rapport aux approches traditionnelles basées sur la démographie — ce qui semble être un problème pour beaucoup de systèmes d'IA, qui ont du mal à trouver un équilibre entre le stéréotypage (supposer qu'un sujet exhibera des traits du groupe auquel il appartient) et une inclusion excessive (éviter des hypothèses statistiques/historiques pour être politiquement correct).
"Notre architecture réduit les biais de précision à travers les groupes raciaux et idéologiques par rapport aux agents dotés de descriptions démographiques," ont souligné les chercheurs, suggérant que leur méthode basée sur l'entretien pourrait être très utile dans le profilage démographique.
Mais ce n'est pas le premier effort pour utiliser l'IA pour profiler les gens.
Au Japon, la plateforme CLONEdev d'alt Inc. expérimente la génération de personnalités grâce à l'intégration de données de lifelog. Leur système combine un traitement avancé du langage avec la génération d'images pour créer des clones numériques qui reflètent les valeurs et les préférences des utilisateurs. "Grâce à notre technologie P.A.I, nous nous engageons à travailler pour numériser l'ensemble de la race humaine," a déclaré alt In dans un article de blog officiel.
Et parfois, vous n'avez même pas besoin d'un entretien sur mesure. Prenez MileiGPT par exemple. Un chercheur en IA d'Argentine a pu ajuster un modèle de langage open source avec des milliers d'heures de contenu disponible publiquement et reproduire les modèles de communication et les processus décisionnels du président argentin Javier Milei. Ces avancées ont conduit les chercheurs à explorer l'idée de "jumeaux numériques" pensants/sentients, que des analystes et experts technologiques comme Rob Enderle pensent pourraient être pleinement fonctionnels dans les 10 prochaines années.
Et bien sûr, si les robots IA ne prendront pas vos emplois, votre jumeau IA le ferait probablement. "L'émergence de ceux-ci nécessitera une énorme réflexion et une considération éthique, car un réplique pensante de nous-mêmes pourrait être incroyablement utile pour les employeurs," a déclaré Enderle à la BBC. "Que se passe-t-il si votre entreprise crée un jumeau numérique de vous et dit, 'Hé, vous avez ce jumeau numérique pour lequel nous ne payons pas de salaire, alors pourquoi vous employons-nous encore ?'"
Les choses peuvent sembler un peu effrayantes. Non seulement les deepfakes imiteront votre apparence, mais les clones IA pourront imiter vos décisions sur la base d'un court profilage de votre comportement. Bien que les chercheurs de Stanford aient veillé à mettre en place des garde-fous, il est clair que la frontière entre l'identité humaine et numérique devient de plus en plus floue. Et nous sommes déjà en train de la franchir.