Dans un récent rapport de sécurité, Meta affirme que la Russie utilise des outils d'intelligence artificielle générative (IA) pour des campagnes de tromperie en ligne concernant les élections américaines. Le géant de la technologie affirme que la plupart de ces efforts ont été infructueux, car il a déjoué les campagnes.
Selon Meta, les stratégies d’IA génératrices ont entraîné une productivité et des gains minimes. En effet, l’entreprise n’a pas pu détecter et réprimer les comportements inauthentiques coordonnés (CIB) sur sa plateforme.
Meta identifie la Russie comme la principale source des campagnes d'influence politique
Le rapport Meta Adversarial Threat Report du deuxième trimestre a révélé que la plupart des campagnes CIB sur ses plateformes, notamment Facebook et Instagram, provenaient de Russie. Depuis 2017, le pays a été responsable de 39 opérations secrètes, tandis que l'Iran et la Chine arrivent en deuxième et troisième position avec respectivement 30 et 11 opérations.
Ces campagnes russes s’appuyaient largement sur de faux comptes et pages, l’une des tactiques principales consistant à acquérir plusieurs comptes. En termes de contenu, elles semblent toutes avoir propagé le même message depuis l’invasion de l’Ukraine par la Russie en 2022, justifiant l’invasion.
Exemples de campagnes d'IA russes (Source : Meta)
Meta prévoit désormais que de nouvelles campagnes ciblant les utilisateurs américains feront leur apparition dans les prochains mois, à l'approche de l'élection présidentielle de novembre. Ces campagnes diffuseront probablement des messages anti-ukrainiens et attaqueront les candidats qui soutiennent l'Ukraine.
Il disait :
« D’ici les élections américaines de novembre, nous nous attendons à ce que les opérations menées par la Russie encouragent les commentaires de soutien aux candidats qui s’opposent à l’aide à l’Ukraine et critiquent ceux qui prônent l’aide à sa défense. »
Malgré la menace persistante et l’utilisation massive de l’IA dans ces campagnes trompeuses, Meta affirme avoir développé un moyen très efficace de détecter et de prévenir ce type d’activités malveillantes. L’entreprise se concentre sur le modèle comportemental du compte plutôt que sur le contenu de la publication, ce qui lui permet de mieux détecter les actions automatisées.
L’histoire de l’ingérence électorale en Russie
La proactivité de Meta dans la limitation des campagnes d’influence politique malveillantes n’est pas surprenante. L’entreprise a été critiquée par les régulateurs pour ne pas avoir empêché ou supprimé de telles campagnes de sa plateforme. En mai de cette année, l’Union européenne a ouvert une enquête sur le non-respect par Meta de ses règles d’intégrité électorale.
La Russie a par ailleurs l’habitude de financer des campagnes d’influence contre des puissances mondiales rivales, notamment lors de leurs élections. Le pays a été accusé d’avoir influencé le résultat des élections américaines de 2016 par le biais de campagnes sur tous les réseaux sociaux, y compris des applications comme Tumblr et PayPal.
Une étude analysant des millions de publications sur les réseaux sociaux sur toutes les plateformes, y compris Google, a montré que le gouvernement russe, par l’intermédiaire de plusieurs agents, a diffusé de fausses informations sur le processus électoral américain pour le saper. Elle a identifié un groupe, l’Internet Research Agency (IRA), considéré par beaucoup comme une ferme à trolls russe, comme étant à la tête de la campagne.
Avec l’arrivée des technologies d’intelligence artificielle génératrice, qui facilitent la création de toutes sortes de contenus, certains craignent que leur utilisation à des fins de campagnes d’influence soit très élevée lors de cette élection. Jusqu’à présent, plusieurs experts en sécurité ont identifié des cas d’utilisation de l’intelligence artificielle. Cependant, même les candidats politiques s’accusent mutuellement d’utiliser l’intelligence artificielle.