Selon le secrétaire d’État de l’Arizona, Adrian Fontes, l’intelligence artificielle (IA) pourrait être une « loupe » de désinformation avant les prochaines élections américaines. Fonte a exprimé ses craintes dimanche sur Meet the Press sur NBC.

La déclaration de Fontes fait suite au message du président Biden sur X (anciennement Twitter) selon lequel « l’IA et les entreprises travaillant sur la technologie vont transformer le monde, mais elles doivent d’abord gagner notre confiance ». Le président a déclaré qu'il s'engageait à faire tout ce qui est en son pouvoir pour promouvoir une innovation sûre et responsable. Il a exhorté les entreprises à se joindre à lui dans cet engagement.

La désinformation de l’IA est une loupe

Fontes a rappelé ses séances de formation dans le Corps des Marines. Il a déclaré que, dans les camps d’entraînement et autres entraînements militaires, ils devaient évaluer les armes de leurs ennemis. Il a dit qu'ils devaient s'entraîner autant que possible contre les armes ennemies.

A lire aussi : Microsoft met en garde contre les campagnes de désinformation basées sur l'IA lors des prochaines élections

Le secrétaire a comparé l’IA aux armes et a déclaré que l’IA n’est pas une arme ; c’est plutôt une loupe et un amplificateur de désinformation. 

"Ce que je voulais faire, c'est m'assurer que nos responsables électoraux le connaissaient, que nous disposions de processus pour y faire face et que nous y parvenions dans chacun de nos comtés, car nos élections se déroulent également au niveau des comtés."

Adrien Fontès

"Nous avons également organisé un exercice de simulation parmi plusieurs pour les responsables des élections et les médias afin que nos partenaires médiatiques puissent savoir comment réagir et le reconnaître", a-t-il ajouté.

L’IA n’était pas la seule partie ; le secrétaire, tout en mentionnant le terrorisme intérieur, a déclaré que « le terrorisme est défini comme une menace ou une violence visant un résultat politique. C’est ce que c’est.

Le « faux » appel de Joe Biden confirme la désinformation de l’IA

Les menaces potentielles de l’IA sur les élections ne sont pas nouvelles. Plus tôt en janvier de cette année, un faux appel automatisé dans la voix du président américain Joe Biden a été un sujet de discussion brûlant dans les émissions de télévision et les articles de presse. Le faux appel a été soigneusement adapté, commençant par dire : « Quelle bande de conneries », un terme que Biden avait utilisé plus tôt. 

Après cette touche de personnalité, l'appel s'est poursuivi en disant :

«Voter ce mardi ne fait que permettre aux républicains, dans leur quête de réélire Donald Trump. Votre vote fait une différence en novembre, pas ce mardi.

Il s’agissait clairement d’une tentative visant à dissuader les électeurs de voter ce jour-là. Le Robocall a de nouveau fait le tour il y a deux jours lorsque le consultant politique, Steven Kramer, à l'origine de l'appel, a été accusé de 6 millions de dollars et de 24 accusations criminelles au total.

Barack Obama annonce Biden comme son colistier à la vice-présidence à Springfield, dans l'Illinois. Source : La Maison Blanche.

L'amende infligée à Kramer est la première pour des infractions liées à l'IA générative, a déclaré la Commission fédérale de la communication. La commission a également proposé une amende de 2 millions de dollars à Lingo Telecom, accusée d'avoir transmis les appels automatisés.

Bien que Lingo Telecom ait déclaré ne pas être impliqué dans la production de ces appels, les mesures qu'elle a prises étaient conformes aux normes de l'industrie et aux réglementations fédérales. Cependant, ce qui est inquiétant, c'est que les appels provenaient du numéro personnel de Kathy Sullivan, ancienne présidente du Parti démocrate de l'État. 

Sullivan a écrit jeudi dans un courriel que « tenter de truquer une élection coûte cher », selon l’Associated Press.

Les campagnes de désinformation sont plus abordables

L’IA a rendu l’escroquerie moins coûteuse et plus abordable pour ceux qui souhaitent la pratiquer. Kramer, qui possède une entreprise spécialisée dans les projets visant à faire sortir le vote, a déclaré qu'il avait payé 500 dollars pour envoyer des appels aux électeurs afin d'attirer leur attention sur le « problème de l'IA ». Il avait précédemment déclaré à AP qu'il avait payé 150 $ à un magicien pour créer l'enregistrement.

A lire aussi : Warren Buffett met en garde contre les escroqueries liées à l'IA qui pourraient devenir une industrie en croissance

Wired a rapporté l'année dernière que la mise en place d'une campagne de désinformation sur l'IA ne coûtait que 400 dollars. Il a signalé qu'un développeur utilisait des outils d'IA courants pour générer des tweets et des articles anti-russes, mais le projet visait à souligner à quel point cela pouvait être réalisé facilement et à moindre coût.

Selon le média, la personne qui s'appelle Nea Paw a conçu la campagne pour sensibiliser les gens aux dangers de l'IA et à la désinformation. Paw a dit dans un e-mail,

« Je ne pense pas qu’il existe de solution miracle pour résoudre ce problème, tout comme il n’existe pas de solution miracle pour les attaques de phishing, le spam ou l’ingénierie sociale. »

Les chercheurs en désinformation affirment que l’IA pourrait être utilisée pour élaborer des campagnes hautement personnalisées visant à stimuler la désinformation et pour gérer des comptes sur les réseaux sociaux. Il convient de noter que Facebook et Instagram ont récemment bloqué des milliers de comptes connectés d’une manière ou d’une autre aux réseaux souvent associés au mécanisme de communication du Parti communiste chinois.

Warren Buffett affirme que l’arnaque à l’IA sera la prochaine grande « industrie en croissance ».

Les chercheurs affirment que les faux comptes utilisent désormais des méthodes plus sophistiquées pour mener leurs campagnes de désinformation, tout comme ils utilisent désormais des méthodes organiques pour augmenter leur portée et paraître authentiques. Sans oublier les paroles du légendaire investisseur Warren Buffet, qui a déclaré que l’arnaque à l’IA pourrait être « l’industrie à la croissance la plus rapide de tous les temps ». 

L’escroquerie et la désinformation électorale ont des liens dans la mesure où les deux sont utilisées pour induire les gens en erreur. Comme le dit Buffet : « Cela a un énorme potentiel de bien et un énorme potentiel de mal, et je ne sais tout simplement pas comment cela se déroulera. »

Reportage cryptopolitain d'Aamir Sheikh