Cette semaine, de nouveaux engagements en faveur de la sécurité de l’IA ont été convenus lors du sommet AI de Séoul. La Déclaration de Séoul confirme une perspective mutuelle sur les avantages et les risques associés à l’IA.

Le président sud-coréen Yoon Suk Yeol a coprésidé le sommet avec le Premier ministre britannique Rishi Sunak par vidéoconférence. Les deux dirigeants ont approuvé la Déclaration de Séoul, qui met l’accent sur la sécurité, l’inclusivité et l’innovation de l’IA.

A lire aussi : Le Dubai FinTech Summit se termine avec plus de 8 000 visiteurs de 118 pays

Les nations signent la Déclaration de Séoul 

L'Union européenne et dix autres pays, dont les États-Unis, le Canada, la France, l'Australie et le Japon, ont signé la Déclaration de Séoul. La déclaration appelle à la coopération entre les pays sur le développement de l’IA dans l’intérêt public.

Sommet de Séoul sur l'IA Source : Gouvernement du Royaume-Uni.

Une déclaration ministérielle de Séoul a été signée par 27 pays différents, dont l'Indonésie, le Mexique, le Nigeria, les Émirats arabes unis et l'Arabie saoudite, pour n'en nommer que quelques-uns. La déclaration affirme également que la sécurité doit être la priorité dans le développement de l’IA. Le président sud-coréen Yeol a déclaré :

"Je suis très heureux d'accueillir le sommet AI de Séoul, qui élargira la portée des discussions à l'innovation et à l'inclusion, après le sommet inaugural à Bletchley Park au Royaume-Uni en novembre de l'année dernière sur la sécurité de l'IA."

Il a également déclaré que la Corée s'efforcerait de créer un centre de recherche sur la sécurité de l'IA et de rejoindre un réseau pour « renforcer la sécurité mondiale de l'IA ». Yeol a déclaré que le sommet consoliderait les efforts visant à promouvoir les normes et la gouvernance mondiales en matière d'IA.

Le sommet de Séoul s'inscrit dans la continuité de Bletchley Park

Le sommet de l'IA de Séoul s'inscrit dans la continuité du premier sommet mondial sur la sécurité de l'IA qui s'est tenu à Bletchley Park, à Londres, en novembre de l'année dernière. L’événement de Bletchley Park était beaucoup plus important et davantage de pays ont promis un développement plus sûr de l’IA.

Sommet sur la sécurité de l'IA à Bletchley Park. Source : Parc Bletchley.

Le sommet a renforcé l’engagement international en faveur du développement sûr de l’IA et a également ajouté l’innovation et l’inclusivité à l’ordre du jour. Les critiques affirment que l’ajout de sujets autres que la sécurité de l’IA diluerait l’ordre du jour, car c’est ce point qui a rendu la Déclaration de Bletchley unique parmi de nombreux efforts diplomatiques.

« Mais pour obtenir des avantages, nous devons nous assurer que [IA] est sûre. C’est pourquoi je suis ravi que nous ayons obtenu aujourd’hui un accord pour un réseau d’instituts de sécurité de l’IA. » Rishi Sunak. 

Le sommet de Séoul sur l’IA, bien qu’à plus petite échelle, était également important car il a fourni une plate-forme pour approfondir les partenariats avec les instituts de sécurité de l’IA. Le Canada, la Corée du Sud et le Japon ont également annoncé qu'ils créeraient des instituts de sécurité de l'IA. Ces instituts viendront compléter les instituts déjà établis au Royaume-Uni et aux États-Unis et renforceront la capacité mondiale en matière de sécurité de l’IA. 

Les entreprises technologiques promettent un développement plus sûr de l’IA

Seize grandes entreprises de technologie de l'IA ont convenu de nouveaux engagements visant à développer l'intelligence artificielle en toute sécurité. Google, OpenAI et Meta faisaient partie des entreprises américaines qui ont pris des engagements volontaires lors du mini sommet de Séoul. 

A lire aussi : La sécurité est-elle passée au second plan chez OpenAI ?

Les sociétés chinoises Zhipu.ai, Tencent, l'Institut d'innovation technologique des Émirats arabes unis et le groupe d'investissement G42 ont également signé le document « Frontier AI Safety Commitments ». Du côté coréen, Samsung et Naver ont accepté les conditions volontaires.

Le secrétaire général de l'ONU, Antonio Guterres, a déclaré dans un discours vidéo lors de la séance d'ouverture que :

« Nous assistons à des avancées technologiques qui changent la vie et à de nouveaux risques potentiellement mortels – de la désinformation à la surveillance de masse en passant par la perspective d’armes autonomes mortelles. »

Le chef de l'ONU faisait référence aux sept mois écoulés depuis la réunion de Bletchley. Guterres a souligné la nécessité de garde-fous universels et d’un dialogue régulier sur la technologie. Beaucoup de ces entreprises ont également signé les engagements de sécurité non contraignants initiés par la Maison Blanche pour garantir la sécurité de leurs produits pour le public.

L’industrie de l’IA se concentre de plus en plus sur les préoccupations les plus urgentes, selon le PDG de Cohear, Aiden Gomez. Son entreprise fait également partie des signataires du pacte. Gomez a déclaré : « Il est essentiel que nous continuions à considérer tous les risques possibles tout en donnant la priorité à nos efforts sur ceux qui sont les plus susceptibles de créer des problèmes s'ils ne sont pas correctement traités. »

Reportage cryptopolitain d'Aamir Sheikh