« Bien que nous ayons mis en place des mesures de protection, le système peut occasionnellement générer des informations incorrectes ou trompeuses et produire du contenu offensant ou biaisé. Il n’est pas destiné à donner des conseils.

– Clause de non-responsabilité d’ouverture d’OpenAI

Et cela nous amène au cœur de notre plus grande peur : que se passe-t-il lorsque la technologie se retourne contre nous ?

Que se passe-t-il lorsque la technologie est déployée prématurément sans les tests et les connaissances appropriés sur ses capacités ?

Plus tôt ce mois-ci, OpenAI, la société d'intelligence artificielle (IA) la plus parlée au monde, vient de faire l'objet de son tout premier procès en diffamation qui met en évidence les dangers de la capacité incontrôlée de ChatGPT à générer des résultats qui n'ont aucun fondement factuel ou juridique.

Mark Walters, un animateur de radio diffusé à l'échelle nationale en Géorgie, a déposé une plainte contre OpenAI le 5 juin, alléguant que son chatbot alimenté par l'IA, ChatGPT, avait fabriqué de toutes pièces des poursuites judiciaires contre lui. 

La plainte de 13 pages fait référence au journaliste d'AmmoLand.com Fred Riehl et à sa demande du 4 mai à ChatGPT de résumer l'affaire juridique de la Second Amendment Foundation c. Ferguson, une affaire fédérale déposée devant le tribunal fédéral de Washington qui accusait le procureur général de l'État, Bob Ferguson, d'abus. son pouvoir en paralysant les activités de la fondation pour les droits des armes à feu et en fournissant au chatbot OpenAI un lien vers le procès. 

Bien que Walter n'ait pas été nommé dans ce procès initial, ChatGPT a répondu à la demande sommaire de Riehl de la Second Amendment Foundation, déclarant qu'il s'agissait de :

"...une plainte déposée par Alan Gottlieb, fondateur et vice-président exécutif de la Second Amendment Foundation (SAF), contre Mark Walters, accusé d'avoir fraudé et détourné des fonds de la SAF."

Mais c’est ici que les choses deviennent déformées et dangereuses : aucune des déclarations de ChatGPT concernant Walters ne figure dans la plainte SAF. 

Cette « plainte » générée par l'IA alléguait également que Walters, qui était trésorier et directeur financier de l'organisation, « avait détourné des fonds pour des dépenses personnelles sans autorisation ni remboursement, manipulé des dossiers financiers et des relevés bancaires pour dissimuler ses activités et omis de fournir des informations exactes ». et des rapports financiers et des divulgations en temps opportun aux dirigeants de la SAF.

En guise de réparation, le plaignant aurait demandé « le recouvrement des fonds détournés, des dommages-intérêts pour manquement à l’obligation fiduciaire et fraude, ainsi que la destitution de Walter de son poste de membre du conseil d’administration de la SAF ».

Cependant, c’est là que réside le problème : selon Walters, « [e]chaque déclaration de fait dans le résumé [ChatGPT] le concernant est fausse », le chatbot d’OpenAI étant même allé jusqu’à créer « un numéro de dossier erroné ».

"Les allégations de ChatGPT concernant Walters étaient fausses et malveillantes, exprimées dans des documents imprimés, écrits, images ou panneaux, tendant à nuire à la réputation de Walter et à l'exposer à la haine, au mépris ou au ridicule du public", indique le procès. "En envoyant les allégations à Riehl, [OpenAI] a publié des propos diffamatoires concernant Walters."

Si vous demandiez à ChatGPT de fournir un résumé du procès de SAF cité dans la plainte de Walters, vous pourriez également obtenir une réponse similaire à celle-ci :

«Je m'excuse, mais en tant que modèle de langage d'IA, mes réponses sont basées sur des connaissances préexistantes jusqu'en septembre 2021. Par conséquent, je ne peux pas accéder ou naviguer sur Internet ni afficher des documents ou des liens spécifiques qui ont été publiés après la coupure de mes connaissances. Par conséquent, je ne suis pas en mesure de vous fournir un résumé des accusations portées dans le procès que vous avez mentionné…[p]our obtenir des informations sur le procès et ses accusations, je vous recommande de consulter le document vous-même ou de vous référer à des sources d'information fiables ou à des sites Web juridiques qui aurait pu couvrir l'affaire. Ils peuvent vous fournir des informations précises et à jour concernant le procès spécifique que vous avez mentionné.

Bien qu'OpenAI n'ait répondu à aucun commentaire sur le procès en diffamation en cours de Walters, cela soulève la question de savoir pourquoi la société d'IA n'insiste pas plus fort sur ces conséquences sans doute prévisibles d'un code qui, rétrospectivement, a été déployé par négligence sans les tests appropriés. .

L'affaire est Mark Walters contre OpenAI, LLC, cv-23-A-04860-2.

  • Vous pouvez lire la plainte de Walter du 5 juin ici. 

Par ailleurs, lisez la réunion du président américain Joe Biden avec 8 leaders technologiques pour lutter contre les préjugés liés à l’IA et les avantages sociaux.

Cliquez ici pour voir la galerie complète sur Hypemoon