Le Centre pour l'intelligence artificielle et la politique numérique (CAIDP) a pris position contre la diffusion publique de puissants systèmes d'IA en portant plainte auprès de la Federal Trade Commission (FTC) des États-Unis.
Plus précisément, la plainte vise le dernier grand modèle de langage d'OpenAI, GPT-4, qui, selon l'organisation de recherche indépendante à but non lucratif, est « biaisé, trompeur et constitue une menace pour la vie privée et la sécurité publique ». 4 au marché enfreint l'article 5 de la loi FTC, qui interdit les pratiques commerciales trompeuses ou injustes.
Pour étayer son argument, le CAIDP a cité la carte système GPT-4, qui a révélé que les systèmes d’IA peuvent renforcer des idéologies, des croyances, des vérités et des mensonges particuliers, et les solidifier, les rendant difficiles à contester ou à modifier à l’avenir. L'organisation a souligné les dangers potentiels associés à cette fonctionnalité, car elle pourrait limiter la réflexion critique et les améliorations.
Le CAIDP a en outre affirmé qu'OpenAI avait lancé GPT-4 pour un usage commercial en pleine conscience des risques associés et qu'aucune évaluation indépendante du système n'avait été réalisée avant sa sortie. Par conséquent, l’organisation a exhorté la FTC à enquêter sur les produits d’OpenAI et d’autres entités exploitant des systèmes d’IA robustes.
"Il est temps pour la FTC d'agir [...] La CAIDP exhorte la FTC à ouvrir une enquête sur OpenAI, à interdire de nouvelles versions commerciales de GPT-4 et à garantir la mise en place des garde-fous nécessaires pour protéger les consommateurs, les entreprises et les entreprises. marché", a déclaré l'organisation.
Cette nouvelle arrive à un moment où les inquiétudes grandissent quant au développement de systèmes d’IA avancés. Une pétition présentée par le Future of Life Institute le 22 mars appelait à une « pause » dans le développement de systèmes d'IA plus puissants que GPT-4, et a recueilli le soutien de plusieurs personnalités de premier plan, dont Elon Musk et Steve Wozniak d'Apple, comme ainsi que 2600 experts en IA.
Dans la pétition, les auteurs soulignent que les progrès de l'IA pourraient avoir un impact profond sur l'histoire de la vie sur Terre, pour le meilleur ou pour le pire. En outre, l'UNESCO a exhorté les États à adopter le cadre de la « Recommandation sur l'éthique de l'IA » de l'ONU.
GPT-4, lancé le 14 mars, a succédé à ChatGPT-3, lancé en novembre. Le dernier modèle est considéré comme dix fois plus intelligent, et une étude récente a révélé qu’il surpassait même les examens de droit et de lycée américains les plus exigeants, obtenant des scores dans le 90e percentile supérieur.