La Commission fédérale du commerce des États-Unis a pris des mesures contre des entreprises qui, selon elle, ont induit les consommateurs en erreur en utilisant l'intelligence artificielle, y compris une entreprise qui se présentait comme proposant un avocat spécialisé dans l'IA.
La FTC a annoncé le 25 septembre qu'elle lançait l'« Opération AI Comply » dans le cadre d'une nouvelle « opération policière » visant à réprimer cinq entreprises « qui se sont appuyées sur l'intelligence artificielle pour accroître leurs comportements trompeurs ou déloyaux qui nuisent aux consommateurs ».
« L’utilisation d’outils d’IA pour tromper, induire en erreur ou frauder les gens est illégale », a déclaré la présidente de la FTC, Lina Khan, dans un communiqué. Elle a ajouté que la mesure d’application de la loi montre clairement qu’il n’existe « aucune exemption de l’IA aux lois en vigueur ».
« En réprimant les pratiques déloyales ou trompeuses sur ces marchés, la FTC veille à ce que les entreprises et les innovateurs honnêtes puissent bénéficier d'une chance équitable et à ce que les consommateurs soient protégés. »
Avec l'opération AI Comply, l'agence annonce cinq actions d'application de la loi contre les opérations qui utilisent le battage médiatique de l'IA ou vendent une technologie d'IA qui peut être utilisée de manière trompeuse et déloyale /2
— FTC (@FTC) 25 septembre 2024
La FTC a pris des mesures contre DoNotPay, une société qui prétendait être le « premier robot avocat au monde », qui, selon l’agence, n’a pas fourni de services juridiques valables.
DoNotPay avait promis qu’elle pourrait « poursuivre en justice pour agression sans avocat » et « générer des documents juridiques parfaitement valables en un rien de temps », mais l’agence a affirmé qu’elle « ne pouvait pas tenir ces promesses ».
La FTC a accusé le projet de ne pas avoir testé si son robot IA était à égalité avec un véritable avocat et a affirmé qu'il n'avait embauché ni retenu aucun conseiller juridique.
Le service pourrait également vérifier les sites Web des petites entreprises pour déceler les infractions à la loi en utilisant simplement un courrier électronique, a indiqué l'agence. La FTC a affirmé que ce service n'était « pas efficace ».
DoNotPay a accepté de payer 193 000 $ et d'informer les consommateurs des limites de ses services.
La FTC a également ciblé Ascend Ecom, une entreprise accusée d'avoir mis en place un système commercial frauduleux en ligne qui prétendait que l'IA pouvait aider les consommateurs à gagner un revenu passif important. Selon la plainte, l'entreprise aurait escroqué les consommateurs à hauteur de plus de 25 millions de dollars.
Ecommerce Empire Builders (EEB) a été accusé d’avoir prétendu à tort qu’il aidait les consommateurs à créer des entreprises de commerce électronique lucratives basées sur l’IA. Selon la FTC, les promesses de bénéfices élevés de l’entreprise ne se sont pas concrétisées, ce qui a donné lieu à des plaintes de consommateurs.
La quatrième entreprise visée par la FTC, Rytr, aurait commercialisé un assistant de rédaction IA qui générait des avis de consommateurs trompeurs, contribuant ainsi à un marché de fausses informations. Un accord proposé interdirait à l'entreprise de proposer de tels services à l'avenir.
Enfin, la FBA Machine, un système promettant un revenu garanti via des boutiques en ligne alimentées par l'IA, a fait l'objet d'une action en justice de la FTC en juin. Le système aurait coûté aux consommateurs plus de 15,9 millions de dollars, et l'affaire est toujours en cours.
Magazine : Levez-vous pour le juge robot : l'IA et la blockchain pourraient transformer la salle d'audience