FTC cracks down on ‘deceptive’ AI projects, including an AI lawyer

Cointelegraph · 2024-09-26T06:18:20.000Z

The United States Federal Trade Commission has taken action against companies it claims have misled consumers using artificial intelligence, including a firm that billed itself as offering an AI lawyer. The FTC said on Sept. 25 that it was launching “Operation AI Comply” as part of a new “law enforcement sweep,” cracking down on five companies “that have relied on artificial intelligence as a way to supercharge deceptive or unfair conduct that harms consumers.” “Using AI tools to trick, mislead, or defraud people is illegal,” said FTC Chair Lina Khan in a statement. She added that the enforcement action makes it clear there is “no AI exemption from the laws on the books.” “By cracking down on unfair or deceptive practices in these markets, FTC is ensuring that honest businesses and innovators can get a fair shot and consumers are being protected.” With Operation AI Comply, agency announces five law enforcement actions against operations that use AI hype or sell AI technology that can be used in deceptive and unfair ways /2 — FTC (@FTC) September 25, 2024 The FTC took action against DoNotPay, a company that claimed to be the “world’s first robot lawyer,” which the agency alleged failed to provide valid legal services. DoNotPay promised it could “sue for assault without a lawyer” and “generate perfectly valid legal documents in no time,” but the agency claimed it “could not deliver on these promises.” The FTC accused the project of not testing to see if its AI bot was on par with a real lawyer and claimed it didn’t hire or retain any legal counsel. The service could also check small businesses websites for legal violations using just an email, the agency said. The FTC claimed it was “not effective.” DoNotPay settled by agreeing to pay $193,000 and to notify consumers about the limitations of its services. The FTC also targeted Ascend Ecom, a firm accused of running a fraudulent online business scheme that claimed AI could help consumers earn significant passive income. According to the lawsuit, the company allegedly defrauded consumers of over $25 million. Ecommerce Empire Builders (EEB) was charged with falsely claiming to help consumers build lucrative AI-powered e-commerce businesses. According to the FTC, the company’s promises of high earnings did not materialize, leading to consumer complaints. The fourth firm targeted by the FTC, Rytr, allegedly marketed an AI writing assistant that generated misleading consumer reviews, contributing to a marketplace of false information. A proposed settlement would prohibit the company from offering such services in the future. Finally, the FBA Machine, a scheme promising guaranteed income through AI-powered online stores, was hit with a lawsuit from the FTC in June. The scheme allegedly cost consumers over $15.9 million, and the case is ongoing. Magazine: All rise for the robot judge: AI and blockchain could transform the courtroom

La Comisión Federal de Comercio de los Estados Unidos ha tomado medidas contra empresas que, según afirma, han engañado a los consumidores utilizando inteligencia artificial, incluida una firma que se promocionaba como proveedora de servicios de abogado con inteligencia artificial.
La FTC dijo el 25 de septiembre que estaba lanzando la “Operación AI Comply” como parte de una nueva “operación policial”, para acabar con cinco empresas “que han confiado en la inteligencia artificial como una forma de potenciar una conducta engañosa o injusta que perjudica a los consumidores”.
“Usar herramientas de IA para engañar, confundir o defraudar a las personas es ilegal”, dijo la presidenta de la FTC, Lina Khan, en un comunicado. Agregó que la medida de cumplimiento deja en claro que “no hay ninguna exención de IA de las leyes vigentes”.
“Al tomar medidas enérgicas contra las prácticas injustas o engañosas en estos mercados, la FTC garantiza que las empresas honestas y los innovadores tengan una oportunidad justa y que los consumidores estén protegidos”.
Con Operation AI Comply, la agencia anuncia cinco acciones de aplicación de la ley contra operaciones que utilicen publicidad exagerada sobre IA o vendan tecnología de IA que pueda usarse de manera engañosa e injusta /2
— FTC (@FTC) 25 de septiembre de 2024

La FTC tomó medidas contra DoNotPay, una empresa que afirmaba ser el “primer abogado robot del mundo” y que, según la agencia, no proporcionaba servicios legales válidos.
DoNotPay prometió que podría “presentar una demanda por agresión sin un abogado” y “generar documentos legales perfectamente válidos en poco tiempo”, pero la agencia afirmó que “no podía cumplir estas promesas”.
La FTC acusó al proyecto de no realizar pruebas para ver si su bot de inteligencia artificial estaba a la altura de un abogado real y afirmó que no contrató ni retuvo ningún asesor legal.
El servicio también podría verificar los sitios web de pequeñas empresas en busca de infracciones legales utilizando solo un correo electrónico, dijo la agencia. La FTC afirmó que "no era eficaz".
DoNotPay acordó pagar $193,000 y notificar a los consumidores sobre las limitaciones de sus servicios.
La FTC también criticó a Ascend Ecom, una empresa acusada de llevar a cabo un plan comercial fraudulento en línea que afirmaba que la inteligencia artificial podría ayudar a los consumidores a obtener ingresos pasivos significativos. Según la demanda, la empresa supuestamente defraudó a los consumidores por más de 25 millones de dólares.
Ecommerce Empire Builders (EEB) fue acusada de afirmar falsamente que ayudaba a los consumidores a crear lucrativos negocios de comercio electrónico basados ​​en inteligencia artificial. Según la FTC, las promesas de la empresa de obtener grandes ganancias no se materializaron, lo que dio lugar a quejas de los consumidores.
La cuarta empresa en la mira de la FTC, Rytr, supuestamente comercializó un asistente de escritura con inteligencia artificial que generaba reseñas engañosas de los consumidores, lo que contribuía a un mercado de información falsa. Un acuerdo propuesto prohibiría a la empresa ofrecer dichos servicios en el futuro.
Por último, la FTC demandó en junio a FBA Machine, un esquema que prometía ingresos garantizados a través de tiendas online impulsadas por inteligencia artificial. El esquema supuestamente le costó a los consumidores más de 15,9 millones de dólares y el caso sigue en curso.
Revista: ¡Todos de pie para el juez robot! La IA y la cadena de bloques podrían transformar los tribunales

Descubre más contenidos del creador

Últimas noticias

Descubre más contenidos del creador

Últimas noticias

Artículos en tendencia