El Centro de Inteligencia Artificial y Política Digital (CAIDP) se ha pronunciado contra la liberación al público de potentes sistemas de inteligencia artificial al presentar una queja ante la Comisión Federal de Comercio de los Estados Unidos (FTC).

Específicamente, la queja apunta al último modelo de lenguaje grande de OpenAI, GPT-4, que según la organización de investigación independiente sin fines de lucro es "sesgado, engañoso y representa una amenaza a la privacidad y la seguridad pública". Según CAIDP, el lanzamiento de GPT- 4 al mercado infringe la Sección 5 de la Ley FTC, que prohíbe prácticas engañosas o injustas en el comercio.

Para respaldar su argumento, CAIDP citó la tarjeta del sistema GPT-4, que reveló que los sistemas de IA pueden fortalecer ideologías, creencias, verdades y falsedades particulares, y solidificarlas, haciéndolas difíciles de cuestionar o modificar en el futuro. La organización enfatizó los peligros potenciales asociados con esta característica, ya que podría limitar la reflexión crítica y las mejoras.

CAIDP afirmó además que OpenAI había lanzado GPT-4 para uso comercial con plena conciencia de los riesgos asociados y que no se llevó a cabo ninguna evaluación independiente del sistema antes de su lanzamiento. En consecuencia, la organización instó a la FTC a investigar los productos de OpenAI y otras entidades que operan sistemas robustos de IA.

"Es hora de que la FTC actúe [...] CAIDP insta a la FTC a abrir una investigación sobre OpenAI, prohibir nuevos lanzamientos comerciales de GPT-4 y garantizar el establecimiento de las medidas de seguridad necesarias para proteger a los consumidores, las empresas y el sector comercial. mercado", dijo la organización.

La noticia llega en un momento en el que aumentan las preocupaciones sobre el desarrollo de sistemas avanzados de inteligencia artificial. Una petición presentada por el Future of Life Institute el 22 de marzo pedía una "pausa" en el desarrollo de sistemas de IA más potentes que GPT-4, y obtuvo el apoyo de varias personas de alto perfil, entre ellas Elon Musk y Steve Wozniak de Apple, como así como 2600 expertos en IA.

En la petición, los autores enfatizaron que el avance de la IA podría tener un impacto profundo en la historia de la vida en la Tierra, para bien o para mal. Además, la UNESCO ha instado a los estados a adoptar el marco de la "Recomendación sobre la ética de la IA" de la ONU.

GPT-4, lanzado el 14 de marzo, sucedió a ChatGPT-3, que debutó en noviembre. El último modelo se considera diez veces más inteligente, y un estudio reciente reveló que superó incluso los exámenes de derecho y de secundaria más exigentes de Estados Unidos, alcanzando puntuaciones en el percentil 90 superior.