TLDR

  • Figma ha desactivado temporalmente su función "Crear diseño" impulsada por IA después de acusaciones de copiar el diseño de la aplicación Weather de Apple.

  • La controversia surgió cuando el desarrollador Andy Allen demostró que la herramienta de inteligencia artificial producía repetidamente diseños similares a la aplicación de Apple.

  • El director ejecutivo de Figma, Dylan Field, negó que la herramienta estuviera basada en los diseños de Apple, culpando del problema a sus propios "sistemas de diseño personalizados".

  • Figma utiliza modelos de IA disponibles en el mercado de OpenAI y Amazon, lo que plantea dudas sobre los datos de entrenamiento para estos modelos.

  • La empresa planea revisar sus procesos y mejorar la variabilidad de los diseños antes de volver a habilitar la función.

Figma, una popular empresa de software de diseño, deshabilitó temporalmente su función “Crear diseño” impulsada por inteligencia artificial luego de acusaciones de que estaba generando diseños sorprendentemente similares a la aplicación Weather de Apple.

La controversia ha provocado debates sobre el uso ético de la IA en herramientas de diseño y los desafíos de garantizar la originalidad en el contenido generado por IA.

El problema salió a la luz cuando Andy Allen, director ejecutivo de Not Boring Software, demostró que la herramienta de inteligencia artificial de Figma producía constantemente diseños muy parecidos a la aplicación Weather de Apple cuando se le pedía que creara una aplicación meteorológica. Las publicaciones de Allen en la plataforma de redes sociales X (anteriormente Twitter) rápidamente ganaron atención, generando preocupaciones sobre posibles problemas legales para los diseñadores que utilizan la herramienta.

Figma AI parece bastante entrenada en aplicaciones existentes.

Esta es una "aplicación meteorológica" que utiliza la nueva función Crear diseños y los resultados son básicamente la aplicación meteorológica de Apple (izquierda). Lo intenté tres veces, mismos resultados. https://t.co/Ij20OpPCer pic.twitter.com/psFTV6daVD

– Andy Allen (@asallen) 1 de julio de 2024

En respuesta a la creciente controversia, el director ejecutivo de Figma, Dylan Field, abordó la situación en una serie de publicaciones en X. Field negó categóricamente que la función "Crear diseño" estuviera basada en los diseños de Apple o en cualquier otro diseño de aplicación.

Afirmó que “la función Make Design no está entrenada en contenido de Figma, archivos comunitarios o diseños de aplicaciones” y calificó las acusaciones de entrenamiento de datos como falsas.

Field atribuyó el problema al uso por parte de Figma de “sistemas de diseño subyacentes personalizados” creados por la empresa. Reconoció que este enfoque dio como resultado una baja variabilidad en los diseños generados, lo que probablemente contribuyó a las similitudes con la aplicación de Apple.

Asumiendo la responsabilidad de la supervisión, Field admitió: "En última instancia, es mi culpa por no insistir en un mejor proceso de control de calidad para este trabajo y presionar a nuestro equipo para que cumpla con una fecha límite para Config", refiriéndose a la conferencia anual de la compañía.

El CTO de Figma, Kris Rasmussen, brindó más información sobre la implementación de la IA de la empresa. Reveló que Figma utiliza modelos de IA disponibles en el mercado, específicamente GPT-4 de OpenAI y Titan Image Generator G1 de Amazon, en lugar de entrenar sus propios modelos. Esta revelación plantea dudas sobre los datos de entrenamiento utilizados por estos modelos de terceros y si podrían haber incorporado diseños de aplicaciones existentes.

La decisión de la empresa de utilizar modelos previamente entrenados se debió en parte a su compromiso con la transparencia con respecto a las políticas de capacitación en IA. Figma introdujo recientemente políticas que permiten a los usuarios optar por que su contenido se utilice para la capacitación en inteligencia artificial, con una fecha límite del 15 de agosto para que los usuarios hagan su elección.

Mientras Figma trabaja para abordar el problema, Rasmussen afirmó que la empresa está "revisando el sistema de diseño personalizado para garantizar que tenga suficiente variación y cumpla con nuestros estándares de calidad". Enfatizó que esta revisión es crucial antes de volver a habilitar la función Crear diseño.

La controversia en torno a la herramienta de inteligencia artificial de Figma resalta los desafíos más amplios que enfrenta la industria creativa a medida que la inteligencia artificial se vuelve más frecuente en el software de diseño. Subraya la necesidad de considerar cuidadosamente los datos de capacitación, la variabilidad de los resultados y las implicaciones éticas al implementar la IA en herramientas creativas.

Este incidente no es un caso aislado en el mundo de las herramientas creativas impulsadas por IA. Otras empresas, como Adobe, se han enfrentado a un escrutinio similar con respecto a sus funciones de inteligencia artificial y políticas de uso de datos.

Estas situaciones enfatizan el delicado equilibrio entre aprovechar la IA para mejorar la creatividad y garantizar la originalidad y el cumplimiento legal del contenido generado por IA.

La publicación Figma suspende la herramienta de diseño de inteligencia artificial en medio de una controversia sobre la similitud de la aplicación de Apple apareció por primera vez en Blockonomi.