TLDR

  • Figma a temporairement désactivé sa fonctionnalité « Make Design » basée sur l'IA après des accusations de copie de la conception de l'application Météo d'Apple.

  • La controverse a éclaté lorsque le développeur Andy Allen a démontré que l’outil d’IA produisait à plusieurs reprises des conceptions similaires à l’application d’Apple.

  • Le PDG de Figma, Dylan Field, a nié que l'outil ait été formé sur les conceptions d'Apple, attribuant le problème à leurs propres « systèmes de conception sur mesure ».

  • Figma utilise des modèles d'IA disponibles dans le commerce d'OpenAI et d'Amazon, soulevant des questions sur les données de formation de ces modèles.

  • L'entreprise prévoit de revoir ses processus et d'améliorer la variabilité des conceptions avant de réactiver cette fonctionnalité.

Figma, une société de logiciels de conception populaire, a temporairement désactivé sa fonction « Make Design » basée sur l'IA suite à des accusations selon lesquelles elle générait des conceptions étonnamment similaires à l'application Météo d'Apple.

La controverse a suscité des discussions sur l’utilisation éthique de l’IA dans les outils de conception et sur les défis liés à la garantie de l’originalité du contenu généré par l’IA.

Le problème est apparu lorsqu’Andy Allen, PDG de Not Boring Software, a démontré que l’outil d’IA de Figma produisait systématiquement des conceptions ressemblant beaucoup à l’application Météo d’Apple lorsqu’on lui demandait de créer une application météo. Les publications d’Allen sur la plateforme de médias sociaux X (anciennement Twitter) ont rapidement attiré l’attention, soulevant des inquiétudes quant à d’éventuels problèmes juridiques pour les concepteurs utilisant l’outil.

Figma AI semble plutôt fortement formé sur les applications existantes.

Il s'agit d'une "application météo" utilisant la nouvelle fonctionnalité Make Designs et les résultats sont essentiellement l'application Météo d'Apple (à gauche). Essayé trois fois, mêmes résultats. https://t.co/Ij20OpPCer pic.twitter.com/psFTV6daVD

– Andy Allen (@asallen) 1er juillet 2024

En réponse à la controverse croissante, le PDG de Figma, Dylan Field, a abordé la situation dans une série de messages sur X. Field a catégoriquement nié que la fonctionnalité « Make Design » ait été formée sur les conceptions d'Apple ou sur toute autre conception d'application.

Il a déclaré : « la fonctionnalité Make Design n'est pas formée sur le contenu Figma, les fichiers de communauté ou les conceptions d'applications » et a qualifié de fausses les accusations de formation de données.

Field a attribué le problème à l’utilisation par Figma de « systèmes de conception sous-jacents sur mesure » créés par l’entreprise. Il a reconnu que cette approche entraînait une faible variabilité dans les conceptions générées, ce qui contribuait probablement aux similitudes avec l’application d’Apple.

Assumant la responsabilité de la surveillance, Field a admis : « En fin de compte, c'est de ma faute si je n'ai pas insisté sur un meilleur processus d'assurance qualité pour ce travail et si j'ai poussé notre équipe à respecter une date limite pour Config », faisant référence à la conférence annuelle de l'entreprise.

Le CTO de Figma, Kris Rasmussen, a fourni des informations plus détaillées sur la mise en œuvre de l'IA par l'entreprise. Il a révélé que Figma utilise des modèles d’IA disponibles dans le commerce, en particulier le GPT-4 d’OpenAI et le Titan Image Generator G1 d’Amazon, plutôt que de former ses propres modèles. Cette révélation soulève des questions sur les données de formation utilisées par ces modèles tiers et sur la possibilité qu'ils aient incorporé des conceptions d'applications existantes.

La décision de l’entreprise d’utiliser des modèles pré-entraînés était en partie due à son engagement en faveur de la transparence concernant les politiques de formation en IA. Figma a récemment introduit des politiques permettant aux utilisateurs d'accepter ou de refuser que leur contenu soit utilisé pour la formation en IA, avec une date limite fixée au 15 août pour que les utilisateurs fassent leur choix.

Alors que Figma s'efforce de résoudre le problème, Rasmussen a déclaré que la société « passe en revue le système de conception sur mesure pour s'assurer qu'il présente suffisamment de variations et répond à nos normes de qualité ». Il a souligné que cet examen est crucial avant de réactiver la fonctionnalité Make Design.

La controverse entourant l’outil d’IA de Figma met en lumière les défis plus larges auxquels est confrontée l’industrie créative à mesure que l’IA devient plus répandue dans les logiciels de conception. Cela souligne la nécessité d’un examen attentif des données de formation, de la variabilité des résultats et des implications éthiques lors de la mise en œuvre de l’IA dans des outils créatifs.

Cet incident n’est pas isolé dans le monde des outils créatifs basés sur l’IA. D’autres sociétés, comme Adobe, ont fait l’objet d’un examen similaire concernant leurs fonctionnalités d’IA et leurs politiques d’utilisation des données.

Ces situations soulignent l’équilibre délicat entre l’exploitation de l’IA pour améliorer la créativité et la garantie de l’originalité et de la conformité juridique du contenu généré par l’IA.

L'article Figma suspend l'outil de conception d'IA au milieu d'une controverse sur la similarité des applications Apple apparaît en premier sur Blockonomi.