Figma Suspends AI Design Tool Amid Controversy Over Apple App Similarity

Blockonomi · 2024-07-08T10:12:09.000Z

TLDR Figma has temporarily disabled its AI-powered “Make Design” feature after accusations of copying Apple’s Weather app design. The controversy arose when developer Andy Allen demonstrated that the AI tool repeatedly produced designs similar to Apple’s app. Figma CEO Dylan Field denied that the tool was trained on Apple’s designs, blaming the issue on their own “bespoke design systems.” Figma uses off-the-shelf AI models from OpenAI and Amazon, raising questions about the training data for these models. The company plans to review its processes and improve the variability of designs before re-enabling the feature. Figma, a popular design software company, has temporarily disabled its AI-powered “Make Design” feature following accusations that it was generating designs strikingly similar to Apple’s Weather app. The controversy has sparked discussions about the ethical use of AI in design tools and the challenges of ensuring originality in AI-generated content. The issue came to light when Andy Allen, CEO of Not Boring Software, demonstrated that Figma’s AI tool consistently produced designs closely resembling Apple’s Weather app when asked to create a weather application. Allen’s posts on social media platform X (formerly Twitter) quickly gained attention, raising concerns about potential legal issues for designers using the tool. Figma AI looks rather heavily trained on existing apps. This is a "weather app" using the new Make Designs feature and the results are basically Apple's Weather app (left). Tried three times, same results. https://t.co/Ij20OpPCer pic.twitter.com/psFTV6daVD — Andy Allen (@asallen) July 1, 2024 In response to the growing controversy, Figma CEO Dylan Field addressed the situation in a series of posts on X. Field categorically denied that the “Make Design” feature was trained on Apple’s designs or any other app designs. He stated, “the Make Design feature is not trained on Figma content, community files, or app designs,” and labeled the accusations of data training as false. Field attributed the problem to Figma’s use of “bespoke underlying design systems” created by the company. He acknowledged that this approach resulted in low variability in the generated designs, which likely contributed to the similarities with Apple’s app. Taking responsibility for the oversight, Field admitted, “Ultimately it is my fault for not insisting on a better QA process for this work and pushing our team hard to hit a deadline for Config,” referring to the company’s annual conference. Figma’s CTO, Kris Rasmussen, provided further insight into the company’s AI implementation. He revealed that Figma uses off-the-shelf AI models, specifically OpenAI’s GPT-4 and Amazon’s Titan Image Generator G1, rather than training their own models. This revelation raises questions about the training data used by these third-party models and whether they might have incorporated designs from existing apps. The company’s decision to use pre-trained models was partly due to its commitment to transparency regarding AI training policies. Figma recently introduced policies allowing users to opt in or out of having their content used for AI training, with a deadline of August 15 for users to make their choice. As Figma works to address the issue, Rasmussen stated that the company is “doing a pass over the bespoke design system to ensure that it has sufficient variation and meets our quality standards.” He emphasized that this review is crucial before re-enabling the Make Design feature. The controversy surrounding Figma’s AI tool highlights the broader challenges facing the creative industry as AI becomes more prevalent in design software. It underscores the need for careful consideration of training data, output variability, and ethical implications when implementing AI in creative tools. This incident is not isolated in the world of AI-powered creative tools. Other companies, such as Adobe, have faced similar scrutiny regarding their AI features and data usage policies. These situations emphasize the delicate balance between leveraging AI to enhance creativity and ensuring the originality and legal compliance of AI-generated content. The post Figma Suspends AI Design Tool Amid Controversy Over Apple App Similarity appeared first on Blockonomi.

TLDR
Figma ha temporaneamente disabilitato la sua funzione “Make Design” basata sull’intelligenza artificiale dopo le accuse di aver copiato il design dell’app Meteo di Apple.
La controversia è nata quando lo sviluppatore Andy Allen ha dimostrato che lo strumento di intelligenza artificiale ha prodotto ripetutamente progetti simili all’app di Apple.
Il CEO di Figma, Dylan Field, ha negato che lo strumento sia stato addestrato sui progetti di Apple, attribuendo il problema ai loro stessi “sistemi di progettazione su misura”.
Figma utilizza modelli AI standard di OpenAI e Amazon, sollevando domande sui dati di addestramento per questi modelli.
L'azienda prevede di rivedere i propri processi e migliorare la variabilità dei progetti prima di riattivare la funzionalità.
Figma, una popolare società di software di progettazione, ha temporaneamente disabilitato la sua funzione “Make Design” basata sull’intelligenza artificiale in seguito alle accuse secondo cui stava generando progetti sorprendentemente simili all’app Meteo di Apple.
La controversia ha acceso discussioni sull’uso etico dell’intelligenza artificiale negli strumenti di progettazione e sulle sfide per garantire l’originalità dei contenuti generati dall’intelligenza artificiale.
Il problema è venuto alla luce quando Andy Allen, CEO di Not Boring Software, ha dimostrato che lo strumento AI di Figma produceva costantemente progetti molto simili all’app Meteo di Apple quando gli veniva chiesto di creare un’applicazione meteo. I post di Allen sulla piattaforma di social media X (ex Twitter) hanno rapidamente attirato l'attenzione, sollevando preoccupazioni su potenziali problemi legali per i designer che utilizzano lo strumento.
Figma AI sembra piuttosto addestrato sulle app esistenti.
Questa è una "app meteo" che utilizza la nuova funzionalità Crea progetti e i risultati sono fondamentalmente l'app Meteo di Apple (a sinistra). Provato tre volte, stessi risultati. https://t.co/Ij20OpPCer pic.twitter.com/psFTV6daVD
— Andy Allen (@asallen) 1 luglio 2024
In risposta alla crescente controversia, il CEO di Figma Dylan Field ha affrontato la situazione in una serie di post su X. Field ha negato categoricamente che la funzione "Make Design" sia stata addestrata sui design di Apple o su qualsiasi altro design di app.
Ha affermato che "la funzione Crea design non è addestrata sui contenuti Figma, sui file della comunità o sulla progettazione di app" e ha etichettato le accuse di formazione dei dati come false.
Field ha attribuito il problema all’uso da parte di Figma di “sistemi di progettazione sottostanti su misura” creati dall’azienda. Ha riconosciuto che questo approccio ha comportato una bassa variabilità nei progetti generati, il che probabilmente ha contribuito alle somiglianze con l’app di Apple.
Assumendosi la responsabilità della supervisione, Field ha ammesso: "In definitiva è colpa mia se non ho insistito su un migliore processo di QA per questo lavoro e non ho spinto il nostro team a rispettare una scadenza per Config", riferendosi alla conferenza annuale dell'azienda.
Il CTO di Figma, Kris Rasmussen, ha fornito ulteriori informazioni sull’implementazione dell’intelligenza artificiale dell’azienda. Ha rivelato che Figma utilizza modelli AI standard, in particolare GPT-4 di OpenAI e Titan Image Generator G1 di Amazon, piuttosto che addestrare i propri modelli. Questa rivelazione solleva dubbi sui dati di addestramento utilizzati da questi modelli di terze parti e sulla possibilità che abbiano incorporato progetti di app esistenti.
La decisione dell’azienda di utilizzare modelli pre-addestrati è stata in parte dovuta al suo impegno per la trasparenza riguardo alle politiche di formazione sull’IA. Figma ha recentemente introdotto politiche che consentono agli utenti di acconsentire o meno all'utilizzo dei propri contenuti per la formazione sull'intelligenza artificiale, con una scadenza del 15 agosto affinché gli utenti possano fare la loro scelta.
Mentre Figma lavora per affrontare il problema, Rasmussen ha dichiarato che la società sta “eseguendo un passaggio sul sistema di progettazione su misura per garantire che abbia variazioni sufficienti e soddisfi i nostri standard di qualità”. Ha sottolineato che questa revisione è fondamentale prima di riattivare la funzione Make Design.
La controversia sullo strumento AI di Figma evidenzia le sfide più ampie che il settore creativo deve affrontare man mano che l’intelligenza artificiale diventa sempre più diffusa nei software di progettazione. Sottolinea la necessità di un’attenta considerazione dei dati di addestramento, della variabilità dell’output e delle implicazioni etiche quando si implementa l’intelligenza artificiale negli strumenti creativi.
Questo incidente non è isolato nel mondo degli strumenti creativi basati sull’intelligenza artificiale. Altre aziende, come Adobe, hanno dovuto affrontare un esame simile per quanto riguarda le loro funzionalità di intelligenza artificiale e le politiche di utilizzo dei dati.
Queste situazioni sottolineano il delicato equilibrio tra lo sfruttamento dell’intelligenza artificiale per migliorare la creatività e la garanzia dell’originalità e della conformità legale dei contenuti generati dall’intelligenza artificiale.
Il post Figma sospende lo strumento di progettazione AI in mezzo alla controversia sulla somiglianza delle app Apple è apparso per la prima volta su Blockonomi.

Figma sospende lo strumento di progettazione AI in mezzo alla controversia sulla somiglianza delle app Apple

Scopri di più dal Creator

Ultime notizie