TLDR
Figma desativou temporariamente seu recurso “Make Design” baseado em IA após acusações de copiar o design do aplicativo Weather da Apple.
A polêmica surgiu quando o desenvolvedor Andy Allen demonstrou que a ferramenta de IA produzia repetidamente designs semelhantes ao aplicativo da Apple.
O CEO da Figma, Dylan Field, negou que a ferramenta tenha sido treinada nos designs da Apple, culpando seus próprios “sistemas de design personalizados” pelo problema.
Figma usa modelos de IA prontos para uso da OpenAI e Amazon, levantando questões sobre os dados de treinamento para esses modelos.
A empresa planeja revisar seus processos e melhorar a variabilidade dos projetos antes de reativar o recurso.
Figma, uma popular empresa de software de design, desativou temporariamente seu recurso “Make Design” baseado em IA após acusações de que estava gerando designs muito semelhantes ao aplicativo Weather da Apple.
A controvérsia gerou discussões sobre o uso ético da IA em ferramentas de design e os desafios de garantir a originalidade no conteúdo gerado pela IA.
A questão veio à tona quando Andy Allen, CEO da Not Boring Software, demonstrou que a ferramenta de IA da Figma produzia consistentemente designs muito semelhantes ao aplicativo Weather da Apple quando solicitado a criar um aplicativo meteorológico. As postagens de Allen na plataforma de mídia social X (antigo Twitter) rapidamente ganharam atenção, levantando preocupações sobre possíveis questões legais para designers que usam a ferramenta.
Figma AI parece bastante treinado em aplicativos existentes.
Este é um “aplicativo de clima” que usa o novo recurso Make Designs e os resultados são basicamente o aplicativo Weather da Apple (à esquerda). Tentei três vezes, mesmos resultados. https://t.co/Ij20OpPCer pic.twitter.com/psFTV6daVD
-Andy Allen (@asallen) 1º de julho de 2024
Em resposta à crescente controvérsia, o CEO da Figma, Dylan Field, abordou a situação em uma série de postagens no X. Field negou categoricamente que o recurso “Make Design” tenha sido treinado nos designs da Apple ou em qualquer outro design de aplicativo.
Ele afirmou: “o recurso Make Design não é treinado no conteúdo do Figma, arquivos de comunidade ou designs de aplicativos” e rotulou as acusações de treinamento de dados como falsas.
Field atribuiu o problema ao uso pela Figma de “sistemas de design subjacentes sob medida” criados pela empresa. Ele reconheceu que esta abordagem resultou em baixa variabilidade nos designs gerados, o que provavelmente contribuiu para as semelhanças com o aplicativo da Apple.
Assumindo a responsabilidade pela supervisão, Field admitiu: “Em última análise, a culpa é minha por não insistir em um melhor processo de controle de qualidade para este trabalho e pressionar nossa equipe para cumprir o prazo para o Config”, referindo-se à conferência anual da empresa.
O CTO da Figma, Kris Rasmussen, forneceu mais informações sobre a implementação de IA da empresa. Ele revelou que Figma usa modelos de IA prontos para uso, especificamente GPT-4 da OpenAI e Titan Image Generator G1 da Amazon, em vez de treinar seus próprios modelos. Esta revelação levanta questões sobre os dados de treinamento usados por esses modelos de terceiros e se eles podem ter incorporado designs de aplicativos existentes.
A decisão da empresa de utilizar modelos pré-treinados deveu-se em parte ao seu compromisso com a transparência em relação às políticas de formação em IA. A Figma introduziu recentemente políticas que permitem aos usuários optar por aceitar ou não que seu conteúdo seja usado para treinamento de IA, com prazo até 15 de agosto para que os usuários façam sua escolha.
Enquanto a Figma trabalha para resolver o problema, Rasmussen afirmou que a empresa está “fazendo uma revisão no sistema de design personalizado para garantir que ele tenha variação suficiente e atenda aos nossos padrões de qualidade”. Ele enfatizou que esta revisão é crucial antes de reativar o recurso Make Design.
A controvérsia em torno da ferramenta de IA da Figma destaca os desafios mais amplos que a indústria criativa enfrenta à medida que a IA se torna mais predominante em software de design. Salienta a necessidade de uma consideração cuidadosa dos dados de formação, da variabilidade dos resultados e das implicações éticas ao implementar a IA em ferramentas criativas.
Este incidente não está isolado no mundo das ferramentas criativas baseadas em IA. Outras empresas, como a Adobe, enfrentaram um escrutínio semelhante em relação aos seus recursos de IA e políticas de uso de dados.
Estas situações enfatizam o delicado equilíbrio entre aproveitar a IA para aumentar a criatividade e garantir a originalidade e a conformidade legal do conteúdo gerado pela IA.
A postagem Figma suspende ferramenta de design de IA em meio a controvérsia sobre semelhança de aplicativos da Apple apareceu pela primeira vez no Blockonomi.