TLDR
Figma tymczasowo wyłączyła funkcję „Make Design” opartą na sztucznej inteligencji po oskarżeniach o kopiowanie projektu aplikacji pogodowej Apple.
Kontrowersje pojawiły się, gdy programista Andy Allen wykazał, że narzędzie AI wielokrotnie tworzyło projekty podobne do aplikacji Apple.
Dyrektor generalny Figmy, Dylan Field, zaprzeczył, jakoby narzędzie zostało przeszkolone w oparciu o projekty Apple, obwiniając za problem ich własne „systemy projektowania na zamówienie”.
Figma korzysta z gotowych modeli sztucznej inteligencji firm OpenAI i Amazon, co rodzi pytania dotyczące danych szkoleniowych dla tych modeli.
Firma planuje dokonać przeglądu swoich procesów i poprawić zmienność projektów przed ponownym włączeniem tej funkcji.
Figma, popularna firma zajmująca się oprogramowaniem do projektowania, tymczasowo wyłączyła funkcję „Make Design” opartą na sztucznej inteligencji po oskarżeniach, że generuje projekty uderzająco podobne do aplikacji Weather firmy Apple.
Kontrowersje wywołały dyskusje na temat etycznego wykorzystania sztucznej inteligencji w narzędziach projektowych oraz wyzwań związanych z zapewnieniem oryginalności treści generowanych przez sztuczną inteligencję.
Problem wyszedł na światło dzienne, gdy Andy Allen, dyrektor generalny Not Boring Software, wykazał, że narzędzie AI firmy Figma konsekwentnie tworzyło projekty bardzo przypominające aplikację pogodową firmy Apple, gdy zostało poproszone o utworzenie aplikacji pogodowej. Wpisy Allena na platformie społecznościowej X (dawniej Twitter) szybko wzbudziły zainteresowanie, budząc obawy dotyczące potencjalnych problemów prawnych dla projektantów korzystających z tego narzędzia.
Figma AI wygląda na dość mocno przeszkoloną w zakresie istniejących aplikacji.
Jest to „aplikacja pogodowa” korzystająca z nowej funkcji Twórz projekty, a jej wyniki to w zasadzie aplikacja Pogoda firmy Apple (po lewej). Próbowałem trzy razy, te same wyniki. https://t.co/Ij20OpPCer pic.twitter.com/psFTV6daVD
— Andy Allen (@asallen) 1 lipca 2024 r
W odpowiedzi na rosnące kontrowersje dyrektor generalny Figmy, Dylan Field, odniósł się do sytuacji w serii postów na X. Field kategorycznie zaprzeczył, jakoby funkcja „Make Design” została przeszkolona na podstawie projektów Apple lub jakichkolwiek innych projektów aplikacji.
Stwierdził, że „funkcja Make Design nie jest przeszkolona w zakresie treści Figma, plików społeczności ani projektów aplikacji” i określił oskarżenia o szkoleniu danych jako fałszywe.
Field przypisał problem wykorzystaniu przez Figmę „szytych na miarę systemów projektowych” stworzonych przez firmę. Przyznał, że takie podejście skutkuje małą zmiennością generowanych projektów, co prawdopodobnie przyczyniło się do podobieństwa z aplikacją Apple.
Biorąc odpowiedzialność za nadzór, Field przyznał: „Ostatecznie to moja wina, że nie nalegałem na lepszy proces kontroli jakości w tej pracy i nie naciskałem na nasz zespół, aby dotrzymał terminu konfiguracji”, odnosząc się do dorocznej konferencji firmy.
Dyrektor ds. technicznych firmy Figma, Kris Rasmussen, przedstawił dalsze informacje na temat wdrożenia sztucznej inteligencji w firmie. Ujawnił, że Figma zamiast trenować własne modele, korzysta z gotowych modeli sztucznej inteligencji, w szczególności GPT-4 OpenAI i Titan Image Generator G1 firmy Amazon. To odkrycie rodzi pytania dotyczące danych szkoleniowych wykorzystywanych przez te modele innych firm oraz tego, czy mogły one zawierać projekty z istniejących aplikacji.
Decyzja firmy o wykorzystaniu wstępnie wyszkolonych modeli wynikała częściowo z jej dbałości o przejrzystość polityki szkoleniowej w zakresie sztucznej inteligencji. Figma wprowadziła niedawno zasady umożliwiające użytkownikom wyrażenie zgody na wykorzystywanie ich treści do szkoleń w zakresie sztucznej inteligencji lub zrezygnowanie z nich, z ostatecznym terminem na dokonanie wyboru upływającym 15 sierpnia.
W miarę jak Figma pracuje nad rozwiązaniem tego problemu, Rasmussen stwierdził, że firma „pomija system projektowania na zamówienie, aby zapewnić jego wystarczającą różnorodność i zgodność z naszymi standardami jakości”. Podkreślił, że ta recenzja jest kluczowa przed ponownym włączeniem funkcji Make Design.
Kontrowersje wokół narzędzia AI firmy Figma uwydatniają szersze wyzwania stojące przed branżą kreatywną w miarę jak sztuczna inteligencja staje się coraz bardziej powszechna w oprogramowaniu do projektowania. Podkreśla potrzebę dokładnego rozważenia danych szkoleniowych, zmienności wyników i implikacji etycznych podczas wdrażania sztucznej inteligencji w narzędziach kreatywnych.
Ten przypadek nie jest odosobniony w świecie narzędzi kreatywnych opartych na sztucznej inteligencji. Inne firmy, takie jak Adobe, zostały poddane podobnej kontroli w zakresie funkcji sztucznej inteligencji i zasad wykorzystania danych.
Sytuacje te podkreślają delikatną równowagę pomiędzy wykorzystaniem sztucznej inteligencji w celu zwiększenia kreatywności a zapewnieniem oryginalności i zgodności z prawem treści generowanych przez sztuczną inteligencję.
Wpis Figma zawiesza narzędzie do projektowania AI w związku z kontrowersjami wokół podobieństwa aplikacji Apple pojawił się jako pierwszy na Blockonomi.