Nowy związany z AI oszustwo pojawiło się, w którym tysiące influencerów generowanych przez AI zalały strony społecznościowe, takie jak Instagram, używając skradzionych obrazów prawdziwych ludzi.

Oszustwo obejmuje kradzież filmów od prawdziwych modeli i twórców treści dla dorosłych, nadawanie im twarzy generowanych przez AI oraz monetyzowanie ich ciał z linkami do portali randkowych, takich jak Patreon, OnlyFans, konkursy i różne aplikacje AI.

Influencerzy generowani przez AI konkurują z ludźmi na Instagramie

W kwietniu 404 Media po raz pierwszy zgłosiło tę praktykę, gdy po raz pierwszy się pojawiła. Praktyka ta urosła teraz w popularny trend, który sprawił, że wielu zakłada, że media społecznościowe zarządzane przez Meta są albo niezdolne, albo niechętne do zatrzymania tego trendu na swojej platformie.

To następuje w momencie, gdy ludzcy twórcy treści na Instagramie mówią, że teraz konkurują z treściami AI w sposób, który wpływa na ich rentowność.

Dzięki niektórym gotowym narzędziom i aplikacjom AI, które są dostępne w Apple App i Google Play Store, influencerzy AI mogą teraz łatwo tworzyć i monetyzować swoje konta. Według Wired, przejrzeli ponad 1000 kont na Instagramie generowanych przez AI oraz kanały Discord, gdzie ludzie tworzący te treści dzielą się wskazówkami i omawiają strategie oraz kilka poradników wyjaśniających, jak zarabiać pieniądze dzięki „AI pimping”.

Wired dowiedziało się, że problem, który kiedyś był marginalny na Instagramie, urosło do ogromnej praktyki zgodnej z kilkoma prognozami na przyszły krajobraz mediów społecznościowych, gdzie treści generowane przez AI przyćmiewają treści ludzkie.

Twórcy treści dla dorosłych, którzy promują swoją pracę na Instagramie, obawiają się teraz bezpośredniej konkurencji z tymi kontami oszustów AI, z których wiele używa zdjęć i filmów skradzionych od twórców treści dla dorosłych i modeli z Instagrama.

Elaina St James, twórczyni treści dla dorosłych, powiedziała, że choć mogą istnieć inne zmiany w algorytmie Instagrama, które mogły przyczynić się do tego, od wybuchu kont influencerów generowanych przez AI na Instagramie jej „zasięg spadł ogromnie,” z typowych 1 miliona do 5 milionów wyświetleń miesięcznie. Nie osiągnęła miliona w ciągu ostatnich 10 miesięcy, a czasami miała mniej niż 500 000 wyświetleń.

„To prawdopodobnie jeden z powodów, dla których moje wyświetlenia spadają. To dlatego, że konkuruję z czymś, co jest nienaturalne.” St James.

Alexios Mantzarlis, dyrektor inicjatywy bezpieczeństwa, zaufania i ochrony w Cornell Tech, a wcześniej główny specjalista ds. zaufania i bezpieczeństwa w Google, skompilował listę około 900 kont w badaniach 404 Media.

Znak tego, jak media społecznościowe będą wyglądać wkrótce

Mantzarlis powiedział, że to nie było nic całkowicie nowego ani zaskakującego, ponieważ po prostu spełniało wcześniejsze prognozy dotyczące technologii AI i jej adopcji na platformach mediów społecznościowych.

„Czułem, że to możliwy znak tego, jak media społecznościowe będą wyglądać za pięć lat,” powiedział Mantzarlis.

„Ponieważ może to dotyczyć innych części Internetu, a nie tylko niszy atrakcyjnych ludzi na Instagramie. To prawdopodobnie znak, że będzie to dość złe.”

Mantzarlis.

Spośród ponad 1000 kont influencerów na Instagramie generowanych przez AI, co najmniej 100 zawierało treści deepfake, które wzięły istniejące filmy, zazwyczaj od modeli i wykonawców treści dla dorosłych, i zastąpiły ich twarze twarzą generowaną przez AI, aby nadać filmom świeży wygląd.

Filmy będą wyglądać jak nowe, oryginalne treści zgodne z innymi obrazami i filmami generowanymi przez AI, które są dzielone przez influencera generowanego przez AI.

Instagram podejmie działania po otrzymaniu skarg

Instagram powiedział, że podejmie działania w sprawie kont tylko wtedy, gdy zostaną zgłoszone przez odpowiedniego właściciela lub kogoś upoważnionego do zgłaszania w ich imieniu. Jednak wielu ludzkich influencerów mówi, że kanał dostarczany nie działa, ponieważ mają zbyt wiele kont naśladowców do śledzenia.

St James dodał, że fakt, że wiele z tych kont influencerów generowanych przez AI jest obsługiwanych przez mnie, dodaje obrażeń do urazów.

„My, jako kobiety w świecie, zarabiamy mniej pieniędzy. Jesteśmy w niekorzystnej sytuacji pod wieloma względami. Jednym z obszarów świata, w którym mamy przewagę, jest influencer i modelowanie, więc to tylko dodatkowa warstwa,” powiedziała St James.

„Trochę mnie to denerwuje, że to facet zarabia pieniądze, udając kobietę,” dodała.

Apple, która jak dotąd nie rozwiązała problemu „podwójnego użycia” aplikacji do zamiany twarzy, które mogą być używane w sposób niewinny, ale często są wykorzystywane do tworzenia treści bez zgody, usunęła je z App Store po tym, jak została zapytana o ten problem.

Od Zera do Web3 Pro: Twój 90-dniowy plan kariery