Ein neuer KI-bezogener Betrug ist aufgetaucht, bei dem Tausende von KI-generierten Influencern, die soziale Seiten wie Instagram mit gestohlenen Bildern echter Personen überschwemmt haben, beteiligt sind.
Der Betrug umfasst das Stehlen von Videos echter Models und erwachsenen Inhaltsanbietern, das Verleihen von KI-generierten Gesichtern und das Monetarisieren ihrer Körper mit Links zu Dating-Seiten wie Patreon, OnlyFans-Wettbewerben und verschiedenen KI-Apps.
KI-generierte Influencer konkurrieren mit Menschen auf Instagram
Im April berichtete 404 Media erstmals über diese Praxis, als sie erstmals auftauchte. Die Praxis hat sich nun zu einem beliebten Trend entwickelt, der viele dazu bringt anzunehmen, dass das von Meta betriebene soziale Medium entweder nicht in der Lage oder nicht bereit ist, den scheinbaren Trend auf seiner Plattform zu stoppen.
Dies geschieht, während die menschlichen Inhaltsanbieter auf Instagram sagen, dass sie jetzt auf eine Weise mit KI-Inhalten konkurrieren, die ihre Lebensfähigkeit beeinflusst.
Mit einigen der handelsüblichen KI-Tools und Apps, die im Apple App Store und im Google Play Store gehostet werden, können die KI-Influencer jetzt ganz einfach ihre Konten erstellen und monetarisieren. Laut Wired haben sie mehr als 1.000 von KI generierte Instagram-Konten und Discord-Kanäle überprüft, in denen die Personen, die diesen Inhalt erstellen, Tipps teilen, Strategien diskutieren und mehrere Anleitungen erklären, wie man durch "KI-Pimping" Geld verdienen kann.
Wired stellte fest, dass das Problem, das früher auf Instagram geringfügig war, zu einer großen Praxis gewachsen ist, die mit mehreren Vorhersagen über die zukünftige Landschaft sozialer Medien übereinstimmt, in der KI-generierte Inhalte die der Menschen überstrahlen.
Erwachsene Inhaltsanbieter, die ihre Arbeit auf Instagram fördern, sind jetzt besorgt darüber, direkt mit diesen KI-Kopierkonten zu konkurrieren, von denen viele Fotos und Videos von erwachsenen Inhaltsanbietern und Instagram-Modellen gestohlen haben.
Elaina St James, eine Inhaltsanbieterin für Erwachsene, sagte, dass, obwohl es möglicherweise andere Änderungen im Instagram-Algorithmus gibt, die dazu beigetragen haben könnten, seit der Explosion der KI-generierten Influencer-Konten auf Instagram ihre "Reichweite enorm zurückgegangen ist," von typischen 1 Million bis 5 Millionen Aufrufen pro Monat. Sie hat in den letzten 10 Monaten keine Million geknackt und kommt manchmal unter 500.000 Aufrufen.
"Das ist wahrscheinlich einer der Gründe, warum meine Aufrufe zurückgehen. Es liegt daran, dass ich mit etwas konkurriere, das unnatürlich ist." St James.
Alexios Mantzarlis, der Direktor der Sicherheits-, Vertrauens- und Sicherheitsinitiative an der Cornell Tech und zuvor Principal für Vertrauens- und Sicherheitsintelligenz bei Google, stellte eine Liste von etwa 900 Konten in der 404 Media-Forschung zusammen.
Ein Zeichen dafür, wie soziale Medien in naher Zukunft aussehen werden
Mantzarlis sagte, dass dies nichts völlig Neues oder Überraschendes sei, da dies nur die früheren Vorhersagen über KI-Technologie und deren Akzeptanz auf sozialen Medien Plattformen erfülle.
"Es fühlte sich an wie ein mögliches Zeichen dafür, wie soziale Medien in fünf Jahren aussehen werden", sagte Mantzarlis.
"Denn das könnte auch in anderen Teilen des Internets geschehen, nicht nur in der Nische attraktiver Menschen auf Instagram. Dies ist wahrscheinlich ein Zeichen dafür, dass es ziemlich schlimm werden wird."
Mantzarlis.
Von mehr als 1.000 KI-generierten Instagram-Influencer-Konten enthielten mindestens 100 Deepfake-Inhalte, die bestehende Videos, normalerweise von Models und Darstellern der Erwachsenenunterhaltung, nahmen und deren Gesichter durch ein KI-generiertes Gesicht ersetzten, um den Videos ein frisches Aussehen zu verleihen.
Die Videos werden wie neue, originale Inhalte aussehen, die mit den anderen von KI generierten Bildern und Videos übereinstimmen, die von dem KI-generierten Influencer geteilt werden.
Instagram wird auf Beschwerden reagieren
Instagram erklärte, dass es bei Konten nur dann Maßnahmen ergreifen würde, wenn sie von dem richtigen Eigentümer oder jemandem, der befugt ist, im Namen des Eigentümers zu berichten, gemeldet werden. Viele menschliche Influencer sagen jedoch, dass der bereitgestellte Kanal nicht funktioniert, da sie zu viele Konten von Nachahmern verfolgen müssen.
St James fügte hinzu, dass die Tatsache, dass viele dieser KI-generierten Influencer-Konten von mir betrieben werden, das Ganze noch schlimmer macht.
"Wir Frauen in der Welt verdienen weniger Geld. Wir sind in vielerlei Hinsicht im Nachteil. Ein Bereich der Welt, in dem wir einen Vorteil haben, ist der Influencer- und Modelbereich, also ist es nur eine zusätzliche Schicht", sagte St James.
"Es macht mich ein bisschen wütend, dass es ein Typ ist, der Geld verdient, während er vorgibt, eine Frau zu sein", fügte sie hinzu.
Apple, das bisher das "Dual-Use"-Problem von Face-Swapping-Apps, die unschuldig verwendet werden können, aber oft genutzt werden, um nicht einvernehmliche Inhalte zu erstellen, nicht gelöst hat, wurde aus dem App Store entfernt, nachdem es zu diesem Thema befragt wurde.
Von Null zum Web3-Profi: Ihr 90-Tage-Karrierestartplan