Bots, die KI nutzen, überfluten soziale Medien mit Desinformation

Fast jeden Monat bietet das Internet eine neue und kreative Idee für müheloses „Reichwerden“. Viele haben KI-Tools übernommen, um ihre Arbeit zu verbessern und höhere Erträge zu erzielen. Lokale Nachrichtensender veröffentlichen ihre Moderatoren und das Außenministerium baut eine digitale Quelle auf. Anders als Übersetzungs- und Grammatikprüfungen, die üblich und selbstverständlich sind, werden sie zu einem integralen Bestandteil unseres Lebens und werden kaum noch mit KI in Verbindung gebracht.

Aufdeckung der KI-gestützten Botfarm

Es gibt noch eine weitere Nische: die Erstellung von komplett originellem Material von Grund auf. Die Erstellung dauert lediglich zwanzig oder sogar nur eine Minute. Die gesamte KI-Plattform wird verwendet, um Videos zu produzieren (oder gestohlene Videos zu verarbeiten), Text- und Audiospuren zu schreiben, alles zu inszenieren und Beschreibungen und Hashtags hinzuzufügen, um sie in nur wenigen Sekunden im sozialen Netzwerk zu veröffentlichen.

So werden soziale Netzwerke allmählich zu bloßen KI-Mülleimern, und solche Instrumente ermöglichen es den Menschen, sich an dem Gedanken zu erfreuen, dass sie ein Werbevideo erstellt haben, das populär werden und Einnahmen generieren könnte. Oder sie verbreiten russische Propagandabotschaften bis zu dem Punkt, an dem sie zur dominierenden Stimme in der Angelegenheit werden.

Sie werden sehen, wie KI zur Botschaft über eine Fake-Farm beiträgt. Dies geschieht am Beispiel einer Bot-Farm mit 300 Kanälen, die KI nutzte, um Videos von beiden YouTube-Kanälen zu verarbeiten und zu generieren, egal ob sie russischen oder belarussischen Ursprungs sind. Hier ist Anastasiia Kozhevnikova, ein Mädchen aus Mariupol, die jetzt eine bekannte russische YouTuberin ist. Obwohl sie nur 190.000 Abonnenten auf ihrem YouTube-Kanal hat, ist sie ein gutes Beispiel dafür, wie die intelligente Nutzung des Internets einer Person eine Stimme geben kann, die in ihrem Heimatland unterdrückt wird. Sie hat einen guten Ruf als Verbreiterin der russischen Propagandamythen „Russland als Retter“ und des Aufstiegs Mariupols aus der Zerstörung.

Wenn man ihr Profil verlässt, fällt einem jedoch auf, dass es keine Informationen zum besprochenen Thema gibt. Sie erkundet, wer sie ist, und spricht über das, worüber sie immer vloggt. Woher weiß der Betrachter, dass es in der Community andere ähnliche Netzwerke gibt? Was, wenn es sich um einen Link zum YouTube-Kanal eines superpopulären Social-Media-Stars handelt? Karten mit Bildern der Mission der Organisation sind durchaus möglich. Vielleicht sogar noch großzügigere Kartennummern. Im Gegensatz dazu fehlt ein kurzer, geschmacklicher Ausdruck mit einem Anreiz zum Abonnieren. In diesem Zusammenhang kann jeder Kanal spezialisiert sein. Ich habe jedoch herausgefunden, dass viele solcher Kanäle bereits über solche verfügen.

Die heimtückische Verbreitung von KI-Desinformation

Ebenso generierte die anspruchsvolle Google-Suche 298 TikTok-Kanal-Identifikationsnachrichten mit derselben Beschreibung. Es stellt sich heraus, dass es Ähnlichkeiten in ihrem Leben gibt. So begannen sie mit dem Scannen und wählten eine Kampagne innerhalb der russischsprachigen künstlichen TikTok-Farm aus. Der einzige Unterschied besteht in den Themen, auf die sie sich konzentrieren.

Ob Sie nun nach „russischer Propaganda“ oder „imperialen Verschwörungstheorien“ suchen, die Auswahl ist riesig. Gleichzeitig finden Sie Rezepte, Tipps für Mechaniker, Videos von Autofreaks, Cartoons für Kinder, Blogger usw., die den Leuten von Friedhöfen in Russland erzählen oder Schätze in den Trümmern des lokalen Altmetalls finden. Sie konnten nur in die Kategorie „Offline-Stars“ eingeordnet werden, da letztere die einzigen Pappstars sind, die wir finden. Erwähnenswert ist, dass die Medienaktivität in Russland von März 2022 bis vor kurzem eingeschränkt war. Beispielsweise wurde TikTok, eines der beliebtesten Netzwerke, als illegal angesehen.

Keine Informationen über die Autoren auf den entdeckten Farmen des Senders deuten erneut darauf hin, dass es sich hier um Piraterie handelte. Bis Ende Mai werden Sie die Zahlen gesehen haben, wahrscheinlich mehr als 10 Millionen. Likes und noch mehr Aufrufe gibt es auf dem Kanal bereits seit sechs Monaten. Je weiter man jedoch in diese virtuelle Fantasiewelt vordringt, desto mehr gefälschte und nicht existierende Inhalte werden im Überfluss vorhanden sein. In diesem Fall wird Russland sie in seinem Informationskrieg einsetzen. Russische Bots und Bot-Farmen replizieren und wiederholen in der Regel beliebte Nachrichten in sozialen Medien, wodurch sie für die Algorithmen sozialer Medien leichter zu erkennen sind.

Die Nutzung von KI-Funktionen für soziale Plattformen wird eine größere Herausforderung darstellen. Sie werden den Namen der Gegenbewegung mit dem Schlagwort „Fliegen im toten Raum des Internets“ auf dem Display sehen, das besagt, dass heutzutage keine echten Menschen mehr online sind. Neue Forschungsergebnisse zeigen nun, dass ein Großteil des Online-Verkehrs des letzten Jahres, nämlich über 50 %, von Bots stammte.