In einem aktuellen Sicherheitsbericht behauptet Meta, dass Russland generative künstliche Intelligenz (KI) für Online-Täuschungskampagnen über die US-Wahlen einsetzt. Der Technologieriese behauptet, die meisten dieser Bemühungen seien erfolglos gewesen, da er die Kampagnen vereitelt habe.
Laut Meta haben die generativen KI-Strategien nur minimale Produktivitätsgewinne gebracht. Dies liegt daran, dass das Unternehmen koordiniertes unauthentisches Verhalten (CIB) auf seiner Plattform erkennen und unterbinden konnte.
Meta identifiziert Russland als Hauptquelle politischer Einflusskampagnen
Der Meta Adversarial Threat Report für das zweite Quartal ergab, dass die meisten CIB-Kampagnen auf seinen Plattformen, insbesondere Facebook und Instagram, aus Russland stammten. Seit 2017 war das Land für 39 verdeckte Operationen verantwortlich, während der Iran und China mit 30 bzw. 11 Operationen auf Platz zwei und drei liegen.
Diese russischen Kampagnen stützten sich stark auf gefälschte Konten und Seiten, wobei eine Kerntaktik darin bestand, mehrere Konten zu erwerben. Inhaltlich scheinen sie seit der russischen Invasion der Ukraine im Jahr 2022 alle dieselbe Botschaft zu verbreiten – die Rechtfertigung der Invasion.
Beispiele russischer KI-Kampagnen (Quelle: Meta)
Meta hat nun vorhergesagt, dass in den nächsten Monaten, wenn die Präsidentschaftswahlen im November näher rücken, weitere Kampagnen auftauchen werden, die sich an US-Nutzer richten. Die Kampagnen werden wahrscheinlich antiukrainische Botschaften verbreiten und Kandidaten angreifen, die die Ukraine unterstützen.
Darin heißt es:
„Bis zu den US-Wahlen im November erwarten wir, dass von Russland aus unterstützte Kommentare über Kandidaten verbreitet werden, die sich gegen die Hilfe für die Ukraine aussprechen, und jene kritisiert werden, die sich für die Unterstützung ihrer Verteidigung einsetzen.“
Trotz der anhaltenden Bedrohung und des intensiven Einsatzes von KI in diesen betrügerischen Kampagnen behauptete Meta, eine äußerst wirksame Methode entwickelt zu haben, um solche bösartigen Aktivitäten zu erkennen und zu verhindern. Das Unternehmen konzentriert sich auf das Verhaltensmuster des Kontos statt auf den Inhalt des Beitrags, wodurch es automatisierte Aktionen besser erkennen kann.
Russlands Geschichte der Wahlmanipulation
Metas proaktive Vorgehensweise bei der Eindämmung böswilliger politischer Einflusskampagnen ist nicht überraschend. Das Unternehmen ist von Regulierungsbehörden in die Kritik geraten, weil es derartige Kampagnen nicht verhindert oder von seiner Plattform entfernt hat. Im Mai dieses Jahres leitete die Europäische Union eine Untersuchung ein, weil Meta seine Regeln zur Wahlintegrität nicht einhält.
Russland hat in der Vergangenheit bereits Einflusskampagnen gegen rivalisierende Weltmächte finanziert, insbesondere während der Wahlen. Dem Land wurde vorgeworfen, das Ergebnis der US-Wahlen 2016 durch Kampagnen auf allen Social-Media-Plattformen, darunter auch Apps wie Tumblr und PayPal, beeinflusst zu haben.
Eine Studie, die Millionen von Social-Media-Posts auf allen Plattformen, darunter auch Google, analysierte, zeigte, dass die russische Regierung über mehrere Agenten Falschinformationen über den US-Wahlprozess verbreitete, um diesen zu untergraben. Als Anführer der Kampagne wurde eine Gruppe identifiziert, die Internet Research Agency (IRA), die von vielen als russische Trollfarm angesehen wird.
Mit dem Aufkommen generativer KI-Technologien, die die Generierung aller Arten von Inhalten erleichtern, gibt es Befürchtungen, dass sie bei dieser Wahl sehr häufig für Einflusskampagnen eingesetzt werden. Bisher haben mehrere Sicherheitsexperten einige Fälle ihrer Verwendung festgestellt. Allerdings beschuldigen sich sogar politische Kandidaten gegenseitig, KI zu verwenden.