Meta ostrzega przed rosyjskimi zagrożeniami ze strony sztucznej inteligencji w obliczu zbliżających się wyborów w USA

Meta, w niedawnym raporcie bezpieczeństwa, mówi, że Rosja wykorzystuje generatywne narzędzia sztucznej inteligencji (AI) do internetowych kampanii oszustw dotyczących wyborów w USA. Gigant technologiczny twierdzi, że większość wysiłków była nieskuteczna, ponieważ udaremnił kampanie.

Według Meta, generatywne strategie AI przyniosły minimalną produktywność i zyski. Dzieje się tak, ponieważ firma mogła wykrywać i ograniczać skoordynowane nieautentyczne zachowanie (CIB) na swojej platformie.

Meta identyfikuje Rosję jako główne źródło kampanii wpływu politycznego

Raport Meta Adversarial Threat Report za 2. kwartał wykazał, że większość kampanii CIB na platformach, szczególnie na Facebooku i Instagramie, pochodzi z Rosji. Od 2017 r. kraj ten był odpowiedzialny za 39 tajnych operacji, podczas gdy Iran i Chiny zajmują drugie i trzecie miejsce z odpowiednio 30 i 11 operacjami.

Te rosyjskie kampanie w dużej mierze opierały się na fałszywych kontach i stronach, a jedną z głównych taktyk było pozyskiwanie wielu kont. Jeśli chodzi o treść, wszystkie wydają się propagować ten sam przekaz od czasu inwazji Rosji na Ukrainę w 2022 r. — uzasadniając inwazję.

Przykłady rosyjskich kampanii AI (Źródło: Meta)

Meta przewidziała, że ​​w ciągu najbliższych kilku miesięcy pojawi się więcej kampanii skierowanych do użytkowników z USA, gdy zbliżają się listopadowe wybory prezydenckie. Kampanie prawdopodobnie będą rozprzestrzeniać antyukraińskie przesłania i atakować kandydatów popierających Ukrainę.

W artykule napisano:

„Oczekujemy, że od teraz do wyborów w USA w listopadzie operacje z siedzibą w Rosji będą promować wspierające komentarze na temat kandydatów sprzeciwiających się pomocy dla Ukrainy i krytykować tych, którzy opowiadają się za wsparciem jej obronności”.

Pomimo ciągłego zagrożenia i intensywnego wykorzystania sztucznej inteligencji w tych oszukańczych kampaniach, Meta twierdzi, że opracowała wysoce skuteczny sposób wykrywania i zapobiegania takiej złośliwej aktywności. Firma koncentruje się na wzorcu zachowania konta, a nie na treści posta, co pozwala jej lepiej wykrywać zautomatyzowane działania.

Historia ingerencji Rosji w wybory

Proaktywność Meta w ograniczaniu złośliwych kampanii politycznych nie jest zaskakująca. Firma znalazła się pod ostrzałem regulatorów za to, że nie zapobiegła takim kampaniom lub nie usunęła ich ze swojej platformy. W maju tego roku Unia Europejska wszczęła dochodzenie w sprawie nieprzestrzegania przez Meta zasad uczciwości wyborów.

Tymczasem Rosja ma historię sponsorowania kampanii wpływu przeciwko rywalizującym mocarstwom światowym, szczególnie podczas ich wyborów. Kraj ten został oskarżony o wpływanie na wynik wyborów w USA w 2016 r. poprzez kampanie na wszystkich platformach mediów społecznościowych, w tym aplikacjach takich jak Tumblr i PayPal.

Badanie analizujące miliony postów w mediach społecznościowych na wszystkich platformach, w tym Google, wykazało, że rząd rosyjski, za pośrednictwem kilku agentów, rozpowszechniał dezinformację na temat procesu wyborczego w USA, aby go podważyć. Zidentyfikowano jedną grupę, Internet Research Agency (IRA), uważaną przez wielu za rosyjską farmę trolli, jako lidera kampanii.

Wraz z pojawieniem się generatywnych technologii AI, które ułatwiają generowanie wszelkich form treści, pojawiły się obawy, że ich wykorzystanie w kampaniach wpływu będzie bardzo wysokie w tych wyborach. Jak dotąd kilku ekspertów ds. bezpieczeństwa zidentyfikowało kilka przypadków ich wykorzystania. Jednak nawet kandydaci polityczni oskarżali się nawzajem o korzystanie ze sztucznej inteligencji.