Autoritățile americane de aplicare a legii au confiscat două domenii legate de o fermă de roboti de rețele sociale alimentată de inteligență artificială, legată de guvernul Rusiei, a anunțat marți Departamentul de Justiție al SUA (DOJ).

„Acesta este un exemplu puternic al strategiei de perturbare în primul rând pe care Departamentul, inclusiv FBI, a luat-o în ceea ce privește amenințările cibernetice și activate cibernetic la adresa securității naționale”, a declarat un purtător de cuvânt al DOJ pentru Decrypt. „Continuăm să evoluăm în modul în care apărăm și identificăm acești actori.”

Potrivit documentelor publicate de agenție, infractorii cibernetici au folosit AI generativă pentru a crea profiluri de rețele sociale false, mulți pretinzând că sunt americani, care au fost apoi folosiți pentru a posta mesaje pro-ruse pe Twitter.

„Acțiunile de astăzi reprezintă o premieră în perturbarea unei ferme de bot de rețele sociale, susținută de IA generativă, îmbunătățită de IA”, a declarat directorul Biroului Federal de Investigații (FBI) al SUA, Christopher Wray, într-un comunicat. 

„Rusia intenționează să folosească această fermă de bot pentru a disemina dezinformarea străină generată de inteligența artificială, extinzându-și munca cu ajutorul inteligenței artificiale pentru a submina partenerii noștri din Ucraina și a influența narațiunile geopolitice favorabile guvernului rus”.

Ferma de bot ar fi folosit domenii (mlrtr.com și otanmail.com) emise de furnizorul de domenii Namecheap din Arizona, servicii private de e-mail pentru a genera adrese de e-mail aleatoare și a creat profiluri pe Twitter. 

Într-un exemplu, un cont de bot se pretindea a fi un rezident din Minneapolis care s-a descris ca fiind „umanist” și a inclus un hashtag pentru Bitcoin.

În total, ferma de bot a creat peste 968 de conturi Twitter între 11 iunie 2022 și 1 martie 2024.

Deși Namecheap a spus că nu poate comenta nicio investigație specifică, compania a declarat pentru Decrypt că „combate în mod activ toate formele de abuz pe platforma noastră”.

„Suntem recunoscuți pe scară largă pentru tacticile noastre eficiente de a identifica și elimina rapid actorii răi care folosesc serviciile noastre”, a scris Namecheap pe Twitter. „Colaborăm cu forțele de ordine și implementăm citații, ordonanțe judecătorești și/sau mandate din SUA legate de abuz sau activitate ilegală pe platforma noastră.”

Pentru experții în securitate cibernetică, modelele AI generative disponibile public și instrumentele standardizate pentru dezvoltatori sunt atractive pentru infractorii cibernetici sponsorizați de stat.

„Combinația de AI generativă și API-uri pentru dezvoltatori furnizate de platforme precum Telegram, X și Meta poate fi foarte periculoasă dacă este folosită cu răutate”, a declarat Steve Walbroehl, cofondatorul și CTO al firmei de securitate blockchain Halborn, prin Telegram. 

„Într-o situație normală, această funcționalitate le permite utilizatorilor să automatizeze, să gestioneze sau să-și sporească prezența pe rețelele sociale. Dar în mâinile unui actor rău, este o metodă foarte convingătoare de a induce în eroare oamenii și comunitățile online.”

Walbroehl a subliniat grupurile Telegram, compuse în întregime din roboți bazați pe inteligență artificială, care ar putea fi folosite pentru a crea hype false și dovezi sociale și pentru a convinge victimele nebănuite să investească în escrocherii bazate pe acest entuziasm fabricat, doar pentru ca investițiile lor să fie furate de escrocii care controlează roboții.

„Deși este o tactică de inginerie socială folosită pentru distribuirea dezinformației la scară, este și o tactică folosită de escroci pentru a ajuta la „pompează și aruncă” monede meme pentru a fura cantități mari de capital de la utilizatorii naivi”, a adăugat Walbroehl.

„Demontările și consilierea însoțitoare sugerează că SUA și aliații încearcă diverse tehnici, cum ar fi aceste întreruperi și confiscări... pentru că operatorii sunt în prezent dincolo de accesul lor direct”, a observat cercetătorul senior la Citizen Lab John Scott-Railton într-un thread de Twitter. 

„Așteptați-vă ca operatorii să învețe, să evolueze și să revină imediat țintind SUA.”

NOU: @TheJusticeDept tocmai a perturbat o fermă de bot de dezinformare Twitter, condusă de Rusia, activată de IA.

Aproape 1000 de conturi pe @X.

S-au mascarat în americani și au promovat narațiunile guvernamentale ruse.

Descoperire fascinantă în spatele acestui 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

– John Scott-Railton (@jsrailton) 9 iulie 2024

Operațiunea de dezrădăcinare a conturilor false a început în iunie odată cu depunerea a două mandate de percheziție și sechestru de la Tribunalul Districtual al Statelor Unite pentru Arizona, care au autorizat percheziția serverelor X Corp (alias Twitter) și confiscarea domeniilor de la Namecheap. Twitter a suspendat voluntar conturile raportate, invocând încălcări ale termenilor și condițiilor.

„X este un partener important în acest caz și prețuim eforturile lor voluntare de a elimina acești roboți și de a-și conduce propria investigație”, a spus purtătorul de cuvânt al DOJ.

„Pe măsură ce actorii maligni își accelerează utilizarea abuzivă a inteligenței artificiale, Departamentul de Justiție va răspunde și vom acorda prioritate acțiunilor perturbatoare cu partenerii noștri internaționali și cu sectorul privat”, a declarat procurorul general adjunct Lisa Monaco într-un comunicat. 

„Nu vom ezita să închidem fermele de bot, să confiscăm domeniile de internet obținute ilegal și să ducem lupta adversarilor noștri.”

Operațiunea a fost realizată în colaborare cu FBI, Cyber ​​National Mission Force, parteneri guvernamentali din Canada și Țările de Jos, precum și cu companii de social media, inclusiv Twitter, a spus DOJ.

„Prin aceste acțiuni, Departamentul de Justiție a perturbat o campanie de propagandă susținută de guvernul rus și activată de inteligența artificială pentru a folosi o fermă de bot pentru a răspândi dezinformarea în Statele Unite și în străinătate”, a declarat procurorul general Merrick B. Garland într-un comunicat. 

„Pe măsură ce guvernul rus continuă să ducă războiul brutal în Ucraina și amenință democrațiile din întreaga lume, Departamentul de Justiție va continua să desfășoare toate autoritățile noastre legale pentru a contracara agresiunea rusă și pentru a proteja poporul american”.

Nu sunt folosite doar conturi Twitter false pentru a promova înșelătorii și dezinformarea. Recent, o serie de atacuri cibernetice care vizează conturi legitime de Twitter ale unor animatori proeminenți, inclusiv muzicianul Doja Cat, actrița Sydney Sweeney și legendara trupă de heavy metal Metallica, au fost folosite pentru a promova înșelătoriile cripto.