Otoritas penegak hukum AS menyita dua domain yang terhubung dengan bot media sosial bertenaga AI yang terhubung dengan pemerintah Rusia, Departemen Kehakiman AS (DOJ) mengumumkan pada hari Selasa.

“Ini adalah contoh kuat dari strategi yang mengutamakan gangguan yang diambil oleh Departemen, termasuk FBI, terkait dengan ancaman siber dan ancaman siber terhadap keamanan nasional,” kata juru bicara DOJ kepada Decrypt. “Kami terus mengembangkan cara kami membela dan mengidentifikasi aktor-aktor ini.”

Menurut dokumen yang dirilis oleh badan tersebut, para penjahat dunia maya menggunakan AI generatif untuk membuat profil media sosial palsu, banyak yang mengaku sebagai orang Amerika, yang kemudian digunakan untuk mengirim pesan pro-Rusia di Twitter.

“Tindakan hari ini merupakan yang pertama dalam mengganggu bot farm media sosial generatif yang didukung AI yang disponsori Rusia,” kata Direktur Biro Investigasi Federal (FBI) AS Christopher Wray dalam sebuah pernyataan. 

“Rusia bermaksud menggunakan bot farm ini untuk menyebarkan disinformasi asing yang dihasilkan oleh AI, memperluas pekerjaan mereka dengan bantuan AI untuk melemahkan mitra kami di Ukraina dan mempengaruhi narasi geopolitik yang menguntungkan pemerintah Rusia.”

Bot farm diduga menggunakan domain (mlrtr.com dan otanmail.com) yang dikeluarkan oleh penyedia domain Namecheap yang berbasis di Arizona, layanan email pribadi untuk menghasilkan alamat email acak, dan membuat profil di Twitter. 

Dalam satu contoh, akun bot yang mengaku sebagai penduduk Minneapolis menggambarkan dirinya sebagai seorang “humanis” dan menyertakan hashtag untuk Bitcoin.

Secara total, bot farm membuat lebih dari 968 akun Twitter antara 11 Juni 2022 hingga 1 Maret 2024.

Meskipun Namecheap mengatakan tidak dapat mengomentari penyelidikan spesifik apa pun, perusahaan tersebut mengatakan kepada Decrypt bahwa mereka “secara aktif memerangi segala bentuk penyalahgunaan di platform kami.”

“Kami diakui secara luas atas taktik efektif kami dalam mengidentifikasi dan dengan cepat menghapus aktor jahat yang menggunakan layanan kami,” tulis Namecheap melalui Twitter. “Kami bekerja berdampingan dengan penegak hukum dan menerapkan panggilan pengadilan, perintah pengadilan, dan/atau surat perintah AS terkait dengan penyalahgunaan atau aktivitas ilegal di platform kami.”

Bagi pakar keamanan siber, model AI generatif yang tersedia untuk umum dan alat pengembang terstandar merupakan hal yang menarik bagi penjahat siber yang disponsori negara.

“Kombinasi AI generatif dan API pengembang yang disediakan oleh platform seperti Telegram, X, dan Meta bisa sangat berbahaya jika digunakan secara jahat,” kata salah satu pendiri dan CTO perusahaan keamanan blockchain Halborn, Steve Walbroehl, melalui Telegram. 

“Dalam situasi normal, fungsi ini memungkinkan pengguna untuk mengotomatisasi, mengelola, atau meningkatkan kehadiran media sosial mereka. Namun di tangan aktor jahat, ini adalah metode yang sangat meyakinkan untuk menyesatkan orang dan komunitas online.”

Walbroehl menunjuk pada grup Telegram, yang seluruhnya terdiri dari bot yang digerakkan oleh AI, yang dapat digunakan untuk menciptakan sensasi palsu dan bukti sosial serta meyakinkan korban yang tidak menaruh curiga untuk berinvestasi dalam penipuan berdasarkan antusiasme yang dibuat-buat ini, namun investasi mereka dicuri oleh para penipu yang mengendalikannya. bot.

“Meskipun ini adalah taktik rekayasa sosial yang digunakan untuk menyebarkan disinformasi dalam skala besar, ini juga merupakan taktik yang digunakan oleh para penipu untuk membantu 'memompa dan membuang' koin meme untuk mencuri sejumlah besar modal dari pengguna yang naif,” tambah Walbroehl.

“Penghapusan dan peringatan yang menyertainya menunjukkan bahwa AS dan sekutunya sedang mencoba berbagai teknik seperti gangguan dan penyitaan ini… karena operator saat ini berada di luar jangkauan langsung mereka,” Peneliti Senior di Citizen Lab John Scott-Railton mengamati dalam sebuah rangkaian pesan di Twitter. 

“Harapkan para operator untuk belajar, berkembang, dan segera kembali menargetkan AS.”

BARU: @TheJusticeDept baru saja mengganggu bot disinformasi Twitter berkemampuan AI yang dikelola Rusia.

Hampir 1000 akun di @X.

Menyamar sebagai orang Amerika dan mempromosikan narasi pemerintah Rusia.

Detektif menarik di balik 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj

— John Scott-Railton (@jsrailton) 9 Juli 2024

Operasi untuk membasmi akun palsu dimulai pada bulan Juni dengan pengajuan dua surat perintah penggeledahan dan penyitaan dari Pengadilan Distrik Amerika Serikat untuk Arizona yang mengizinkan penggeledahan server X Corp (alias Twitter) dan penyitaan domain dari Namecheap. Twitter secara sukarela menangguhkan akun-akun yang dilaporkan, dengan alasan pelanggaran persyaratan layanan.

“X adalah mitra penting dalam kasus ini dan kami menghargai upaya sukarela mereka untuk menghapus bot ini dan melakukan penyelidikan sendiri,” kata juru bicara DOJ.

“Ketika pelaku kejahatan mempercepat penyalahgunaan AI, Departemen Kehakiman akan merespons dan kami akan memprioritaskan tindakan mengganggu dengan mitra internasional dan sektor swasta kami,” kata Wakil Jaksa Agung Lisa Monaco dalam sebuah pernyataan. 

“Kami tidak akan ragu untuk menutup bot farm, menyita domain internet yang diperoleh secara ilegal, dan melakukan perlawanan terhadap musuh kami.”

Operasi tersebut dilakukan bekerja sama dengan FBI, Cyber ​​National Mission Force, mitra pemerintah di Kanada dan Belanda, serta perusahaan media sosial termasuk Twitter, kata DOJ.

“Dengan tindakan ini, Departemen Kehakiman telah mengganggu kampanye propaganda berbasis AI yang didukung pemerintah Rusia untuk menggunakan bot farm untuk menyebarkan disinformasi di Amerika Serikat dan luar negeri,” kata Jaksa Agung Merrick B. Garland dalam sebuah pernyataan. 

“Ketika pemerintah Rusia terus melancarkan perang brutalnya di Ukraina dan mengancam demokrasi di seluruh dunia, Departemen Kehakiman akan terus mengerahkan seluruh otoritas hukum kami untuk melawan agresi Rusia dan melindungi rakyat Amerika.”

Bukan hanya akun Twitter palsu yang digunakan untuk mempromosikan penipuan dan disinformasi. Baru-baru ini, serangkaian serangan dunia maya yang menargetkan akun Twitter sah milik penghibur terkemuka, termasuk musisi Doja Cat, aktris Sydney Sweeney, dan band heavy-metal legendaris Metallica, telah digunakan untuk mempromosikan penipuan kripto.