Cơ quan thực thi pháp luật Hoa Kỳ đã thu giữ hai miền được kết nối với trang trại bot truyền thông xã hội được hỗ trợ bởi AI có liên kết với chính phủ Nga, Bộ Tư pháp Hoa Kỳ (DOJ) công bố hôm thứ Ba.
Người phát ngôn của DOJ nói với Decrypt: “Đây là một ví dụ điển hình về chiến lược ưu tiên gián đoạn mà Bộ, bao gồm cả FBI, đã thực hiện khi đề cập đến các mối đe dọa trên mạng và do mạng gây ra đối với an ninh quốc gia”. “Chúng tôi tiếp tục phát triển cách chúng tôi bảo vệ và xác định những tác nhân này.”
Theo các tài liệu do cơ quan này công bố, tội phạm mạng đã sử dụng AI tổng hợp để tạo hồ sơ mạng xã hội giả mạo, nhiều người tự xưng là người Mỹ, sau đó được sử dụng để đăng các thông điệp thân Nga trên Twitter.
Giám đốc Cục Điều tra Liên bang Hoa Kỳ (FBI) Christopher Wray cho biết: “Các hành động hôm nay thể hiện hành động đầu tiên trong việc phá vỡ trang trại bot truyền thông xã hội được tăng cường AI do Nga tài trợ”.
“Nga có ý định sử dụng trang trại bot này để phổ biến thông tin sai lệch ở nước ngoài do AI tạo ra, mở rộng quy mô công việc của họ với sự hỗ trợ của AI nhằm làm suy yếu các đối tác của chúng tôi ở Ukraine và gây ảnh hưởng đến các câu chuyện địa chính trị có lợi cho chính phủ Nga.”
Trang trại bot bị cáo buộc đã sử dụng các tên miền (mlrtr.com và otanmail.com) do nhà cung cấp tên miền Namecheap có trụ sở tại Arizona cấp, các dịch vụ email riêng để tạo địa chỉ email ngẫu nhiên và tạo hồ sơ trên Twitter.
Trong một ví dụ, một tài khoản bot tự nhận là cư dân Minneapolis, người tự mô tả mình là một “nhà nhân văn” và bao gồm một hashtag cho Bitcoin.
Tổng cộng, trang trại bot đã tạo hơn 968 tài khoản Twitter từ ngày 11 tháng 6 năm 2022 đến ngày 1 tháng 3 năm 2024.
Mặc dù Namecheap cho biết họ không thể bình luận về bất kỳ cuộc điều tra cụ thể nào, công ty nói với Decrypt rằng họ “tích cực chống lại mọi hình thức lạm dụng trên nền tảng của chúng tôi”.
Namecheap viết qua Twitter: “Chúng tôi được công nhận rộng rãi nhờ các chiến thuật hiệu quả nhằm xác định và nhanh chóng hạ gục những kẻ xấu sử dụng dịch vụ của chúng tôi”. “Chúng tôi làm việc cùng với cơ quan thực thi pháp luật và thực hiện trát đòi hầu tòa, lệnh của tòa án và/hoặc lệnh của Hoa Kỳ liên quan đến lạm dụng hoặc hoạt động bất hợp pháp trên nền tảng của chúng tôi.”
Đối với các chuyên gia an ninh mạng, các mô hình AI tổng quát có sẵn công khai và các công cụ dành cho nhà phát triển được tiêu chuẩn hóa rất hấp dẫn đối với tội phạm mạng được nhà nước bảo trợ.
Đồng sáng lập và CTO của công ty bảo mật blockchain Halborn, Steve Walbroehl, cho biết qua Telegram: “Sự kết hợp giữa AI tổng quát và API nhà phát triển được cung cấp bởi các nền tảng như Telegram, X và Meta có thể rất nguy hiểm nếu được sử dụng với mục đích xấu”.
“Trong tình huống bình thường, chức năng này cho phép người dùng tự động hóa, quản lý hoặc tăng cường sự hiện diện trên mạng xã hội của họ. Nhưng trong tay kẻ xấu, đó là một phương pháp rất thuyết phục để đánh lừa mọi người và cộng đồng mạng.”
Walbroehl chỉ vào các nhóm Telegram, bao gồm hoàn toàn các bot điều khiển bằng AI, có thể được sử dụng để tạo ra sự cường điệu sai lệch và bằng chứng xã hội, đồng thời thuyết phục các nạn nhân không nghi ngờ đầu tư vào các trò lừa đảo dựa trên sự nhiệt tình được tạo ra này, chỉ để rồi khoản đầu tư của họ bị đánh cắp bởi những kẻ lừa đảo kiểm soát bot.
Walbroehl nói thêm: “Mặc dù đây là một chiến thuật kỹ thuật xã hội được sử dụng để phân phối thông tin sai lệch trên quy mô lớn, nhưng nó cũng là một chiến thuật được những kẻ lừa đảo sử dụng để giúp ‘bơm và đổ’ meme-coin nhằm đánh cắp số vốn lớn từ những người dùng ngây thơ”.
Nhà nghiên cứu cấp cao tại Citizen Lab John Scott-Railton đã quan sát trong một chủ đề trên Twitter: “Việc gỡ bỏ và tư vấn kèm theo cho thấy rằng Hoa Kỳ và các đồng minh đang thử nhiều kỹ thuật khác nhau như sự gián đoạn và thu giữ này… bởi vì những người điều hành hiện nằm ngoài tầm với của họ”.
“Mong đợi các nhà khai thác học hỏi, phát triển và quay lại ngay nhắm mục tiêu vào Hoa Kỳ.”
MỚI: @TheJusticeDept vừa phá vỡ trang trại bot thông tin sai lệch trên Twitter do AI điều hành do Nga điều hành.
Gần 1000 tài khoản trên @X.
Giả dạng người Mỹ và quảng bá các bài tường thuật của chính phủ Nga.
Điều tra viên hấp dẫn đằng sau điều này 1/https://t.co/QOsWnoVUCf pic.twitter.com/pvbVZM3nLj
- John Scott-Railton (@jsrailton) Ngày 9 tháng 7 năm 2024
Hoạt động nhổ tận gốc các tài khoản giả bắt đầu vào tháng 6 với việc nộp hai lệnh khám xét và thu giữ từ Tòa án quận Arizona của Hoa Kỳ cho phép khám xét các máy chủ của X Corp (còn gọi là Twitter) và thu giữ các miền từ Namecheap. Twitter đã tự nguyện đình chỉ các tài khoản được báo cáo với lý do vi phạm điều khoản dịch vụ.
Người phát ngôn của DOJ cho biết: “X là đối tác quan trọng trong trường hợp này và chúng tôi đánh giá cao những nỗ lực tự nguyện của họ trong việc loại bỏ các bot này và tiến hành cuộc điều tra riêng của họ”.
Phó Bộ trưởng Tư pháp Lisa Monaco cho biết trong một tuyên bố: “Khi những kẻ xấu đẩy nhanh việc lạm dụng AI để phạm tội, Bộ Tư pháp sẽ phản ứng và chúng tôi sẽ ưu tiên các hành động gây rối với các đối tác quốc tế và khu vực tư nhân”.
“Chúng tôi sẽ không ngần ngại đóng cửa các trang trại bot, thu giữ các tên miền internet có được bất hợp pháp và chiến đấu với kẻ thù của chúng tôi.”
DOJ cho biết, hoạt động này được thực hiện với sự cộng tác của FBI, Lực lượng truyền giáo quốc gia về mạng, các đối tác chính phủ ở Canada và Hà Lan, cũng như các công ty truyền thông xã hội bao gồm Twitter.
“Với những hành động này, Bộ Tư pháp đã phá vỡ chiến dịch tuyên truyền hỗ trợ AI do chính phủ Nga hậu thuẫn nhằm sử dụng trang trại bot để truyền bá thông tin sai lệch ở Hoa Kỳ và nước ngoài,” Bộ trưởng Tư pháp Merrick B. Garland cho biết trong một tuyên bố.
“Khi chính phủ Nga tiếp tục tiến hành cuộc chiến tàn khốc ở Ukraine và đe dọa các nền dân chủ trên toàn thế giới, Bộ Tư pháp sẽ tiếp tục triển khai tất cả các cơ quan pháp lý của chúng tôi để chống lại sự xâm lược của Nga và bảo vệ người dân Mỹ.”
Không chỉ các tài khoản Twitter giả mạo được sử dụng để quảng cáo lừa đảo và thông tin sai lệch. Gần đây, một loạt các cuộc tấn công mạng nhắm vào các tài khoản Twitter hợp pháp của các nghệ sĩ giải trí nổi tiếng, bao gồm nhạc sĩ Doja Cat, nữ diễn viên Sydney Sweeney và ban nhạc kim loại nặng huyền thoại Metallica, đã được sử dụng để quảng bá các trò lừa đảo tiền điện tử.
