OpenAI tăng cường trấn áp các tài khoản có liên quan đến Iran phát tán thông tin sai lệch về cuộc bầu cử Hoa Kỳ bằng ChatGPT.
Cuộc điều tra của OpenAI tiết lộ hoạt động gây ảnh hưởng do AI điều khiển của Iran, nhắm vào cả nhóm tiến bộ và bảo thủ.
Cuộc đàn áp này nhấn mạnh cam kết của OpenAI trong việc chống lại sự can thiệp của nước ngoài vào cuộc bầu cử ở Hoa Kỳ thông qua công nghệ AI.
OpenAI đã tăng cường trấn áp các tài khoản có liên quan đến Iran khai thác nền tảng của mình để phát tán thông tin sai lệch về cuộc bầu cử Tổng thống Hoa Kỳ. Sự gia tăng gần đây của các hoạt động này đã thu hút sự chú ý đáng kể, đặc biệt là sau khi chiến dịch tranh cử của Donald Trump báo cáo về một vụ vi phạm bảo mật liên quan đến tin tặc Iran. Công ty AI này đã xác định và cấm nhiều tài khoản có liên quan đến hoạt động gây ảnh hưởng của Iran, được gọi là "Storm-2035".
https://twitter.com/itsandrewgao/status/1824570091629056512 Thông tin sai lệch có mục tiêu trên nhiều chủ đề khác nhau
Các tài khoản sử dụng công nghệ AI tạo sinh của OpenAI, đặc biệt là ChatGPT, để tạo và phát tán thông tin sai lệch về nhiều chủ đề khác nhau, tập trung mạnh vào cuộc bầu cử Hoa Kỳ. Các hoạt động này bao gồm cả việc tạo ra các bài viết dài và các bình luận ngắn trên phương tiện truyền thông xã hội, được chia sẻ trên nhiều nền tảng. Các chủ đề trải dài từ cuộc bầu cử Hoa Kỳ đến xung đột ở Gaza, sự tham gia của Israel vào Thế vận hội Olympic và các chủ đề khác.
Hơn nữa, OpenAI đã phân loại hoạt động này là mối đe dọa cấp thấp dựa trên thang điểm Breakout của Brookings, lưu ý rằng các bài đăng nhận được ít sự tương tác. Mặc dù tác động hạn chế, công ty nhận ra tầm quan trọng của việc giám sát và ngăn chặn các hoạt động gây ảnh hưởng từ nước ngoài như vậy, nhấn mạnh sự cần thiết phải cảnh giác cao độ.
Cam kết rộng hơn của OpenAI đối với Đạo đức AI
Điều đáng chú ý là cuộc điều tra của công ty AI cho thấy hoạt động này nhắm vào cả đối tượng cấp tiến và bảo thủ. Các tài khoản được coi là các kênh tin tức hợp pháp và người dùng mạng xã hội, đôi khi bắt chước các bình luận của người dùng thực để có vẻ chân thực. Chiến thuật này nhấn mạnh bản chất tinh vi của hoạt động này, mặc dù thành công hạn chế.
Bên cạnh đó, thời điểm công bố của OpenAI cũng đáng chú ý, diễn ra ngay sau khi chiến dịch của Trump báo cáo về một vụ vi phạm an ninh do tin tặc Iran gây ra. Hành động của công ty nêu bật cam kết rộng hơn của mình đối với tính minh bạch và việc sử dụng AI một cách có đạo đức, đặc biệt là trong việc bảo vệ các quy trình chính trị khỏi sự can thiệp của nước ngoài.
Ben Nimmo, nhà điều tra chính về tình báo và điều tra của OpenAI, tuyên bố rằng đây là trường hợp đầu tiên công ty phát hiện ra một hoạt động nhắm cụ thể vào cuộc bầu cử Hoa Kỳ.
Ông nhấn mạnh tầm quan trọng của việc cảnh giác nhưng vẫn phải giữ bình tĩnh, vì hoạt động này có phạm vi tiếp cận tối thiểu. Ngoài ra, báo cáo góp phần vào bằng chứng ngày càng tăng về những nỗ lực tập trung vào công nghệ của Iran nhằm tác động đến cuộc bầu cử Hoa Kỳ.
Bài đăng OpenAI chống lại các tài khoản có liên quan đến Iran bằng cách sử dụng AI để phát tán thông tin sai lệch về cuộc bầu cử ở Hoa Kỳ xuất hiện đầu tiên trên Crypto News Land.