Theo báo cáo gần đây của Viện Đối thoại Chiến lược (ISD) phi lợi nhuận có trụ sở tại Anh, các nhóm cực hữu đang tận dụng trí tuệ nhân tạo để phát tán các video deepfake về Adolf Hitler và các hình ảnh ủng hộ Đức Quốc xã khác nhằm mục đích tạo sự đồng cảm với tên bạo chúa này.
Được thành lập vào năm 2006, viện này là một tổ chức vận động chính trị theo dõi thông tin sai lệch và phát ngôn thù địch trực tuyến. Theo báo cáo gần đây nhất, ISD lưu ý rằng các trình tạo giọng nói AI đã được sử dụng để tạo ra các phiên bản tiếng Anh của các bài phát biểu của Hitler, với các video này tích lũy được hơn 50 triệu lượt xem trên X, YouTube, TikTok và Instagram vào năm 2024.
"Các nền tảng truyền thông xã hội từ lâu đã phải vật lộn với sự lan truyền của các hệ tư tưởng tân Quốc xã, nhưng việc tôn vinh trực tiếp Hitler và chủ nghĩa xét lại xung quanh vai trò của ông ta trong cuộc diệt chủng Holocaust lại tạo ra một mối đe dọa mới, độc đáo", Giám đốc Công nghệ tại chi nhánh Hoa Kỳ của viện, Isabelle Frances-Wright, nói với Decrypt. "AI đã làm trầm trọng thêm mối đe dọa này, cho phép những kẻ xấu truyền bá luận điệu của Hitler đến nhiều đối tượng hơn và trẻ hơn".
ISD báo cáo rằng nhiều video TikTok có các đoạn clip dài 20-30 giây về các bài phát biểu của Hitler bằng tiếng Anh với nhạc nền, truyền bá thông điệp bài Do Thái, bài Hồi giáo, bài nhập cư và chủ nghĩa da trắng thượng đẳng.
Giáo sư nghiên cứu thông tin Ramesh Srinivasan của UCLA chia sẻ với Decrypt rằng: "Nội dung kích động thù địch, dù hợp pháp hay không, đều có xu hướng lan truyền trên hầu hết các nền tảng truyền thông xã hội".
Báo cáo cho biết kể từ tháng 8, các video và bài đăng về Hitler và biểu tượng của Đức Quốc xã đã thu hút hơn 28,4 triệu lượt xem trên X, TikTok và Instagram.
"Các nhà phân tích có thể dễ dàng phát hiện nội dung trên X có khả năng vi phạm chính sách của họ, với chỉ 11 bài đăng nhận được hơn 11,2 triệu lượt xem trong khoảng thời gian một tuần", báo cáo cho biết. "Nội dung này dễ dàng có sẵn hơn trên các nền tảng khác thông qua tìm kiếm cơ bản".
Trong bản cập nhật chính sách năm 2023, X cho biết nền tảng này cấm "nội dung thù hận", bao gồm kích động, phỉ báng, hạ thấp nhân phẩm và hình ảnh thù hận, bao gồm ảnh đại diện, tên người dùng hoặc tiểu sử đại diện.
"Thách thức kinh điển mà chúng tôi đang cố gắng điều chỉnh là vai trò của các thuật toán", Srinivasan giải thích. "Những quy tắc tính toán này áp dụng cho tất cả dữ liệu và bài đăng, và được đào tạo để thúc đẩy nội dung có nhiều khả năng lan truyền hơn. Do đó, nội dung dễ thấy nhất thường là nội dung có hại nhất".
Meta, TikTok và Google vẫn chưa phản hồi ngay lập tức yêu cầu bình luận của Decrypt.
Srinivasan cho biết người cuối cùng tạo ra nội dung này có thể là sự kết hợp giữa những kẻ gây rối và những kẻ muốn thao túng chính trị: "Ở một cấp độ nào đó, có tin tặc; ở cấp độ khác, là mục tiêu tinh vi hơn, nhắm vào tâm lý và tâm lý học", ông nói, ám chỉ đến vai trò của Cambridge Analytica trong cuộc bầu cử Tổng thống Hoa Kỳ năm 2016.
Ông nói: “Đó là một phần rất lớn tạo nên sức mạnh của Internet hiện nay”.
“Nó có tác động vật chất thực sự, đặc biệt là ở những nơi không có phương tiện truyền thông mạnh mẽ”, ông nói. “Thông tin sai lệch, lời nói căm thù và lời nói bên lề được những người có lượng người theo dõi đáng kể thúc đẩy được cố tình tạo ra để lan truyền. Loại nội dung này thu hút sự chú ý, nhưng nó cũng đang xé nát chúng ta”.
