TLDR
UNESCO cảnh báo rằng AI có thể bị lạm dụng để truyền bá những tuyên bố sai lệch và gây hiểu lầm về Holocaust, có khả năng dẫn đến sự gia tăng chủ nghĩa bài Do Thái và giảm hiểu biết về hành động tàn bạo.
Báo cáo làm dấy lên mối lo ngại về việc tạo ra các nội dung giả mạo sâu và do AI tạo ra có thể cho rằng Holocaust không xảy ra hoặc đã bị phóng đại.
Ví dụ về các biến dạng Holocaust do AI tạo ra bao gồm ChatGPT phát minh ra khái niệm “Holocaust bằng cách chết đuối” và chatbot Bard của Google chế tạo các nhân chứng để hỗ trợ những thông tin sai sự thật về các vụ thảm sát của Đức Quốc xã.
UNESCO kêu gọi hành động khẩn cấp từ các chính phủ, công ty công nghệ và nhà giáo dục để thiết lập các biện pháp bảo vệ đạo đức xung quanh công nghệ AI và truyền bá nhận thức về rủi ro của nội dung do AI tạo ra.
Mặc dù báo cáo thừa nhận những ứng dụng tích cực tiềm năng của AI trong giáo dục Holocaust, chẳng hạn như phân loại lời khai và tạo ra trải nghiệm phong phú, nhưng tình trạng hiện tại của công nghệ gây ra nhiều lo ngại hơn là cơ hội.
Một báo cáo mới do Tổ chức Giáo dục, Khoa học và Văn hóa Liên Hợp Quốc (UNESCO) công bố cảnh báo rằng những tiến bộ trong trí tuệ nhân tạo (AI) có thể dẫn đến sự gia tăng phủ nhận và xuyên tạc về Holocaust.
Báo cáo được công bố hôm thứ Ba với sự hợp tác của Đại hội Do Thái Thế giới, nêu bật khả năng AI bị lạm dụng để truyền bá những tuyên bố sai lệch và gây hiểu lầm về một trong những chương đen tối nhất trong lịch sử loài người.
Báo cáo của UNESCO làm dấy lên mối lo ngại rằng nội dung do AI tạo ra, cho dù do sai sót trong chương trình hay do các nhóm thù địch và những người phủ nhận Holocaust cố ý lạm dụng, có thể đặt ra câu hỏi về vụ sát hại người Do Thái và các nhóm khác được ghi chép đầy đủ của Đức Quốc xã.
Một trong những khả năng đáng báo động nhất là việc tạo ra các tác phẩm giả mạo sâu – những hình ảnh hoặc video thực tế có thể gợi ý rằng Holocaust chưa bao giờ xảy ra hoặc đã bị phóng đại quá mức.
Nội dung như vậy có thể góp phần làm gia tăng chủ nghĩa bài Do Thái và sự thiếu hiểu biết về thời điểm quan trọng này trong lịch sử thế kỷ 20.
Báo cáo trích dẫn một số ví dụ về sự bóp méo Holocaust do AI tạo ra, bao gồm ChatGPT phát minh ra khái niệm “Holocaust bằng cách chết đuối” và chatbot Bard của Google tạo ra các nhân chứng để hỗ trợ những thông tin sai sự thật về các vụ thảm sát của Đức Quốc xã.
Những trường hợp này chứng tỏ khả năng AI tạo ra và truyền bá thông tin sai lệch thông qua các lỗi vô ý hoặc cố ý thao túng.
Tổng giám đốc UNESCO, Audrey Azoulay, nhấn mạnh mức độ nghiêm trọng của tình hình, nêu rõ:
“Nếu chúng ta cho phép những sự thật khủng khiếp về Holocaust bị làm loãng, bóp méo hoặc làm sai lệch thông qua việc sử dụng AI một cách vô trách nhiệm, chúng ta có nguy cơ bùng nổ chủ nghĩa bài Do Thái và làm giảm dần sự hiểu biết của chúng ta về nguyên nhân và hậu quả của những hành động tàn bạo này.”
Báo cáo cũng nhấn mạnh khả năng ngày càng tăng rằng dữ liệu không đáng tin cậy và “ảo giác” AI có thể góp phần gây ra sự hiểu lầm của công chúng về Holocaust, thậm chí là vô tình, khi AI ngày càng được sử dụng rộng rãi hơn trong giáo dục, nghiên cứu và viết lách. Các chương trình AI dựa trên các nguồn thông tin tương đối hẹp có thể đưa ra những câu trả lời không đầy đủ hoặc sai lệch khi được hỏi về Holocaust.
Để giải quyết những lo ngại này, UNESCO kêu gọi hành động khẩn cấp từ các chính phủ, công ty công nghệ và nhà giáo dục. Báo cáo kêu gọi các công ty công nghệ thiết lập các quy tắc đạo đức cho việc phát triển và sử dụng AI nhằm giảm thiểu khả năng tạo ra thông tin không đáng tin cậy và ngăn chặn những kẻ xấu sử dụng các chương trình AI để khuyến khích bạo lực và truyền bá sự phủ nhận Holocaust.
Chuyên gia UNESCO Karel Fracapane cảnh báo rằng sự bóp méo lịch sử Holocaust chứng tỏ AI có thể đảo ngược mối quan hệ của chúng ta với sự thật và “dẫn đến sự xói mòn sâu sắc về văn hóa dân chủ”.
Ông rút ra mối liên hệ giữa mức độ phổ biến ngày càng tăng của các chính trị gia cực hữu ở Tây Âu và sự lan truyền của ngôn từ kích động thù địch trực tuyến, nhấn mạnh những hậu quả chính trị trong thế giới thực của thông tin sai lệch do AI tạo ra.
Trong khi báo cáo thừa nhận những ứng dụng tích cực tiềm năng của AI trong giáo dục Holocaust, chẳng hạn như phân loại lời khai và tạo ra trải nghiệm phong phú cho giới trẻ, Fracapane thiên về việc xem AI như một mối đe dọa hơn là một cơ hội trong tình trạng hiện tại.
Bài đăng Báo cáo của UNESCO: AI đặt ra nguy cơ lây lan sự từ chối và bóp méo Holocaust xuất hiện đầu tiên trên Blockonomi.
