Trên khắp thế giới, deepfake đã nhận được rất nhiều sự chú ý. Khi nhiều công ty quốc tế sử dụng deepfake do AI tạo ra đã xuất hiện, nên có một thỏa thuận chung về cách tiếp cận chung cho vấn đề này. Đầu năm nay, Google tại C2PA đã trở thành ban chỉ đạo với các thành viên khác như OpenAI, Adobe, Microsoft, AWS và RIAA. Do lo ngại về thông tin sai lệch về AI và deepfake, nhân viên CNTT sẽ muốn nắm bắt các công việc của cơ quan này, đưa ra các tham chiếu cụ thể về thông tin xác thực nội dung.

Thông tin xác thực nội dung: Tiêu chuẩn mới

Ngành này sắp quản lý một lĩnh vực quản lý dữ liệu hình ảnh và video cụ thể trên diện rộng, vì vậy nhóm CNTT sẽ đặc biệt quan tâm đến vấn đề đó. Thông tin xác thực nội dung là một cách siêu dữ liệu kỹ thuật số mà người sáng tạo hoặc chủ sở hữu nội dung có thể sử dụng để nhận được tín dụng phù hợp và đưa tính trung thực vào hệ sinh thái. Siêu dữ liệu không thể khôi phục này bao gồm tên và thông tin chi tiết của nghệ sĩ và được ghi trực tiếp vào nội dung khi xuất hoặc tải xuống.

Nhãn nội dung được tạo theo cùng các quy tắc và sự cho phép có cơ hội lớn để triển khai ghi nhãn tiêu chuẩn hóa trong một thế giới hoàn chỉnh và được chấp nhận nhờ sức ảnh hưởng của các công ty đứng sau ý tưởng này. Thông tin xác thực nội dung được coi là cơ hội duy nhất vì nhiều lý do. Nó sẽ giúp củng cố uy tín và độ tin cậy của khán giả vì nó cung cấp thông tin rất cần thiết về tác giả hoặc quá trình sáng tạo. Điều này phát triển bầu không khí trong phòng giúp chống lại thông tin sai lệch và thông tin sai lệch.

Đính kèm mọi chi tiết liên hệ với tác phẩm của họ để củng cố danh tính của các nghệ sĩ để người dùng có thể theo dõi và kết nối họ để nhận biết và hiển thị. Bên cạnh đó, sẽ có một số biện pháp nhằm vào những nội dung không có thật trên internet, chẳng hạn như những nội dung giả mạo, nhằm mục đích lừa dối mọi người. Lịch sử của Úc phản ánh sự gia tăng đột biến lớn nhất về gian lận deepfake, tương tự như thế giới khác. Sumsub, trong Báo cáo gian lận danh tính thứ ba, cho biết số lượng deepfake ở Úc đã tăng 15 lần so với năm trước và sự tinh vi của các phương tiện truyền thông giả mạo hướng tới hình thức thực tế ngày càng tiến bộ hơn.

Vì mắt người gần như mất cảnh giác ngay lập tức nên các tác phẩm deepfake trở nên có sức thuyết phục cao. Nghiên cứu chỉ ra rằng có thể mất tới 13 mili giây để phân loại hình ảnh, ngắn hơn nhiều so với thời lượng cho phép con người xử lý thông tin và xác thực hoặc từ chối nó. Ủy viên An toàn Điện tử Australia lưu ý rằng “sự phát triển của các cải tiến nhằm giúp xác định các hành vi giả mạo sâu vẫn chưa theo kịp công nghệ”. Về phần mình, chính phủ Úc đã cam kết chống lại tình trạng deepfake.

Chống lại deepfake ở Úc

Deepfakes là mối đe dọa thực sự đối với sự ổn định và an ninh của tất cả người dân Úc. Bất kỳ chiến dịch ngăn chặn deepfake dài hạn nào cũng nên tập trung vào các chiến dịch nâng cao nhận thức giúp mọi người hiểu cách thức hoạt động của deepfake và các tùy chọn có sẵn để tránh trở thành nạn nhân của những thủ đoạn này.

Để tầm nhìn này trở thành hiện thực, cần phải có sự đồng thuận trong toàn ngành, trong đó các bên liên quan chính từ phía cung cung cấp công nghệ và có tác động lớn nhất đến AI. Nhưng đó là nơi diễn ra Thông tin xác thực nội dung. Mặc dù thông tin đăng nhập nội dung là cơ hội tốt nhất để tạo ra các tiêu chuẩn giúp ngăn chặn vấn đề deepfake, nhưng các vấn đề về phát hiện, quản lý và trừng phạt hành vi sử dụng sai sẽ vẫn còn. Điều này có nghĩa là biện pháp phòng ngừa không dựa trên cơ sở phi ngành cũng như không được hỗ trợ bởi đông đảo các nhà lãnh đạo lĩnh vực trong ngành truyền thông. Việc triển khai như vậy có thể tiếp cận một lượng lớn internet và trong những thời điểm như vậy, hầu hết các trang web đều có độ hiểu biết ngay lập tức như các trang web lan truyền trong công cụ tìm kiếm.

Những người liên quan đến CNTT và AI hoạt động để tạo ra nội dung sẽ mong muốn điều đó. Họ phải hiểu Thông tin xác thực nội dung giống như cách các nhà phát triển web gặp phải vấn đề liên quan đến bảo mật, SEO và mọi tiêu chuẩn hiện có để bảo vệ nội dung khỏi bị cấm. Các bước họ nên thực hiện bao gồm:

Triển khai thông tin xác thực nội dung: Trước tiên, các chuyên gia CNTT phải đảm bảo rằng công ty của họ triển khai đầy đủ và tích hợp thông tin xác thực nội dung vào quy trình làm việc để duy trì tính xác thực và khả năng truy xuất nguồn gốc của nội dung.

Vận động cho sự minh bạch: Đề xuất trong nội bộ và bên ngoài với các đối tác và khách hàng dẫn đến vận động có tổ chức để các tổ chức minh bạch về việc sử dụng AI và chấp nhận các thực hành đạo đức trong việc tạo và phân phối nội dung.

Hỗ trợ quy định: Xem xét các cơ quan trong ngành và chính phủ để hướng dẫn xây dựng chính sách và quy định nhằm chống lại những thách thức do deepfake gây ra. Điều này sẽ không chỉ liên quan đến việc tham gia vào nhiều cuộc tham vấn cộng đồng mà chính phủ sẽ tiến hành về AI mà còn giúp định hình công việc chính sách.

Hợp tác: Kết hợp kiến ​​thức chuyên môn tốt hơn với các chuyên gia và tổ chức khác bằng cách tạo ra các phương pháp và công cụ được chia sẻ, nhất quán để xác định các rủi ro về deepfake.

Chuẩn bị chiến lược ứng phó: Đáp ứng những thách thức do deepfake đặt ra và chuẩn bị kế hoạch khi công nghệ này bị phát hiện, chẳng hạn như xử lý thiệt hại và liên lạc.

Tận dụng các nguồn lực của cộng đồng: Nền tảng cũng nên sử dụng các nguồn lực từ các cộng đồng an ninh mạng như Ủy viên an toàn điện tử để có những phát triển kịp thời gần đây.

Việc hình thành deepfake là nhiệm vụ khó khăn nhất đối với các chuyên gia công nghệ thông tin, những người phải tìm ra giải pháp phù hợp. Thông tin xác thực nội dung cung cấp một tổ chức khởi đầu tuyệt vời cho thế giới mà trên đó phần còn lại của ngành có thể được xây dựng.