Hình ảnh do AI tạo ra có thể đánh lừa bạn coi nội dung giả mạo là nội dung gốc. Đó là lý do tại sao OpenAI, nhà phát triển ChatGPT, đã tạo ra một công cụ có thể xác định xem hình ảnh có phải là kết quả của DALL-E 3 hay không, một thuật toán tạo hình ảnh mà họ đã phát triển.

Vào thứ Ba, OpenAI đã mang đến cho người dùng cơ hội đầu tiên dùng thử một công cụ phát hiện hình ảnh bao gồm các mô hình cơ sở và mô hình đã điều chỉnh. Mục tiêu là thu hút các nhà nghiên cứu tự thực hiện để kiểm tra mức độ hiểu biết, tính hữu ích, cách áp dụng và các yếu tố có thể tạo ra nội dung do AI tạo ra.

Tỷ lệ thành công và thử nghiệm của công cụ

OpenAI đã thử nghiệm công cụ này trong nội bộ và ở một số khía cạnh, nó rất đáng khích lệ, nhưng mặt khác lại rất đáng thất vọng. Đánh giá hình ảnh do DALL-E 3 tạo ra cho kết quả chính xác 98%. Ngoài ra, khi phân tích các hình ảnh không phải do DALL-E 3 tạo ra, hệ thống sẽ chỉ gán nhầm chúng cho DALL-E 3 trong 0,5% thời gian. 

OpenAI không tìm thấy sự thay đổi nào trên hình ảnh có sự khác biệt đáng kể. Nhóm nội bộ đã thử nghiệm công cụ này bằng cách nén, cắt xén và đưa ra các thay đổi về độ bão hòa cho hình ảnh do DALL-E 3 tạo ra và nhận thấy rằng công cụ này vẫn có thể đạt được mức độ thành công tốt. 

Những thách thức và hạn chế

Thật không may, công cụ này không hiệu quả lắm với những bức ảnh đã được xử lý nhiều. Cách diễn đạt trong bài viết này của OpenAI không rõ họ đã thực hiện bao nhiêu sửa đổi trong các trường hợp mà họ mô tả và họ nói rằng “những sửa đổi khác có thể làm giảm hiệu suất”. 

Trong một cuộc phỏng vấn với The Wall Street Journal, Sandhini Agarwal, một nhà nghiên cứu, nói rằng công cụ này kém hiệu quả hơn trong các tình huống như thay đổi màu sắc của hình ảnh và cần phải đăng ký. Như Agarwal đã đề cập, để giải quyết những loại vấn đề này, OpenAI sẽ đưa những người thử nghiệm bên ngoài vào hệ thống. 

Hơn nữa, thử nghiệm nội bộ cũng đặt câu hỏi về khả năng phân tích hình ảnh được tạo bằng mô hình AI của các công ty khác của công cụ này. Trong những tình huống như vậy, công cụ của OpenAI chỉ có thể nhận dạng 5% hoặc 10% hình ảnh so với các mô hình khác ngoài nó. Agarwal nói với Tạp chí rằng những sửa đổi như vậy trong những hình ảnh như công tắc màu sắc cũng làm giảm đáng kể hiệu quả.

Những hình ảnh do AI tạo ra không chỉ mang tính giả tạo mà còn đặt ra nhiều vấn đề trong năm bầu cử này. Các nhóm bất mãn, cả trong và ngoài một quốc gia, có thể dễ dàng sử dụng những bức ảnh như vậy để bôi nhọ một chính trị gia đầy tham vọng hoặc một vụ án đang được bào chữa. Ngày nay, khi các công cụ tạo hình ảnh AI tiếp tục phát triển, ranh giới giữa thực tế và tưởng tượng trở nên khó phân biệt hơn bao giờ hết. 

Áp dụng ngành

Mặt khác, OpenAI đang tìm cách thêm hình mờ vào siêu dữ liệu hình ảnh AI khi các công ty trở thành thành viên của Tổ chức Giá trị Người dùng (UVG). C2PA là một sáng kiến ​​của ngành công nghệ đi kèm với các tiêu chuẩn kỹ thuật nhằm tiết lộ nguồn nội dung và tính xác thực của nó trong quy trình được gọi là hình chìm mờ.  Gã khổng lồ Facebook Meta cho biết vào đầu tháng này rằng AI của họ sẽ được gắn nhãn như vậy theo tiêu chuẩn C2PA bắt đầu từ tháng 5 này.