Hình ảnh do AI tạo ra có thể đánh lừa bạn khiến bạn coi nội dung giả là bản gốc. Đó là lý do tại sao OpenAI, nhà phát triển ChatGPT, đã tạo ra một công cụ có thể xác định xem hình ảnh có phải là kết quả của DALL-E 3 hay không, thuật toán duy nhất để tạo hình ảnh mà họ phát triển.
Vào thứ Ba, OpenAI đã trao cho người dùng cơ hội đầu tiên để thử nghiệm công cụ phát hiện hình ảnh bao gồm các mô hình cơ sở và đã điều chỉnh. Mục tiêu là thu hút các nhà nghiên cứu tự thực hiện để xem xét mức độ lo lắng, tính hữu ích, cách thức áp dụng và các yếu tố có thể gây ra nội dung do AI tạo ra.
Tỷ lệ thành công và thử nghiệm của công cụ
OpenAI đã thử nghiệm công cụ này trong nội bộ và ở một số khía cạnh, nó rất đáng khích lệ, nhưng mặt khác, nó lại rất đáng thất vọng. Đánh giá các hình ảnh do DALL-E 3 tạo ra đã hiển thị đúng 98% trong số chúng. Ngoài ra, khi phân tích các hình ảnh không phải do DALL-E 3 tạo ra, hệ thống sẽ chỉ gán nhầm chúng cho DALL-E 3 0,5% thời gian.
OpenAI không tìm thấy sự thay đổi của hình ảnh có sự khác biệt đáng kể. Nhóm nội bộ đã thử nghiệm công cụ bằng cách nén, cắt và đưa các thay đổi độ bão hòa vào hình ảnh do DALL-E 3 tạo ra và nhận thấy rằng công cụ vẫn có thể đạt được mức độ thành công tốt.
Thách thức và hạn chế
Thật không may, công cụ này không hiệu quả lắm với những bức ảnh đã được xử lý nhiều. Nội dung bài viết này của OpenAI không nêu rõ họ đã thực hiện bao nhiêu sửa đổi trong các trường hợp mà họ mô tả và họ nói rằng "các sửa đổi khác có thể làm giảm hiệu suất".
Trong một cuộc phỏng vấn với The Wall Street Journal, Sandhini Agarwal, một nhà nghiên cứu, cho biết công cụ này kém hiệu quả hơn trong các tình huống như thay đổi màu sắc hình ảnh và cần phải đăng ký. Như Agarwal đã đề cập, để giải quyết những vấn đề như thế này, OpenAI sẽ đưa những người thử nghiệm bên ngoài vào hệ thống.
Hơn nữa, thử nghiệm nội bộ cũng đặt câu hỏi về khả năng phân tích hình ảnh được tạo bằng các mô hình AI từ các công ty khác của công cụ. Trong những tình huống như vậy, công cụ của OpenAI chỉ có thể nhận dạng được 5% hoặc 10% hình ảnh so với các mô hình khác. Những thay đổi như vậy trong các hình ảnh như vậy, như chuyển đổi màu sắc, cũng làm giảm đáng kể hiệu quả, Agarwal nói với Tạp chí.
Hình ảnh do AI tạo ra không chỉ là nhân tạo mà còn gây ra vấn đề trong năm bầu cử này. Các nhóm bất bình, cả trong và ngoài một quốc gia, có thể dễ dàng sử dụng những bức ảnh như vậy để làm hoen ố một chính trị gia đầy tham vọng hoặc một vụ án đang được biện hộ. Ngày nay, khi các trình tạo hình ảnh AI tiếp tục phát triển, ranh giới giữa thực tế và tưởng tượng khó phân biệt hơn bao giờ hết.
Áp dụng công nghiệp
Mặt khác, OpenAI đang tìm cách thêm hình mờ vào siêu dữ liệu hình ảnh AI khi các công ty trở thành thành viên của Tổ chức giá trị người dùng (UVG). C2PA thuộc về một sáng kiến của ngành công nghệ đi kèm với các tiêu chuẩn kỹ thuật để tiết lộ nguồn gốc của nội dung và tính xác thực của nó trong quá trình được gọi là hình mờ. Đầu tháng này, gã khổng lồ Facebook Meta đã nói rằng AI của họ sẽ được gắn nhãn như vậy theo tiêu chuẩn C2PA bắt đầu từ tháng 5 này.
