OpenAI dường như đang giữ lại một công cụ “có độ chính xác cao” mới có khả năng phát hiện nội dung do ChatGPT tạo ra vì lo ngại rằng nó có thể bị giả mạo hoặc khiến người dùng không phải người Anh tránh tạo văn bản bằng các mô hình trí tuệ nhân tạo. 

Công ty cho biết họ đang nghiên cứu nhiều phương pháp khác nhau để phát hiện nội dung do sản phẩm của mình tạo ra trong một bài đăng trên blog vào tháng 5. Vào ngày 4 tháng 8, Wall Street Journal đã xuất bản một báo cáo độc quyền chỉ ra rằng kế hoạch phát hành các công cụ này đã bị đình trệ do các cuộc tranh luận nội bộ liên quan đến sự phân nhánh của việc phát hành chúng.

Sau báo cáo của WSJ, OpenAI đã cập nhật bài đăng trên blog tháng 5 với thông tin mới liên quan đến các công cụ phát hiện. Điểm mấu chốt là vẫn chưa có thời gian phát hành, bất chấp lời khuyên của công ty rằng ít nhất một công cụ để xác định nguồn gốc văn bản là “có độ chính xác cao và thậm chí hiệu quả trong việc chống giả mạo cục bộ”.

Thật không may, công ty tuyên bố rằng vẫn có những phương pháp mà những kẻ xấu có thể vượt qua việc phát hiện và do đó, họ không sẵn lòng công bố nó ra công chúng.

Trong một đoạn văn khác, công ty dường như ám chỉ rằng những người không nói tiếng Anh có thể bị “kỳ thị” đối với việc sử dụng các sản phẩm AI để viết vì một hành vi khai thác liên quan đến việc dịch văn bản tiếng Anh sang ngôn ngữ khác nhằm qua mặt bị phát hiện.

“Một rủi ro quan trọng khác mà chúng tôi đang cân nhắc là nghiên cứu của chúng tôi cho thấy phương pháp tạo hình mờ văn bản có khả năng tác động không tương xứng đến một số nhóm. Ví dụ: nó có thể kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho những người không nói tiếng Anh bản xứ.”

Mặc dù hiện tại có một số sản phẩm và dịch vụ được cho là có khả năng phát hiện nội dung do AI tạo ra, nhưng theo hiểu biết tốt nhất của chúng tôi, chưa có sản phẩm và dịch vụ nào chứng minh được mức độ chính xác cao trong các nhiệm vụ chung trong nghiên cứu được bình duyệt.

OpenAI sẽ là hệ thống được phát triển nội bộ đầu tiên dựa vào các phương pháp phát hiện độc quyền và hình mờ vô hình đối với nội dung được tạo riêng bởi các mô hình của công ty.

Liên quan: Mô hình kinh doanh hiện tại của OpenAI là 'không thể đứng vững' - Báo cáo