OpenAI tampaknya menahan alat baru yang “sangat akurat” yang mampu mendeteksi konten yang dihasilkan oleh ChatGPT karena kekhawatiran bahwa konten tersebut dapat dirusak atau menyebabkan pengguna non-Inggris menghindari pembuatan teks dengan model kecerdasan buatan. 

Perusahaan tersebut menyebutkan bahwa mereka sedang mengerjakan berbagai metode untuk mendeteksi konten yang dihasilkan secara khusus oleh produknya dalam postingan blog pada bulan Mei. Pada tanggal 4 Agustus, Wall Street Journal menerbitkan laporan eksklusif yang menunjukkan bahwa rencana untuk merilis alat tersebut terhenti karena perdebatan internal mengenai konsekuensi dari pelepasan alat tersebut.

Setelah laporan WSJ, OpenAI memperbarui posting blog bulan Mei dengan informasi baru mengenai alat deteksi. Intinya adalah bahwa masih belum ada jadwal rilis, meskipun perusahaan tersebut memperingatkan bahwa setidaknya satu alat untuk menentukan asal teks "sangat akurat dan bahkan efektif terhadap manipulasi lokal."

Sayangnya, perusahaan tersebut mengklaim bahwa masih ada metode yang dapat digunakan oleh pelaku kejahatan untuk melewati deteksi dan, oleh karena itu, mereka tidak bersedia merilisnya ke publik.

Dalam bagian lain, perusahaan tersebut tampaknya menyiratkan bahwa penutur non-Inggris dapat “diberi stigma” terhadap penggunaan produk AI untuk menulis karena eksploitasi yang terkait dengan penerjemahan teks bahasa Inggris ke bahasa lain untuk menghindari deteksi.

"Risiko penting lainnya yang kami pertimbangkan adalah bahwa penelitian kami menunjukkan bahwa metode pemberian tanda air pada teks berpotensi berdampak tidak proporsional pada beberapa kelompok. Misalnya, metode ini dapat menstigmatisasi penggunaan AI sebagai alat tulis yang bermanfaat bagi penutur bahasa Inggris non-asli."

Meskipun saat ini ada sejumlah produk dan layanan yang tersedia yang diklaim dapat mendeteksi konten yang dihasilkan AI, sejauh pengetahuan kami, tidak ada yang menunjukkan tingkat akurasi yang tinggi di seluruh tugas umum dalam penelitian yang ditinjau sejawat.

OpenAI akan menjadi sistem pertama yang dikembangkan secara internal yang mengandalkan tanda air tak terlihat dan metode deteksi hak milik untuk konten yang dihasilkan secara khusus oleh model perusahaan.

Terkait: Model bisnis OpenAI saat ini ‘tidak dapat dipertahankan’ — Laporan