Badan Cyberspace Tiongkok sedang mempertimbangkan untuk memberi label pada semua konten yang dibuat oleh kecerdasan buatan sebagai bagian dari rancangan aturan baru. Menurut laporan, regulator tersebut, yang merupakan otoritas internet Tiongkok, telah menyiapkan rancangan rencana yang meminta semua platform digital dan penyedia layanan daring untuk menambahkan tanda AI pada konten yang dibuat oleh AI.
Dalam pengumuman pada tanggal 14 September, regulator mengatakan langkah ini akan menstandardisasi proses identifikasi konten untuk konten yang dihasilkan AI dan melindungi keamanan nasional serta kepentingan individu dan organisasi yang menggunakan platform tersebut.
Regulator merilis rancangan undang-undang yang terbuka untuk komentar publik hingga 14 Oktober. Menurut pengumuman tersebut, publik dapat mengirimkan komentar melalui email ke biaoshi@cac.gov.cn atau melalui surat ke Biro Teknologi Manajemen Jaringan dari Kantor Informasi Internet Negara.
Sementara komentar publik dapat memengaruhi rancangan akhir aturan, para ahli percaya aturan yang diusulkan kemungkinan akan disahkan dalam bentuknya saat ini dengan perubahan minimal, karena otoritas Tiongkok tidak dikenal melakukan perubahan drastis pada rancangan aturan berdasarkan komentar.
Rancangan aturan mengharuskan penambahan logo dan perintah suara ke konten AI
Rancangan aturan tersebut mengusulkan agar setiap teks, video, atau berkas gambar yang dibuat oleh AI harus menyertakan logo untuk menandakan bahwa itu dibuat oleh AI, yang secara efektif memberi tahu siapa pun yang menemukan konten tersebut. Untuk memastikan bahwa pengguna memperhatikan label tersebut, aturan tersebut ingin agar label tersebut ditampilkan di awal, akhir, dan momen relevan lainnya dalam sebuah video.
Untuk berkas audio, kreator harus menambahkan perintah suara yang memberi tahu pengguna saat mereka akan mendengarkan konten yang dibuat AI, dengan perintah tersebut memberi tahu mereka tentang berbagai bagian konten audio. Semua perangkat lunak yang memutar konten audio juga harus memiliki perintah yang memberi tahu pengguna saat mereka mulai mendengarkan konten AI.
Pasal 4 dari peraturan yang diusulkan berbunyi:
“Jika layanan sintesis pembangkitan yang disediakan oleh penyedia layanan termasuk dalam paragraf pertama Pasal 17 Peraturan tentang Pengelolaan Sintesis Mendalam Layanan Informasi Internet, logo eksplisit harus ditambahkan ke konten sintesis yang dihasilkan sesuai dengan persyaratan berikut.”
Sementara itu, rancangan aturan tersebut juga mengharuskan metadata disematkan ke dalam berkas untuk mencerminkan bahwa berkas tersebut dibuat oleh AI, sehingga memungkinkan untuk memberi label pada konten tersebut. Namun, jika tidak ada metadata, penyedia layanan akan menganalisis konten tersebut dan memberi label seperti itu jika diduga dibuat oleh AI.
Aturan tersebut juga berlaku bagi pengguna internet di Tiongkok. Individu yang mengunggah konten yang dibuat dengan AI harus memberi label pada konten tersebut. Saat mereka menggunakan perangkat AI di platform lain, undang-undang yang diusulkan mengharuskan mereka untuk memberikan informasi pribadi, dan platform yang dibuat dengan AI akan menyimpan catatan aktivitas mereka selama enam bulan.
Tiongkok mengharuskan platform internet untuk berbagi teknologi
Sementara itu, rancangan rencana tersebut juga mencakup persyaratan bahwa platform media sosial harus berbagi teknologinya untuk mendeteksi konten AI dengan yang lain, sebuah langkah yang dirancang untuk menstandardisasi proses dan meningkatkan kemampuan untuk mendeteksi konten AI.
Aturan baru ini tidak mengejutkan, mengingat moderasi konten selalu menjadi bagian penting dari penggunaan internet di Tiongkok. Namun, fokus pada konten AI tampaknya lebih relevan dalam menghadapi deepfake dan konten buatan AI lainnya yang digunakan oleh banyak orang untuk melakukan penipuan dan tindakan ilegal lainnya.
Beberapa platform media sosial populer di luar Tiongkok, termasuk Facebook, Instagram, dan TikTok, sudah melabeli konten AI sebagai bagian dari moderasi konten mereka. Akan tetapi, alat deteksi mereka belum sempurna, karena beberapa konten hiper-realistis masih lolos dari label AI di platform ini.