Italia mendenda OpenAI €15 juta karena pelanggaran GDPR, mengutip perlindungan data yang buruk, transparansi, dan langkah-langkah perlindungan untuk anak di bawah umur.
OpenAI harus menjalankan kampanye kesadaran selama 6 bulan tentang hak data, etika AI, dan perlindungan pengguna di bawah aturan GDPR.
Kasus ini menandakan pengawasan yang lebih ketat dari UE terhadap AI generatif, menekankan kepatuhan dan transparansi untuk inovasi yang etis.
OpenAI telah didenda €15 juta oleh Otoritas Perlindungan Data Italia (IDPA) karena melanggar privasi dengan model AI ChatGPT mereka. Organisasi tersebut menunjuk pada kurangnya langkah-langkah perlindungan untuk anak di bawah umur, praktik perlindungan data yang buruk, dan kekurangan dalam transparansi.
Dalam penyelidikannya, yang dimulai sebagai tanggapan atas pelanggaran data pada Maret 2023, IDPA yang juga dikenal sebagai Garante menemukan banyak pelanggaran. Masalah transparansi muncul ketika OpenAI gagal memberitahu pihak berwenang tentang insiden tersebut. Selain itu, perusahaan tersebut melanggar prinsip transparansi GDPR dengan memproses data pengguna tanpa dasar hukum yang sah. Anak di bawah umur yang berusia di bawah tiga belas tahun terpapar kemungkinan respons chatbot yang tidak pantas karena verifikasi usia OpenAI yang tidak efektif.
https://twitter.com/GPDP_IT/status/1870055097851339070
Transparansi dan Kesadaran Pengguna Menjadi Kekhawatiran Utama
Untuk mengatasi kekurangan ini, OpenAI harus meluncurkan kampanye kesadaran publik selama enam bulan di berbagai platform media. Kampanye ini bertujuan untuk mendidik pengguna tentang praktik pengumpulan data, hak-hak mereka di bawah GDPR, dan cara menentang penggunaan data untuk pelatihan AI. Inisiatif ini akan menargetkan pemahaman publik yang lebih baik tentang AI generatif dan implikasi etisnya.
IDPA menekankan bahwa pengguna memerlukan mekanisme untuk memperbaiki atau menghapus data mereka. Selain itu, sikap kolaboratif OpenAI selama penyelidikan memengaruhi pengurangan hukuman. Meskipun demikian, denda ini berfungsi sebagai peringatan tegas bagi perusahaan AI lainnya tentang kepatuhan terhadap GDPR.
Implikasi yang Lebih Luas untuk Regulasi AI di Eropa
OpenAI memindahkan kantor pusat Eropa mereka ke Irlandia selama penyelidikan. Langkah ini menempatkan Otoritas Perlindungan Data Irlandia (DPC) sebagai badan pengawas utama untuk penyelidikan yang sedang berlangsung. Selain denda, kasus ini menunjukkan meningkatnya pengawasan regulasi terhadap AI generatif dan dampaknya terhadap masyarakat.
Temuan IDPA sejalan dengan pendapat Dewan Perlindungan Data Eropa tentang penggunaan data pribadi untuk pengembangan AI. Larangan sementara Italia terhadap ChatGPT pada Maret 2023 menandai awal dari upaya penegakan ini. Meskipun para kritikus menganggap larangan tersebut berlebihan, hal itu menekankan perlunya batasan regulasi yang jelas dalam inovasi AI.