ChatGPT, chatbot viral dari OpenAI, masih belum memenuhi standar akurasi data Uni Eropa, menurut laporan baru dari pengawas privasi UE.
Baca juga: UU AI Eropa Mendapat Persetujuan Akhir Dengan Denda Hingga $38 Juta
Laporan Dewan Perlindungan Data Uni Eropa (EDPB) bukanlah dokumen hukum. Namun, hal ini akan menginformasikan pendekatan umum untuk mengatur ChatGPT di 27 negara anggota UE.
ChatGPT Gagal Mematuhi Standar Data
Pengawas nasional membentuk 'satuan tugas ChatGPT' tahun lalu berdasarkan stimulus terhadap kasus-kasus yang sedang berlangsung di beberapa negara Eropa yang menentang model AI. Gugus tugas ini berada di bawah EDPB.
Dalam laporan yang diterbitkan pada tanggal 24 Mei, gugus tugas tersebut mengatakan:
“Meskipun langkah-langkah yang diambil untuk mematuhi prinsip transparansi bermanfaat untuk menghindari salah tafsir terhadap keluaran ChatGPT, hal tersebut tidak cukup untuk mematuhi prinsip akurasi data.”
Model bahasa besar, atau LLM, terkenal karena “halusinasi” – teknologi berbicara ketika chatbot AI menyebarkan kebohongan, sering kali dengan percaya diri.
Chatbots seperti ChatGPT atau Google Gemini didukung oleh LLM. Berdasarkan Peraturan Perlindungan Data Umum (GDPR) yang ketat di Eropa, pengguna dapat menuntut jika mereka salah menyajikan atau tidak diberi kesempatan untuk mengoreksi informasi yang tidak akurat tentang diri mereka.
Menurut laporan gugus tugas tersebut, “Karena sifat probabilistik dari sistem (AI), pendekatan pelatihan saat ini mengarah pada model yang mungkin juga menghasilkan keluaran yang bias atau dibuat-buat.”
“Keluaran yang disediakan oleh ChatGPT kemungkinan besar akan dianggap akurat secara faktual oleh pengguna akhir, termasuk informasi yang berkaitan dengan individu, terlepas dari keakuratan sebenarnya mereka,” tambahnya.
Bendera Uni Eropa. Sumber: Pixabay UE Menggandakan Kepatuhan
OpenAI sebelumnya menyebut kompleksitas teknis sebagai penyebab kegagalannya memperbaiki informasi yang salah, namun pengawas Uni Eropa semakin meningkatkan upayanya.
“Khususnya, ketidakmungkinan teknis tidak dapat dijadikan pembenaran atas ketidakpatuhan terhadap persyaratan ini,” kata gugus tugas tersebut.
Dalam kasus yang baru dibuka, seorang tokoh masyarakat Austria menggugat ChatGPT karena gagal mengoreksi tanggal lahirnya. OpenAI mengatakan hal ini secara teknis tidak mungkin dilakukan, namun laporan baru ini akan menambah tekanan pada model AI.
Pengacara perlindungan data yang terkait dengan kasus ini, Maartje de Graaf, mengatakan bahwa perusahaan saat ini tidak dapat membuat chatbot AI mematuhi undang-undang UE saat memproses data tentang individu.
“Jika suatu sistem tidak dapat memberikan hasil yang akurat dan transparan, maka sistem tersebut tidak dapat digunakan untuk menghasilkan data tentang individu. Teknologinya harus mengikuti persyaratan hukum, bukan sebaliknya,” kata de Graaf.
Masalah Keamanan Membayangi di OpenAI
Para ahli mengatakan ChatGPT memerlukan perubahan ambisius untuk menghindari pelanggaran terhadap GDPR, yang mengatur perlindungan data di Uni Eropa.
Peraturan tersebut juga memberikan model kerja bagi undang-undang data di Argentina, Brasil, Chili, Jepang, Kenya, Mauritius, Afrika Selatan, Korea Selatan, Turki, dan Inggris.
Baca juga: OpenAI Hapus Suara ChatGPT Setelah Kontroversi Scarlett Johansson
Sementara itu, komitmen OpenAI terhadap keselamatan pengguna dipertanyakan.
Perusahaan ini dilanda pertikaian dengan pengunduran diri tokoh-tokoh penting, dengan kepergian salah satu pendiri Ilya Sutskever, Gretchen Krueger, Jan Leike, dan setengah lusin lainnya yang mendorong perubahan budaya.
Awal pekan ini, OpenAI mengumumkan penangguhan suara ChatGPT 'Sky' karena dikhawatirkan mirip dengan suara aktris Scarlett Johansson dalam film bertema AI, Her.
Pelaporan Cryptopolitan oleh Jeffrey Gogo
