AB'nin gizlilik gözlemcisi tarafından hazırlanan yeni bir rapora göre, OpenAI'nin viral sohbet robotu ChatGPT hâlâ Avrupa Birliği'nin veri doğruluğu standartlarının altında kalıyor.
Ayrıca okuyun: Avrupa'nın Yapay Zeka Yasası 38 Milyon Dolara Varan Cezalarla Nihai Onay Aldı
Avrupa Birliği Veri Koruma Kurulu'nun (EDPB) raporu hukuki bir belge değil. Ancak bu, AB'nin 27 üye ülkesinde ChatGPT'nin düzenlenmesine yönelik ortak bir yaklaşıma ışık tutacak.
ChatGPT Veri Standartlarına Uymuyor
Ulusal gözlemciler, yapay zeka modeline karşı birçok Avrupa ülkesinde devam eden davaların etkisiyle geçen yıl 'ChatGPT görev gücü'nü oluşturdu. Görev gücü EDPB'nin kapsamına giriyor.
24 Mayıs'ta yayınlanan bir raporda görev gücü şunları söyledi:
"Şeffaflık ilkesine uymak için alınan önlemler, ChatGPT çıktılarının yanlış yorumlanmasını önlemek açısından faydalı olsa da, veri doğruluğu ilkesine uymak için yeterli değil."
Büyük dil modelleri veya LLM'ler "halüsinasyon görmeleri" ile ünlüdür; teknoloji, yapay zeka sohbet robotlarının çoğu zaman güvenle yalanları yaydığını ifade eder.
ChatGPT veya Google Gemini gibi sohbet robotları LLM'ler tarafından desteklenmektedir. Avrupa'nın katı Genel Veri Koruma Yönetmeliği (GDPR) uyarınca, kullanıcılar yanlış beyanda bulundukları veya kendileri hakkındaki yanlış bilgileri düzeltme fırsatının reddedildiği için dava açabilirler.
Görev gücünün raporuna göre, "(AI) sisteminin olasılıksal doğası nedeniyle, mevcut eğitim yaklaşımı, önyargılı veya uydurma çıktılar da üretebilecek bir modele yol açmaktadır."
"ChatGPT tarafından sağlanan çıktıların, gerçek doğruluklarından bağımsız olarak bireylerle ilgili bilgiler de dahil olmak üzere son kullanıcılar tarafından gerçeklere dayalı olarak doğru kabul edilmesi muhtemeldir" diye ekledi.
Avrupa Birliği bayrağı. Kaynak: Pixabay AB Uyumluluğu İki Kat Artırıyor
OpenAI daha önce yanlış bilgileri düzeltmedeki başarısızlığından dolayı teknik karmaşıklıktan bahsetmişti, ancak Avrupa Birliği gözlemcisi bunu ikiye katlıyor.
Görev gücü, "Özellikle, bu gerekliliklere uyulmamasını haklı çıkarmak için teknik imkansızlığa başvurulamaz" dedi.
Yeni açılan bir davada Avusturyalı bir halk figürü, doğum tarihlerini düzeltmediği için ChatGPT'ye dava açıyor. OpenAI bunu yapmanın teknik olarak mümkün olmayacağını ancak bu yeni raporun yapay zeka modeli üzerindeki baskıyı artıracağını söyledi.
Davayla bağlantılı bir veri koruma avukatı olan Maartje de Graaf, şirketlerin şu anda bireyler hakkındaki verileri işlerken AI sohbet robotlarının AB yasalarına uygun hale gelmesini sağlayamadıklarını söyledi.
“Bir sistem doğru ve şeffaf sonuçlar üretemiyorsa bireylere ilişkin veri üretmek için kullanılamaz. Teknolojinin yasal gereklilikleri takip etmesi gerekiyor, tersi değil” dedi de Graaf.
OpenAI'de Güvenlik Kaygıları Ortaya Çıkıyor
Uzmanlar, ChatGPT'nin Avrupa Birliği'nde veri korumasını düzenleyen GDPR'ye ters düşmemesi için iddialı değişiklikler gerektireceğini söylüyor.
Kurallar aynı zamanda Arjantin, Brezilya, Şili, Japonya, Kenya, Mauritius, Güney Afrika, Güney Kore, Türkiye ve Birleşik Krallık'taki veri yasaları için de çalışan bir model sağlıyor.
Ayrıca okuyun: OpenAI, Scarlett Johansson Tartışmasından Sonra ChatGPT Sesini Hurdaya Çıkardı
Bu arada OpenAI'nin kullanıcı güvenliğine olan bağlılığı sorgulanmaya başlandı.
Şirket, kurucu ortaklardan Ilya Sutskever, Gretchen Krueger, Jan Leike ve yarım düzine diğer kişinin kültür değişimini savunarak ayrılmasıyla birlikte yüksek profilli istifalarla sarsıldı.
Bu haftanın başlarında OpenAI, ChatGPT sesi 'Sky'nın yapay zeka temalı Her filmindeki aktris Scarlett Johansson'un sesine benzediği endişesi üzerine askıya alındığını duyurdu.
Jeffrey Gogo'nun Kriptopolitan Raporlaması
