OpenAI, ChatGPT tarafından oluşturulan içeriği tespit edebilen yeni bir "son derece doğru" aracı, bu içeriğin tahrif edilebileceği veya İngilizce olmayan kullanıcıların yapay zeka modelleriyle metin oluşturmaktan kaçınmasına neden olabileceği endişeleri nedeniyle geri çekiyor gibi görünüyor.
Şirket, mayıs ayında yayınladığı bir blog yazısında, ürünleri tarafından özel olarak oluşturulan içeriği tespit etmek için çeşitli yöntemler üzerinde çalıştığını belirtmişti. 4 Ağustos'ta Wall Street Journal, araçların piyasaya sürülmesi planlarının, bunların piyasaya sürülmesinin sonuçlarıyla ilgili iç tartışmalar nedeniyle durduğunu belirten özel bir rapor yayınladı.
WSJ'nin raporunun ardından OpenAI, Mayıs ayı blog gönderisini tespit araçlarıyla ilgili yeni bilgilerle güncelledi. Uzun lafın kısası, şirketin metin kaynağını belirlemeye yönelik en az bir aracın "son derece doğru ve hatta yerelleştirilmiş kurcalamaya karşı etkili" olduğu yönündeki uyarısına rağmen, yayınlanma için hala bir zaman çizelgesi yok.
Ne yazık ki şirket, kötü niyetli kişilerin tespit işlemini atlatabileceği yöntemlerin hâlâ mevcut olduğunu iddia ediyor ve bu nedenle bunu kamuoyuna açıklamak istemiyor.
Başka bir pasajda şirket, İngilizce metnin tespitini atlamak için başka bir dile çevrilmesiyle ilgili bir suiistimal nedeniyle, İngilizce konuşmayan konuşmacıların yazmak için AI ürünlerini kullanmaya karşı "damgalanabileceğini" ima ediyor gibi görünüyor.
"Tarttığımız bir diğer önemli risk, araştırmamızın metin filigranı yönteminin bazı grupları orantısız bir şekilde etkileme potansiyeline sahip olduğunu öne sürmesidir. Örneğin, anadili İngilizce olmayan kişiler için yapay zekanın yararlı bir yazma aracı olarak kullanılması damgalanabilir.”
Şu anda yapay zeka tarafından oluşturulan içeriği tespit ettiği iddia edilen bir dizi ürün ve hizmet mevcut olsa da, bilgimiz dahilinde, hiçbiri hakemli araştırmalarda genel görevlerde yüksek derecede doğruluk göstermedi.
OpenAI, şirketin modelleri tarafından özel olarak oluşturulan içerik için görünmez filigranlama ve özel tespit yöntemlerine dayanan, şirket içinde geliştirilen ilk sistem olacak.
İlgili: OpenAI'nin mevcut iş modeli 'savunulamaz' - Rapor
