Yapay zeka araştırma kuruluşu OpenAI, ChatGPT'nin kodu tarafından oluşturulan çıktıdaki hataları tanımlamak ve düzeltmek için tasarlanan, GPT-4'ü temel alan yeni bir model olan CriticGPT'yi tanıttı.
Yeni model, ChatGPT tarafından sağlanan yanıtlardaki yanlışlıkları tespit eden eleştiriler oluşturmak üzere özel olarak eğitildi. ChatGPT'yi besleyen GPT-4 serisi modeller arasında yer alır ve "İnsan Geri Bildiriminden Takviyeli Öğrenme" (RLHF) adı verilen bir yöntemle kullanışlılığını ve etkileşimini artırmaya odaklanır. Bu yaklaşım, çeşitli ChatGPT yanıtlarının birbirine karşı yapay zeka eğitmen derecelendirmelerinin toplanmasını içerir.
ChatGPT gibi büyük yapay zeka modelleri muhakeme ve davranışta ilerledikçe doğrulukları artar ve hatalar daha incelikli hale gelir. Bu evrim, RLHF karşılaştırmaları sırasındaki yanlışlıkları tespit etmekle görevli yapay zeka eğitmenleri için zorluklar yaratmaktadır. Gelişmiş araçlar olmadan bu sistemleri değerlendirmek zor olabilir. OpenAI, CriticGPT modelinin, gelişmiş yapay zeka sistemlerinden gelen çıktıları değerlendirmeye yönelik bir araç sağlayarak bu sorunu çözmeyi amaçladığını vurguluyor.
Şirkete göre, kullanıcılar "belirli bir Python işlevi yazmak" gibi ChatGPT görevleri atadıklarında, ChatGPT buna göre kod üretecek. Bu arada CriticGPT, ChatGPT'den oluşturulan kodlardan birini değerlendirirken daha iyi bir alternatif önerebilir.
Ancak OpenAI, CriticGPT'nin önerilerinin her zaman doğru olmadığını belirtti. Bununla birlikte, yine de yapay zeka eğitmenlerinin, model tarafından oluşturulan yanıtlarda yapay zeka yardımı olmadan yapabileceklerinden daha fazla sorunu belirlemelerine yardımcı olabilir. Üstelik CriticGPT, insan çabasıyla birlikte kullanıldığında kullanıcıların yeteneklerini geliştirerek, modelin bağımsız çalıştığı duruma kıyasla daha kapsamlı eleştirilere ve daha az halüsinasyonlu hataya yol açar.
OpenAI, Yapay Zeka Modeli Geliştirmeyi Desteklemek İçin Oracle Bulut Altyapısıyla Güçlerini Birleştiriyor
OpenAI, yapay genel zeka (AGI) ve üretken modeller alanında araştırma ve geliştirmeye adanmıştır ve chatbotu ChatGPT ile tanınmaktadır. Şu anda firmanın en son sürümü olan ChatGPT-5'i geliştirme sürecinde olduğu bildiriliyor.
OpenAI yakın zamanda yeteneklerini geliştirmek için Oracle Cloud Infrastructure (OCI) ile ortaklık kurdu. Bu işbirliği sayesinde, yeni nesil yapay zeka modellerinin eğitimi ve çıkarımı için OCI Supercluster'dan yararlanacak.
OpenAI, ChatGPT Yanıtlarındaki Yanlışlıkları Belirlemeyi Amaçlayan CriticGPT Modelini Yayınladı yazısı ilk olarak Metaverse Post'ta göründü.
