OpenAI, şirket itibarını yeniden başlatmayı hedeflediği için GPT-4'ün başarılı olması için yeni bir yapay zeka sistemi eğitiyor. Modelden önce CEO Sam Altman ve diğer üç yönetim kurulu üyesinin liderliğindeki bir emniyet ve güvenlik komitesi gelecek.
Ayrıca okuyun: AB Veri Gözlemcisi ChatGPT'nin Hala Sahtekarlıklar Yaydığını Söyledi
San Francisco merkezli şirket, güvenliğe olan bağlılığını göstermesi konusunda baskı altında. Yakın zamanda istifa eden risk araştırmacıları Jan Leike ve Gretchen Krueger, OpenAI'nin iddia edilen zayıf güvenlik kültürünü X'te (eski adıyla Twitter) açığa çıkardı.
OpenAI 'Yeni Sınır Modelini' Eğitiyor
Salı günü yayınlanan bir blog yazısında şirket şunları söyledi:
"OpenAI kısa süre önce bir sonraki öncü modelini eğitmeye başladı ve ortaya çıkan sistemlerin bizi yapay genel zekaya (AGI) giden yolda bir sonraki yetenek düzeyine taşıyacağını öngörüyoruz."
OpenAI, GPT-4 halefinin ne zaman yayınlanacağını veya neler yapabileceğini söylemedi. Değeri 80 milyar dolar olan şirket, Google gibi favorilerin itibar riskini değerlendirmek için arka koltuğa oturduğu bir dönemde, son derece popüler yapay zeka sohbet robotu ChatGPT ile ilk hamle hamlesini yaptı.
OpenAI, Anthropic, Google, Microsoft ve diğerlerinin yakından çekiştiği üretken yapay zeka yarışında lider olsa da, firma her zaman etik incelemeye uymadı.
X'te OpenAI'den istifasını duyuran bir gönderide Leike, "geçtiğimiz yıllarda güvenlik kültürü ve süreçlerinin parlak ürünlerin gerisinde kaldığını" açıkladı.
Krueger, şirketin "karar alma süreçleri, hesap verebilirlik, şeffaflık, politikaların uygulanması ve kendi teknolojimizi kullanırken gösterdiğimiz özen gibi temel şeyleri iyileştirmek için daha fazlasını yapması" gerektiğini yazdı.
Geçen hafta, bir Avrupa Birliği görev gücü, şirketin amiral gemisi ürünü olan ChatGPT'nin doğruluk standartlarının altında kaldığını bildirerek eleştirilere yanıt verdi.
Firma Yapay Zeka Güvenliğini Anahtar Satış Noktası Olarak Sunuyor
Bu arada OpenAI'nin GPT-4 modeline yaptığı son güncelleme, oyuncu Scarlett Johannson'ın şirketi sesini izinsiz kullanmakla suçlamasıyla anında yüksek profilli bir tartışmaya dönüştü.
Ayrıca okuyun: OpenAI, Scarlett Johansson Tartışmasından Sonra ChatGPT Sesini Hurdaya Çıkardı
Şimdi şirket, yaklaşmakta olan yapay zeka programının satış noktası olarak güvenliği öne çıkararak çamaşırhanede hızlı liderliğini sürdürüyor. Ekip aynı zamanda düzenleyiciler tarafından sorumlu yapay zeka geliştiren bir şirket olarak görülmeyi de istiyor. OpenAI blog yazısında şunları ekledi:
"Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duysak da, bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz."
Yeni emniyet ve güvenlik komitesine yönetmenler Altman, Bret Taylor (başkan), Adam D'Angelo ve Nicole Seligman başkanlık edecek. Firmanın hazırlık başkanı, güvenlik sistemleri başkanı, hizalama bilimi başkanı, güvenlik başkanı ve baş bilim adamı da komitede yer alacak.
OpenAI, komitenin önümüzdeki üç ay boyunca "süreçleri ve önlemleri değerlendirip daha da geliştireceğini" ve diğer üç direktöre rapor vereceğini söyledi.
Firma, ekip lideri ve OpenAI kurucu ortağı Ilya Sutskever'in ayrılmasının ardından bu ayın başlarında güvenlik ekibini feshetti.
Jeffrey Gogo'nun Kriptopolitan Raporlaması
