Eski OpenAI “süper hizalama ekibi üyesi William Saunders, R.M.S.'nin batışıyla çarpıcı bir benzetme yaparak organizasyondan ayrılma nedenlerini açıkladı. Titanik. OpenAI'de üç yıl geçiren Saunders, teknoloji gazetecisi Alex Kantrowitz'in podcast'inin bir bölümünde endişelerini dile getirerek, OpenAI'nin Titanik'in 1912'de çıktığı hüzünlü yolculuğa benzer bir felakete doğru gidebileceğine olan inancını vurguladı.
Saunders, OpenAI'deki çalışmasının sık sık şirketin gidişatının Titanik'in trajik çöküşüyle mi yoksa Apollo uzay programının başarısıyla mı eşleştiğini merak etmesine neden olduğunu söyledi. Titanik, yetersiz cankurtaran filikaları ve diğer ihmal edilen güvenlik endişeleri nedeniyle ne yazık ki yok olurken, Apollo programı, tüm zorluklarına rağmen, özenli bilimsel çabalarla nihayet başarıya ulaştı.
OpenAI yapay zekanın Titaniğidir
“Gemiyi güvenli hale getirmek ve batmaz olduğunu söyleyebilmeleri için su geçirmez bölmeler inşa etmek için çok çalışma yapıldı. Ancak aynı zamanda herkese yetecek kadar cankurtaran filikası da yoktu” diyen Saunders, OpenAI'nin operasyonlarına doğrudan bir benzetme yaptı. Şirketin, temel güvenlik önlemlerinden ziyade ürün geliştirmeye öncelik veren ahlak anlayışını eleştirdi.
Saunders, OpenAI'de güvenlik endişelerini dile getiren çalışanların marjinalleştirildiği ve liderliğin gerekli güvenlik önlemlerini uygulamaktan çok kâr odaklı göründüğü bir ortamı tasvir etti. "Zamanla" dedi, "liderlik tarafından alınan kararların daha çok Titanik'i inşa eden White Star Line'a benzemeye başladığını hissettim."
Elon Musk'un OpenAI'ye Eleştirisi
Bu, OpenAI'nin iç muhalefetle karşılaştığı ilk sefer değil. OpenAI'nin kurucu ortaklarından Elon Musk, yakın zamanda şirkete karşı açtığı davayı, şirketin orijinal misyonundan saptığını iddia ederek geri çekti. Musk yıllardır OpenAI ile ilgilenmemesine ve şu anda rakip bir yapay zeka şirketi olan xAI'yi yönetmesine rağmen endişeleri Saunders'ın düşüncelerini yansıtıyor.
Benzer şekilde rakip yapay zeka şirketi Anthropic, OpenAI'nin güven ve güvenliğe odaklanmasından memnun olmayan eski OpenAI çalışanları tarafından 2021 yılında kuruldu. Öte yandan, başka bir yabancı kurucu ortak ve eski baş bilim insanı olan Ilya Sutskever, OpenAI'nin hedeflerine güvenli bir şekilde ulaşacağına olan güvenini ifade ederek kendi girişimini başlatmak için Mayıs 2024'te OpenAI'den ayrıldı.
Buzdağı
OpenAI'nin yolunu Titanik'in yoluna benzeten birçok yüksek profilli ayrılık ve eleştiriyle birlikte, acil soru hala ortada: Buzdağı kim veya nedir?
Titanik benzetmesindeki yolcuları tüm insanlık olarak düşünürsek buzdağı, ChatGPT gibi gelişmiş yapay zeka sistemlerinin hazırlıksız bir toplum için oluşturduğu varoluşsal riskleri temsil ediyor olabilir. Yapay zekanın yeterli koruma önlemleri olmadan insan zekasını aşma potansiyeli, Titanik'te cankurtaran sandallarının bulunmamasına benzer şekilde feci sonuçlara yol açabilir.
Eski OpenAI Çalışanı Firmayı 'Yapay Zekanın Titaniği' Olarak Adlandırıyor yazısı ilk olarak Blockchain, Kripto Para Birimi ve Yatırımla İlgili En Son Haberler ve İçgörüler'de yer aldı.
