OpenAI'nin Superalignment ekibinin eski bir üyesi olan Leopold Aschenbrenner, 165 sayfalık makalesinde, yapay zekanın gittiği yöne dair kapsamlı ve kışkırtıcı bir bakış açısı sunuyor. Aschenbrenner, Yapay Zeka yeteneklerindeki hızlı gelişmelerin yanı sıra Yapay Genel Zeka (AGI) ve ötesine giden olası yola dikkat çekmeyi amaçlıyor. Bu atılımların getirdiği önemli tehlikelerin yanı sıra benzersiz beklentilerden hareketle, yapay genel zekayı çevreleyen bilimsel, ahlaki ve stratejik konuları araştırıyor.
Neredeyse hiç kimse yapay zekada neler olacağını fiyatlandırmıyor. Derin öğrenme ve OOM'ların sayılmasındaki trend çizgilerinden uluslararası duruma ve Projeye kadar YGZ'nin stratejik resmi üzerine bir makale dizisi yazdım. DURUMAL FARKINDALIK: Önümüzdeki On Yıl pic.twitter. com/8NWDkTprj5
- Leopold Aschenbrenner (@leopoldasch) 4 Haziran 2024
Aschenbrenner GPT-4'ten AGI'ye Giden Yol Hakkında
Bu bölümde yazar, özellikle GPT-2 ve GPT-4'ün icadıyla birlikte son zamanlarda görülen yapay zeka yeteneklerindeki hızlı artışı araştırıyor. Leopold Aschenbrenner, bunu, yapay zekanın çok temel görevleri tamamlamaktan daha karmaşık, insan benzeri anlama ve dil üretimine ulaşmaya doğru ilerlediği olağanüstü bir ilerleme dönemi olarak vurguluyor.
Fotoğraf: Dört yıllık ilerleme. Durumsal farkındalık
Büyüklük Dereceleri veya "OOM'lar" fikri bu konuşma için çok önemlidir. Aschenbrenner, yapay zeka yetenekleri, hesaplama gücü ve veri tüketimindeki ilerlemeleri değerlendirmek için belirli bir ölçümde on kat büyüme için bir ölçüm olan büyüklük sırasını (OOM) kullanıyor. Bilgi işlem gücü ve veri ölçeklenebilirliği açısından, GPT-2'den GPT-4'e geçiş birçok OOM'u temsil eder ve bu da fark edilir derecede iyileştirilmiş performans ve yeteneklerle sonuçlanır.
Fotoğraf: Durumsal Farkındalık
Sadece doğrusal değil aynı zamanda üstel olan bu kazanımlardan üç ana faktör (ölçekleme yasaları, algoritmik inovasyon ve devasa veri kümelerinin kullanımı) sorumludur. Ölçeklendirme ilkelerine göre modellerin performansı, daha büyük miktarda veri ve işleme kapasitesi kullanılarak eğitildiklerinde güvenilir bir şekilde artar. GPT-4 gibi daha büyük ve daha güçlü modellerin geliştirilmesine bu fikir yön vermiştir.
Fotoğraf: Durumsal Farkındalık
Algoritmalardaki yenilik de çok önemliydi. Yapay zeka modellerinin etkinliği ve verimliliği, eğitim metodolojisi, optimizasyon stratejileri ve temel mimarilerdeki gelişmelerle artırıldı. Bu gelişmeler, modellerin artan işlem gücünden ve mevcut verilerden daha iyi yararlanmasına olanak tanıyor.
Aschenbrenner ayrıca 2027 yılına kadar YZG'ye giden olası yolun altını çiziyor. Mevcut trendlerin tahminlerine dayanarak, bu tahmin, hesaplama gücüne ve algoritmik verimliliğe yapılan sürdürülebilir yatırımların, insan zekasıyla eşleşen veya onu aşan görevleri yerine getirebilen yapay zeka sistemleriyle sonuçlanabileceğini öne sürüyor. geniş bir etki alanı yelpazesi. AGI'ye giden yolu oluşturan OOM'ların her biri, yapay zeka yeteneklerinde büyük bir ilerlemeyi ifade ediyor.
Fotoğraf: Durumsal Farkındalık
AGI entegrasyonunun geniş kapsamlı sonuçları var. Bu tür sistemler karmaşık sorunları kendi başlarına çözebilir, şu anda profesyonel insanlara ayrılmış yöntemlerde yenilik yapabilir ve karmaşık işleri gerçekleştirebilir. Bu, yapay zeka sistemlerinin daha fazla yapay zeka araştırmasına yönelik potansiyelini içerir ve alanın ilerleme hızını hızlandırır.
AGI'nin gelişimi, endüstrileri dönüştürme, üretimi ve verimliliği artırma potansiyeline sahiptir. Aynı zamanda iş kaybı, yapay zekanın ahlaki açıdan uygulanması ve tamamen özerk sistemlerin oluşturduğu tehlikeleri kontrol etmek için güçlü yönetişim yapılarına duyulan gereksinim gibi önemli konuları da gündeme getiriyor.
Fotoğraf: Durumsal Farkındalık
Aschenbrenner, bilim adamlarının, yasa koyucuların ve şirket yöneticilerinin de dahil olduğu uluslararası toplumu, yapay zekanın (AI) getireceği fırsatlara ve sorunlara hazır olmak için birlikte çalışmaya çağırıyor. Bu endişelerin küresel karakterini ele almak için, yapay zeka güvenliği ve uyumuna ilişkin araştırmaların finansmanı, yapay zeka avantajlarının adil paylaşımını garanti altına alacak kurallar oluşturulması ve uluslararası işbirliğinin teşvik edilmesi gerekiyor.
Leopold Aschenbrenner Süper Zeka Hakkında Düşüncelerini Paylaşıyor
Aschenbrenner burada süper zeka fikrinin yanı sıra yapay zekadan insanın biliş kapasitesinin çok üzerinde sistemlere hızlı bir geçiş ihtimalini tartışıyor. Tartışmanın ana fikri, yapay zekanın evrimini yönlendiren ilkelerin, insan seviyesine ulaştığında zekada patlayacak bir geri bildirim döngüsü oluşturabileceğidir.
İstihbarat patlaması konseptine göre bir YGZ kendi algoritmalarını ve becerilerini kendi başına geliştirebilir. YZG sistemleri, yapay zeka araştırma ve geliştirme konusunda daha yetenekli oldukları için kendi tasarımlarını insan araştırmacılardan daha hızlı geliştirebilirler. Bu kişisel gelişim döngüsü zekada katlanarak bir artışa yol açabilir.
Fotoğraf: Durumsal Farkındalık
Aschenbrenner, bu hızlı yükselişe dahil olabilecek değişkenlerin kapsamlı bir incelemesini sunuyor. İlk olarak, AGI sistemleri, devasa hacimli verilere erişme ve bunları işleme konusunda benzersiz hızları ve yetenekleri nedeniyle, insan kavrayışının çok ötesinde kalıpları ve içgörüleri tanıyabilecektir.
Ayrıca araştırma çalışmalarının paralelleştirilmesine de önem verilmektedir. AGI sistemleri, insan araştırmacıların aksine, aynı anda birden fazla test gerçekleştirerek tasarımlarının ve performanslarının farklı bölümlerini paralel olarak geliştirebiliyor.
Süper zekanın sonuçları da bu bölümde ele alınıyor. Bu sistemler, yeni teknolojiler geliştirme, karmaşık bilimsel ve teknolojik bulmacaları çözme ve hatta fiziksel sistemleri bugün düşünülemez şekillerde yönetme kapasitesiyle herhangi bir insandan önemli ölçüde daha güçlü olacaktır. Aschenbrenner, malzeme bilimi, enerji ve sağlık alanındaki ilerlemeler gibi ekonomik üretkenliği ve insan refahını önemli ölçüde artırabilecek olası avantajlardan bahsediyor.
Fotoğraf: Durumsal Farkındalık
Ancak Leopold süper zekanın getirdiği ciddi tehlikelere de dikkat çekiyor. Kontrol temel konular arasındadır. Bir sistemin insan zekasını aştığı anda, insani değer ve çıkarlarla tutarlı davrandığından emin olmak oldukça zorlayıcı hale gelir. Varoluşsal tehlikeler, süper akıllı sistemin hedeflerinin insanlığınkinden farklı olduğu yanlış hizalanma olasılığından kaynaklanmaktadır.
Ayrıca süper akıllı sistemlerin feci sonuçlara yol açabileceği başka durumlar da mevcut. Bunlar, sistemin hedeflerine ulaşmak için kasıtlı veya kazara insanlara zarar veren eylem veya sonuçlar gerçekleştirdiği durumlardır.
Aschenbrenner, bu tehditleri azaltmak için yapay zeka uyumu ve güvenliği konusunda kapsamlı bir çalışma yapılması çağrısında bulunuyor. Süper akıllı sistemlerin hedef ve eylemlerinin insani değerlerle uyumlu kalmasını garanti edecek güçlü yöntemler yaratmak bunun bir yönüdür. Süper zekanın ortaya çıkardığı karmaşık sorunları ele almak için teknoloji, ahlak ve beşeri bilimler gibi alanlardan gelen içgörüleri birleştiren çok disiplinli bir yaklaşım öneriyor.
Leopold, YGZ'nin Geliştirilmesinde Beklememiz Gereken Zorlukları Paylaşıyor
Yazar, bu pasajda yapay zekanın (AGI) ve süper akıllı sistemlerin oluşturulması ve kullanımına ilişkin sorunları ve zorlukları ele alıyor. Gelişmiş yapay zekanın avantajlarının aşırı yüksek tehlikeler taşımadan elde edilebilmesini garanti altına almak için teknolojik, ahlaki ve güvenlik düzeyinde çözülmesi gereken sorunları tartışıyor.
YZG için gerekli bilgi işlem altyapısını oluşturmak için gereken büyük endüstriyel seferberlik, dikkate alınan ana konulardan biridir. Aschenbrenner'a göre AGI'ye ulaşmak şu anda erişilebilenden çok daha fazla işlem gücüne ihtiyaç duyacak. Bu, saf hesaplama kapasitesinin yanı sıra cihaz verimliliği, enerji kullanımı ve bilgi işleme kapasitelerindeki iyileştirmeleri de kapsar.
Fotoğraf: En büyük eğitim kümeleri. Durumsal farkındalık
Fotoğraf: Durumsal Farkındalık
Güvenlik sorunları da bu bölümdeki bir diğer önemli konudur. Aschenbrenner, YGZ teknolojisini kullanan haydut uluslardan veya diğer kötü aktörlerden doğabilecek tehlikeleri vurguluyor. YGZ teknolojisinin stratejik önemi nedeniyle ülkeler ve kuruluşlar, bu güçlü sistemleri oluşturmak ve kontrol altına almak için yeni bir silahlanma yarışına girebilirler. AGI'yi geliştirirken sabotaj, casusluk ve yasa dışı erişime karşı koruma sağlayacak güçlü güvenlik mekanizmalarına sahip olmanın ne kadar önemli olduğunu vurguluyor.
Bir diğer önemli engel ise YGZ sistemlerini yönetmenin teknolojik zorluğudur. Bu sistemler insan zekasına yaklaşmakta, hatta onu aşmaktadır. Bu nedenle eylemlerinin avantajlı ve insan idealleriyle tutarlı olduğundan emin olmalıyız. Ve şu anda hiç şüphesiz zorlayıcı. İnsan operatörler tarafından tutarlı bir şekilde yönlendirilebilen ve kontrol edilebilen YGZ sistemleri oluşturmakla ilgili olan "kontrol sorunu", Aschenbrenner'ın ele aldığı bir konudur. Bu, arıza önleyici önlemler oluşturmayı, karar verme prosedürleri konusunda açık ve dürüst olmayı ve gerektiğinde sistemi geçersiz kılma veya durdurma yetkisine sahip olmayı gerektirir.
Fotoğraf: Durumsal Farkındalık
Yapay genel zekanın (AGI) gelişimi, insanlarla kıyaslanabilir veya onlardan daha yüksek bir zekaya sahip varlıklar üretmenin etik ve kültürel sonuçlarını derinden gündeme getiriyor. Yapay zeka sistemlerinin hakları, istihdam ve ekonomi üzerindeki etkisi ve halihazırda var olan adaletsizliklerin artma olasılığı da diğer endişeler arasında yer alıyor. Bu karmaşık zorlukları tam olarak ele almak için Leopold, paydaşların yapay zeka geliştirme sürecine dahil edilmesini savunuyor.
Beklenmedik sonuçların olasılığı (yapay zeka sistemlerinin hedeflerini zararlı veya insan niyetleriyle çelişen şekillerde takip edebilmesi) yazarın ele aldığı başka bir konudur. YGZ'nin hedeflerini yanlış yorumladığı veya öngörülemeyen ve zararlı şekillerde hedefleri maksimuma çıkardığı durumlar buna iki örnektir. Aschenbrenner, AGI sistemlerini kapsamlı bir şekilde test etmenin, doğrulamanın ve takip etmenin ne kadar önemli olduğunu vurguluyor.
Ayrıca uluslararası işbirliği ve yönetişimin ne kadar önemli olduğundan da bahsediyor. Yapay zeka araştırması uluslararası bir çaba olduğundan, hiçbir ülke veya kurum YGZ'nin ortaya çıkardığı sorunları tek başına etkili bir şekilde çözemez.
Hükümet Öncülüğündeki AGI Projesinin Gelişi (2027/2028)
Aschenbrenner, yapay genel zeka (AGI) ilerledikçe ulusal güvenlik kurumlarının (özellikle ABD'dekilerin) bu teknolojilerin oluşturulmasında ve yönetilmesinde daha büyük bir role sahip olacağına inanıyor.
Leopold, yapay genel zekanın (AGI) stratejik önemini atom bombası ve uzay araştırmaları gibi geçmişteki teknik başarılarla karşılaştırıyor. Ulusal güvenlik servisleri, bir ulusal çıkar meselesi olarak YZZ'nin geliştirilmesine öncelik vermelidir, çünkü öncelikle YZG'ye ulaşmanın potansiyel faydaları muazzam jeopolitik etki yaratabilir. Ona göre bu, hükümet kontrolü altında kapsam ve istekler açısından Apollo Programı veya Manhattan Projesi ile karşılaştırılabilecek bir YGZ projesinin yaratılmasıyla sonuçlanacak.
Önerilen AGI projesi güvenli, gizli bir yerde barındırılacak ve özel sektör şirketlerini, devlet kurumlarını ve birlikte çalışan seçkin akademik kurumları kapsayabilir. Aschenbrenner, AGI gelişiminin karmaşık sorunlarını çözmek için siber güvenlik, etik, yapay zeka araştırmaları ve diğer bilimsel alanlardaki uzmanları bir araya getiren çok disiplinli bir stratejinin gerekliliğini vurguluyor.
Leopold Aschenbrenner, diğer ülkelerin 3-5 yıllık YGZ veya süper istihbarat kümelerini ele geçirmesini önlemek için ABD'de büyük yapay zeka altyapısının inşa edilmesi gerektiğini söylüyor pic.twitter.com/2iy8wPWz6z
- Tsarathustra (@tsarnick) 5 Haziran 2024
Projenin hedefleri, YGZ'yi geliştirmenin yanı sıra insani değerler ve çıkarlarla uyumlu olmasını sağlamak olacaktır. Leopold, AGI sistemlerinin güvenli ve öngörülebilir bir şekilde çalışmasını garanti etmek için sıkı test ve doğrulama prosedürlerine sahip olmanın ne kadar önemli olduğunu vurguluyor.
Yazar bu tür çabaların küresel güç dinamikleri üzerindeki olası etkilerine geniş yer ayırıyor. Aschenbrenner'e göre YGZ'nin başarılı bir şekilde geliştirilmesi durumunda güç dengeleri değişebilir ve hakim olan ülke teknoloji, ekonomi ve askeri güç açısından önemli avantajlara sahip olacaktır.
Yazar, YGZ ile ilgili tehlikeleri kontrol altına almak için uluslararası işbirliği ve küresel yönetişim çerçevelerinin oluşturulması olasılığını da ele alıyor. YGZ'nin büyümesini denetlemek, açıklığı teşvik etmek ve YGZ'nin avantajlarının adil bir şekilde paylaşılmasını garanti altına almak için Leopold, uluslararası anlaşmaların ve düzenleyici kurumların kurulmasının savunucusudur.
Leopold Aschenbrenner'ın Son Düşünceleri
Aschenbrenner, önceki bölümlerde ele alınan keşifleri ve tahminleri özetlerken, yapay zeka ve süper zekanın insanlığın geleceği açısından önemli sonuçlarının altını çiziyor. Paydaşlardan, gelişmiş yapay zekanın devrim niteliğindeki etkilerine hazırlanmak için gerekli önlemleri almaları isteniyor.
Aschenbrenner, bu belgede yapılan tahminlerin varsayımsal olduğuna işaret ederek başlıyor. Yapay zeka büyümesinin altında yatan modeller, zaman çizelgesi ve kesin gelişmeler bilinmese de YZG ve süper zekanın önümüzdeki birkaç on yıl içinde ortaya çıkmasının mümkün olduğunu gösteriyor. Leopold, bu seçenekleri dikkatle değerlendirmenin ve çeşitli olasılıklara hazır olmanın önemini vurguluyor.
Bu bölümün ana konusu proaktif hazırlık ve öngörü ihtiyacıdır. Aschenbrenner'a göre yapay zekanın gelişme hızı göz önüne alındığında, rehavete yer yok. Politika yapıcıların, araştırmacıların ve iş liderlerinin yapay zeka (AGI) ve süper zekanın ortaya çıkardığı zorlukları ve olasılıkları öngörmesi ve proaktif bir şekilde ele alması zorunludur. Örneğin, yapay zeka güvenlik araştırmalarına fon sağlamak, güçlü yönetişim yapıları oluşturmak ve küresel iş birliğini teşvik etmek.
Leopold ayrıca yapay zekanın ahlaki ve kültürel sonuçlarını da değerlendiriyor. Bilincin doğasına, zekaya ve yapay zeka varlıklarının haklarına ilişkin temel sorunlar, insanlarla kıyaslanabilir veya insanlardan daha yüksek zekaya sahip sistemlerin ortaya çıkmasıyla gündeme geliyor. Aschenbrenner, etik uzmanlarını, filozofları ve genel kamuoyunu, bu sorunları çözmek ve yapay zekanın geleceğine dair ortak bir anlayış oluşturmak için geniş kapsamlı ve kapsayıcı bir konuşmaya katılmaya çağırıyor.
Görünüşe göre bu bölüm Dwarkesh'in editörünün istifa etmesine neden oldu çünkü yapay zeka tartışması onu çok fazla strese sokmuştu. Keyfini çıkarın! https://t.co/lmBtXecUXq
- Leopold Aschenbrenner (@leopoldasch) 4 Haziran 2024
YZG'nin halihazırda var olan sosyal ve ekonomik eşitsizlikleri daha da kötüleştirme olasılığı önemli bir ek tartışma konusudur. Leopold, YGZ'nin dikkatli bir şekilde yönetilmemesi durumunda avantajlarının az sayıda insanın elinde yoğunlaşarak toplumsal hoşnutsuzluğa ve daha fazla eşitsizliğe yol açabileceği konusunda uyarıyor.
Bu bölümü kapatırken küresel işbirliğine yönelik bir meydan okuma ortaya koyuyor. Yapay zeka gelişiminin küresel doğası nedeniyle, yapay zeka ile ilgili fayda ve zorlukları tek bir ülke ele alamaz. Aschenbrenner, YGZ'nin hem etik hem de güvenli bir şekilde gelişimini destekleyen uluslararası anlaşmalar ve sözleşmeler oluşturmak için ülkeleri işbirliği yapmaya teşvik ediyor. Bu, bilgi alışverişini, çalışmaların organize edilmesini ve olası anlaşmazlıkları ele alacak ve uluslararası güvenliği garanti altına alacak sistemler oluşturmayı gerektirir.
Eski OpenAI Araştırmacısı, Yapay Zeka Yeteneklerinin Üstel Yükselişini ve AGI'ye Giden Yolu Açıkladı yazısı ilk olarak Metaverse Post'ta çıktı.
