Üretken yapay zekanın büyüsünün bir kısmı, çoğu insanın onun nasıl çalıştığına dair hiçbir fikrinin olmamasıdır. Belirli bir düzeyde, ChatGPT'nin iç işleyişi en parlak bilim adamlarını şaşkına çevirebileceğinden, hiç kimsenin bunun nasıl çalıştığından tam olarak emin olmadığını söylemek bile doğru olur. Bu bir kara kutu. Nasıl eğitildiğinden, hangi verinin hangi sonuçları ürettiğinden ve bu süreçte hangi fikri mülkiyetin ayaklar altına alındığından tam olarak emin değiliz. Bu hem büyünün hem de korkutucu olanın bir parçası. Ariana Spring, bu yıl 29-31 Mayıs tarihleri arasında Austin, Teksas'ta düzenlenen Consensus festivalinde konuşmacı olarak yer alıyor.
Peki ya yapay zekanın nasıl yönetildiğini, eğitildiğini ve üretildiğini net bir şekilde görselleştirmeye olanak tanıyan, kara kutunun içine bakmanın bir yolu olsaydı? Bu, yapay zeka modellerini daha şeffaf ve işbirlikçi hale getirmek için araştırmalar yürüten ve araçlar üreten EQTY Lab'in hedefi veya hedeflerinden biridir. Örneğin EQTY Lab'in Lineage Explorer'ı modelin nasıl oluşturulduğuna dair gerçek zamanlı bir görünüm sunuyor.
Bu araçların tümü, opaklığa ve merkezileşmeye karşı bir kontrol anlamına gelir. EQTY Laboratuvarı Araştırma Başkanı Ariana Spring, "Bir yapay zekanın verdiği kararları neden verdiğini veya kimin sorumlu olduğunu anlamıyorsanız, zararlı şeylerin neden yayıldığını sorgulamak gerçekten zor" diyor. "Bu yüzden merkezileşmenin ve bu sırları kara kutularda saklamanın gerçekten tehlikeli olduğunu düşünüyorum."
Meslektaşı Andrew Stanco'nun (finans başkanı) da katıldığı Spring, kripto paranın nasıl daha şeffaf yapay zeka yaratabileceğini, bu araçların iklim değişikliği biliminin hizmetinde halihazırda nasıl kullanıldığını ve bu açık kaynaklı modellerin neden iklim değişikliği bilimini daha kapsayıcı ve temsil edici olabileceğini paylaşıyor. genel olarak insanlık.
Röportaj kısaltılmış ve netlik sağlamak amacıyla hafifçe düzenlenmiştir.
EQTY Lab’in vizyonu ve hedefi nedir?
Ariana Spring: Yapay zekada güven ve yenilik oluşturmak için yeni çözümlere öncülük ediyoruz. Üretken yapay zeka şu sıralar en çok konuşulan konu ve bu en acil özellik, dolayısıyla bizim de odaklandığımız bir konu.
Ancak aynı zamanda tüm farklı yapay zeka ve veri yönetimi türlerine de bakıyoruz. Ve gerçekten güven ve yenilik bizim eğildiğimiz yerlerdir. Bunu, modelleri daha şeffaf ve aynı zamanda işbirlikçi hale getirmek için gelişmiş şifreleme kullanarak yapıyoruz. Şeffaflık ve işbirliğini, daha akıllı ve daha güvenli yapay zeka yaratma konusunda aynı madalyonun iki yüzü olarak görüyoruz.
Kriptonun buna nasıl uyduğundan biraz daha bahsedebilir misiniz? Çünkü birçok insanın "Kripto ve yapay zekanın mükemmel bir uyum" olduğunu söylediğini görüyorsunuz, ancak çoğu zaman mantık çok yüksek bir seviyede kalıyor.
Andrew Stanco: Yapay zeka ile kriptonun kesişiminin açık bir soru olduğunu düşünüyorum, değil mi? Bulduğumuz şeylerden biri yapay zekanın gizli sırrının işbirliğine dayalı olması; çok sayıda paydaşı vardır. Hiçbir veri bilimci yapay zeka modeli oluşturamaz. Onu eğitebilirler, ince ayar yapabilirler, ancak kriptografi bir şey yapmanın ve daha sonra bunun gerçekleştiğini kurcalamaya karşı korumalı bir şekilde doğrulamanın bir yolu haline gelir.
Dolayısıyla yapay zeka eğitimi kadar karmaşık bir süreçte, hem eğitim sırasında hem de sonrasında kurcalamaya dayanıklı ve doğrulanabilir onaylara sahip olmak gerçekten yardımcı oluyor. Güven ve görünürlük yaratır.
Ariana Spring: Yaptığımız şey, yapay zeka yaşam döngüsünün ve eğitim sürecinin her adımında, olup bitenlerin noter tasdiki veya damgası olması. Bu, söz konusu eylemi gerçekleştiren aracı, insan veya makineyle ilişkili merkezi olmayan kimlik veya tanımlayıcıdır. Zaman damganız var. Lineage Explorer'ımızla yaptığımız her şeyin kriptografi kullanılarak otomatik olarak kaydedildiğini görebilirsiniz.
Daha sonra yönetişim ürünlerimizde akıllı sözleşmeleri kullanıyoruz. Yani eğer X parametresi karşılanırsa veya karşılanmazsa, belirli bir eylem devam edebilir veya devam etmeyebilir. Sahip olduğumuz araçlardan biri bir Yönetişim Stüdyosu ve bu, temel olarak bir yapay zekayı nasıl eğitebileceğinizi veya yapay zeka yaşam döngünüzü nasıl yönetebileceğinizi programlıyor ve bu daha sonra aşağı yönde yansıtılıyor.
Ne tür araçlar geliştirdiğinizi biraz açıklayabilir misiniz? Örneğin, diğer startup şirketlerinin eğitim modelleri oluşturmasına yardımcı olacak araçlar mı geliştiriyorsunuz ve araştırmalar mı yapıyorsunuz, yoksa eğitim modellerini kendiniz mi oluşturuyorsunuz? Başka bir deyişle EQTY Laboratuvarlarının bu ortamdaki rolü tam olarak nedir?
Andrew Stanco: Bu bir bakıma bir karışım çünkü odak noktamız kurumsal, çünkü eğitim ve yönetim açısından yapay zekayı doğru bir şekilde almanız gereken ilk büyük yerlerden biri burası olacak. Bunu derinlemesine incelerseniz, bir geliştiricinin veya bu kuruluştaki birinin koda açıklama ekleyip "Tamam, olan bu" diyebileceği ve ardından bir kayıt oluşturabileceği bir alana ihtiyacımız var. Geliştiricilerle ve modelleri oluşturup dağıtan insanlarla çalışmaya önem veren kurumsal odaklıdır.
Ariana Spring: Ayrıca modeli İklim İstihbaratı Vakfı aracılığıyla eğitmek için de çalıştık. İklime özgü bir geniş dil modeli olan ClimateGPT adlı bir modelin eğitilmesine yardımcı olduk. Bu bizim ekmeğimiz ve tereyağımız değil, ancak biz bu süreçten geçtik ve bu süreci görselleştirmek için teknoloji paketimizi kullandık. Böylece nasıl bir şey olduğunu anlıyoruz.
Yapay zeka konusunda sizi en çok heyecanlandıran ve yapay zeka konusunda sizi en çok korkutan şey nedir?
Andrew Stanco: Demek istediğim, heyecan olsun diye, üretken yapay zeka ile etkileşime girdiğiniz o ilk an, modeldeki yıldırımın mantarını açmışsınız gibi geldi. MidJourney'de ilk kez bir bilgi istemi oluşturduğunuzda veya ChatGPT'ye bir soru sorduğunuz zaman, hiç kimse sizi bunun güçlü olabileceğine ikna etmek zorunda kalmadı. Artık pek çok yeni şeyin olduğunu düşünmüyordum, değil mi?
Peki teröre gelince?
Andrew Stanco: Bence bu, sadece gündeme bakarak Consensus'ta olacakların çoğunun alt metni olabilecek bir endişe. Buradaki endişe, bu araçların mevcut kazananların daha derin modları keşfetmesine olanak sağlamasıdır. Bunun mutlaka yıkıcı bir teknoloji olmadığı, ancak sağlamlaştırıcı bir teknoloji olduğu.
Peki Ariana, asıl yapay zeka heyecanınız ve dehşetiniz?
Ariana Spring: Korkumla başlayacağım çünkü ben de benzer bir şey söyleyecektim. Merkezileşme diyebilirim. Bir şeyin nasıl çalıştığına dair şeffaflık eksikliği ile birlikte merkezileşmenin zararlarını gördük. Bunu örneğin son 10, 15 yıldır sosyal medyada görüyoruz. Ve eğer bir yapay zekanın verdiği kararları neden verdiğini ya da kimin sorumlu olduğunu anlamıyorsanız, zararlı şeylerin neden yayıldığını sorgulamak gerçekten zor olacaktır. Bu yüzden merkezileşmenin ve bu sırları kara kutularda saklamanın gerçekten tehlikeli olduğunu düşünüyorum.
Peki heyecan?
En çok heyecanlandığım şey, daha fazla insanı getirmek. ClimateGPT'yi eğitirken, yerli yaşlı gruplar veya düşük gelirli, kentsel, Siyah ve kahverengi gençler gibi çeşitli farklı paydaş gruplarıyla çalışma şansımız oldu. veya Orta Doğu'daki öğrenciler. Tüm bu iklim aktivistleri ve akademisyenlerle birlikte çalışarak "Hey, bu modeli daha iyi hale getirmeye yardımcı olmak ister misin?" demek için çalışıyoruz.
İnsanlar gerçekten heyecanlı ama belki de nasıl çalıştığını anlamadılar. Onlara bunun nasıl çalıştığını ve nasıl yardımcı olabileceklerini öğrettiğimizde, "Ah, bu iyi" dediklerini görebiliyordunuz. Güven kazanırlar. Daha sonra daha fazla katkıda bulunmak istiyorlar. Dolayısıyla, özellikle EQTY Research'te yaptığımız çalışmalar sayesinde, bu çerçevelerden bazılarını yayınlamaya başlayacağımız için gerçekten heyecanlıyım, böylece bu çerçeveleri temsil etmeyebilecek sistemlere güvenmek zorunda kalmıyoruz.
Çok güzel söyledi. Consensus'un Yapay Zeka Zirvesi'nde Austin'de görüşürüz.