Ethereum kurucu ortağı Vitalik Butertin, OpenAI'de devam eden liderlik değişikliklerine yanıt olarak "süper zeki" yapay zeka (AI) hakkındaki görüşünü "riskli" olarak nitelendirerek paylaştı.

19 Mayıs'ta Cointelegraph, OpenAI'nin eski uyum başkanı Jan Leike'nin, şirketin temel öncelikleri konusunda yönetimle bir "kırılma noktasına" ulaştığını söyledikten sonra istifa ettiğini bildirdi.

Leike, OpenAI'de "güvenlik kültürü ve süreçlerinin parlak ürünlerin arkasında ikinci planda kaldığını" iddia etti ve birçok kişi yapay genel zeka (AGI) etrafındaki gelişmelere işaret etti.

YGZ'nin, insanın bilişsel yeteneklerine eşit veya onları aşan bir yapay zeka türü olması bekleniyor; bu düşünce, dünyanın bu tür süper akıllı yapay zeka sistemlerini yönetmek için uygun donanıma sahip olmadığını söyleyen endüstri uzmanlarını şimdiden endişelendirmeye başladı.

Bu duygu Buterin'in görüşleriyle uyumlu görünüyor. X ile ilgili bir gönderide konuyla ilgili güncel düşüncelerini paylaşarak, acele etmememiz veya deneyenlere karşı geri adım atmamamız gerektiğini vurguladı.

Kaynak: Vitalik Buterin

Buterin, tüketici donanımı üzerinde çalışan açık modellerin, küçük bir şirketler grubunun daha sonra insan düşüncesinin çoğunu okuyabileceği ve aracılık edebileceği bir geleceğe karşı bir "korunma" olduğunu vurguladı.

"Bu tür modeller aynı zamanda felaket riski açısından hem kurumsal megalomanlığa hem de orduya göre çok daha düşük."

Bu, geçen hafta yapay zeka ve onun artan yetenekleri hakkında yaptığı ikinci yorum.

16 Mayıs'ta OpenAI'nin GPT-4 modelinin, bir yapay zeka modelinin "insanlığını" belirleyen Turing testini çoktan aştığını savundu. Çoğu insanın bir makineyle konuşurken şifreyi çözemediğini iddia eden yeni araştırmaya atıfta bulundu.

İlgili: Microsoft'un yeni 'Black Mirror' hatırlama özelliği yaptığınız her şeyi kaydeder

Ancak bu kaygıyı dile getiren ilk kişi Buterin değil. Birleşik Krallık hükümeti de yakın zamanda Big Tech'in yapay zeka sektörüne artan katılımını inceleyerek rekabet ve pazar hakimiyetiyle ilgili sorunları gündeme getirdi.

6079 AI gibi gruplar halihazırda internette ortaya çıkıyor ve daha demokratik kalmasını ve Büyük Teknolojinin hakimiyetinde olmamasını sağlamak için merkezi olmayan yapay zekayı savunuyor.

Kaynak: 6079.ai

Bu, OpenAI'nin liderlik ekibinin bir başka kıdemli üyesinin, kurucu ortak ve baş bilim insanı Ilya Sutskever'in istifasını açıkladığı 14 Mayıs'ta ayrılmasının ardından geldi.

Sutskever, AGI ile ilgili herhangi bir endişesinden bahsetmedi. Ancak X hakkındaki gönderisinde OpenAI'nin "güvenli ve faydalı" bir YGZ geliştireceğine olan güvenini dile getirdi.

Dergi: Yapay Zeka kıyametini önlemek için 'Yapay Zekalar birbirlerine karşı': David Brin, bilim kurgu yazarı