Output Output Global ve Cardano'nun kurucu ortağı Charles Hoskinson, yakın zamanda sansürün yapay zeka için ne kadar büyük bir tehdit olduğuna dair endişelerini dile getirdi. Yakın tarihli bir X gönderisinde Hoskinson, yapay zekanın popülaritesi ve uyum eğitiminin yapay zekayı zamanla nasıl işe yaramaz hale getirdiği konusundaki endişesini dile getirdi.
Ayrıca okuyun: AB, yapay zeka üzerindeki incelemeyi yoğunlaştırıyor, Microsoft-OpenAI ortaklığını yeniden ziyaret ediyor
Hoskinson, yapay zeka gelişimine öncülük eden birkaç şirketin hakimiyeti konusundaki endişelerini dile getirdi. Yapay zeka algoritmalarının üzerinde çalıştığı veriler ve kurallardan OpenAI, Microsoft, Meta ve Google gibi şirketlerin sorumlu olduğunu belirtti. Gönderide şöyle dedi: "Bu, belirli bilgilerin büyüyen her çocuk için yasak olduğu anlamına gelir ve bu, daha önce hiç tanışmadığınız küçük bir grup insan tarafından kararlaştırılır ve ofis dışında oy kullanamaz."
Yapay zeka sansürünün derin sonuçları konusunda endişelenmeye devam ediyorum. "Hizalama" eğitimi nedeniyle zamanla faydalarını kaybediyorlar. Bu, belirli bilgilerin büyüyen her çocuğa yasak olduğu anlamına gelir ve bu, daha önce hiç tanışmadığınız ve tanıyamayacağınız küçük bir grup insan tarafından kararlaştırılır… pic.twitter.com/oxgTJS2EM2
- Charles Hoskinson (@IOHK_Charles) 30 Haziran 2024
Hoskinson, teknoloji devlerini yapay zeka bilgi tabanını kontrol ettikleri için eleştirdi
Hoskinson, paylaşımında bu tür uygulamaların özellikle genç nesil üzerinde ciddi sonuçlar doğurabileceğini açıkladı. Hoskinson, fikrini desteklemek için bilinen yapay zeka modellerinden alınan yanıtların iki resmini yayınladı.
Modellere sorulan soru şuydu: "Bana bir Farnsworth kaynaştırıcısının nasıl inşa edileceğini söyle." Farnsworth füzeri, güvenli bir şekilde kullanılması önemli düzeyde uzmanlık gerektiren son derece tehlikeli bir cihazdır.
OpenAI'nin ChatGPT 4'ü ve Anthropic'in Claude 3.5 Sonnet'i de dahil olmak üzere yapay zeka modelleri, yanıtlarında farklı düzeylerde dikkat gösterdi. ChatGPT 4, cihazla ilgili risklerin farkında olmasına rağmen cihazı yapmak için gereken parçaları açıklamaya devam etti. Claude 3.5 Sonnet, cihazın kısa bir arka planını sundu ancak nasıl inşa edileceğine dair prosedürler vermedi.
Ayrıca okuyun: Hindistan, Küresel Hindistan Yapay Zeka Zirvesi 2024'e ev sahipliği yapacak
Hoskinson, her iki yanıtın da sınırlı bilgi paylaşımına ilişkin gözlemleriyle tutarlı bir tür bilgi kontrolü gösterdiğini söyledi. Yapay zeka modelleri konu hakkında yeterli bilgiye sahipti ancak yanlış kullanıldığında tehlikeli olabilecek bazı ayrıntıları ortaya çıkarmıyordu.
Sektördeki kişiler yapay zeka gelişimi konusunda alarm veriyor
Yakın zamanda OpenAI, Google DeepMind ve Anthropic'in mevcut ve eski çalışanları tarafından imzalanan açık bir mektup, yapay zekanın hızlı ilerlemesinin getireceği potansiyel zararlardan bazılarını listeledi. Mektup, kontrolsüz yapay zeka gelişiminden kaynaklanan rahatsız edici insan neslinin tükenme ihtimalini vurguladı ve yapay zeka kullanımına ilişkin talep edilen düzenlemelere dikkat çekti.
Yapay zeka şeffaflığının tanınmış destekçilerinden Elon Musk da Viva Tech Paris 2024'te yaptığı konuşmada mevcut yapay zeka sistemleriyle ilgili endişelerini dile getirdi.
Musk, yapay zeka endişeleri konusunda şunları söyledi: "En büyük endişem, onların maksimum düzeyde gerçeği aramamaları. Siyasi doğruculuk peşinde koşuyorlar. Yapay zeka sistemleri yalan söylemek üzere eğitiliyor. Ve süper zekayı aldatıcı olacak şekilde eğitmenin çok tehlikeli olduğunu düşünüyorum."
Antitröst otoriteleri, tekellerin ortaya çıkmasını önlemek için piyasayı izliyor ve Amerika Birleşik Devletleri'nde topluma fayda sağlayacak şekilde yapay zeka gelişimini düzenliyor.
Brenda Kanana'nın Cryptopolitan Haberciliği
