Yapay zeka firmaları OpenAI ve Anthropic, yakın zamanda ABD Yapay Zeka Güvenlik Enstitüsü'ne, kendi firmaları tarafından geliştirilen herhangi bir "önemli" yeni Yapay Zeka modeline erken erişim izni vermeyi kabul etti.
Anlaşmanın karşılıklı güvenlik endişeleri nedeniyle imzalandığı iddia edilse de, önemli güvenlik etkileri olan bir teknoloji atılımı durumunda hükümetin rolünün tam olarak ne olacağı belirsiz.
OpenAI CEO'su ve kurucu ortağı Sam Altman, yakın zamanda X sosyal medya platformunda yaptığı paylaşımda, anlaşmayı gerekli bir adım olarak değerlendirdi.
OpenAI ve Anthropic, ikisi de aynı hedef için çalışıyor: yapay genel zekanın (AGI) geliştirilmesi. AGI'nin tam olarak nasıl tanımlanması gerektiği konusunda bilimsel bir fikir birliği yok, ancak temel fikir, gerekli kaynaklar sağlandığında bir insanın yapabileceği her şeyi yapabilen bir AI'dır.
Her iki şirket de, ayrı ayrı, AGI'yi güvenli bir şekilde ve özünde insanlığın çıkarlarını gözeterek yaratmanın bağımsız hedefleri olduğunu açıklayan tüzük ve misyonlara sahiptir. Şirketlerden biri veya her ikisi de başarılı olursa, makinelere bir insanın zekasını aşılayabilen teknolojinin fiili bekçileri haline gelirler.
Her iki şirket de ürün lansmanından önce modellerini açıklamak üzere ABD hükümetiyle bir anlaşma imzalayarak bu sorumluluğu federal hükümete devretti.
51. Bölge
Cointelegraph'ın yakın zamanda bildirdiği gibi, OpenAI bir atılımın eşiğinde olabilir. Şirketin "Strawberry" ve "Orion" projelerinin, AI'nın halüsinasyon sorunuyla başa çıkmak için gelişmiş akıl yürütme ve yeni teknikler yeteneğine sahip olduğu iddia ediliyor.
The Information'ın haberine göre, ABD hükümeti bu araçları ve ChatGPT'nin bunlarla birlikte gelen ilk dahili yinelemelerini halihazırda uygulamaya koydu.
ABD Ulusal Standartlar ve Teknoloji Enstitüsü'nden gelen bir blog yazısında, bu anlaşmanın ve etrafındaki güvenlik kurallarının katılımcı şirketler için gönüllü olduğu belirtiliyor.
Bunu destekleyen şirketlere ve analistlere göre, bu tür hafif dokunuşlu düzenlemenin faydası, büyümeyi teşvik etmesi ve sektörün kendini düzenlemesine olanak tanımasıdır. Altman gibi savunucular, bu anlaşmayı, böyle bir iş birliğinin hem hükümete hem de kurumsal dünyaya nasıl fayda sağlayabileceğinin bir örneği olarak gösteriyor.
Ancak, hafif dokunuş düzenlemesinin potansiyel olarak endişe verici yan etkilerinden biri şeffaflık eksikliğidir. OpenAI veya Anthropic misyonlarında başarılı olurlarsa ve hükümet halkın bilmeye ihtiyacı olmadığını düşünürse, ifşayı gerektiren herhangi bir yasal teşvik görünmüyor.
İlgili: Anthropic CEO'su, yapay zekanın geleceğinin kurumsal bir yapıya sahip bir kovan zihni olduğunu söylüyor
