Yapay zeka uzmanları, ölü yapay zekanın veya ölen kişinin dijital olarak yeniden canlandırılmasının gerçeğe dönüşmek üzere olduğu konusunda uyarıyor. Dolayısıyla yaratıcılarının ve kullanıcılarının “musallat” olması nedeniyle insanların psikolojik zarara uğramaması için bu konuda bir düzenleme yapılması gerekmektedir.
Üniversite tarafından belirtildiği gibi, teknolojik olarak mümkün ve yasal olarak izin verilen bu tür hizmetlere bir örnek, bu tür tartışmaları dinledikten sonra insanların duygularını anlamak anlamında kayıp bir kişiyle kaydedilmiş konuşmaları "büyükanneyi geri aramak" için kullanan sohbet robotlarının oluşturulmasını mümkün kılacaktır. Cambridge bilim adamlarının
Araştırma, bazı şirketlerin, bir chatbotun ölen bir kişinin dil kalıplarını ve kişilik özelliklerini, bıraktıkları dijital ayak izini kullanarak taklit etmesine olanak tanıyan "Hemen Geri Dön" Black Mirror bölümünü anımsatan hizmetler sunduğunu söylüyor.
Güvenlik düzenlemeleri dijital onuru korumaya teşvik ediyor
Felsefe ve Teknoloji dergisinde yayınlanan çalışma, ölü robotların şirketler tarafından nasıl kullanılabileceğine dair örnekler sunuyor; örneğin ölen bir kişinin sevdiği birine benzer şekilde bir kişiye ürün reklamı yapmak veya ölü bir kişinin öldüğünü iddia ederek çocuklara travma yaşatmak gibi. ebeveyn “seninle”.
Ancak gazete, her durumda güvenilmez şirketlerin ve dikkatsiz iş girişimlerinin uzun vadeli psikolojik hasara ve ölen kişinin haklarının ihlaline yol açabileceğini öne sürüyor.
Araştırmacılar, günlük etkileşimlerin çok büyük bir duygusal ağırlıkla gerçekleştiğini öne sürüyor. Bu tür duygusal desteğin aynı zamanda kayıpla başa çıkmanın doğal bir yolu olan yas sürecini de engelleyebileceğini iddia ediyorlar.
Etik bir mayın tarlası
Cambridge'deki Leverhulme Zekanın Geleceği Merkezi'nde (LCFI) çalışmanın ortak yazarlarından biri olan Dr. Katarzyna Nowaczyk-Basińska şunları ifade etti: "Üretken yapay zekadaki hızlı ilerlemeler, internet erişimi ve bazı temel bilgi birikimine sahip neredeyse herkesin, ölen sevilen bir kişiyi yeniden canlandırabileceği anlamına geliyor bir."
Yapay zekanın bu alanı etik bir mayın tarlası gibi görünüyor. Yapılması gereken en önemli şey, merhumun onurunun, örneğin dijital ahiret sağlayıcıları gibi kâr odaklı hizmetler tarafından ihlal edilmemesini sağlamaktır. Asıl sorun, eski çevrimiçi altyapılarını reklamlar aracılığıyla ticarileştirecek işletmelerden kaynaklanabilir.
Özellikle çocukları sürece dahil etmek risklidir çünkü en kötü sonuçla karşı karşıya kalabilirler. Yakın zamanda annelerini veya babalarını kaybetmiş çocuklarını teselli etmek isteyen ebeveynler için "ölü robotlar" biçimindeki arkadaşlık, yakında gerekli hale gelebilir.
Yas süreci üzerindeki etkisi
Ancak, normal yas sürecini olumsuz yönde etkilemesinin yanı sıra çok rahatsız edici olabilecek olası etkilerini düşündürecek bu tür çabaların uygunluğunu gösterebilecek hiçbir çalışma yoktur.
Araştırma makalesine göre, "Hiçbir yeniden yaratma hizmeti, çocukların 'ölü robotlarla' etkileşime girmesine izin vermenin yararlı olduğunu veya en azından bu savunmasız gruba zarar vermediğini kanıtlayamaz."
Ölenlerin onurunu ve yaşayanların psikolojik refahını sağlamak için araştırmacılar, bunları düzenleyecek yasaların yapılmasına kadar kullanılabilecek bir dizi en iyi uygulama önermektedir.
Bu platformların, ölü robotları "emekliye ayırmaya", etkileşimli işlevlerini yalnızca yetişkinlerle sınırlandırmaya, tüm yapay varlıkların tam operasyondaki sınırlamalarını kabul etmeye ve müşterilere karşı oldukça şeffaf olmaya yönelik protokollere ihtiyacı var.
Küresel Erişim ve Çeşitli Uygulamalar
Araştırmacılara göre, ölü bir kişinin görüntüsünün yapay zeka ile makul bir maliyetle oluşturulabildiği bazı platformlar mevcut. Mesela başlangıçta GPT modellerini kullanan, daha sonra onların sistemlerini kullanan Project Aralık var, bir de Ahiret gibi uygulamalar var.
Aynı şekilde, çalışmada belirtilen hizmetlere sahip Çinli muadilleri de bulunmaktadır. Joshua Barbeau, 2021'de vefat eden kız arkadaşının sesiyle konuşan bir sohbet robotu geliştirmek için GPT-3'ü kullandığında kamuoyunun dikkatini çekti. 2015 yılında Eugenia Kuyda, vefat eden arkadaşının mesajlarını bir chatbot'a dönüştürdü ve yerini Replika adlı en popüler yapay zeka yardımcı uygulamasına bıraktı.
Teknoloji aynı zamanda chatbotlarla da sınırlı değil. Şecere sitesi MyHeritage, 2021, kullanıcıların atalarıyla birlikte ayrı ayrı fotoğraflardan animasyonlu videolar oluşturan bir özellik olan Deep Nostalgia'yı getirdi. Bu özellik viral hale gelir gelmez şirket, birçok kullanıcının bunun ürkütücü olduğunu düşündüğünü itiraf etmek zorunda kaldı. Bu teknolojilerin giderek gelişmesiyle birlikte, gelişimi kolaylaştırmak için etiği akılda tutmaktan başka alternatif bir yol kalmamıştır.