Pakar AI memperingatkan bahwa AI yang mati, atau penghidupan kembali orang yang meninggal secara digital, akan segera menjadi kenyataan. Oleh karena itu, harus ada pengaturan mengenai hal ini agar masyarakat tidak mengalami kerugian psikologis akibat “menghantui” pencipta dan penggunanya.
Sebuah contoh dari layanan tersebut, karena memungkinkan secara teknologi dan diperbolehkan secara hukum, akan memungkinkan terciptanya chatbot yang menggunakan percakapan tersimpan dengan percakapan yang hilang untuk “menelepon nenek kembali” dalam arti memahami emosi orang-orang setelah mendengar diskusi semacam itu, seperti yang dinyatakan oleh Universitas ilmuwan Cambridge
Beberapa perusahaan menawarkan layanan dengan cara yang mengingatkan pada episode Black Mirror “Be Right Back”, yang memungkinkan chatbot meniru pola bahasa dan ciri kepribadian orang yang telah meninggal dengan menggunakan jejak digital yang mereka tinggalkan, kata penelitian tersebut.
Peraturan keselamatan didesak untuk melindungi martabat digital
Penelitian yang diterbitkan dalam jurnal Philosophy and Technology ini menyajikan contoh bagaimana deadbots dapat digunakan oleh perusahaan, seperti untuk mengiklankan produk kepada seseorang dengan cara yang mirip dengan orang yang dicintai yang telah meninggal atau untuk membuat anak-anak trauma dengan mengklaim bahwa orang mati orang tua “bersamamu.”
Namun, dalam semua kasus, perusahaan yang tidak dapat dipercaya dan inisiatif bisnis yang ceroboh dapat mengakibatkan kerusakan psikologis jangka panjang dan pelanggaran terhadap hak-hak orang yang meninggal, menurut makalah tersebut.
Para peneliti berpendapat bahwa interaksi sehari-hari terjadi dengan beban emosional yang luar biasa. Mereka mengklaim bahwa dukungan emosional seperti itu juga dapat menghambat proses berduka, yang merupakan cara alami untuk mengatasi kehilangan.
Ladang ranjau yang etis
Dr Katarzyna Nowaczyk-Basińska, salah satu penulis penelitian di Leverhulme Center for the Future of Intelligence (LCFI) Cambridge, menyatakan, “Kemajuan pesat dalam AI generatif berarti bahwa hampir semua orang yang memiliki akses internet dan pengetahuan dasar dapat menghidupkan kembali orang yang dicintai yang telah meninggal. satu."
Bidang AI ini tampaknya menjadi ladang ranjau etis. Hal terpenting yang harus dilakukan adalah memastikan bahwa martabat orang yang meninggal tidak dilanggar oleh layanan yang berorientasi pada keuntungan seperti penyedia layanan akhirat digital, misalnya. Masalah besar mungkin timbul dari bisnis yang akan mengkomersialkan infrastruktur online mereka melalui iklan.
Melibatkan anak-anak dalam proses ini sangat berisiko karena mereka mungkin akan menghadapi akibat terburuk. Persahabatan dalam bentuk 'deadbots' mungkin akan segera menjadi kebutuhan bagi para orang tua yang ingin menghibur anak-anak mereka yang baru saja kehilangan ibu atau ayah mereka.
Dampak pada proses berduka
Namun demikian, belum ada penelitian yang dapat menunjukkan kesesuaian upaya tersebut sehingga dapat memberikan gambaran dampak yang mungkin sangat tidak menyenangkan, belum lagi fakta bahwa hal tersebut dapat mengganggu proses berkabung yang normal.
Menurut makalah penelitian tersebut, “Tidak ada layanan rekreasi yang dapat membuktikan bahwa membiarkan anak-anak berinteraksi dengan ‘deadbots’ bermanfaat atau, paling tidak, tidak merugikan kelompok rentan ini.”
Untuk menjamin martabat orang yang meninggal dan kesejahteraan psikologis orang yang masih hidup, para peneliti mengusulkan serangkaian praktik terbaik yang dapat digunakan bahkan hingga membuat undang-undang untuk mengaturnya.
Platform tersebut memerlukan protokol untuk “menghentikan” deadbot, membatasi fungsi interaktifnya hanya untuk orang dewasa, mengakui keterbatasan entitas buatan apa pun dalam operasi penuh, dan bersikap sangat transparan terhadap pelanggan.
Jangkauan Global dan Beragam Penerapannya
Menurut para peneliti, ada beberapa platform di mana gambar orang mati dapat dihasilkan dengan AI dengan biaya yang murah. Misalnya saja ada Project December yang awalnya menggunakan model GPT dan kemudian menggunakan sistemnya, serta ada juga aplikasi seperti Hereafter.
Demikian pula, ada mitra Tiongkok dengan layanan yang sama seperti yang disebutkan dalam penelitian ini. Pada tahun 2021, Joshua Barbeau mendapat perhatian publik ketika dia menggunakan GPT-3 untuk mengembangkan chatbot yang berbicara dengan suara pacarnya yang telah meninggal dunia. Pada tahun 2015, Eugenia Kuyda mengubah teks almarhum temannya menjadi chatbot, yang kemudian digantikan oleh aplikasi pendamping AI paling populer bernama Replika.
Teknologi ini juga tidak terbatas pada chatbots. MyHeritage, situs silsilah, pada tahun 2021 menghadirkan Deep Nostalgia, sebuah fitur yang menghasilkan video animasi dari gambar individu leluhur pengguna. Begitu fitur tersebut menjadi viral, perusahaan harus mengakui bahwa banyak pengguna menganggapnya menyeramkan. Dengan kemajuan teknologi secara bertahap, tidak ada cara alternatif selain tetap memperhatikan etika untuk memfasilitasi pembangunan.
