Especialistas em IA alertam que a IA morta, ou reanimações digitais de falecidos, está prestes a se tornar realidade. Portanto, deve haver regulamentação desta questão para evitar que as pessoas sofram danos psicológicos devido à “assombração” de seus criadores e usuários.
Um exemplo de tais serviços, sendo tecnologicamente possíveis e legalmente permissíveis, permitiria a criação de chatbots que utilizassem conversas salvas com uma pessoa perdida para “ligar de volta para a vovó” no sentido de compreender as emoções das pessoas após ouvirem tais discussões, conforme afirma a Universidade dos cientistas de Cambridge
Algumas empresas oferecem serviços de uma maneira que lembra o episódio “Be Right Back” do Black Mirror, que permite que um chatbot imite padrões de linguagem e traços de personalidade de uma pessoa falecida usando a pegada digital que ela deixou, diz a pesquisa.
Normas de segurança são necessárias para proteger a dignidade digital
O estudo, publicado na revista Philosophy and Technology, apresenta exemplos de como os deadbots podem ser usados por empresas, como para anunciar produtos para uma pessoa de forma semelhante a um ente querido falecido ou para traumatizar crianças alegando que um pai morto está “com você”.
Entretanto, em todos os casos, empresas não confiáveis e iniciativas comerciais imprudentes podem resultar em danos psicológicos de longo prazo e uma violação dos direitos do falecido, sugere o artigo.
Os pesquisadores sugerem que as interações diárias ocorrem com um peso emocional avassalador. Eles afirmam que esse suporte emocional também pode dificultar o processo de luto, uma forma natural de lidar com a perda.
Um campo minado ético
A Dra. Katarzyna Nowaczyk-Basińska, uma das coautoras do estudo no Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge, declarou: “Os rápidos avanços na IA generativa significam que quase qualquer pessoa com acesso à Internet e algum conhecimento básico pode reanimar um ente querido falecido.”
Esta área da IA parece ser um campo minado ético. A coisa mais essencial a fazer é garantir que a dignidade do falecido não seja violada por serviços com fins lucrativos, como provedores de vida após a morte digital, por exemplo. O maior problema pode surgir de empresas que comercializarão sua infraestrutura legada online por meio de anúncios.
É particularmente arriscado envolver crianças no processo porque elas podem enfrentar o pior resultado. A companhia na forma de ‘deadbots’ pode em breve se tornar necessária para pais que buscam consolar seus filhos que perderam suas mães ou pais recentemente.
Impacto no processo de luto
Entretanto, não há estudos que possam indicar a adequação de tais esforços, o que deve nos fazer pensar em seu possível impacto, que pode ser muito desagradável, sem mencionar o fato de que pode interferir negativamente no processo normal de luto.
De acordo com o artigo de pesquisa, “Nenhum serviço de recreação pode provar que permitir que crianças interajam com ‘deadbots’ seja benéfico ou, pelo menos, não prejudique esse grupo vulnerável”.
Para garantir a dignidade dos mortos e o bem-estar psicológico dos vivos, os pesquisadores propõem uma série de melhores práticas que podem ser usadas até mesmo para criar leis para regulá-las.
Essas plataformas precisam de protocolos para “aposentar” os deadbots, limitando suas funções interativas apenas a adultos, reconhecendo as limitações de qualquer entidade artificial em plena operação e sendo muito transparentes com os clientes.
Alcance global e aplicações variadas
De acordo com os pesquisadores, existem algumas plataformas onde a imagem de uma pessoa morta pode ser gerada com IA por um custo modesto. Por exemplo, há o Project December, que inicialmente usou modelos GPT e depois usou seus sistemas, e também há aplicativos como o Hereafter.
Da mesma forma, há contrapartes chinesas com os mesmos serviços indicados no estudo. Em 2021, Joshua Barbeau recebeu atenção pública quando usou o GPT-3 para desenvolver um chatbot que falava na voz de sua namorada, que havia falecido. Em 2015, Eugenia Kuyda transformou os textos de sua amiga falecida em um chatbot, dando lugar ao aplicativo de IA complementar mais popular, chamado Replika.
A tecnologia também não se limita aos chatbots. O MyHeritage, site de genealogia, trouxe em 2021 o Deep Nostalgia, um recurso que gerava vídeos animados a partir de fotos individuais com os antepassados dos usuários. Assim que o recurso se tornou viral, a empresa teve que admitir que muitos usuários o acharam assustador. Com o avanço gradual dessas tecnologias, não há outro meio alternativo além de manter a ética em mente para facilitar o desenvolvimento.