Através de um estudo realizado em três universidades: Cornell University, Olin College e Stanford University, eles perceberam que as capacidades da IA de demonstrar empatia em agentes de conversação, como Alexa e Siri, são bastante limitadas. As conclusões deste estudo, submetido à conferência CHI 2024, indicam que embora os CAs sejam bons a demonstrar reações emocionais, a situação torna-se difícil quando se trata de interpretar e explorar a experiência dos utilizadores.
Preconceitos e discriminação descobertos
Utilizando os dados coletados da pesquisadora Andrea Cuadra, de Stanford, este estudo tem como objetivo medir como as ACs detectam e respondem a diferentes identidades sociais entre os humanos. Testando 65 identidades diversas, o estudo descobriu que os CAs tendem a categorizar os indivíduos, e as identidades especialmente relacionadas à orientação sexual ou religião são as mais vulneráveis a esse hábito.
As ACs, cujo conhecimento está incorporado nos modelos de linguagem (LLMs), que são treinados em grandes volumes de dados criados por humanos, podem, portanto, ter preconceitos prejudiciais nos dados que utilizaram. É propenso à discriminação especificamente, os próprios CAs podem estar em movimento para mostrar solidariedade para com ideologias que têm efeitos negativos sobre pessoas como o nazismo.
As implicações da empatia automatizada
Foi revelado a partir do seu conceito de empatia artificial que as aplicações da mesma na educação e no setor da saúde são variadas. Por outro lado, há muita ênfase na necessidade de os humanos permanecerem vigilantes e evitarem os problemas que podem surgir com tais avanços.
Conforme afirmado pelos pesquisadores, os LLMs demonstram alta capacidade de fornecer respostas emocionais, mas, ao mesmo tempo, são coxos ou carecem de habilidades suficientes para interpretação e exploração das experiências do usuário. Isto é uma desvantagem, uma vez que as UIs podem não ser capazes de envolver totalmente os clientes em interações emocionais profundas, além daquelas cujas camadas foram removidas.