Através de um estudo realizado em três universidades, Cornell University, Olin College e Stanford University, eles perceberam que as capacidades da IA ​​de demonstrar empatia em agentes de conversação, como Alexa e Siri, são bastante limitadas. As conclusões deste estudo, submetido à conferência CHI 2024, indicam que embora os CAs sejam bons a demonstrar reações emocionais, a situação torna-se difícil quando se trata de interpretar e explorar a experiência dos utilizadores.

Estudo revela preconceitos e discriminação

Usando os dados coletados pela pesquisadora Andrea Cuadra de Stanford, este estudo tem como objetivo medir como os CAs detectam e respondem a diferentes identidades sociais entre humanos. Testando 65 identidades diferentes, o estudo de pesquisa descobriu que os CAs são inclinados a categorizar indivíduos, e as identidades especialmente relacionadas à orientação sexual ou religião são as mais vulneráveis ​​a esse hábito.

CAs, cujo conhecimento é incorporado nos modelos de linguagem (LLMs), que são treinados em grandes volumes de dados criados por humanos, podem, portanto, ter os vieses prejudiciais que estão nos dados que eles usaram. É propenso à discriminação especificamente, o próprio CA pode estar em movimento para mostrar solidariedade em relação a ideologias que têm efeitos negativos nas pessoas, como o nazismo.

As implicações da empatia automatizada

Foi revelado a partir de seu conceito de empatia artificial que as aplicações dele na educação e no setor de saúde são variadas. Por outro lado, uma grande ênfase na necessidade dos humanos permanecerem vigilantes e evitarem o cultivo dos problemas que podem surgir com tais avanços.

Conforme declarado pelos pesquisadores, os LLMs demonstram uma alta habilidade no fornecimento de respostas emocionais, mas, ao mesmo tempo, são fracos ou carecem de habilidades suficientes para interpretação e exploração de experiências do usuário. Isso é uma desvantagem, pois os UIs podem não ser capazes de se envolver totalmente com os clientes em interações emocionais profundas além daquela cujas camadas foram removidas.