A través de un estudio de tres universidades, la Universidad de Cornell, el Olin College y la Universidad de Stanford, se han dado cuenta de que las capacidades de la IA para mostrar empatía en agentes de conversación, como Alexa y Siri, son bastante limitadas. Los hallazgos de este estudio, presentado en la conferencia CHI 2024, indican que aunque los CA son buenos para mostrar reacciones emocionales, la situación se vuelve difícil a la hora de interpretar y explorar la experiencia de los usuarios.
Un estudio descubre sesgos y discriminación
Utilizando los datos recopilados por la investigadora Andrea Cuadra de Stanford, este estudio tiene como objetivo medir cómo los CA detectan y responden a diferentes identidades sociales entre los humanos. Al probar 65 identidades diferentes, el estudio de investigación descubrió que los CA tienden a categorizar a las personas, y las identidades, especialmente las relacionadas con la orientación sexual o la religión, son las más vulnerables a este hábito.
Los CA, cuyo conocimiento se incorpora a los modelos de lenguaje (LLM), que se entrenan con grandes volúmenes de datos creados por humanos, pueden tener sesgos perjudiciales que se encuentran en los datos que han utilizado. Son propensos a la discriminación, en particular, los propios CA pueden mostrar solidaridad hacia ideologías que tienen efectos negativos en las personas, como el nazismo.
Las implicaciones de la empatía automatizada
De su concepto de empatía artificial se desprende que sus aplicaciones en el sector educativo y sanitario son variadas. Por otra parte, se hace mucho hincapié en la necesidad de que los seres humanos permanezcan alertas y eviten la aparición de los problemas que pueden surgir con tales avances.
Según los investigadores, las LLM demuestran una gran capacidad para generar respuestas emocionales, pero al mismo tiempo son débiles o carecen de capacidades suficientes para la interpretación y exploración de las experiencias de los usuarios. Esto es un inconveniente, ya que las IU pueden no ser capaces de interactuar plenamente con los clientes en interacciones emocionales profundas más allá de aquella a la que se han eliminado las capas.
