Printr-un studiu de la trei universități, Universitatea Cornell, Colegiul Olin și Universitatea Stanford, au ajuns să realizeze că capacitățile AI de a afișa empatie în agenții de conversație, cum ar fi Alexa și Siri, sunt destul de limitate. Concluziile acestui studiu, prezentat la conferința CHI 2024, indică faptul că, deși AC-urile sunt bune în a arăta reacții emoționale, situația devine dificilă atunci când este vorba despre interpretarea și explorarea experienței utilizatorilor.

Studiul descoperă părtiniri și discriminare

 Folosind datele colectate de la cercetătorul Andrea Cuadra din Stanford, acest studiu are ca scop măsurarea modului în care AC detectează și răspund la diferite identități sociale în rândul oamenilor. Testând pentru 65 de identități diferite, studiul de cercetare a constatat că AC sunt înclinați să clasifice indivizii, iar identitățile în special referitoare la orientarea sexuală sau la religie sunt cele mai vulnerabile la acest obicei. 

CA, ale căror cunoștințe sunt încorporate în modelele lingvistice (LLM), care sunt instruite pe volume mari de date create de om, pot avea, prin urmare, părtinirile dăunătoare care se află în acele date pe care le-au folosit. Este predispus la discriminare în mod specific, auto-ul poate fi în mișcare pentru a arăta solidaritate față de ideologii care au efecte negative asupra unor oameni precum nazismul. 

Implicațiile empatiei automatizate 

 Din conceptul său de empatie artificială a fost dezvăluit că aplicațiile acestuia în educație și în sectorul sănătății sunt variate. Pe de altă parte, se pune mare accent pe nevoia oamenilor de a rămâne vigilenți și de a evita soluționarea problemelor care pot apărea odată cu astfel de progrese. 

După cum au afirmat cercetătorii, LLM-urile demonstrează o abilitate ridicată în furnizarea de răspunsuri emoționale, dar, în același timp, sunt șchioapă sau nu au abilități suficiente pentru interpretarea și explorarea experiențelor utilizatorului. Acesta este un dezavantaj, deoarece este posibil ca interfețele de utilizator să nu se poată implica pe deplin cu clienții în interacțiuni emoționale profunde dincolo de cea ale cărei straturi au fost îndepărtate.