Printr-un studiu de la trei universități: Universitatea Cornell, Colegiul Olin și Universitatea Stanford, au ajuns să realizeze că capacitățile AI de a afișa empatie în agenții de conversație, cum ar fi Alexa și Siri, sunt destul de limitate. Concluziile acestui studiu, prezentat la conferința CHI 2024, indică faptul că, deși AC-urile sunt bune în a arăta reacții emoționale, situația devine dificilă atunci când este vorba despre interpretarea și explorarea experienței utilizatorilor.
Prejudecăți și discriminare descoperite
Folosind datele colectate de la cercetătorul Andrea Cuadra din Stanford, acest studiu are ca scop măsurarea modului în care AC detectează și răspund la diferite identități sociale în rândul oamenilor. Testând pentru 65 de identități diferite, studiul de cercetare a constatat că AC sunt înclinați să clasifice indivizii, iar identitățile în special referitoare la orientarea sexuală sau la religie sunt cele mai vulnerabile la acest obicei.
CA, a căror cunoaștere este încorporată în modelele de limbaj (LLM), care sunt instruite pe volume mari de date create de oameni, pot avea, prin urmare, părtiniri dăunătoare care se află în datele pe care le-au folosit. Este predispus la discriminare, în special, CA poate fi în mișcare pentru a arăta solidaritate față de ideologiile care au efecte negative asupra unor oameni precum nazismul.
Implicațiile empatiei automatizate
Din conceptul său de empatie artificială a fost dezvăluit că aplicațiile acestuia în educație și în sectorul sănătății sunt variate. Pe de altă parte, se pune mult accent pe necesitatea ca oamenii să rămână vigilenți și să evite soluționarea problemelor care pot apărea odată cu astfel de progrese.
După cum au afirmat cercetătorii, LLM-urile demonstrează o capacitate ridicată de a oferi răspunsuri emoționale, dar, în același timp, sunt șchioapă sau nu au abilități suficiente pentru interpretarea și explorarea experiențelor utilizatorului. Acesta este un dezavantaj, deoarece este posibil ca interfețele de utilizator să nu se poată implica pe deplin cu clienții în interacțiuni emoționale profunde dincolo de cele ale căror straturi au fost îndepărtate.