Attraverso uno studio condotto da tre università, Cornell University, Olin College e Stanford University, sono arrivati a rendersi conto che le capacità dell’intelligenza artificiale di mostrare empatia negli agenti di conversazione, come Alexa e Siri, sono piuttosto limitate. I risultati di questo studio, presentato alla conferenza CHI 2024, indicano che sebbene le AC siano brave a mostrare reazioni emotive, la situazione diventa difficile quando si tratta di interpretare ed esplorare l’esperienza degli utenti.
Lo studio svela pregiudizi e discriminazioni
Utilizzando i dati raccolti dal ricercatore Andrea Cuadra di Stanford, questo studio mira a misurare come i CA rilevano e rispondono alle diverse identità sociali tra gli esseri umani. Testando 65 identità diverse, lo studio di ricerca ha scoperto che i CA sono inclini a categorizzare gli individui e le identità che riguardano soprattutto l'orientamento sessuale o la religione sono le più vulnerabili a questa abitudine.
Le CA, la cui conoscenza è incorporata nei modelli linguistici (LLM), che sono addestrati su grandi volumi di dati creati dall'uomo, possono quindi avere i pregiudizi dannosi che sono nei dati che hanno utilizzato. È incline alla discriminazione in particolare, le CA possono essere in movimento per mostrare solidarietà verso ideologie che hanno effetti negativi sulle persone come il nazismo.
Le implicazioni dell’empatia automatizzata
Dal suo concetto di empatia artificiale è emerso che le sue applicazioni nell'istruzione e nel settore sanitario sono varie. D'altro canto, molta enfasi è posta sulla necessità degli esseri umani di rimanere vigili ed evitare di arare i problemi che potrebbero sorgere con tali progressi.
Come affermato dai ricercatori, gli LLM dimostrano un'elevata capacità di fornire risposte emotive, ma allo stesso tempo sono deboli o privi di capacità sufficienti per l'interpretazione e l'esplorazione delle esperienze utente. Questo è uno svantaggio poiché le UI potrebbero non essere in grado di coinvolgere completamente i clienti in interazioni emotive profonde oltre a quella i cui strati sono stati rimossi.