Peloton dovrà affrontare il tribunale della California per accuse di trattamento non autorizzato dei dati delle chat degli utenti. La società di fitness, che ha tentato due volte di archiviare la causa, è accusata di consentire alla società terza Drift di interagire con i dati degli utenti senza autorizzazione.
Leggi anche: Oklahoma, Alabama ora ha distributori automatici di proiettili nei negozi di alimentari
Nel giugno 2023, Consumer Advocates, uno studio legale, ha avviato un'azione legale collettiva contro Peloton. Nella causa è stato affermato che le conversazioni tra gli utenti dell'app e il team di supporto dell'azienda sono state condotte tramite il sistema Drift, che è una società di marketing basata sull'intelligenza artificiale, e ciò è stato fatto senza il permesso degli utenti. Si dice che sia Peloton che Drift abbiano violato il California Invasion of Privacy Act (CIPA), ma la causa è solo contro Peloton.
Le pratiche di marketing dell’intelligenza artificiale di Drift vengono esaminate attentamente
Sul suo sito Web, Peloton dispone di una funzione di chat dal vivo che i clienti possono utilizzare per effettuare richieste. La denuncia afferma che gli utenti non sapevano che Drift stava registrando e analizzando il contenuto della loro chat. Oltre alle trascrizioni delle chat, il sistema di Drift ha acquisito gli indirizzi IP, i tipi di dispositivi e altre informazioni dei visitatori del sito web. Presumibilmente questo è stato utilizzato nell'addestramento dei sistemi AI di Drift, che consistono in chatbot AI.
Nonostante i tentativi di Peloton di far archiviare il caso, la corte ha permesso che andasse avanti, anche se con alcune restrizioni. La questione del momento è se Peloton abbia chiesto o meno il permesso degli utenti interessati prima di trasmettere le loro informazioni a Drift. Sebbene a Peloton sia consentito esaminare il contenuto della chat poiché fa parte della conversazione, il vero problema è il passaggio di queste informazioni a Drift.
Leggi anche: L'Università di Sohar istituirà un laboratorio di intelligenza artificiale con il supporto cinese
Drift, acquistata da Salesloft a febbraio, si concentra sull'intelligenza artificiale conversazionale per il servizio clienti e il marketing. L’obiettivo dell’azienda è fornire contenuti personalizzati ai consumatori in tempo reale. Tuttavia, il caso contro Peloton evidenzia i resti di fiducia e trasparenza nella raccolta dei dati sull’intelligenza artificiale.
Nel suo rapporto del 2022, Drift ha identificato la fiducia e la percezione come due fattori chiave che saranno fondamentali per il futuro dell’intelligenza artificiale. L'azienda ha raccomandato ai clienti di evitare un'eccessiva dipendenza dai cookie di terze parti e di concentrarsi sulla necessità di creare strategie relative ai dati proprietari.
La battaglia legale si aggiunge alle recenti sfide di Peloton
Il tribunale ora accerterà se i clienti di Peloton avessero informazioni sufficienti su come gestire i loro dati e se avessero la capacità di decidere in merito. Sebbene Drift non sia menzionato direttamente nella causa, il caso ha implicazioni riguardanti la privacy dei dati e l’etica dell’IA.
Leggi anche: L'intelligenza artificiale influenzerà un'ampia gamma di servizi pubblici
La battaglia legale arriva in un momento difficile per Peloton. L’azienda è stata recentemente in difficoltà dopo aver registrato un aumento delle vendite durante i blocchi pandemici. Il valore delle azioni di Peloton è sceso da 160 dollari alla fine del 2020 agli attuali 3,50 dollari.
L'anno scorso l'azienda è stata anche multata di 19 milioni di dollari per problemi di sicurezza con i suoi tapis roulant che hanno causato lesioni e la morte di un bambino. A maggio, Barry McCarthy si è dimesso dalla carica di amministratore delegato dell'azienda in seguito a ulteriori licenziamenti, il che è stato un duro colpo per l'azienda.
Reporting criptopolita di Brenda Kanana