David Schwartz, Chief Technology Officer di Ripple, ha recentemente pubblicato un post virale su Reddit sul suo account social, che racconta la storia di una famiglia che è stata ricoverata in ospedale dopo aver consumato funghi velenosi, identificati tramite un libro generato dall'intelligenza artificiale.

Se questo rapporto è vero, la storia si ripete. https://t.co/UEVENXO72E https://t.co/sjQgkATFqz

— David "JoelKatz" Schwartz (@JoelKatz) 17 agosto 2024

Secondo il post di Reddit, la famiglia ha utilizzato un libro di identificazione dei funghi acquistato in un negozio popolare. Il post affermava che il libro forniva immagini e testo creati dall'IA per identificare i funghi, ma erano tutti velenosi. La famiglia ha consumato i funghi con l'aiuto del libro scritto dall'IA e tutti sono stati ricoverati in ospedale, il che è un grande punto interrogativo sul contenuto dell'IA.

Il CTO di Ripple traccia parallelismi con una causa storica

Il post affermava anche che non solo ci sono immagini AI nel libro, ma anche risposte di Chatbot nel testo del libro che suggeriscono che nessun essere umano vi ha messo mano. Anche se il rivenditore ha apparentemente fornito un rimborso per il libro, il problema ha fatto sì che le persone si chiedessero se potessero essere in vendita altri libri di bassa qualità scritti da AI.

Nel suo post sui social media, Schwartz ha paragonato questo evento a una nota causa legale avvenuta all'inizio degli anni Novanta. Il dirigente di Ripple ha citato Winter contro G.P. Putnam's Sons, un caso della Corte d'appello del 1991. Il caso indica due giovani adulti che hanno deciso di acquistare un libro che hanno chiamato "The Encyclopedia of Mushrooms" per fungere da riferimento.

La coppia è stata costretta a cercare un intervento legale contro P. Putnam’s Sons per responsabilità del prodotto, negligenza e falsa dichiarazione. Sebbene i due cercatori di funghi abbiano quasi perso la vita a causa delle informazioni errate fornite dal libro, la corte si è pronunciata a favore dell'editore.

Le guide di identificazione sono sottoposte a verifica per l'uso dell'intelligenza artificiale

L'uso di questo caso da parte di Schwartz dimostra come l'uso dell'IA nella creazione di contenuti non sia una cosa positiva e abbia delle implicazioni legali. Se i libri generati dall'IA possano essere sottoposti a procedure legali simili, dato che sempre più contenuti vengono prodotti con l'aiuto dell'IA, è ancora oggetto di dibattito.

Schwartz ha scritto un post X riguardante Quora, un popolare sito web di domande e risposte. Non è la prima volta che il CTO di Ripple critica questo sito web e il modo in cui l'intelligenza artificiale viene utilizzata al suo interno. Nel suo post, Schwartz ha evidenziato alcuni dei problemi con le domande generate dall'intelligenza artificiale di Quora, che ha definito "scarto generato dall'intelligenza artificiale".