David Schwartz, diretor de tecnologia da Ripple, publicou recentemente uma publicação viral no Reddit em sua conta de mídia social, que conta a história de uma família que foi internada no hospital após consumir cogumelos venenosos, que eles identificaram usando um livro gerado por IA.
Se este relatório for verdadeiro, a história está se repetindo. https://t.co/UEVENXO72E https://t.co/sjQgkATFqz
— David "JoelKatz" Schwartz (@JoelKatz) 17 de agosto de 2024
De acordo com a publicação no Reddit, a família usou um livro de identificação de cogumelos que compraram em uma loja popular. A publicação afirmava que o livro fornecia imagens e texto criados pela IA para identificar os cogumelos, mas todos eles eram venenosos. A família consumiu os cogumelos com a ajuda do livro escrito pela IA, e todos eles foram internados no hospital, o que é um grande ponto de interrogação sobre o conteúdo da IA.
CTO da Ripple traça paralelos com processo histórico
A postagem também afirmou que não só há imagens de IA no livro, mas também respostas de Chatbot no texto do livro sugerindo que nenhum humano teve participação nele. Embora o varejista aparentemente tenha fornecido um reembolso pelo livro, o problema fez as pessoas questionarem se poderia haver mais livros de baixa qualidade escritos por IA para venda.
Em sua publicação nas redes sociais, Schwartz comparou esse evento a um processo judicial bem conhecido que ocorreu no início da década de 1990. O executivo da Ripple citou Winter v. G.P. Putnam’s Sons, um caso de 1991 do Tribunal de Apelações. O caso aponta para dois jovens adultos que decidiram comprar um livro que chamaram de “The Encyclopedia of Mushrooms” para servir de referência.
O casal foi forçado a buscar intervenção legal contra P. Putnam’s Sons por responsabilidade do produto, negligência e falsa representação. Embora os dois caçadores de cogumelos quase tenham perdido suas vidas por causa das informações erradas fornecidas pelo livro, o tribunal decidiu a favor da editora.
Guias de identificação enfrentam escrutínio sobre uso de IA
O uso deste caso por Schwartz demonstra como o uso de IA na criação de conteúdo não é algo positivo e tem ramificações legais. Se livros gerados por IA podem ser submetidos a procedimentos legais semelhantes, à medida que mais e mais conteúdo é produzido com a ajuda de IA, ainda é motivo de debate.
Schwartz escreveu um post X sobre o Quora, um site popular de perguntas e respostas. Esta não é a primeira vez que o CTO da Ripple critica este site e como a IA está sendo usada nele. Em seu post, Schwartz destacou alguns dos problemas com as perguntas que a IA do Quora gerou, que ele chamou de "lixo gerado pela IA".