O CTO da Ripple, David Schwartz, mencionou que cogumelos envenenaram uma família inteira enquanto eles tentavam comer, com base em um guia gerado por IA.
O evento levanta questões válidas sobre a credibilidade e a qualidade do conteúdo gerado por IA, especialmente quando a desinformação representa uma ameaça.
Schwartz ressaltou as preocupações legais e éticas do conteúdo gerado por IA e da proteção ao consumidor citando um caso legal.
David Schwartz, o CTO da Ripple, compartilhou recentemente um exemplo infeliz de uma instância em que notícias falsas geradas usando sistemas de IA tiveram resultados fatais para a saúde. O assunto foi recentemente apontado por um Reddit que compartilhou uma história de uma família hospitalizada devido a envenenamento com cogumelos venenosos.
Os cogumelos foram identificados com erro por um guia de campo de cogumelos criado por IA. Schwartz, que é muito ativo nas mídias sociais, recorreu à plataforma para chamar a atenção do público para os possíveis riscos de confiar na IA para informações importantes, especificamente em trabalhos publicados.
Um caso de imprecisão gerada por IA
O livro, comprado em uma loja online líder, continha imagens e textos supostamente criados pela IA. As informações errôneas no livro levaram a família a consumir cogumelos venenosos, o que os obrigou a procurar atendimento médico. Embora o varejista tenha emitido um reembolso pelo livro, a ocorrência levantou preocupações sobre a presença de material de baixa qualidade escrito por IA online.
Descrevendo o estado de coisas, Schwartz usou um precedente legal do caso Winter v. G. P. Putnam's Sons. No caso de 1991, os dois homens ficaram gravemente doentes após usar um guia que continha informações erradas e foram obrigados a fazer transplantes de fígado.
O tribunal decidiu a favor da editora, o que tem as seguintes implicações quanto à responsabilidade e proteção dos consumidores sobre materiais publicados. Ao apelar para este caso, Schwartz faz um ponto perfeito quanto às preocupações legais e éticas contemporâneas do conteúdo gerado por IA no mundo moderno.
https://twitter.com/JoelKatz/status/1824687968784720229
O aviso do executivo da Ripple foi visto como válido com base na tendência crescente de conteúdo gerado por IA, especialmente em setores que exigem precisão. Schwartz também compartilhou uma postagem no Reddit que gerou perguntas sobre quem é o culpado, com o autor original perguntando se negligência como essa poderia ser denunciada às autoridades. No futuro, provavelmente haverá mais discussões sobre o quão apropriada é a utilização da tecnologia de IA e quais medidas devem ser colocadas em prática para garantir que o consumidor esteja protegido. O incidente também mostra a necessidade de avaliar a confiabilidade das fontes, especialmente com informações que podem ter implicações práticas.
A postagem CTO da Ripple soa alarme sobre conteúdo criado por IA após acidente venenoso apareceu primeiro em Crypto News Land.
