Vários membros da Câmara dos Representantes dos EUA, liderados pelo deputado Adam Schiff, estão pedindo ao Google que explique seu recurso de visões gerais de IA. Esta ferramenta, integrada ao mecanismo de busca Google, resume informações por meio de IA.
Schiff e outros legisladores escreveram ao CEO do Google, Sundar Pichai, sobre a imprecisão e o perigo do recurso. A carta afirma ainda que a IA tem extraído informações de sites satíricos e citado teorias de conspiração há muito desmascaradas, fornecendo informações erradas a usuários desavisados.
Carta levanta preocupações sobre desinformação
Schiff sublinhou os riscos de informações falsas, especialmente no contexto do Google como fonte primária de notícias e informações sobre saúde para muitos americanos. A carta, também assinada pelos representantes Henry C. Johnson, Jr. (D-Ga.), Donald S. Beyer Jr. . ), busca esclarecimentos sobre diversos aspectos do recurso AI Overviews.
Leia também: A narrativa da IA acelera, o sentimento muda para otimista em vários ativos
Os legisladores também querem saber como os usuários são informados sobre os riscos da desinformação e o prazo para corrigir ou remover informações falsas.
O recurso AI Overviews do Google emprega o modelo Gemini AI para extrair informações das páginas mais bem classificadas e fornecer um resumo com links. No entanto, o recurso foi acusado de fornecer informações erradas e enganosas. Alguns dos exemplos incluem aconselhar as pessoas a consumirem pedras para obter vitaminas e endossar a religião de Barack Obama.
Controvérsias recentes destacam problemas com conteúdo gerado por IA
Em maio de 2024, o Google foi criticado logo após o lançamento do AI Overviews nos EUA porque o recurso sugeria adicionar cola à pizza para que o queijo grudasse. Até o momento, o Google não emitiu uma resposta direta à carta dos legisladores.
Em uma postagem no blog, Liz Reid, vice-presidente e chefe de pesquisa do Google, também explicou que houve problemas com o recurso AI Overviews. Reid destacou que um dos problemas da IA é que ela não funciona bem quando as consultas feitas não são apoiadas por dados suficientes de alta qualidade. Ela destacou que quando um usuário insere um tópico específico ou raro ou um tópico que contém sátira, por exemplo, a IA escolherá respostas das fontes limitadas que possui e, às vezes, as fontes não são confiáveis.
Também há discussões sobre as consequências financeiras para os editores. Os motores de busca baseados em IA, como o Google, podem apresentar um resumo do conteúdo de diferentes fontes sem direcionar o tráfego de volta aos criadores, o que pode afetar as suas receitas. Isto levou a ações legislativas como as da Califórnia, onde os legisladores defendem o pagamento aos editores quando as empresas de tecnologia utilizam o seu conteúdo.