Kilku członków Izby Reprezentantów USA pod przewodnictwem kongresmena Adama Schiffa wzywa Google do wyjaśnienia funkcji przeglądu sztucznej inteligencji. Narzędzie to, zintegrowane z wyszukiwarką Google, podsumowuje informacje za pomocą sztucznej inteligencji.
Schiff i inni prawodawcy napisali do dyrektora generalnego Google, Sundara Pichai, w sprawie niedokładności i niebezpieczeństwa tej funkcji. W piśmie stwierdza się dalej, że sztuczna inteligencja pobiera informacje z satyrycznych witryn internetowych i powołuje się na dawno obalane teorie spiskowe, dostarczając niczego niepodejrzewającym użytkownikom błędne informacje.
Pismo budzi obawy związane z dezinformacją
Schiff podkreślił ryzyko związane z fałszywymi informacjami, zwłaszcza w kontekście Google jako głównego źródła wiadomości i informacji zdrowotnych dla wielu Amerykanów. List, podpisany również przez przedstawicieli Henry'ego C. Johnsona Jr. (D-Ga.), Donalda S. Beyera Jr. (D-Va.), Pramilę Jayapal (D-Wash.) i Lori Trahan (D-Mass) ) szuka wyjaśnień na temat kilku aspektów funkcji Przeglądy AI.
Przeczytaj także: Narracja sztucznej inteligencji przyspiesza, nastroje w przypadku kilku aktywów zmieniają się na bycze
Ustawodawcy chcą także wiedzieć, w jaki sposób użytkownicy są informowani o ryzyku związanym z dezinformacją oraz o terminie poprawienia lub usunięcia fałszywych informacji.
Funkcja Google AI Reviews wykorzystuje model AI Gemini do wydobywania informacji ze stron o najwyższym rankingu i udostępniania podsumowań wraz z linkami. Funkcja została jednak oskarżona o podawanie błędnych i wprowadzających w błąd informacji. Niektóre przykłady obejmują doradzanie ludziom spożywania kamieni w celu uzyskania witamin i popieranie religii Baracka Obamy.
Niedawne kontrowersje uwydatniają problemy związane z treściami generowanymi przez sztuczną inteligencję
W maju 2024 r. Google spotkało się z krytyką wkrótce po wydaniu AI Reviews w USA, ponieważ funkcja sugerowała dodanie kleju do pizzy, aby ser się sklejał. W momencie publikacji prasy Google nie udzielił bezpośredniej odpowiedzi na list prawodawców.
W poście na blogu Liz Reid, wiceprezes Google i szefowa działu wyszukiwania, wyjaśniła również, że wystąpiły problemy z funkcją przeglądu AI. Reid zwrócił uwagę, że jednym z problemów sztucznej inteligencji jest to, że nie działa ona dobrze, gdy zadawane zapytania nie są poparte wystarczającymi danymi wysokiej jakości. Zwróciła uwagę, że gdy użytkownik wpisze konkretny lub rzadki temat lub temat zawierający na przykład satyrę, sztuczna inteligencja wybierze odpowiedzi z ograniczonych źródeł, którymi dysponuje, a czasami źródła te nie są wiarygodne.
Trwają także dyskusje na temat konsekwencji finansowych dla wydawców. Wyszukiwarki oparte na sztucznej inteligencji, takie jak Google, mogą prezentować podsumowanie treści z różnych źródeł bez kierowania ruchu z powrotem do twórców, co może mieć wpływ na ich przychody. Doprowadziło to do działań legislacyjnych, takich jak te w Kalifornii, gdzie ustawodawcy zalecają płacenie wydawcom za wykorzystywanie ich treści przez firmy technologiczne.