Niedawno uruchomiona przez Google funkcja „Przegląd sztucznej inteligencji” w wyszukiwarce Google spotkała się z ostrą krytyką. Użytkownicy zgłaszali liczne przypadki, w których podsumowania AI generowały nielogiczne lub błędne odpowiedzi na różne wyszukiwania, bez możliwości wyłączenia usługi. 

Przeczytaj także: Nowe rozszerzenia Chrome mają na celu poprawę komfortu wyszukiwania Google

Niedawne przykłady obejmowały wątpliwe porady dotyczące praktyk kulinarnych i zaleceń zdrowotnych, wywołując falę krytyki i kpin w mediach społecznościowych.

Użytkownicy ujawniają błędne odpowiedzi przeglądu AI

Nowa funkcja, AI Review, została uruchomiona niecałe dwa tygodnie temu i miała na celu zapewnienie krótkiego przeglądu zadawanych pytań. Na przykład wyszukiwanie dotyczące czyszczenia skórzanych butów może spowodować wyświetlenie instrukcji pochodzących z różnych witryn internetowych. Użytkownicy zgłosili jednak, że narzędzie może wyświetlać nieprawidłowe i potencjalnie niebezpieczne zalecenia.

Przeczytaj także: Czy nowa wyszukiwarka Google oparta na sztucznej inteligencji zaszkodzi ruchowi w witrynie, niepokoją wydawcy?

Kolejnym błędem popełnionym przez sztuczną inteligencję było stwierdzenie, że „Stany Zjednoczone miały jednego muzułmańskiego prezydenta, Baracka Husseina Obamę”, gdy zapytano go, ilu muzułmańskich prezydentów miało USA. 

źródło: Benzinga

Kolejną radą, która może potencjalnie prowadzić do poważnych szkód, było użycie kleju podczas przygotowywania sosu do pizzy, aby zapobiec zsuwaniu się sera. Odkryto, że zalecenie to pochodzi z komentarza na Reddicie, w którym podniesiono możliwość pozyskiwania informacji przez sztuczną inteligencję z niewiarygodnych źródeł.  

Google jest martwy bez porównania pic.twitter.com/EQIJhvPUoI

— PixelButts (@PixelButts) 22 maja 2024 r

Inne oburzające rekomendacje obejmowały twierdzenie, że patrzenie w słońce jest zdrowe i że ludzie powinni na co dzień włączać kamienie do swojej diety. Wśród wskazanych kwestii znalazły się proste błędy, takie jak błędne wyliczanie owoców i błędne obliczanie dat historycznych.

Błędna atrybucja szkodzi wiarygodnym źródłom

Przegląd AI był również krytykowany za błędne cytowanie wiarygodnych źródeł zawierających błędne informacje. Twierdził na przykład:

„Według WebMD naukowcy twierdzą, że wpatrywanie się w słońce przez 5–15 minut lub do 30 minut w przypadku ciemniejszej skóry jest ogólnie bezpieczne i zapewnia najwięcej korzyści zdrowotnych”.

Takie błędne atrybucje mogą zaszkodzić reputacji wysoko cenionych instytucji i być potencjalnie niebezpieczne dla ogółu społeczeństwa. Na pytanie, czy wyszukiwarka Google narusza prawo antymonopolowe, AI Review odpowiedział:

„Tak, Departament Sprawiedliwości Stanów Zjednoczonych i 11 stanów pozywają Google za naruszenia przepisów antymonopolowych”.

Rzeczniczka Google, Meghann Farnsworth, stwierdziła, że ​​błędy wynikają z „ogólnie bardzo nietypowych zapytań i nie odzwierciedlają doświadczeń większości ludzi”. Powiedziała, że ​​błędy dotyczyły rzadkich zapytań i stwierdziła, że ​​firma aktywnie pracuje nad naprawieniem naruszeń polityki treści. Nawet przy tych zapewnieniach reakcja rodzi pytania dotyczące szerszych kwestii związanych z coraz częstszym wdrażaniem technologii sztucznej inteligencji.

Paralele do narzędzia do generowania obrazu Gemini Fiasco Emerge

Kontrowersje wokół AI Review są podobne do problemów, z jakimi borykało się narzędzie Google do generowania obrazów Gemini wkrótce po jego uruchomieniu w lutym z powodu tych samych błędnych interpretacji i wątpliwych wyników. Wśród zidentyfikowanych problemów można wymienić fałszywe odwzorowanie historii oraz nienadające się do wykorzystania szkice, co skłoniło Google do zaprzestania działania narzędzia i pracy nad udoskonaleniami.

Konkurencja w obszarze generatywnej sztucznej inteligencji jest ostra ze względu na obecność takich graczy, jak Google, Microsoft i Open AI. Prognozuje się, że w ciągu najbliższej dekady rynek narzędzi i agentów sztucznej inteligencji osiągnie wielkość ponad biliona dolarów amerykańskich. Ta intensywna konkurencja może prowadzić do stosowania na rynku niedojrzałych technologii ze względu na presję na wypuszczanie nowych produktów.

Przeczytaj także: Google, OpenAI i 13 innych firm zobowiązują się nie wdrażać ryzykownych modeli sztucznej inteligencji

Google jest najpopularniejszą wyszukiwarką na świecie, co czyni ją bardzo podatną na krytykę. Obecnie wyszukiwarka firmy ma ponad 90% udziału w światowym rynku, co oznacza, że ​​jej skuteczność decyduje o zadowoleniu użytkowników i modelu biznesowym firmy.