Niedawno uruchomiona przez Google funkcja „Przegląd sztucznej inteligencji” w wyszukiwarce Google spotkała się z ostrą krytyką. Użytkownicy zgłaszali liczne przypadki, w których podsumowania AI generowały nielogiczne lub błędne odpowiedzi na różne wyszukiwania, bez możliwości wyłączenia usługi.
Przeczytaj także: Nowe rozszerzenia Chrome mają na celu poprawę komfortu wyszukiwania Google
Niedawne przykłady obejmowały wątpliwe porady dotyczące praktyk kulinarnych i zaleceń zdrowotnych, wywołując falę krytyki i kpin w mediach społecznościowych.
Użytkownicy ujawniają błędne odpowiedzi przeglądu AI
Nowa funkcja, AI Review, została uruchomiona niecałe dwa tygodnie temu i miała na celu zapewnienie krótkiego przeglądu zadawanych pytań. Na przykład wyszukiwanie dotyczące czyszczenia skórzanych butów może spowodować wyświetlenie instrukcji pochodzących z różnych witryn internetowych. Użytkownicy zgłosili jednak, że narzędzie może wyświetlać nieprawidłowe i potencjalnie niebezpieczne zalecenia.
Przeczytaj także: Czy nowa wyszukiwarka Google oparta na sztucznej inteligencji zaszkodzi ruchowi w witrynie, niepokoją wydawcy?
Kolejnym błędem popełnionym przez sztuczną inteligencję było stwierdzenie, że „Stany Zjednoczone miały jednego muzułmańskiego prezydenta, Baracka Husseina Obamę”, gdy zapytano go, ilu muzułmańskich prezydentów miało USA.
źródło: Benzinga
Kolejną radą, która może potencjalnie prowadzić do poważnych szkód, było użycie kleju podczas przygotowywania sosu do pizzy, aby zapobiec zsuwaniu się sera. Odkryto, że zalecenie to pochodzi z komentarza na Reddicie, w którym podniesiono możliwość pozyskiwania informacji przez sztuczną inteligencję z niewiarygodnych źródeł.
Google jest martwy bez porównania pic.twitter.com/EQIJhvPUoI
— PixelButts (@PixelButts) 22 maja 2024 r
Inne oburzające rekomendacje obejmowały twierdzenie, że patrzenie w słońce jest zdrowe i że ludzie powinni na co dzień włączać kamienie do swojej diety. Wśród wskazanych kwestii znalazły się proste błędy, takie jak błędne wyliczanie owoców i błędne obliczanie dat historycznych.
Błędna atrybucja szkodzi wiarygodnym źródłom
Przegląd AI był również krytykowany za błędne cytowanie wiarygodnych źródeł zawierających błędne informacje. Twierdził na przykład:
„Według WebMD naukowcy twierdzą, że wpatrywanie się w słońce przez 5–15 minut lub do 30 minut w przypadku ciemniejszej skóry jest ogólnie bezpieczne i zapewnia najwięcej korzyści zdrowotnych”.
Takie błędne atrybucje mogą zaszkodzić reputacji wysoko cenionych instytucji i być potencjalnie niebezpieczne dla ogółu społeczeństwa. Na pytanie, czy wyszukiwarka Google narusza prawo antymonopolowe, AI Review odpowiedział:
„Tak, Departament Sprawiedliwości Stanów Zjednoczonych i 11 stanów pozywają Google za naruszenia przepisów antymonopolowych”.
Rzeczniczka Google, Meghann Farnsworth, stwierdziła, że błędy wynikają z „ogólnie bardzo nietypowych zapytań i nie odzwierciedlają doświadczeń większości ludzi”. Powiedziała, że błędy dotyczyły rzadkich zapytań i stwierdziła, że firma aktywnie pracuje nad naprawieniem naruszeń polityki treści. Nawet przy tych zapewnieniach reakcja rodzi pytania dotyczące szerszych kwestii związanych z coraz częstszym wdrażaniem technologii sztucznej inteligencji.
Paralele do narzędzia do generowania obrazu Gemini Fiasco Emerge
Kontrowersje wokół AI Review są podobne do problemów, z jakimi borykało się narzędzie Google do generowania obrazów Gemini wkrótce po jego uruchomieniu w lutym z powodu tych samych błędnych interpretacji i wątpliwych wyników. Wśród zidentyfikowanych problemów można wymienić fałszywe odwzorowanie historii oraz nienadające się do wykorzystania szkice, co skłoniło Google do zaprzestania działania narzędzia i pracy nad udoskonaleniami.
Konkurencja w obszarze generatywnej sztucznej inteligencji jest ostra ze względu na obecność takich graczy, jak Google, Microsoft i Open AI. Prognozuje się, że w ciągu najbliższej dekady rynek narzędzi i agentów sztucznej inteligencji osiągnie wielkość ponad biliona dolarów amerykańskich. Ta intensywna konkurencja może prowadzić do stosowania na rynku niedojrzałych technologii ze względu na presję na wypuszczanie nowych produktów.
Przeczytaj także: Google, OpenAI i 13 innych firm zobowiązują się nie wdrażać ryzykownych modeli sztucznej inteligencji
Google jest najpopularniejszą wyszukiwarką na świecie, co czyni ją bardzo podatną na krytykę. Obecnie wyszukiwarka firmy ma ponad 90% udziału w światowym rynku, co oznacza, że jej skuteczność decyduje o zadowoleniu użytkowników i modelu biznesowym firmy.