Нещодавно запущена функція Google «Огляд AI» у Пошуку Google наштовхнулася на значну критику. Користувачі публікували численні випадки, коли підсумки штучного інтелекту генерували нелогічні або неправильні відповіді на різні пошукові запити, без можливості відключити службу.
Читайте також: Нові розширення Chrome спрямовані на покращення пошуку Google
Нещодавні приклади включали сумнівні поради щодо кулінарної практики та рекомендації щодо здоров’я, що викликало хвилю критики та насмішок у соціальних мережах.
Користувачі виявляють помилкові відповіді AI Overview
Нова функція, Огляд штучного інтелекту, була запущена менше двох тижнів тому та була розроблена, щоб надати короткий огляд поставлених питань. Наприклад, пошук щодо того, як почистити шкіряні чоботи, може надати інструкції, отримані з різних веб-сайтів. Однак користувачі повідомили, що інструмент може надавати неправильні та потенційно небезпечні рекомендації.
Читайте також: чи зашкодить новий пошук Google зі штучним інтелектом трафіку веб-сайту, що хвилює видавців?
Іншою помилкою ШІ було заява про те, що «у Сполучених Штатах був один президент-мусульманин, Барак Хусейн Обама», коли його запитали, скільки президентів-мусульман було в США.
Джерело: Benzinga
Ще однією порадою, яка потенційно може завдати серйозної шкоди, було використання клею при приготуванні соусу для піци, щоб сир не зісковзував. Було виявлено, що ця рекомендація походить із коментаря Reddit, що підвищує ймовірність того, що ШІ отримує інформацію з ненадійних джерел.
Google мертвий без порівняння pic.twitter.com/EQIJhvPUoI
— PixelButts (@PixelButts) 22 травня 2024 р
Інші обурливі рекомендації включали твердження, що споглядання сонця є здоровим і що люди повинні щодня включати каміння у свій раціон. Деякі з проблем, на які було вказано, включають прості помилки, такі як неправильне перерахування фруктів і неправильні розрахунки дат в історії.
Помилкове зазначення авторства псує надійні джерела
AI Overview також критикували за неправильне цитування надійних джерел із неправильною інформацією. Наприклад, він стверджував:
«Згідно з WebMD, вчені кажуть, що дивитися на сонце протягом 5-15 хвилин або до 30 хвилин, якщо у вас темніша шкіра, загалом безпечно та приносить найбільшу користь для здоров’я».
Такі помилки можуть завдати шкоди репутації високоповажних закладів і є потенційно небезпечними для широких верств населення. На запитання, чи порушує Пошук Google антимонопольне законодавство, AI Overview відповів:
«Так, Міністерство юстиції США та 11 штатів подають до суду на Google за порушення антимонопольного законодавства».
Представник Google Меганн Фарнсворт сказала, що помилки виникли через «загалом дуже незвичайні запити та не відповідають досвіду більшості людей». Вона повідомила, що помилки були в рідкісних запитах, і заявила, що компанія активно працює над виправленням порушень політики контенту. Навіть з такими запевненнями негативна реакція викликає питання про ширші проблеми все більшого впровадження технологій ШІ.
Виникають паралелі з Фіаско інструменту генерації зображень Gemini
Суперечка навколо AI Overview схожа на проблеми, з якими зіткнувся інструмент Google для генерації зображень Gemini невдовзі після його запуску в лютому через ті ж неправильні тлумачення та сумнівні результати. Деякі з проблем, які були висвітлені, включають неправдиві представлення історії та ескізи, які непридатні для використання, що змусило Google припинити роботу інструменту та працювати над вдосконаленнями.
Конкуренція в просторі генеративного ШІ є жорсткою через присутність таких гравців, як Google, Microsoft і Open AI. Прогнозується, що в наступне десятиліття ринок засобів і агентів штучного інтелекту досягне розміру понад один трильйон доларів США. Ця інтенсивна конкуренція може призвести до використання незрілих технологій на ринку через тиск на випуск нових продуктів.
Читайте також: Google, OpenAI та 13 інших зобов’язуються не розгортати ризиковані моделі ШІ
Google є найпопулярнішою пошуковою системою у світі, і це робить її дуже вразливою до критики. Зараз пошукова система компанії займає понад 90% частки світового ринку, а це означає, що її ефективність є вирішальною для задоволеності користувачів і бізнес-моделі компанії.
