Недавно запущенная Google функция «Обзор искусственного интеллекта» в Google Поиске подверглась серьезной критике. Пользователи сообщали о многочисленных случаях, когда сводки ИИ давали нелогичный или неправильный ответ на различные поисковые запросы, при этом отключить службу было невозможно. 

Читайте также: Новые расширения Chrome призваны улучшить поиск в Google

Недавние примеры включают сомнительные советы по кулинарии и рекомендации по здоровью, что вызвало волну критики и насмешек в социальных сетях.

Пользователи раскрывают ошибочные ответы AI Review

Новая функция «Обзор ИИ» была запущена менее двух недель назад и предназначена для предоставления кратких обзоров задаваемых вопросов. Например, поиск по чистке кожаных ботинок может содержать инструкции с разных веб-сайтов. Однако пользователи сообщают, что инструмент может давать неправильные и потенциально опасные рекомендации.

Читайте также: Повредит ли новый ИИ-поиск Google трафику веб-сайтов, беспокоящие издателей?

Еще одна ошибка, допущенная ИИ, заключалась в том, что он заявил, что «в Соединенных Штатах был один президент-мусульманин, Барак Хусейн Обама», когда его спросили, сколько президентов-мусульман было в США. 

Источник: Бензинга

Еще одним советом, который потенциально мог привести к серьезному вреду, было использование клея при приготовлении соуса для пиццы, чтобы сыр не соскользнул. Было обнаружено, что эта рекомендация возникла из комментария Reddit, что повышает вероятность того, что ИИ получает информацию из ненадежных источников.  

Google мертв вне всякого сравнения pic.twitter.com/EQIJhvPUoI

– PixelButts (@PixelButts) 22 мая 2024 г.

Другие возмутительные рекомендации включали утверждение, что смотреть на солнце полезно для здоровья и что людям следует ежедневно включать камни в свой рацион. Некоторые из отмеченных проблем включают простые ошибки, такие как неправильное перечисление фруктов и неправильные расчеты исторических дат.

Неправильная атрибуция портит достоверные источники

AI Обзор также подвергся критике за неверное цитирование надежных источников с неверной информацией. Например, оно утверждало:

«По данным WebMD, ученые утверждают, что смотреть на солнце в течение 5–15 минут или до 30 минут, если у вас темная кожа, в целом безопасно и приносит наибольшую пользу для здоровья».

Подобные ошибочные определения могут нанести ущерб репутации уважаемых заведений и потенциально опасны для населения в целом. На вопрос, нарушает ли поиск Google антимонопольное законодательство, AI Review ответила:

«Да, Министерство юстиции США и 11 штатов подают в суд на Google за нарушение антимонопольного законодательства».

Представитель Google Меган Фарнсворт заявила, что ошибки возникли из-за «очень необычных запросов и не отражают опыт большинства людей». Она рассказала, что ошибки были в редких запросах, и заявила, что компания активно работает над исправлением нарушений контент-политики. Даже несмотря на эти заверения, обратная реакция поднимает вопросы о более широких проблемах растущего внедрения технологий искусственного интеллекта.

Появление параллелей с инструментом создания изображений Gemini

Споры вокруг обзора AI аналогичны проблемам, с которыми столкнулся инструмент генерации изображений Gemini от Google вскоре после его запуска в феврале из-за тех же неверных интерпретаций и сомнительных результатов. Некоторые из выявленных проблем включают ложное представление истории и эскизы, непригодные для использования, что заставило Google прекратить работу инструмента и работать над улучшениями.

Конкуренция в сфере генеративного искусственного интеллекта жесткая из-за присутствия таких игроков, как Google, Microsoft и Open AI. Прогнозируется, что в ближайшее десятилетие рынок инструментов и агентов искусственного интеллекта достигнет размера более одного триллиона долларов США. Эта острая конкуренция может привести к использованию незрелых технологий на рынке из-за необходимости выпуска новых продуктов.

Читайте также: Google, OpenAI и еще 13 компаний обещают не развертывать рискованные модели ИИ

Google — самая популярная поисковая система в мире, и это делает ее очень уязвимой для критики. В настоящее время поисковая система компании доминирует более чем на 90% мирового рынка, а это означает, что ее эффективность имеет решающее значение для удовлетворенности пользователей и бизнес-модели компании.