Google сокращает представление обзоров искусственного интеллекта в некоторых результатах поиска. Решение было принято после того, как поисковый гигант допустил несколько ошибок, получивших огласку и вызвавших общественную реакцию в Интернете.

В четверг Лиз Рид, глава отдела поиска Google, признала, что компания ограничивает сводки, генерируемые ИИ, под названием «Обзоры ИИ». Функция на базе искусственного интеллекта подверглась критике, когда начала показывать контент, призывающий людей есть камни и приклеивать сыр к пицце.

Читайте также: Google, OpenAI и еще 13 компаний обещают не развертывать рискованные модели ИИ

Google начал показывать обзоры ИИ своим пользователям в США две недели назад после ежегодного мероприятия I/O, в ходе которого компания представила несколько предложений на основе ИИ. Начиная с четверга, пользователи заметили меньше вопросов, что привело к ответу ИИ.

Выявление поддельных обзоров искусственного интеллекта требует тщательного анализа

Рид написал в своем блоге, что люди в социальных сетях делились скриншотами обзоров ИИ, в которых предлагались странные решения. Она сказала, что ИИ компании допустил некоторые ошибки, но многие из них были фальшивыми и никогда не создавались системой искусственного интеллекта Google.

Обзор Google AI предлагает приклеивать сыр к пицце. Источник.

Она признала, что некоторые странные или неточные обзоры ИИ действительно появлялись. Он выделил области, где эту функцию необходимо улучшить, но они не являются часто используемыми поисковыми запросами. Отметив фальшивые, она сказала:

«Кроме того, было широко распространено большое количество фальшивых скриншотов. Некоторые из этих фальшивых результатов были очевидными и глупыми».

Рид сказал, что Google не показывает обзоры ИИ по таким темам, как курение во время беременности или оставление собак в машинах. Она призвала пользователей, которые видели эти скриншоты в социальных сетях, поискать и проверить.

ИИ Google теперь может распознавать сатирический контент

Google определил, что сатирический контент и бессмысленные запросы — это области, на которые необходимо обратить внимание для создания неточных обзоров ИИ. В Google заявили, что перед скриншотами запроса «Сколько камней мне съесть?» стало вирусным, никто не задал вопрос. Рид сказал, что для подтверждения можно просмотреть Google Trends.

Читайте также: Opera интегрирует модели Gemini от Google для улучшения искусственного интеллекта браузера Aria

Еще одним фактором является то, что по конкретной теме доступно очень мало контента, также известного как «пустота данных», что также является причиной неточных обзоров ИИ. Что касается вопроса о поедании камней, Рид сказал, что сатирический характер контента вызвал обзор AI. Содержимое также было переиздано на веб-сайте геологического программного обеспечения, на который ссылается AI Review. Она уточнила:

«Поэтому, когда кто-то задал этот вопрос в Поиске, появился обзор ИИ, который был точно связан с одним из немногих веб-сайтов, на которых задавался этот вопрос».

Рид не упомянул другие обзоры искусственного интеллекта, распространявшиеся в социальных сетях, и многие крупные издатели также публиковали отчеты о них. Например, The Washington Post опубликовала в Google отчет, в котором говорилось, что Барак Обама был мусульманином. Издание также сообщило об еще одном случае, когда обзор Google AI сообщил пользователю, что люди должны пить мочу, чтобы помочь избавиться от камней в почках.

Google одержим публичными форумами

Руководитель отдела поиска Google отметил, что компания тщательно протестировала эту функцию, прежде чем представить ее публике. Она также признала, что на этапе тестирования сложно смоделировать реальную практику использования, но компания провела надежную «красную команду» и выборку типичных пользовательских запросов. 

Также читайте: Обзор функции искусственного интеллекта Google сталкивается с негативной реакцией из-за неточных результатов

Некоторые пользователи и аналитики интернет-контента отмечают, что Google недавно начал показывать множество результатов с общедоступных форумов, таких как Reddit. Некоторые подвергают сомнению сделку компании с Reddit, но представитель Google сообщил BBC, что такие условия не были частью соглашения, призванного обеспечить большую видимость Reddit в результатах поиска.

Лили Рэй, вице-президент по стратегии и исследованиям SEO в маркетинговом агентстве Amsive, говорит, что теперь многие запросы показывают результаты с Reddit. Она также высмеяла Google в посте X (ранее Twitter), заявив, что все мировые знания (контент Reddit) объединены с искусственным интеллектом.

Дамы и господа, все мировые знания в сочетании с мощью искусственного интеллекта и одного тролля Reddit. pic.twitter.com/jhzT2pGXjh

— Лили Рэй 😏 (@lilyraynyc) 21 мая 2024 г.

Рид сказал, что в некоторых примерах «Обзоры ИИ» содержат саркастический контент с дискуссионных форумов. Она сказала, что форумы являются хорошим источником информации из первых рук, но в некоторых случаях они могут вызвать не очень полезные ответы, например, приклеивание сыра к пицце.

ИИ Google также неправильно интерпретирует язык, что приводит к неправильной информации в обзорах ИИ, но, по данным компании, процент таких ответов очень низок. Рид отметил, что они быстро решили проблемы, улучшив их или удалив ответы, не соответствующие политике Google.

Вице-президент Google Search также сказал, что существуют строгие ограничения для таких тем, как здоровье и новости. Компания внедрила новые усовершенствования триггеров для повышения качества защиты здоровья. Рид сказал, что система обнаружения также обновляется для бессмысленных запросов, чтобы не отображать их как обзоры ИИ. Она также намекнула на подтверждение меньшего количества обзоров ИИ для сатирических запросов, заявив: «Мы обновили наши системы, чтобы ограничить использование пользовательского контента в ответах, которые могут давать вводящие в заблуждение советы».

Криптополитический репортаж Аамира Шейха