Google использует искусственный интеллект для ответа на вопросы, касающиеся проблем со здоровьем. Некоторые аналитики считают это тревожным, поскольку функция «Обзоры ИИ» может предоставлять недостоверную информацию.

Практикующие врачи говорят, что обзоры ИИ могут вызывать беспокойство, особенно при ответе на вопросы о личном здоровье. Они утверждали, что эта функция может выдавать неточную информацию, хотя она также может направить людей к необходимому лечению, согласно недавнему отчету New York Times.

Ошибка поиска в обзорах ИИ подогревает галлюцинационные настроения ИИ

Google представил обзоры AI — функцию, которая генерирует сводки контента с веб-сайтов и показывает их на странице результатов поиска Google. В течение нескольких дней после запуска эта функция продемонстрировала широкий спектр неточностей, поскольку ответы основывались на ошибочных источниках. Происшествие, которое еще больше усиливает мнение о том, что ИИ склонен к галлюцинациям и может генерировать фактически неверную информацию.

Читайте также: Google ограничивает обзоры ИИ для сатирических и бессмысленных запросов

Результаты поиска, связанные со здоровьем, в которых пользователям давали ежедневную дозу камня или предлагали пользователям съесть склеенную пиццу, вызвали негативную реакцию. Обзоры ИИ цитируют такие источники, как Всемирная организация здравоохранения, WebMD, PubMed и клиника Мэйо. Однако они не ограничиваются этими источниками. Аналитики говорят, что инструмент извлекает информацию из Reddit, Википедии, различных блогов и сайтов электронной коммерции.

Хема Будараджу, старший директор по управлению продуктами Google, сказала, что существуют дополнительные ограничения для запросов, связанных со здоровьем, но отказалась раскрыть какие-либо подробности. Хема добавила, что некоторые запросы не запускают обзоры ИИ, например, если система обнаруживает ситуацию членовредительства.

В Google заявили, что AI обзоры интегрируются с Google Knowledge Graph, базой знаний, содержащей данные, полученные из нескольких источников, но не предоставили подробную информацию о веб-сайтах, поддерживающих результаты функции поиска с помощью ИИ.

Google показывает больше обзоров искусственного интеллекта по запросам о здоровье

Традиционные результаты, часто называемые «десятью синими ссылками», были полезны для пользователей, поскольку они могли отличить авторитетные медицинские источники от платных ссылок или менее заслуживающих доверия веб-сайтов. С появлением обзоров ИИ ситуация изменилась. Теперь в одном блоке текста представлена ​​информация, собранная из разных источников, что, по мнению аналитиков, вызывает путаницу.

Кейт Ниббс из Wired сказала в подкасте:

«Если вы вводите что-то об астме, или есть ли у меня диабет, или вообще, если вы ищете что-то, связанное с болезнями, вы, скорее всего, по сей день все еще увидите обзор ИИ. Я имею в виду, что это не все; это все еще около 63 процентов. И я думаю, это зависит от ситуации».

Некоторые врачи, такие как доктор Дариуш Мозаффарян, говорят, что обзоры ИИ показывают некоторые правильные факты и суммируют их в ответах, но они не делают различий между данными обсервационных исследований и рандомизированных исследований.

Еще один уровень дезинформации добавляется, когда функция путает информацию. Например: «Зеленый чай содержит антиоксиданты и помогает предотвратить рак». Хотя первое верно, второе не было клинически доказано. Когда такие утверждения перечислены вместе, они создают ложное впечатление, что они заслуживают доверия.

Google ограничил обзоры ИИ

Люди, наблюдающие за внедрением ИИ, советуют с осторожностью подходить к результатам поиска ИИ, связанным со здоровьем. Они говорят, что пользователям следует обратить внимание на мелкий шрифт под некоторыми ответами, в которых говорится: «Это только для информационных целей». В отчете NYTimes отмечается, что генеративный ИИ находится на экспериментальной стадии, и пользователям следует обращаться к врачам при любом серьезном заболевании. 

Читайте также: Обновления основного алгоритма Google и обзоры искусственного интеллекта сокращают трафик издателей

В заявлении от 30 мая Google сообщила, что сократила использование обзоров ИИ в некоторых категориях. Данные SEO-фирмы Brightedge подтверждают позицию Google, предполагая, что сокращение началось еще до объявления компании. 

В других отчетах также говорится, что Google начал откатывать обзоры AI для определенных категорий еще до того, как пользователи сети начали высмеивать его за бессмысленные ответы. Тем не менее, есть утверждения, что в категории «Здоровье» продолжает показываться большое количество обзоров ИИ. Книббс говорит:

«Я разговаривал с некоторыми другими исследователями SEO, которые также обнаружили, что здравоохранение по-прежнему производит много обзоров ИИ».

Книббс говорит, что она протестировала некоторые запросы, связанные со здоровьем, и через несколько часов получила разные результаты, что показывает, что Google работает над улучшением результатов. Она сказала: «Хорошо, они стараются. Я не знаю, делают ли они свою работу достаточно хорошо, но они определенно стараются».

Криптополитический репортаж Аамира Шейха