Группа законодателей США во главе с представителем Адамом Шиффом дала генеральному директору Alphabet/Google Сундару Пичаи срок до 1 августа, чтобы согласиться на запрос на информацию, связанную с функцией компании «Обзор ИИ» для поиска.
Обзор AI — это сводное окно, которое отображается в верхней части страниц поиска Google, когда пользователь делает запрос. Обычно он содержит короткий текстовый ответ, изображение, если оно уместно, и вспомогательные ссылки.
По данным офиса Шиффа со ссылкой на многочисленные отчеты, AI Review имеет тенденцию выдавать неверную и/или потенциально опасную информацию.
Жалоба, опубликованная офисом Шиффа и подписанная четырьмя другими членами конгресса, требует ответов на одиннадцать вопросов об этой функции, связанной с усилиями компании по обеспечению большей точности и безопасности.
Обзор ИИ
Некоторые проблемы с AI Review связаны с его очевидной неспособностью определить, является ли данный источник сатирой или нет. «Функция «Обзоры ИИ» Google советовала пользователям съедать хотя бы один камень в день, чтобы получить витамины и минералы», — написали Шифф и другие члены конгресса, добавив, что ИИ цитировал сатирический новостной сайт «The Onion».
В других случаях, например, когда пользователи начали сообщать, что обзор ИИ утверждал, что Барак Обама был первым президентом США-мусульманином, система ИИ напрямую цитировала опровергнутые теории заговора.
В письме Шиффа были признаны продолжающиеся усилия Google по борьбе с дезинформацией, но указано, что необходимо сделать больше:
«Мы ценим усилия Google по исправлению этих ошибок путем улучшения функции посредством постоянного тестирования, удаления ответов, нарушающих политику компании в отношении контента, и маркировки ответов, сгенерированных ИИ, как экспериментальных. Однако необходимо сделать больше, чтобы гарантировать, что Google может оставаться заслуживающим доверия и надежным источником информации для американцев».
рассуждения ИИ
На данный момент нет научного консенсуса относительно того, что такого рода проблемы действительно могут быть решены. Суть проблемы в том, что ИИ не «думает» и не «рассуждает», несмотря на то, что оба термина широко используются в маркетинге продуктов ИИ.
Генеративные системы искусственного интеллекта имитируют человеческую речь, но не способны понимать контекст или применять накопленный опыт к ситуации.
Эти проблемы уже давно не решены в этой области и были замечены в ранних больших языковых моделях, таких как GPT-2 от OpenAI и ныне несуществующая система «Галактика» от Meta, которая была снята всего через три дня из-за негативной реакции, вызванной ее запуском.
США требует
Чтобы лучше понять усилия Google, Шифф и его коллеги-законодатели потребовали, чтобы Пичаи и Google ответили до 1 августа и дали ответы на список из 11 вопросов. К ним относятся вопросы о процедурах ранжирования компании, автоматической проверке фактов, точности, источниках информации, прозрачности и о том, как она работает с властями для обеспечения безопасности.
Связанный: Отключение данных Microsoft Windows приводит к остановке крупных финансовых компаний и вызывает хаос в поездках
