Несколько членов Палаты представителей США во главе с конгрессменом Адамом Шиффом обращаются к Google с просьбой объяснить ее функцию «Обзоры искусственного интеллекта». Этот инструмент, интегрированный в поисковую систему Google, обобщает информацию с помощью ИИ.
Шифф и другие законодатели написали генеральному директору Google Сундару Пичаи о неточности и опасности этой функции. В письме далее говорится, что ИИ собирает информацию с сатирических веб-сайтов и цитирует давно опровергнутые теории заговора, предоставляя ничего не подозревающим пользователям неверную информацию.
Письмо вызывает обеспокоенность по поводу дезинформации
Шифф подчеркнул риски фейковой информации, особенно на фоне Google как основного источника новостей и медицинской информации для многих американцев. Письмо также подписано представителями Генри К. Джонсоном-младшим (демократ от штата Джорджия), Дональдом С. Бейером-младшим (демократ от штата Вирджиния), Прамилой Джаяпал (демократ от штата Вашингтон) и Лори Трэхан (демократ от штата Массачусетс). . ), хочет получить разъяснения по некоторым аспектам функции «Обзоры ИИ».
Читайте также: Повествование об искусственном интеллекте ускоряется, настроения по некоторым активам становятся оптимистичными
Законодатели также хотят знать, как пользователи информируются о рисках дезинформации и о сроках исправления или удаления ложной информации.
Функция Google Reviews AI использует модель Gemini AI для извлечения информации из страниц с самым высоким рейтингом и предоставления сводки со ссылками. Однако эту функцию обвинили в предоставлении неверной и вводящей в заблуждение информации. Некоторые из примеров включают в себя советы людям употреблять камни в качестве витаминов и поддержку религии Барака Обамы.
Недавние разногласия подчеркивают проблемы с контентом, созданным искусственным интеллектом.
В мае 2024 года Google подверглась критике вскоре после выхода «Обзоров искусственного интеллекта» в США за то, что в этой статье предлагалось добавлять в пиццу клей, чтобы сыр прилипал. На момент публикации Google не дал прямого ответа на письмо законодателей.
В своем блоге Лиз Рид, вице-президент Google и руководитель отдела поиска, также объяснила, что возникли проблемы с функцией AI Reviews. Рид отметил, что одна из проблем, с которой сталкивается ИИ, заключается в том, что он не работает должным образом, когда задаваемые запросы не подкреплены достаточным количеством высококачественных данных. Она отметила, что когда пользователь заходит, например, на конкретную или редкую тему или тему, содержащую сатиру, ИИ будет выбирать ответы из ограниченных имеющихся у него источников, а иногда эти источники не заслуживают доверия.
Также ведутся дискуссии о финансовых последствиях для издателей. Поисковые системы на основе искусственного интеллекта, такие как Google, могут представлять сводку контента из разных источников, не перенаправляя трафик обратно авторам, что может повлиять на их доход. Это привело к законодательным действиям, например, в Калифорнии, где законодатели выступают за оплату издателям, когда технологические компании используют их контент.
