Кілька членів Палати представників США на чолі з конгресменом Адамом Шиффом звертаються до Google з проханням пояснити свою функцію AI Overviews. Цей інструмент, інтегрований у пошукову систему Google, узагальнює інформацію за допомогою ШІ.
Шифф та інші законодавці написали генеральному директору Google Сундару Пічаї про неточність і небезпеку цієї функції. У листі також зазначено, що ШІ збирав інформацію з сатиричних веб-сайтів і посилався на давно розвінчані теорії змови, надаючи нічого не підозрюючим користувачам неправильну інформацію.
Лист викликає занепокоєння щодо дезінформації
Шифф підкреслив ризики фейкової інформації, особливо на тлі Google як основного джерела новин і інформації про здоров’я для багатьох американців. Лист також підписаний представниками Генрі С. Джонсоном-молодшим (D-Ga.), Дональдом С. Бейєром-молодшим (D-Vash.), Прамілою Джаяпал (D-Вашингтон) і Лорі Трахан (D-Mass .), шукає роз’яснення щодо кількох аспектів функції AI Overviews.
Читайте також: наратив штучного інтелекту прискорюється, настрої змінюються на оптимістичні щодо кількох активів
Законодавці також хочуть знати, як користувачів інформують про ризики дезінформації та часові рамки для виправлення або видалення неправдивої інформації.
Функція Google AI Overviews використовує модель Gemini AI для отримання інформації зі сторінок із найвищим рейтингом і надання підсумку з посиланнями. Однак цю функцію звинуватили у видачі неправильної та оманливої інформації. Деякі з прикладів включають пораду людям споживати камені для отримання вітамінів і схвалення релігії Барака Обами.
Останні суперечки висвітлюють проблеми з контентом, створеним штучним інтелектом
У травні 2024 року Google розкритикували невдовзі після випуску AI Overviews у США через те, що функція пропонувала додавати клей до піци, щоб сир прилипав. На момент преси Google не дала прямої відповіді на лист законодавців.
У дописі в блозі Ліз Рейд, віце-президент Google і керівник відділу пошуку, також пояснила, що були проблеми з функцією AI Overviews. Рід зазначив, що одна з проблем штучного інтелекту полягає в тому, що він погано працює, коли запити не підкріплені достатньою кількістю високоякісних даних. Вона зазначила, що коли користувач вводить конкретну або рідкісну тему або тему, яка містить сатиру, наприклад, ШІ вибиратиме відповіді з обмежених джерел, які він має, і іноді джерела не заслуговують довіри.
Також точаться дискусії щодо фінансових наслідків для видавців. Пошукові системи на основі штучного інтелекту, такі як Google, можуть представляти зведення вмісту з різних джерел, не спрямовуючи трафік назад до авторів, що може вплинути на їхній дохід. Це призвело до законодавчих дій, таких як у Каліфорнії, де законодавці виступають за оплату видавцям, коли технологічні компанії використовують їхній контент.
