Un grup de parlamentari din Statele Unite, condus de reprezentantul Adam Schiff, i-au acordat lui Sundar Pichai, CEO-ul Alphabet/Google, un termen limită de 1 august pentru a accepta cererea de informații referitoare la caracteristica „AI Overview” a companiei pentru Căutare.
Prezentare generală AI este o fereastră de rezumat care se prezintă în partea de sus a paginilor de căutare Google atunci când un utilizator face o interogare. De obicei, conține un răspuns text scurt, o imagine dacă este relevant și link-uri de susținere.
Potrivit biroului lui Schiff, citând numeroase rapoarte, AI Overview are tendința de a scoate informații incorecte și/sau potențial periculoase.
Plângerea, publicată de biroul lui Schiff și cosemnată de alți patru membri ai congresului, solicită răspunsuri la unsprezece întrebări despre caracteristica legată de eforturile companiei de a asigura o mai mare acuratețe și siguranță.
Prezentare generală a AI
Unele dintre problemele legate de AI Overview provin din aparenta incapacitate a acestuia de a determina dacă o anumită sursă este satira sau nu. „Funcția Google AI Overviews le-a spus utilizatorilor să mănânce cel puțin o piatră pe zi pentru vitamine și minerale”, au scris Schiff și ceilalți membri ai congresului, adăugând că AI citează site-ul de știri satirice „The Onion”.
În alte cazuri, cum ar fi atunci când utilizatorii au început să raporteze că prezentarea AI susținea că Barack Obama a fost primul președinte musulman al SUA, sistemul AI a citat direct teoriile conspirației dezmințite.
Scrisoarea lui Schiff a recunoscut eforturile continue ale Google de a combate dezinformarea, dar a afirmat că trebuie făcut mai mult:
„Apreciem eforturile Google de a remedia aceste erori prin îmbunătățirea funcției prin testare continuă, eliminarea răspunsurilor care încalcă politicile de conținut ale companiei și etichetând răspunsurile generate de AI ca experimentale. Cu toate acestea, trebuie făcut mai mult pentru a se asigura în mod adecvat că Google poate rămâne o sursă de informații de încredere și de încredere pentru americani.”
Raționamentul AI
Până acum, nu există un consens științific că aceste tipuri de probleme pot fi de fapt rezolvate. Esența problemei este că AI nu „gândește” sau „raționează”, în ciuda faptului că ambii termeni sunt utilizați în mod obișnuit în marketingul produselor AI.
Sistemele AI generative imită vorbirea umană, dar nu au capacitatea de a înțelege contextul sau de a aplica experiența acumulată într-o situație.
Aceste probleme sunt de mult remarcate în domeniu și au fost observate în modelele de limbă mari timpurii, cum ar fi GPT-2 de la OpenAI și sistemul „Galactica” acum defunct al Meta, care a fost eliminat după doar trei zile din cauza reacției create de lansarea sa.
cererile SUA
Pentru a înțelege mai bine eforturile Google, Schiff și colegii săi parlamentari au cerut ca Pichai și Google să răspundă până la 1 august cu răspunsuri la o listă de 11 întrebări. Acestea includ întrebări despre procedurile de clasare ale companiei, verificarea automată a faptelor, acuratețea, aprovizionarea, transparența și modul în care lucrează cu autoritățile pentru a asigura siguranța.
Înrudit: întreruperea datelor Microsoft Windows doboară marile firme financiare, provoacă haos în călătorii