Google samazina AI pārskatu prezentāciju dažos meklēšanas rezultātos. Lēmums tika pieņemts pēc tam, kad meklēšanas gigants pieļāva dažas publiskotas kļūdas, kas radīja publisku pretreakciju internetā.
Ceturtdien Google meklēšanas vadītāja Liza Reida atzina, ka uzņēmums ierobežo AI ģenerētos kopsavilkumus ar nosaukumu “AI pārskati”. Ar AI darbinātā funkcija tika kritizēta, kad tā sāka rādīt saturu, kas liek cilvēkiem ēst akmeņus un pielīmēt sieru picai.
Lasiet arī: Google, OpenAI un 13 citi apņemas neizvietot riskantu AI modeļus
Google sāka rādīt AI pārskatus saviem lietotājiem Amerikas Savienotajās Valstīs pirms divām nedēļām pēc ikgadējā I/O pasākuma, kura laikā tika ieviesti vairāki uz AI balstīti piedāvājumi. Sākot ar ceturtdienu, lietotāji pamanīja mazāk jautājumu, kā rezultātā tika saņemta AI atbilde.
Lai identificētu viltotus AI pārskatus, ir nepieciešama rūpīga analīze
Reids emuāra ziņā rakstīja, ka cilvēki sociālajos medijos kopīgoja AI pārskatu ekrānuzņēmumus, kuros tika ieteikti dīvaini risinājumi. Viņa sacīja, ka uzņēmuma mākslīgais intelekts ir pieļāvis dažas kļūdas, taču daudzas no tām bija viltotas un tās nekad nav radījušas Google AI sistēma.
Google AI pārskats iesaka picai līmēt sieru. Avots.
Viņa atzina, ka noteikti parādījās daži nepāra vai neprecīzi AI pārskati. Tajā tika uzsvērtas jomas, kurās šī funkcija ir jāuzlabo, taču tie nav bieži meklēti vaicājumi. Pamanot viltotos, viņa teica:
“Atsevišķi ir ticis plaši izplatīts liels skaits viltotu ekrānuzņēmumu. Daži no šiem viltotajiem rezultātiem ir bijuši acīmredzami un muļķīgi.
Reids sacīja, ka Google nerādīja AI pārskatus par tādām tēmām kā smēķēšana grūtniecības laikā vai suņu atstāšana automašīnās. Viņa mudināja lietotājus, kuri redzēja šos ekrānuzņēmumus sociālajos medijos, meklēt pašiem un pārbaudīt.
Google AI tagad var identificēt satīrisku saturu
Google atklāja, ka satīrisks saturs un nejēdzīgi vaicājumi ir jomas, kas jārisina, lai radītu neprecīzus AI pārskatus. Google teica, ka pirms vaicājuma “Cik akmeņu man vajadzētu ēst?” ekrānuzņēmumi. kļuva par vīrusu, neviens neuzdeva jautājumu. Reids teica, ka Google Trends var redzēt apstiprināšanai.
Lasiet arī: Opera integrē Google Gemini modeļus, lai uzlabotu Aria Browser AI
Vēl viens faktors ir tas, ka par konkrētu tēmu ir pieejams ļoti maz satura, ko sauc arī par datu neesību, kas arī ir iemesls neprecīziem AI pārskatiem. Attiecībā uz vaicājumu par akmeņu ēšanu Reids sacīja, ka satura satīriskais raksturs izraisīja AI pārskatu. Saturu pārpublicēja arī ģeoloģiskās programmatūras vietne, uz kuru bija saite AI pārskatā. Viņa precizēja,
"Tātad, kad kāds meklēja šo jautājumu, parādījās AI pārskats, kurā bija patiesi saite uz vienu no vienīgajām vietnēm, kurā tika risināts šis jautājums."
Reids nepieminēja citus AI pārskatus, kas bija pieejami sociālajos medijos, un daudzi lielie izdevēji arī publicēja ziņojumus par tiem. Piemēram, The Washington Post publicēja ziņojumu Google tīklā, stāstot cilvēkiem, ka Baraks Obama ir musulmanis. Izdevums arī ziņoja par citu gadījumu, kad Google AI pārskats kādam lietotājam teica, ka cilvēkiem jādzer urīns, lai palīdzētu izdalīties no nierakmeņiem.
Google ir apsēsts ar publiskiem forumiem
Google meklēšanas vadītājs atzīmēja, ka uzņēmums rūpīgi pārbaudīja šo funkciju pirms tās izlaišanas sabiedrībai. Viņa arī atzina, ka testēšanas fāzē ir grūti simulēt reālās pasaules lietošanas praksi, taču uzņēmums veica spēcīgu red-teaming un tipisku lietotāju vaicājumu izlasi.
Lasiet arī: Google AI kopsavilkuma funkcijai ir pretreakcija, salīdzinot ar neprecīziem rezultātiem
Daži lietotāji un interneta satura analītiķi atzīmē, ka Google nesen sāka rādīt daudzus rezultātus no publiskiem forumiem, piemēram, Reddit. Daži apšauba uzņēmuma darījumu ar Reddit, bet Google pārstāvis BBC sacīja, ka līgumā, lai nodrošinātu Reddit lielāku redzamību meklēšanas rezultātos, šādi nosacījumi nav iekļauti.
Lilija Reja, mārketinga aģentūras Amsive SEO stratēģijas un pētījumu viceprezidente, saka, ka tagad daudzi vaicājumi parāda Reddit rezultātus. Viņa arī izsmēja Google X ierakstā (iepriekš Twitter), sakot, ka visas pasaules zināšanas (Reddit saturs) ir apvienotas ar AI.
Dāmas un kungi, visas pasaules zināšanas apvienojumā ar mākslīgā intelekta spēku un vienu Reddit trolli. pic.twitter.com/jhzT2pGXjh
— Lilija Reja 😏 (@lilyraynyc) 2024. gada 21. maijs
Reids teica, ka AI pārskatos dažos piemēros ir ietverts sarkastisks saturs no diskusiju forumiem. Viņa sacīja, ka forumi ir labs tiešas informācijas avots, taču dažos gadījumos tie var izraisīt ne pārāk noderīgas atbildes, piemēram, siera līmēšanu picai.
Google AI arī nepareizi interpretē valodu, kā rezultātā AI pārskatos tiek sniegta nepareiza informācija, taču saskaņā ar uzņēmuma datiem šādu atbilžu attiecība ir ļoti zema. Rīds atzīmēja, ka viņi ātri atrisināja problēmas, veicot uzlabojumus vai noņemot atbildes, kas neatbilst Google politikai.
Google meklēšanas viceprezidents arī teica, ka pastāv spēcīgas margas tādām tēmām kā veselība un ziņas. Uzņēmums ir ieviesis jaunus iedarbināšanas uzlabojumus, lai uzlabotu veselības aizsardzību. Reids teica, ka noteikšanas sistēma ir atjaunināta arī bezjēdzīgiem vaicājumiem, lai tie netiktu rādīti kā AI pārskati. Viņa arī norādīja uz apstiprinājumu par mazāku AI pārskatu skaitu satīriskiem vaicājumiem, sakot: "Mēs atjauninājām savas sistēmas, lai ierobežotu lietotāju radīta satura izmantošanu atbildēs, kas varētu sniegt maldinošus padomus."
Aamir Sheikh kriptopolītu ziņojumi