Google mengurangi presentasi Ikhtisar AI di beberapa hasil pencarian. Keputusan ini diambil setelah raksasa pencarian tersebut melakukan beberapa kesalahan publikasi yang menimbulkan reaksi publik di internet.
Pada hari Kamis, Liz Reid, Kepala Google Penelusuran, mengakui bahwa perusahaan membatasi ringkasan yang dihasilkan AI yang disebut “Ikhtisar AI”. Fitur bertenaga AI ini dikritik ketika mulai menampilkan konten yang menyuruh orang makan batu dan merekatkan keju ke pizza mereka.
Baca juga: Google, OpenAI, dan 13 Lainnya Berjanji untuk Tidak Menerapkan Model AI yang Berisiko
Google mulai menampilkan Ikhtisar AI kepada penggunanya di Amerika Serikat dua minggu lalu setelah acara I/O tahunannya, di mana Google meluncurkan beberapa penawaran berbasis AI. Mulai Kamis dan seterusnya, pengguna melihat lebih sedikit pertanyaan, sehingga menghasilkan respons AI.
Mengidentifikasi Ikhtisar AI Palsu Membutuhkan Analisis yang Cermat
Reid menulis dalam postingan blog bahwa orang-orang di media sosial membagikan tangkapan layar Ikhtisar AI yang menyarankan solusi aneh. Dia mengatakan AI perusahaan membuat beberapa kesalahan, namun banyak yang palsu dan tidak pernah dibuat oleh sistem AI Google.
Ikhtisar AI Google menyarankan menempelkan keju ke pizza. Sumber.
Dia mengakui bahwa beberapa Ikhtisar AI yang aneh atau tidak akurat memang muncul. Ini menyoroti area di mana fiturnya perlu ditingkatkan, tetapi itu bukan kueri yang umum dicari. Memperhatikan yang palsu, dia berkata,
“Terpisah, ada banyak tangkapan layar palsu yang dibagikan secara luas. Beberapa dari hasil palsu ini terlihat jelas dan konyol.”
Reid mengatakan Google tidak menampilkan Ikhtisar AI apa pun untuk topik seperti merokok selama kehamilan atau meninggalkan anjing di dalam mobil. Dia mendorong pengguna yang melihat tangkapan layar tersebut di media sosial untuk mencari sendiri dan memeriksanya.
AI Google Kini Dapat Mengidentifikasi Konten Satir
Google mengidentifikasi bahwa konten satir dan pertanyaan tidak masuk akal adalah area yang perlu ditangani karena menghasilkan Ikhtisar AI yang tidak akurat. Google mengatakan hal itu sebelum tangkapan layar dari pertanyaan “Berapa banyak batu yang harus saya makan?” menjadi viral, tidak ada yang bertanya. Reid mengatakan, Google Trends bisa dilihat untuk konfirmasi.
Baca Juga: Opera Mengintegrasikan Model Gemini Google untuk Meningkatkan AI Browser Aria
Faktor lainnya adalah sangat sedikitnya konten yang tersedia mengenai topik tertentu, yang juga dikenal sebagai kekosongan data, yang juga menjadi penyebab tinjauan AI yang tidak akurat. Mengenai pertanyaan tentang pemakan batu, Reid mengatakan bahwa sifat satir dari konten tersebut memicu Tinjauan AI. Konten tersebut juga diterbitkan ulang oleh situs perangkat lunak geologi, yang ditautkan dengan Ikhtisar AI. Dia mengklarifikasi,
“Jadi ketika seseorang mengajukan pertanyaan itu ke dalam Penelusuran, Tinjauan AI muncul dan tertaut dengan tepat ke satu-satunya situs web yang menjawab pertanyaan tersebut.”
Reid tidak menyebutkan Ikhtisar AI lainnya yang beredar di media sosial, dan banyak penerbit besar juga menerbitkan laporan tentangnya. Misalnya, The Washington Post menerbitkan laporan di Google yang memberi tahu orang-orang bahwa Barack Obama adalah seorang Muslim. Publikasi tersebut juga melaporkan contoh lain di mana Google AI Review memberi tahu pengguna bahwa orang harus minum air seni untuk membantu mengeluarkan batu ginjal.
Google Memiliki Obsesi Dengan Forum Publik
Kepala pencarian Google mencatat bahwa perusahaan tersebut menguji fitur tersebut secara ekstensif sebelum meluncurkannya ke publik. Dia juga mengakui bahwa praktik penggunaan di dunia nyata sulit untuk disimulasikan dalam tahap pengujian, namun perusahaan melakukan tim merah yang kuat dan mengambil sampel kueri pengguna pada umumnya.
Baca juga: Fitur Ikhtisar AI Google Menghadapi Reaksi Atas Hasil yang Tidak Akurat
Beberapa pengguna dan analis konten internet mencatat bahwa Google baru-baru ini mulai menunjukkan banyak hasil dari forum publik seperti Reddit. Beberapa orang mempertanyakan kesepakatan perusahaan dengan Reddit, namun juru bicara Google mengatakan kepada BBC bahwa tidak ada persyaratan seperti itu yang menjadi bagian dari perjanjian untuk memberikan Reddit lebih banyak visibilitas dalam hasil pencarian.
Lily Ray, wakil presiden strategi dan penelitian SEO di Amsive, sebuah agen pemasaran, mengatakan bahwa sekarang, banyak pertanyaan menunjukkan hasil dari Reddit. Dia juga mengejek Google dalam postingan X (sebelumnya Twitter), mengatakan semua pengetahuan dunia (konten Reddit) digabungkan dengan AI.
Hadirin sekalian, semua pengetahuan dunia, digabungkan dengan kekuatan AI dan satu troll Reddit. pic.twitter.com/jhzT2pGXjh
— Lily Ray 😏 (@lilyraynyc) 21 Mei 2024
Reid mengatakan bahwa Ikhtisar AI menampilkan konten sarkastik dari forum diskusi dalam beberapa contoh. Dia mengatakan bahwa forum adalah sumber informasi langsung yang baik, namun dalam beberapa kasus, forum dapat memicu jawaban yang tidak terlalu membantu, seperti menempelkan keju ke pizza.
AI Google juga salah menafsirkan bahasa, sehingga menghasilkan informasi yang salah dalam Ikhtisar AI, namun rasio jawaban seperti itu sangat rendah, menurut perusahaan. Reid mencatat bahwa mereka menyelesaikan masalah dengan cepat melalui perbaikan atau dengan menghapus tanggapan yang tidak mematuhi kebijakan Google.
Wakil Presiden Google Penelusuran juga mengatakan ada batasan yang kuat untuk topik seperti kesehatan dan berita. Perusahaan telah meluncurkan penyempurnaan pemicu baru untuk meningkatkan perlindungan kualitas bagi kesehatan. Reid mengatakan bahwa sistem deteksi juga diperbarui untuk pertanyaan yang tidak masuk akal agar tidak menampilkannya sebagai ikhtisar AI. Dia juga mengisyaratkan konfirmasi mengenai berkurangnya Ikhtisar AI untuk pertanyaan yang bersifat satir, dengan mengatakan, “Kami memperbarui sistem kami untuk membatasi penggunaan konten buatan pengguna dalam tanggapan yang dapat memberikan saran yang menyesatkan.”
Pelaporan Cryptopolitan oleh Aamir Sheikh
