Fitur “Ikhtisar AI” Google yang baru-baru ini diluncurkan di Google Penelusuran mendapat kritik yang signifikan. Pengguna telah memposting banyak kasus di mana ringkasan AI menghasilkan respons yang tidak logis atau salah terhadap pencarian yang berbeda, tanpa ada cara untuk menonaktifkan layanan.
Baca juga: Ekstensi Chrome Baru Bertujuan untuk Meningkatkan Pengalaman Pencarian Google
Contoh terbaru termasuk nasihat yang meragukan mengenai praktik kuliner dan rekomendasi kesehatan, sehingga memicu gelombang kritik dan ejekan di media sosial.
Pengguna Mengungkapkan Respons Cacat pada Ikhtisar AI
Fitur baru, Ikhtisar AI, diluncurkan kurang dari dua minggu lalu dan dirancang untuk memberikan gambaran singkat atas pertanyaan yang diajukan. Misalnya, penelusuran tentang cara membersihkan sepatu bot kulit mungkin memberikan petunjuk yang bersumber dari berbagai situs web. Namun, pengguna telah melaporkan bahwa alat tersebut mungkin memberikan rekomendasi yang salah dan berpotensi membahayakan.
Baca juga: Akankah Pencarian AI Baru Google Merugikan Lalu Lintas Situs Web, Membuat Penerbit Khawatir?
Kesalahan lain yang dibuat oleh AI adalah menyatakan bahwa “Amerika Serikat mempunyai satu presiden Muslim, Barack Hussein Obama,” ketika ditanya berapa banyak presiden Muslim yang dimiliki AS.
Sumber: Benzinga
Saran lain yang berpotensi menimbulkan bahaya serius adalah penggunaan lem dalam pembuatan saus pizza agar keju tidak terlepas. Rekomendasi ini diketahui berasal dari komentar Reddit, sehingga meningkatkan kemungkinan AI mendapatkan informasi dari sumber yang tidak dapat diandalkan.
Google sudah mati tak tertandingi pic.twitter.com/EQIJhvPUoI
— PixelButts (@PixelButts) 22 Mei 2024
Rekomendasi keterlaluan lainnya termasuk menyatakan bahwa menatap matahari itu menyehatkan dan bahwa orang harus memasukkan batu ke dalam makanan mereka setiap hari. Beberapa permasalahan yang dikemukakan antara lain kesalahan sederhana seperti kesalahan pencacahan buah-buahan dan kesalahan penghitungan tanggal dalam sejarah.
Misattribusi Menodai Sumber yang Dapat Dipercaya
Ikhtisar AI juga dikritik karena salah mengutip sumber terpercaya dengan informasi yang salah. Misalnya, ia mengklaim:
“Menurut WebMD, para ilmuwan mengatakan bahwa menatap matahari selama 5-15 menit, atau hingga 30 menit jika Anda memiliki kulit lebih gelap, umumnya aman dan memberikan manfaat kesehatan paling banyak.”
Kesalahan atribusi seperti ini dapat merusak reputasi perusahaan-perusahaan terkemuka dan berpotensi membahayakan masyarakat umum. Saat ditanya apakah Google Penelusuran melanggar undang-undang antimonopoli atau tidak, AI Review menjawab:
“Ya, Departemen Kehakiman AS dan 11 negara bagian menuntut Google atas pelanggaran antimonopoli.”
Juru bicara Google Meghann Farnsworth mengatakan kesalahan tersebut berasal dari “pertanyaan yang umumnya sangat tidak umum dan tidak mewakili pengalaman kebanyakan orang.” Dia mengatakan bahwa kesalahan tersebut jarang terjadi dan menyatakan bahwa perusahaan secara aktif berupaya memperbaiki pelanggaran kebijakan konten. Bahkan dengan adanya jaminan ini, reaksi balik yang muncul masih menimbulkan pertanyaan mengenai isu-isu yang lebih luas mengenai peningkatan adopsi teknologi AI.
Paralel dengan Alat Penghasil Gambar Gemini, Fiasco Emerge
Kontroversi seputar Tinjauan AI mirip dengan masalah yang dihadapi alat pembuat gambar Gemini Google segera setelah peluncurannya pada bulan Februari karena salah tafsir dan hasil yang meragukan. Beberapa masalah yang disorot termasuk representasi sejarah yang salah dan sketsa yang tidak layak untuk digunakan, yang menyebabkan Google menghentikan pengoperasian alat tersebut dan melakukan perbaikan.
Persaingan di bidang AI generatif semakin ketat karena kehadiran pemain seperti Google, Microsoft, dan Open AI. Diperkirakan pasar alat dan agen kecerdasan buatan akan mencapai lebih dari satu triliun dolar AS pada dekade berikutnya. Persaingan yang ketat ini dapat menyebabkan penggunaan teknologi yang belum matang di pasar karena tekanan untuk mengeluarkan produk baru.
Baca juga: Google, OpenAI, dan 13 Lainnya Berjanji Untuk Tidak Menerapkan Model AI yang Berisiko
Google merupakan mesin pencari terpopuler di dunia dan hal ini membuatnya sangat rentan terhadap kritik. Saat ini, mesin pencari perusahaan mendominasi lebih dari 90% pangsa pasar global, yang berarti efektivitasnya sangat menentukan kepuasan pengguna dan model bisnis perusahaan.
