Beberapa anggota Dewan Perwakilan AS, yang dipimpin oleh Rep. Adam Schiff, meminta Google untuk menjelaskan fitur Ikhtisar AI-nya. Alat ini, terintegrasi ke dalam mesin pencari Google, merangkum informasi menggunakan AI.
Schiff dan anggota parlemen lainnya menulis kepada CEO Google Sundar Pichai tentang ketidakakuratan dan bahaya fitur tersebut. Surat tersebut lebih lanjut menyatakan bahwa AI telah menarik informasi dari situs-situs satir dan mengutip teori konspirasi yang telah lama dibantah, memberikan informasi yang salah kepada pengguna yang tidak menaruh curiga.
Surat tersebut menimbulkan kekhawatiran mengenai misinformasi
Schiff menggarisbawahi risiko informasi palsu, khususnya dengan latar belakang Google sebagai sumber utama berita dan informasi kesehatan bagi banyak orang Amerika. Surat tersebut juga ditandatangani oleh Perwakilan Henry C. Johnson, Jr. (D-Ga. ), Donald S. Beyer Jr. (D-Va. ), Pramila Jayapal (D-Wash. ), dan Lori Trahan (D-Mass . ), meminta klarifikasi pada beberapa aspek fitur Ikhtisar AI.
Baca Juga: Narasi AI semakin cepat, sentimen beralih ke bullish di beberapa aset
Para pembuat undang-undang juga ingin mengetahui bagaimana pengguna mendapat informasi tentang risiko misinformasi dan jangka waktu untuk mengoreksi atau menghapus informasi palsu.
Fitur Ikhtisar AI Google menggunakan model AI Gemini untuk mengekstrak informasi dari halaman peringkat teratas dan memberikan ringkasan dengan tautan. Namun, fitur tersebut dituding memberikan informasi yang salah dan menyesatkan. Beberapa contohnya antara lain menasihati masyarakat untuk mengonsumsi batu untuk mendapatkan vitamin dan mendukung agama Barack Obama.
Kontroversi baru-baru ini menyoroti masalah konten yang dihasilkan AI
Pada bulan Mei 2024, Google mendapat kritik tak lama setelah peluncuran AI Review di AS karena fitur tersebut menyarankan penambahan lem pada pizza agar keju menempel. Saat berita ini dimuat, Google belum mengeluarkan tanggapan langsung terhadap surat anggota parlemen tersebut.
Dalam postingan blognya, Liz Reid, Wakil Presiden Google dan kepala pencarian, juga menjelaskan bahwa ada masalah pada fitur AI Review. Reid menunjukkan bahwa salah satu masalah yang dimiliki AI adalah kinerjanya tidak baik ketika pertanyaan yang diajukan tidak didukung oleh data berkualitas tinggi yang memadai. Ia mencontohkan, ketika pengguna memasukkan topik tertentu atau langka atau topik yang mengandung sindiran, misalnya, AI akan memilih jawaban dari sumber yang terbatas, dan terkadang sumber tersebut tidak dapat dipercaya.
Ada juga diskusi tentang konsekuensi finansial bagi penerbit. Mesin pencari berbasis AI seperti Google dapat menyajikan ringkasan konten dari berbagai sumber tanpa mengarahkan lalu lintas kembali ke pembuatnya, sehingga dapat memengaruhi pendapatan mereka. Hal ini berujung pada tindakan legislatif seperti yang terjadi di California, di mana legislator menganjurkan pembayaran kepada penerbit ketika perusahaan teknologi memanfaatkan konten mereka.
