Sekelompok anggota parlemen Amerika Serikat, yang dipimpin oleh Perwakilan Adam Schiff, telah memberikan batas waktu kepada CEO Alphabet/Google Sundar Pichai pada tanggal 1 Agustus untuk menyetujui permintaan informasi terkait fitur “Ikhtisar AI” perusahaan untuk Penelusuran.

Ikhtisar AI adalah jendela ringkasan yang ditampilkan di bagian atas halaman Google Penelusuran saat pengguna membuat kueri. Biasanya berisi jawaban teks singkat, gambar jika relevan, dan tautan pendukung.

Menurut kantor Schiff, mengutip banyak laporan, Ikhtisar AI memiliki kecenderungan untuk menghasilkan informasi yang salah dan/atau berpotensi berbahaya.

Keluhan tersebut, yang diterbitkan oleh kantor Schiff dan ditandatangani bersama oleh empat anggota kongres lainnya, meminta jawaban atas sebelas pertanyaan tentang fitur tersebut terkait dengan upaya perusahaan untuk memastikan akurasi dan keamanan yang lebih baik.

Ikhtisar AI

Beberapa masalah dengan Ikhtisar AI berasal dari ketidakmampuannya untuk menentukan apakah suatu sumber merupakan sindiran atau bukan. “Fitur Ikhtisar AI Google memberi tahu pengguna untuk makan setidaknya satu batu sehari untuk mendapatkan vitamin dan mineral,” tulis Schiff dan anggota kongres lainnya, menambahkan bahwa AI mengutip situs berita satir “The Onion.”

Dalam kasus lain, seperti ketika pengguna mulai melaporkan bahwa ikhtisar AI mengklaim bahwa Barack Obama adalah presiden Muslim pertama AS, sistem AI secara langsung mengutip teori konspirasi yang telah dibantah.

Surat Schiff mengakui upaya berkelanjutan Google untuk memerangi misinformasi, namun menyatakan bahwa masih banyak yang harus dilakukan:

“Kami menghargai upaya Google untuk memperbaiki kesalahan ini dengan meningkatkan fitur melalui pengujian berkelanjutan, menghapus respons yang melanggar kebijakan konten perusahaan, dan memberi label respons yang dihasilkan AI sebagai respons eksperimental. Namun, masih banyak yang harus dilakukan untuk memastikan bahwa Google dapat tetap menjadi sumber informasi yang dapat dipercaya dan dapat diandalkan bagi masyarakat Amerika.”

Alasan AI

Hingga saat ini, belum ada konsensus ilmiah yang menyatakan bahwa masalah seperti ini dapat diselesaikan. Inti masalahnya adalah AI tidak “berpikir” atau “bernalar”, meskipun kedua istilah tersebut umum digunakan dalam pemasaran produk AI.

Sistem AI generatif meniru ucapan manusia tetapi tidak memiliki kemampuan untuk memahami konteks atau menerapkan pengalaman yang diperoleh pada suatu situasi.

Masalah-masalah ini sudah lama terjadi di lapangan dan terlihat pada model bahasa besar awal seperti GPT-2 OpenAI dan sistem “Galactica” milik Meta yang sekarang sudah tidak berfungsi, yang kemudian dihapus hanya dalam waktu tiga hari karena reaksi balik yang ditimbulkan oleh peluncurannya.

tuntutan AS

Untuk lebih memahami upaya Google, Schiff dan rekan-rekan anggota parlemennya menuntut agar Pichai dan Google merespons paling lambat tanggal 1 Agustus dengan jawaban atas daftar 11 pertanyaan. Hal ini mencakup pertanyaan tentang prosedur pemeringkatan perusahaan, pengecekan fakta otomatis, keakuratan, sumber daya, transparansi, dan cara perusahaan bekerja sama dengan pihak berwenang untuk memastikan keselamatan.

Terkait: Pemadaman data Microsoft Windows melumpuhkan perusahaan keuangan besar, menyebabkan kekacauan perjalanan