“Meskipun kami telah menerapkan perlindungan, sistem terkadang menghasilkan informasi yang salah atau menyesatkan dan menghasilkan konten yang menyinggung atau bias. Itu tidak dimaksudkan untuk memberi nasihat.”

– Penafian pembukaan OpenAI

Dan hal ini membawa kita pada ketakutan terbesar kita – apa yang terjadi ketika teknologi berbalik melawan kita? 

Apa yang terjadi jika teknologi diterapkan sebelum waktunya tanpa pengujian dan pengetahuan yang tepat di balik kemampuannya?

Awal bulan ini, OpenAI, perusahaan kecerdasan buatan (AI) yang paling banyak dibicarakan di dunia, baru saja menerima gugatan pencemaran nama baik yang pertama kali menunjukkan bahaya dari kemampuan ChatGPT yang tidak terkendali dalam menghasilkan hasil yang tidak memiliki dukungan faktual atau dukungan hukum.

Mark Walters, pembawa acara radio sindikasi nasional di Georgia, mengajukan gugatannya terhadap OpenAI pada tanggal 5 Juni dengan tuduhan bahwa chatbot bertenaga AI, ChatGPT, membuat tuntutan hukum terhadap dirinya. 

Pengaduan setebal 13 halaman merujuk pada jurnalis AmmoLand.com Fred Riehl dan permintaannya pada tanggal 4 Mei kepada ChatGPT untuk merangkum kasus hukum Yayasan Amandemen Kedua v. Ferguson, sebuah kasus federal yang diajukan ke pengadilan federal Washington yang menuduh Jaksa Agung negara bagian Bob Ferguson melakukan pelecehan. kekuasaannya dengan menghentikan aktivitas yayasan hak senjata dan memberikan chatbot OpenAI tautan ke gugatan tersebut. 

Meskipun Walter tidak disebutkan namanya dalam gugatan awal tersebut, ChatGPT menanggapi permintaan ringkasan Riehl dari Yayasan Amandemen Kedua, dengan menyatakan bahwa:

“...pengaduan hukum yang diajukan oleh Alan Gottlieb, pendiri dan wakil presiden eksekutif Second Amendment Foundation (SAF), terhadap Mark Walters, yang dituduh menipu dan menggelapkan dana dari SAF.”

Namun di sinilah keadaan menjadi terdistorsi dan berbahaya – tidak ada pernyataan ChatGPT mengenai Walters yang termasuk dalam keluhan SAF yang sebenarnya. 

“Keluhan” yang dihasilkan oleh AI ini juga menuduh bahwa Walters, yang menjabat sebagai bendahara dan kepala bagian keuangan organisasi, “menyalahgunaan dana untuk pengeluaran pribadi tanpa izin atau penggantian, memanipulasi catatan keuangan dan laporan bank untuk menyembunyikan aktivitasnya, dan gagal memberikan informasi yang akurat. dan laporan keuangan serta pengungkapan yang tepat waktu kepada pimpinan SAF.”

Sebagai bentuk keringanan, penggugat diduga meminta “pengembalian dana yang disalahgunakan, ganti rugi karena pelanggaran kewajiban fidusia dan penipuan, dan pemecatan Walter dari jabatannya sebagai anggota dewan direksi SAF.”

Namun, di sinilah letak masalahnya – menurut Walters, “[e]setiap pernyataan fakta dalam ringkasan [ChatGPT] yang berkaitan dengan [dia] adalah salah” dimana chatbot OpenAI bahkan membuat “nomor kasus yang salah.”

“Tuduhan ChatGPT mengenai Walters adalah salah dan jahat, diungkapkan dalam media cetak, tulisan, gambar, atau tanda, cenderung merusak reputasi Walter dan membuat dia dibenci, dihina, atau diejek publik,” demikian isi gugatan tersebut. “Dengan mengirimkan tuduhan kepada Riehl, [OpenAI] menerbitkan fitnah mengenai Walters.”

Jika Anda meminta ChatGPT untuk memberikan ringkasan gugatan SAF yang dikutip dalam pengaduan Walters, Anda mungkin juga mendapatkan tanggapan serupa dengan ini:

“Saya minta maaf, tetapi sebagai model bahasa AI, tanggapan saya didasarkan pada pengetahuan yang sudah ada hingga September 2021. Oleh karena itu, saya tidak dapat mengakses atau menjelajahi internet atau melihat dokumen atau tautan tertentu yang dipublikasikan setelah pengetahuan saya terputus. Akibatnya, saya tidak dapat memberikan ringkasan tuduhan dalam gugatan yang Anda sebutkan…[untuk] mendapatkan informasi tentang gugatan dan tuduhannya, saya sarankan untuk meninjau sendiri dokumen tersebut atau merujuk pada sumber berita tepercaya atau situs web hukum yang mungkin telah meliput kasus ini. Mereka dapat memberi Anda informasi yang akurat dan terkini mengenai tuntutan hukum spesifik yang Anda sebutkan.”

Meskipun OpenAI belum menanggapi komentar apa pun mengenai gugatan pencemaran nama baik yang sedang berlangsung, hal ini menimbulkan pertanyaan mengapa perusahaan AI tidak menekan lebih keras terhadap konsekuensi yang dapat diperkirakan dari kode yang jika dipikir-pikir, diterapkan secara lalai tanpa pengujian yang tepat. .

Kasusnya adalah Mark Walters v. OpenAI, LLC, cv-23-A-04860-2.

  • Anda dapat membaca keluhan Walter tanggal 5 Juni di sini. 

Di berita lainnya, baca tentang pertemuan Presiden AS Joe Biden dengan 8 pemimpin teknologi dalam mengatasi bias AI dan manfaat tenaga kerja.

Klik di sini untuk melihat galeri lengkap di Hypemoon