'Ekonomi niat' yang baru muncul menyimpan krisis
Menurut laporan dari Inggris (The Guardian), peneliti dari Universitas Cambridge baru-baru ini menerbitkan sebuah makalah yang memperingatkan bahwa alat kecerdasan buatan (AI) percakapan dapat segera 'secara diam-diam mempengaruhi' keputusan pengguna dalam industri bisnis baru yang disebut 'ekonomi niat'.
Penelitian ini menunjukkan bahwa pasar sinyal niat digital yang potensial, menguntungkan tetapi juga mengganggu sedang muncul, dan dapat mempengaruhi berbagai aktivitas dari membeli tiket film hingga memilih kandidat politik dalam waktu dekat. Penelitian menunjukkan bahwa orang semakin akrab dengan chatbot, mentor digital, dan agen AI 'yang dipersonalisasi' lainnya, yang membuka jalan bagi serangkaian 'teknik persuasi' baru.
Makalah ini menekankan bahwa AI akan mengintegrasikan pengetahuan kebiasaan online pengguna dan meningkatkan pemahaman serta kemampuan untuk memprediksi keinginan mereka, yang pada akhirnya akan membentuk 'tingkat kepercayaan dan pemahaman yang baru'.
Bagaimana AI menganalisis dan memanipulasi niat manusia?
Menurut ko-penulis Yaqub Chaudhary, alat AI telah dikembangkan untuk menarik, menyimpulkan, mengumpulkan, mencatat, memahami, memprediksi, dan akhirnya memanipulasi rencana serta niat manusia, dan mengkomodifikasinya.
Penelitian menunjukkan bahwa AI baru akan memanfaatkan model bahasa besar (LLM) untuk menganalisis nada, pandangan politik, kosakata, usia, jenis kelamin, sejarah online, bahkan preferensi untuk pujian dan pengakuan pengguna. Teknologi ini akan digabungkan dengan teknologi AI baru lainnya yang bertujuan untuk mencapai tujuan tertentu, seperti menjual tiket film atau mengarahkan percakapan ke platform, pengiklan, perusahaan, atau bahkan organisasi politik tertentu.
Penelitian ini menjelaskan bagaimana industri baru yang disebut 'ekonomi niat' menganalisis perhatian dan cara komunikasi pengguna, menghubungkan pola perilaku dan pilihan. Chaudhary menunjukkan: 'Alat kecerdasan buatan dapat digunakan untuk mencatat, mengumpulkan, menyimpulkan, memahami, memprediksi, dan akhirnya memanipulasi keputusan dan perilaku orang.'
Apa dampak dari 'ekonomi niat' yang tidak diatur?
Ko-penulis Jonnie Penn memperingatkan: 'Kecuali diatur, ekonomi niat akan menganggap motivasi Anda sebagai mata uang baru.' Ia menambahkan: 'Bagi mereka yang menargetkan, mengarahkan, dan menjual niat manusia, ini akan menjadi demam emas.' Penn menekankan pentingnya mempertimbangkan dampak potensial pasar semacam itu terhadap keinginan manusia, termasuk pemilihan yang bebas dan adil, berita yang bebas, dan persaingan pasar yang adil sebelum kita menjadi korban konsekuensi yang tidak terduga. Ia menunjukkan bahwa kesadaran publik terhadap masalah ini sangat penting untuk memastikan kita tidak mengambil jalan yang salah. Para peneliti memperingatkan bahwa tanpa pengelolaan, ini dapat mengarah pada 'manipulasi sosial skala industri' di masa depan.
Apa yang harus kita lakukan?
Penelitian ini mengungkapkan bahaya potensial dari teknologi AI dalam industri bisnis, terutama bagaimana itu dapat digunakan untuk mempengaruhi bahkan memanipulasi niat dan keputusan manusia. Para peneliti menyerukan regulasi terhadap 'ekonomi niat' untuk mencegah dampak negatifnya terhadap masyarakat. Selain itu, meningkatkan kesadaran publik terhadap masalah ini juga sangat penting, hanya ketika orang menyadari ancaman potensial ini, mereka dapat lebih baik melindungi diri dari manipulasi. Penelitian ini bukan hanya peringatan tentang perkembangan teknologi AI, tetapi juga pengingat penting tentang bagaimana melindungi otonomi individu dan keadilan sosial dalam dunia yang semakin didigitalisasi ini.
Baca lebih lanjut
Mengganggu pemilihan umum Amerika! Rusia, Iran, dan China menggunakan AI untuk campur tangan, bagaimana kita bisa mencegahnya?
'Hati-hati dengan AI! Cambridge memperingatkan: AI bisa digunakan untuk memanipulasi pikiran manusia, bagaimana kita melindungi otonomi?' Artikel ini pertama kali diterbitkan di 'Kota Kripto'