Dengan berkembangnya teknologi AI, AI digunakan secara tidak etis dalam filter pemilu seperti yang ditunjukkan oleh ancaman dari pengaruh pemilu. Microsoft telah memperingatkan sebelumnya bahwa Tiongkok siap untuk mengutak-atik pemilu mendatang di India, A.S., dan Korea Selatan dan bahwa mereka sangat ingin menggunakan bantuan konten yang dihasilkan AI. Peringatan ini disebabkan oleh uji coba yang dilakukan Tiongkok baru-baru ini pada pemilihan presiden Taiwan, yang menggunakan AI untuk memengaruhi hasil pemungutan suara.
Peringatan dan penilaian Microsoft
Pakar intelijen ancaman Microsoft mengungkapkan bahwa Tiongkok kemungkinan besar menjadi negara di balik kelompok peretasan yang disponsori negara yang dapat menggunakan keterlibatan Korea Utara untuk mengakses sistem lembaga pemilu negara pada pemilu tahun 2024. Peringatan ini muncul setelah Tiongkok berupaya menggunakan AI pada pemilihan Presiden Taiwan untuk mempengaruhi hasil pemilu. Rencana tersebut diterapkan dengan teknologi AI karena konten yang dihasilkan AI seperti dukungan audio palsu dan meme membuat beberapa kandidat terlihat buruk atau memanipulasi persepsi pemilih.
Menurut pejabat Microsoft, konten yang dihasilkan AI dari Tiongkok menantang integritas pemilu AS, terutama pemilu penting seperti pemilihan presiden tahun 2024. Raksasa teknologi ini memperingatkan bahwa menciptakan “deepfake”, peristiwa fiksi, dan teknik penipuan lainnya dapat menipu masyarakat dan membahayakan kemampuan mereka untuk membuat keputusan yang masuk akal dan tepat.
Pengaruh AI dalam pemilu bukan hanya pengalaman Taiwan; Amerika Serikat juga telah melihat aktivitas AI Tiongkok di bidang politik. Kelompok-kelompok di Tiongkok konon telah melakukan kampanye disinformasi yang sama terhadap kelompok pemilih utama dan juga mengunggah materi partisan di media sosial. Namun, sebagian besar penelitian mengenai topik ini gagal memberikan banyak dukungan terhadap klaim mereka mengenai perubahan penting dalam opini publik.
Menjelang pemilihan pendahuluan Partai Demokrat di New Hampshire tahun 2024, sebuah pesan suara buatan AI yang meniru suara Presiden Joe Biden dirilis, mendorong para pemilih untuk tidak berpartisipasi dalam proses pemungutan suara. Meskipun terdapat anggapan bahwa situasi tersebut tidak ada kaitannya dengan Tiongkok, peristiwa tersebut menunjukkan bahaya yang lebih umum terhadap prosedur demokrasi yang ditimbulkan oleh AI.
Implikasinya terhadap pemilu di India
India yang akan menyelenggarakan pemilihan umum mulai tanggal 19 April juga tidak lepas dari bahaya campur tangan AI. Sangat jelas bahwa peringatan Microsoft menunjukkan bahwa karena meningkatnya serangan siber, diperlukan peningkatan kewaspadaan untuk melindungi integritas pemilu India dari serangan siber. Mengingat seluruh prosedur terdiri dari tujuh tahap mulai dari 19 April hingga 1 Juni, kekhawatiran akan adanya gangguan AI dalam proses pemungutan suara tampaknya sahih.
Salah satu tantangan terbesar yang dihadapi India sebagai negara demokrasi terbesar di dunia adalah menjaga integritas sistem pemilu dari campur tangan eksternal. Konten yang dihasilkan AI dapat digunakan untuk memanipulasi persepsi pemilih dan mengabaikan legitimasi pemilu, sehingga pada akhirnya menimbulkan ketidakpercayaan terhadap proses demokrasi.
Menyusul meningkatnya pemilu massal secara internasional, pemerintah, penyedia teknologi, dan organisasi hak asasi manusia harus mengatasi bahaya yang ditimbulkan oleh konten yang dihasilkan oleh AI. Untuk mengatasi hambatan ini diperlukan upaya yang saling berhubungan untuk mengambil tindakan drastis agar dapat mendeteksi dan menggagalkan penyebaran informasi palsu dengan cepat. Menjaga integritas dan transparansi proses pemilu harus menjadi agenda utama menjelang pemilu India mendatang. Kewaspadaan terhadap manipulasi AI dan peningkatan literasi digital, serta kesadaran pemilih merupakan pilar utama dalam mempertahankan demokrasi di era digital.
AI dalam mempengaruhi pemilu merupakan bahaya besar karena melemahkan fondasi demokrasi dan integritas proses pemilu. Melalui pemantauan berkelanjutan dan pendekatan reaktif, para pemangku kepentingan dapat bertindak bersama-sama untuk menghentikan penyebaran konten palsu dan membantu memastikan semangat demokrasi yang bersih.
Sumber: https://blogs.microsoft.com/on-the-issues/2024/04/04/china-ai-influence-elections-mtac-cybersecurity/
