AI menjadi alat untuk mempromosikan cyberbullying, terutama di kalangan remaja, sehingga membuat perlindungan menjadi lebih sulit.
Menurut Newsnationnow, pesatnya perkembangan kecerdasan buatan (AI) tidak hanya membawa peluang baru bagi industri, namun juga menimbulkan tantangan serius dalam melindungi privasi dan keamanan online. Salah satu permasalahan yang paling mengkhawatirkan adalah maraknya cyberbullying, khususnya di kalangan remaja.
Menurut laporan dari Family Online Safety Institute, platform jejaring sosial dan aplikasi perpesanan semakin menjadi lingkungan yang menguntungkan bagi penjahat untuk mengambil keuntungan, terus menguntit dan menyerang korbannya setelah mereka pulang sekolah atau bekerja.
Bapak Stephen Balkam, Direktur Eksekutif Family Online Safety Institute, AI tidak hanya memperumit masalah cyberbullying tetapi juga dapat menciptakan ancaman baru yang sulit dikendalikan.
Alat AI saat ini dapat dengan mudah mengedit gambar, video, dan bahkan membuat produk palsu yang tidak dapat dibedakan dengan kenyataan. Salah satu bentuk serangan yang umum adalah penggunaan AI untuk mentransplantasikan wajah seseorang ke dalam video porno atau mengedit gambar mereka untuk menghina dan mempermalukan. Hal ini tidak hanya meningkatkan tingkat penghinaan yang harus ditanggung oleh korban, namun juga menciptakan konsekuensi jangka panjang bagi kesehatan mental dan kehidupan pribadi mereka.
Menurut studi terbaru yang dilakukan Pew Research Center, sekitar 46% anak usia 13 hingga 17 tahun di AS pernah mengalami cyberbullying atau pelecehan.
Perilaku ini sering kali terkait dengan penampilan (yang merupakan proporsi terbesar), menyebarkan rumor palsu, atau mengirimkan gambar dan video seksual eksplisit. Situasi ini menjadi lebih serius seiring dengan semakin canggihnya alat AI, sehingga semakin sulit untuk mengidentifikasi gambar palsu.
Masalah cyberbullying menjadi semakin serius.
Dalam sebuah survei, hanya sekitar 50% orang tua dan remaja yang dapat membedakan antara gambar asli dan gambar palsu yang dibuat oleh AI, hal ini menunjukkan perlunya alat pendukung identifikasi dalam mencegah pelanggaran.
Salah satu solusi yang diajukan para ahli adalah membutuhkan alat AI yang mampu membuat jejak identifikasi, sehingga membantu pengguna dengan mudah membedakan gambar atau video yang dibuat oleh AI. Hal ini tidak hanya membantu mewaspadai gambar palsu, namun juga dapat membatasi dampak negatifnya terhadap individu, terutama pada kelompok rentan seperti remaja.
Meskipun AI dapat memainkan peran positif dalam mendukung industri, tanpa kontrol yang ketat, teknologi ini juga dapat menjadi alat yang merugikan. Oleh karena itu, pihak berwenang, perusahaan teknologi, dan masyarakat perlu bekerja sama untuk mengembangkan peraturan dan alat pendukung untuk melindungi pengguna dari risiko yang dapat ditimbulkan oleh AI.