TLDR

  • AI digunakan untuk meningkatkan berbagai jenis penipuan, termasuk kloning suara, phishing yang dipersonalisasi, penipuan identitas, dan pemerasan deepfake

  • Morgan Freeman telah menentang peniruan suara AI yang tidak sah terhadap dirinya sendiri

  • Selebriti seperti Scarlett Johansson dan Drake menghadapi masalah dengan konten buatan AI yang meniru suara mereka

  • Ada kekhawatiran yang semakin besar di industri hiburan mengenai penyalahgunaan teknologi AI

  • Para ahli merekomendasikan praktik terbaik kewaspadaan dan keamanan siber untuk melindungi dari penipuan yang didukung AI

Seiring kemajuan teknologi kecerdasan buatan (AI), penipu menemukan cara baru untuk mengeksploitasinya untuk tujuan jahat.

Dari kloning suara hingga pemerasan palsu, penipuan yang didukung AI menjadi lebih canggih dan sulit dideteksi.

Pada saat yang sama, para selebritas juga menentang penggunaan suara dan kemiripan mereka secara tidak sah dalam konten yang dihasilkan AI.

Salah satu penipuan AI yang paling memprihatinkan melibatkan kloning suara keluarga dan teman. Penipu kini dapat membuat versi palsu yang meyakinkan dari suara orang-orang terkasih hanya dengan menggunakan audio beberapa detik.

Suara-suara sintetis ini dapat digunakan untuk membuat panggilan darurat palsu yang meminta uang atau bantuan. Para ahli menyarankan untuk berhati-hati terhadap panggilan tak terduga dari nomor tak dikenal dan memverifikasi identitas penelepon melalui saluran komunikasi normal.

Email phishing dan spam yang dipersonalisasi adalah ancaman lain yang semakin meningkat. Model bahasa AI kini dapat menghasilkan pesan spam yang disesuaikan menggunakan informasi pribadi yang diperoleh dari pelanggaran data.

Pesan yang disesuaikan ini jauh lebih meyakinkan dibandingkan spam umum tradisional. Pengguna disarankan untuk tetap waspada dan menghindari mengklik tautan atau membuka lampiran dari sumber yang mencurigakan, meskipun pesan tersebut terkesan dipersonalisasi.

Penipuan identitas juga menjadi lebih canggih dengan AI. Penipu kini dapat membuat persona AI yang terdengar seperti orang yang menjadi sasaran dan memiliki akses ke banyak fakta pribadi yang digunakan untuk verifikasi identitas.

Hal ini memudahkan mereka untuk menyamar sebagai individu saat menghubungi layanan pelanggan. Para ahli merekomendasikan penggunaan autentikasi multifaktor dan berhati-hati terhadap aktivitas akun yang mencurigakan.

Mungkin perkembangan yang paling mengkhawatirkan adalah penggunaan deepfake yang dihasilkan oleh AI untuk pemerasan.

Model pembuatan gambar tingkat lanjut kini dapat membuat gambar telanjang palsu yang realistis dari hampir semua orang, yang dapat digunakan oleh penipu sebagai alat pemerasan. Meskipun ini merupakan tren yang meresahkan, para ahli mencatat bahwa gambar palsu ini sering kali tidak memiliki ciri khas dan mungkin memiliki kekurangan yang jelas. Para korban disarankan untuk melaporkan kejadian tersebut kepada pihak berwajib.

Industri hiburan sangat terpengaruh oleh peniruan AI yang tidak sah.

Baru-baru ini, aktor Morgan Freeman menentang tiruan suara AI dirinya yang beredar di media sosial. Dalam sebuah pernyataan, Freeman berterima kasih kepada para penggemarnya atas “kewaspadaan dan dukungan mereka dalam menyerukan penggunaan A.I. suara yang meniruku.” Ia menekankan pentingnya menjaga “keaslian dan integritas” dalam menghadapi teknologi tersebut.

Terima kasih kepada penggemar saya yang luar biasa atas kewaspadaan dan dukungan Anda dalam menyerukan penggunaan A.I. suara meniruku. Dedikasi Anda membantu keaslian dan integritas tetap menjadi yang terpenting. Bersyukur.#AI#penipuan#imitasi#Perlindungan Identitas

— Morgan Freeman (@morgan_freeman) 28 Juni 2024

Freeman tidak sendirian dalam kekhawatirannya. Selebriti lain juga menghadapi masalah serupa dengan konten yang dihasilkan AI.

Tim hukum Scarlett Johansson baru-baru ini menantang OpenAI atas asisten suara pribadi AI yang terdengar sangat mirip dengan suaranya, meskipun dia menolak untuk berpartisipasi dalam proyek tersebut.

Rapper Drake juga menghadapi kontroversi karena menggunakan tiruan Tupac Shakur dan Snoop Dogg yang dihasilkan AI dalam sebuah lagu, yang menyebabkan perintah penghentian dan penghentian dari tanah milik Shakur.

Pos Morgan Freeman dan Selebriti Berbicara Melawan Peniruan AI yang Tidak Sah muncul pertama kali di Blockonomi.