Bulan lalu, raksasa teknologi Apple Inc. mengambil langkah berani dan menghapus tiga aplikasi dari App Store-nya. Aplikasi ini bahkan mengeksploitasi alat pembelajaran mesin yang tersedia di AI dan mencoba membuat gambar non-konsensual tanpa persetujuan seseorang. Keputusan ini menyusul kekhawatiran bahwa aplikasi menggunakan iklan palsu di tempat-tempat seperti Instagram dan pornografi! Situs web.
Kasus Menyesatkan dalam Periklanan
Mereka yang mengklik iklan ini akan dikirim ke Apple App Store, dan aplikasi yang sama digambarkan sebagai “generator seni” tetapi tanpa referensi apa pun pada fakta bahwa aplikasi tersebut dapat menghasilkan gambar telanjang. Ini adalah celah lama di toko aplikasi seluler yang pertama kali diidentifikasi pada tahun 2022.
Melalui algoritme berbasis AI, aplikasi yang dituduh melakukan tindakan ini mengklaim membuka pakaian seseorang di foto, sehingga menimbulkan asumsi yang salah tentang ketelanjangan meskipun mereka tidak memiliki izin atau sepengetahuan subjeknya. Tindakan seperti ini tidak hanya melanggar privasi tetapi juga berpotensi menjadi sumber eksploitasi, pelecehan, dan pemerasan.
Sejumlah versi serupa dari iklan ini dengan berbagai wanita yang dihasilkan AI lainnya telah ditampilkan di Facebook, Instagram, Facebook Messenger, dan jaringan iklan dalam aplikasi Meta antara 10 April dan 20 April.
Setelah diberi tahu tentang aplikasi penipuan ini, Apple sebenarnya adalah orang pertama yang menghapusnya dari App Store. Meskipun mereka mengaku tidak bersalah, motif sebenarnya mereka diungkapkan oleh aplikasi yang memaksa Apple untuk menghapus aplikasi tersebut dan mematuhi standar komunitasnya. Hal ini jelas menunjukkan pengabdian Apple yang tak tergoyahkan dalam menciptakan ruang digital yang aman dan netral gender bagi semua orang.
Tantangan dan Akuntabilitas yang Berkelanjutan
Meskipun tindakan penanggulangan yang diambil oleh Apple patut dihormati, kejadian ini pada akhirnya menimbulkan keraguan mengenai peninjauan aplikasi dan pemantauan metode periklanan. Fakta bahwa aplikasi-aplikasi ini sudah lama tidak diketahui di App Store hanya menggarisbawahi perlunya kehati-hatian dan tindakan aktif untuk mendeteksi dan menghilangkan aplikasi-aplikasi palsu.
Selain itu, pengembang menerapkan metode licik untuk mempromosikan fitur ilegal mereka di situs dewasa yang memastikan tidak adanya deteksi oleh Apple dan Google. Kasus-kasus ini menggambarkan permasalahan yang dihadapi perusahaan teknologi dalam mengawasi platform mereka dan menegakkan pedoman komunitas.
Dengan pengungkapan beberapa proyek terkait AI oleh Apple di Worldwide Developers Conference (WWDC) 2023, akan sangat menarik untuk melihat langkah yang diprakarsai oleh perusahaan sehubungan dengan aplikasi ini. Bagian penting dari penerapan teknologi Apple yang bertanggung jawab adalah menjaga citra baik dalam perilaku etis dan tata kelola teknologi yang baik, yang merupakan hal penting mengingat meningkatnya penggunaan AI dalam produk-produk Apple.
Menghapus aplikasi-aplikasi ini akan menjadi contoh masalah etika dalam pengembangan dan penggunaan AI. Kekhawatiran kedua terkait pengembangan kemampuan AI adalah privasi pengguna. Selain itu, pengguna perlu dimintai izinnya, dan jaminan keselamatan mereka harus diberikan. Dengan memblokir aplikasi semacam itu, Apple menekankan perilaku etis di komunitasnya.
Sumber: 404
