Sebagai bagian dari latihan pemantauan kecerdasan buatan yang ekstensif, ribuan penumpang kereta api yang tidak waspada di Inggris konon wajahnya telah dipindai dan emosi mereka diidentifikasi oleh perangkat lunak Rekognition Amazon yang kontroversial. Pengujian tersebut, yang dilakukan selama dua tahun sebelumnya di stasiun-stasiun utama, diawasi oleh operator kereta api Network Rail.
Sistem AI memperkirakan atribut seperti usia, jenis kelamin, dan keadaan emosi menggunakan foto dari kamera CCTV; makalah menunjukkan bahwa data ini pada akhirnya dapat digunakan untuk iklan bertarget. Para peneliti telah berulang kali memperingatkan bahwa alat analisis emosi ini menyusahkan dan tidak dapat diandalkan, dan pakar privasi telah menyatakan keprihatinan tentang “mengkhawatirkan” kurangnya keterbukaan dan konsultasi publik seputar penggunaannya.
Penyebaran Pengawasan Pengenalan Wajah
Eksperimen di Inggris hanyalah salah satu contoh tren global yang menyebar dengan cepat di mana lembaga pemerintah dan perusahaan bisnis menggunakan analisis video AI dan pengenalan wajah untuk memata-matai populasi besar. Analisis menyeluruh mengungkapkan bahwa teknologi yang kontroversial sedang digunakan atau telah disetujui untuk digunakan di lebih dari 100 negara di seluruh dunia.
Foto: Comparitech
Eropa
Tiga puluh dua negara Eropa telah mengizinkan atau menerapkan pengawasan pengenalan wajah. Pada tahun 2020, polisi London memperkenalkan kamera CCTV pengenalan wajah, yang juga melakukan penangkapan pertama dengan teknologi tersebut pada tahun yang sama. Di Jerman, dua belas bandara dan lebih dari 130 stasiun kereta api diperkirakan akan memasang pengenalan wajah. Reaksi terhadap penggunaan teknologi secara luas telah mengakibatkan larangan terhadap teknologi tersebut di sekolah-sekolah Swedia dan Prancis.
Foto: Surfshark
Amerika Utara
Amerika Serikat dan separuh negara Amerika Utara lainnya saat ini menggunakan teknologi pengenalan wajah untuk pengawasan. Pada tahun 2023, Departemen Keamanan Dalam Negeri ingin 97% wajah pelancong udara disimpan di database kepolisian, yang sudah memiliki wajah lebih dari 50% orang Amerika. Banyak lembaga kepolisian dan bandara telah menerapkannya; namun, karena masalah privasi, semakin banyak yurisdiksi AS, termasuk San Francisco, yang melarang penggunaannya.
Foto: Surfshark
Amerika Selatan
92% negara Amerika Selatan, termasuk Brasil dan Argentina, memiliki kepolisian yang telah menggunakan teknologi pengenalan wajah. Hanya dengan beberapa rekaman kamera saat acara besar, mereka mampu mengidentifikasi ratusan orang yang dicari. Salah satu buronan yang paling dicari di wilayah tersebut oleh Interpol ditangkap oleh pejabat Brasil dengan menggunakan teknologi.
Foto: Surfshark
Timur Tengah & Asia Tengah
Untuk mengidentifikasi orang-orang di tengah kerumunan, UEA baru-baru ini membeli kacamata pintar dengan teknologi pengenalan wajah terintegrasi. Teknologi yang memindai wajah penumpang untuk menggantikan tiket angkutan umum sedang diuji di Kazakhstan. Secara total, teknologi pemindaian pengenalan wajah saat ini beroperasi di 76% wilayah Timur Tengah dan Asia Tengah.
Foto: Surfshark
Oseania dan Asia
Dengan perkiraan kamera untuk setiap 12 orang yang tinggal di negara tersebut, Tiongkok adalah pemimpin dunia dalam penggunaan teknologi pengenalan wajah secara luas. Sejauh ini, pemerintah telah menjual teknologi mata-mata AI ke setidaknya enam belas negara asing. Di negara lain, Australia ingin memastikan usia sebelum mengizinkan akses ke pornografi internet, sementara Jepang bermaksud menggunakannya untuk membatasi kecanduan judi di kasino.
Foto: Surfshark
Afrika
Afrika memiliki tingkat penggunaan pengawasan pengenalan wajah terendah dibandingkan benua mana pun, yaitu 20% dari seluruh negara. Namun, jumlah ini diperkirakan akan meningkat karena negara-negara seperti Zimbabwe telah mencapai kesepakatan untuk menerima teknologi tersebut dari Tiongkok sebagai imbalan atas data biometrik yang akan meningkatkan akurasi sistem untuk berbagai kelompok etnis.
Foto: Surfshark
Uji Coba Pengakuan Inggris yang Diperebutkan
Dalam eksperimen stasiun kereta di Inggris, sistem Pengakuan yang kontroversial—yang terus dipromosikan oleh Amazon untuk tujuan pengawasan meskipun ada hambatan internal—digunakan untuk mencari rekaman kamera untuk mencari data wajah. Foto-foto tersebut diambil saat pengunjung melintasi “kabel trip virtual” di penghalang tiket, menurut dokumen yang diperoleh melalui permintaan kebebasan informasi. Gambar-gambar tersebut kemudian dikirimkan ke program untuk memperkirakan kualitas seperti usia dan jenis kelamin serta untuk mengidentifikasi emosi seperti kebahagiaan, kesedihan, atau kemarahan.
Studi tersebut mengamati pengukuran “kepuasan penumpang” dengan menggunakan data ini dan mungkin meningkatkan “pendapatan iklan dan ritel” di stasiun-stasiun. Namun para ilmuwan selalu memperingatkan bahwa menafsirkan emosi dari foto masih dipertanyakan dari sudut pandang ilmiah.
Eksperimen AI berkembang untuk mengeksplorasi berbagai kasus penggunaan yang berbeda, seperti mendeteksi pelanggaran, kepadatan penduduk, merokok, berteriak, dan berkeliaran, meskipun ada masalah nyata dengan validitas dan akurasi. Untuk memfasilitasi waktu reaksi yang lebih cepat, mereka berupaya untuk secara otomatis memberi tahu personel tentang risiko yang dirasakan dan “perilaku anti-sosial”.
Bahkan ketika teknologi pengenalan wajah tidak digunakan, organisasi privasi mempertanyakan kurangnya transparansi dan keterlibatan publik dalam pengawasan invasif tersebut. Salah satu dokumen penilaian risiko, dengan “sikap acuh tak acuh”, mempertanyakan, “Jika individu tertentu cenderung keberatan atau menganggapnya mengganggu?” sebelum mengabaikan kekhawatiran tersebut. Dan menjawab, “Secara umum, tidak, tetapi sebagian orang tidak memperhitungkannya.”
Menurut Jake Hurfurt, Kepala Penelitian di Big Brother Watch, yang memperoleh materi tersebut, pengenalan dan normalisasi pengawasan AI di lingkungan publik tanpa banyak diskusi atau partisipasi merupakan kecenderungan yang sangat mengkhawatirkan.
Network Rail berpendapat bahwa uji coba tersebut sesuai untuk menjaga keamanan dan mematuhi hukum yang berlaku. Mengenai masalah privasi tambahan atau deteksi emosi saat ini, operator kereta api belum menanggapi pertanyaan.
Diskusi Internasional: Apakah Semuanya Tepat
Diskusi global mengenai pelanggaran etika, akurasi, dan kebebasan sipil dipicu oleh pesatnya perkembangan pengenalan wajah dan analisis video AI untuk tujuan pengawasan oleh organisasi publik dan komersial. Kritikus telah mengarahkan perhatian pada potensi teknologi yang memungkinkan terjadinya prasangka baru, pengawasan yang mengganggu, dan erosi privasi meskipun para pendukungnya mengklaim bahwa teknologi tersebut meningkatkan keamanan dan efisiensi.
Penggunaan perangkat lunak Rekognition milik Amazon untuk secara diam-diam memindai dan menilai keadaan emosional penumpang kereta api di Inggris menimbulkan pertanyaan lebih dalam tentang pengawasan, persetujuan, dan batasan pengawasan AI di ruang publik.
Pos Membuka Kedok Kakak: Uji Coba Perangkat Lunak Pengakuan Amazon yang Kontroversial di Inggris muncul pertama kali di Metaverse Post.
