Pemerintah Inggris dilaporkan tidak mencantumkan penggunaan sistem AI pada daftar wajib, sehingga menimbulkan kekhawatiran tentang masalah transparansi.
Menurut The Guardian, Sekretaris Teknologi sejak itu mengakui bahwa departemen tidak transparan mengenai penggunaan AI dan algoritma meskipun berbagai departemen pemerintah menggunakannya untuk berbagai tujuan.
Departemen pemerintah Inggris “tidak peduli” tentang penggunaan AI mereka
Artikel Guardian mengungkap bahwa tidak ada satu pun departemen yang mencantumkan penggunaan AI sejak pemerintah mengindikasikan bahwa hal itu akan menjadi kewajiban. Hal ini menimbulkan kekhawatiran bahwa sektor publik "tidak memperhatikan apa pun."
Hal ini terjadi karena departemen pemerintah di Inggris telah menggunakan AI, misalnya, untuk menginformasikan keputusan tentang segala hal mulai dari pembayaran tunjangan hingga penegakan hukum imigrasi. Menurut The Guardian, beberapa catatan menunjukkan bahwa badan publik memberikan kontrak untuk layanan algoritme AI.
Misalnya, badan pengadaan polisi baru-baru ini mengajukan kontrak untuk pengenalan wajah senilai $20 juta, yang semakin meningkatkan kekhawatiran tentang “pengawasan biometrik massal.”
Akan tetapi, hanya sembilan sistem algoritmik yang telah diserahkan ke daftar publik, tanpa ada program AI yang jumlahnya terus bertambah yang digunakan dalam sistem kesejahteraan oleh Kementerian Dalam Negeri atau oleh kepolisian. Pada bulan Februari, pemerintah Inggris mengumumkan bahwa penggunaan daftar AI sekarang akan menjadi "persyaratan bagi semua departemen pemerintah."
Ketika ditanya tentang kurangnya transparansi, Menteri Negara Bidang Sains dan Teknologi Peter Kyle mengakui bahwa sektor publik “belum cukup serius menanggapi kebutuhan untuk bersikap transparan dalam cara pemerintah menggunakan algoritma.”
“Saya menerima bahwa jika pemerintah menggunakan algoritma atas nama publik, publik berhak mengetahuinya.”
Kyle, siapa yang paling cocok?
"Masyarakat perlu merasa bahwa algoritma ada untuk melayani mereka dan bukan sebaliknya. Satu-satunya cara untuk melakukannya adalah dengan bersikap transparan tentang penggunaannya," tambah Kyle.
Pemerintah Inggris mengabaikan peringatan
Menurut artikel The Guardian, para ahli memperingatkan tentang bahaya AI jika diadopsi tanpa pertimbangan yang matang, dengan contoh terbaru sistem TI yang tidak berfungsi sebagaimana mestinya, termasuk perangkat lunak Horizon milik Kantor Pos.
Penggunaan teknologi AI di Whitehall mencakup mulai dari sistem Copilot Microsoft hingga pemeriksaan penipuan dan kesalahan otomatis dalam sistem tunjangan. Pemberitahuan kontrak AI terbaru lainnya oleh Departemen Pekerjaan dan Pensiun (DWP) menggambarkan "menjamurnya minat dalam DWP, yang mencerminkan minat pemerintah dan masyarakat yang lebih luas."
Selain kepolisian, Kementerian Dalam Negeri juga menggunakan sistem penegakan hukum imigrasi yang didukung AI. Sistem ini, yang oleh para kritikus disebut sebagai "robot-caseworker," terlibat dalam pengambilan keputusan, termasuk memulangkan orang ke negara asal mereka.
Namun, pemerintah menggambarkannya sebagai sistem "berbasis aturan" yang berbeda dengan sistem AI karena tidak melibatkan pembelajaran mesin dari data. Menurut pemerintah, hal ini menghasilkan efisiensi meskipun manusia tetap bertanggung jawab atas setiap keputusan.
NHS Inggris juga dilaporkan menandatangani kontrak senilai 330 juta pound dengan Palantir untuk membangun platform data baru yang besar yang semakin meningkatkan kekhawatiran tentang privasi pasien. Palantir mengatakan pasien tetap memegang kendali atas data tersebut.
Kelompok kampanye hak privasi Big Brother Watch menyoroti bahwa munculnya kontrak pengenalan wajah polisi, meskipun anggota parlemen memperingatkan kurangnya undang-undang untuk mengaturnya, menunjukkan kurangnya transparansi pemerintah atas penggunaan teknologi AI.
“Penggunaan AI dan algoritma secara rahasia untuk memengaruhi kehidupan orang-orang membahayakan hak data setiap orang,” kata Madeleine Stone, kepala petugas advokasi.
“Departemen pemerintah harus terbuka dan jujur tentang cara mereka menggunakan teknologi ini.”
Batu.
Direktur asosiasi di badan penelitian data dan AI, Imogen Parker juga menyatakan kekhawatirannya atas kurangnya transparansi.
“Kurangnya transparansi tidak hanya membuat publik tidak tahu apa-apa, tetapi juga berarti sektor publik tidak bisa memanfaatkan AI secara maksimal.”
Parker.
“Kegagalan dalam menerbitkan catatan transparansi algoritmik membatasi kemampuan sektor publik untuk menentukan apakah alat-alat ini berfungsi, belajar dari apa yang tidak berfungsi, dan memantau berbagai dampak sosial dari alat-alat ini,” tambah Parker.
Dari Nol hingga Web3 Pro: Rencana Peluncuran Karier Anda dalam 90 Hari