Kantor Hak Sipil (OCR) di Departemen Kesehatan dan Layanan Kemanusiaan (HHS) baru-baru ini mengeluarkan aturan akhir tentang penerapan pasal 1557 dari Undang-Undang Perawatan Terjangkau, yang membatasi program kesehatan apa pun yang didanai oleh dolar federal agar tidak melakukan diskriminasi berdasarkan ras. , warna kulit, kebangsaan, jenis kelamin, usia, atau kecacatan.
Aturan ini sejalan dengan keputusan Mahkamah Agung Bostock v. Clayton County pada tahun 2020, dan Pasal 1557 dipahami sebagai diskriminasi “berdasarkan jenis kelamin”, yang mencakup orientasi seksual dan identitas gender. Aturan terakhir lebih lanjut menetapkan bahwa meskipun pembelajaran mesin diterapkan dalam teknologi yang didukung kecerdasan buatan, standar penggunaan penyedia tetap berada di bawah Pasal 1557. Oleh karena itu, mereka diharuskan untuk memeriksa dan mengatasi potensi risiko diskriminasi.
Menilai risiko bias AI
Berdasarkan aturan tata kelola, “alat pendukung keputusan perawatan pasien” adalah konfigurasi yang berdiri sendiri atau gabungan dari teknologi atau metode apa pun yang digunakan oleh entitas yang dilindungi untuk membantu pengambilan keputusan klinis. Misalnya, beberapa pemasok alat untuk aplikasi perawatan pasien langsung mencakup algoritma prediktif yang dapat menilai risiko pasien dan tingkat keparahan kejadian kesehatan di masa depan, serta mesin analisis yang digunakan untuk mendukung atau menolak klaim medis berdasarkan kebutuhan pengobatan.
OCR menyatakan bahwa dengan pemanfaatan alat-alat tersebut dan mendukung pengambilan keputusan berbasis AI, situasi setiap pasien harus dipertimbangkan kembali. Beberapa penelitian menunjukkan bahwa ketergantungan pada algoritma tertentu menyebabkan kesenjangan ras dan etnis. Definisi di atas merangkum kendaraan otomatis dan bantuan non-otomatis seperti diagram alur. Oleh karena itu, teknologi kesehatan bisa menjadi tidak adil jika penyandang disabilitas tidak mendapatkan layanan yang setara, dan penyedia layanan kesehatan tidak mempertimbangkan karakteristik individu dari pemeriksaan kesehatan tersebut.
Upaya pencegahan bias yang masuk akal
Kemampuan entitas yang dilindungi untuk memikul tanggung jawab tambahan konsumen atau kemampuan finansialnya. Apakah produk tersebut diproduksi dengan tujuan untuk digunakan sebagaimana disetujui oleh pengembang dan regulator, terlepas dari tata letak datanya, pengembang harus berupaya untuk mendidik entitas mengenai risiko diskriminasi.
Bersikaplah eksplisit apakah subjek data (yang atas namanya entitas yang tercakup bertindak) telah mengikuti suatu proses atau apakah entitas yang tercakup (yaitu, organisasi yang bertindak atas nama subjek) telah mengembangkan suatu proses untuk mengevaluasi alat yang digunakan.
Aturan tersebut sangat berbeda dari aturan sebelumnya bahwa pendanaan Medicare Bagian B diklasifikasikan sebagai bantuan federal jika diberikan kepada penyedia dan pemasok. Mengurangi sedikit jumlah orang yang menerima dana Bagian B dan mengecualikan mereka dari persyaratan Pasal 1557 akan membuat mereka mematuhi Pasal 1557 dan peraturan hak-hak sipil lainnya yang diterapkan oleh kantor OCR.
