AI sebagai area yang berkembang untuk penerapan di sektor layanan kesehatan mendapat persepsi positif dan dipertanyakan dari kedua belah pihak. Kemitraan publik dan dana besar dari lembaga-lembaga tersebut memicu harapan besar terhadap teknologi ini; namun para profesional dan pasien masih ragu apakah teknologi tersebut sudah cukup matang atau dapat membahayakan kesehatan pasien.
Tantangan dalam penerimaan masyarakat terhadap AI dalam layanan kesehatan
Sebagai pembuat perubahan yang luar biasa, banyak raksasa dan perusahaan IT mulai memasukkan AI generatif ke dalam aplikasi yang berhubungan dengan kesehatan. Google dan Highmark Health adalah dua lembaga yang mengembangkan alat proses penerimaan pasien unik untuk personalisasi.
AWS Amazon didedikasikan untuk mewakili metode menggunakan AI generatif dan menganalisis database medis. Demikian pula, Microsoft Azure secara aktif berpartisipasi dalam membangun sistem yang memediasi komunikasi antara pasien dan penyedia produk kesehatan. AI telah melakukan usaha seperti Ambience Healthcare dan Nabla untuk memperluas peran AI agar dapat diperhitungkan dalam lingkungan klinis.
Laporan Deloitte hanyalah salah satu survei yang menunjukkan bahwa hanya 53% orang Amerika akan mempertimbangkan penggunaan AI generatif untuk meningkatkan layanan kesehatan meskipun ada terobosan dan kemajuan teknologi baru-baru ini.
Fakta bahwa 47% penduduk Amerika lainnya masih tidak yakin dengan AI generatif sebagai alat untuk mengurangi biaya dan meningkatkan aksesibilitas menunjukkan adanya kesenjangan yang signifikan di pasar.
Kesulitan teknis dan masalah etika
Keandalan AI generatif dalam layanan kesehatan sedang menjadi topik tren, karena penelitian menunjukkan ketidakpastian dan kelemahannya. Sebuah penelitian JAMA Pediatrics menunjukkan tingkat kesalahan yang tinggi dalam diagnosis penyakit anak oleh dokter tim merah di ChatGPT OpenAI, dan penelitian di Beth Israel Deaconess Medical Center mengamati hasil serupa dengan GPT.
Dalam fungsi administrasi medis, benchmark MedAlign mengungkapkan kekurangan model dalam aktivitas sehari-hari. Ini memberi model tersebut tingkat kegagalan sebesar 35%.
Permasalahan ini merupakan bulan-bulan yang diyakini akan timbul kemungkinan terjadinya pelanggaran terhadap hak-hak tersebut. Studi dari Stanford Medicine yang berhubungan dengan kesehatan menunjukkan bahwa teknologi AI yang muncul dapat memperkuat stereotip masyarakat yang mungkin memperburuk kesenjangan kesehatan.
Privasi data, risiko keamanan, dan perubahan undang-undang yang terkait dengan penggunaan AI dalam layanan kesehatan berarti bahwa penggunaannya terdiri dari beberapa lapisan kompleksitas.
Para ahli seperti Andrew Borkowski dari VA Sunshine Healthcare Network dan Jan Egger dari Universitas Duisburg-Essen mengakui bahwa mekanisme validasi dan peraturan yang kuat untuk teknologi AI generatif yang sedang berkembang harus diterapkan.
Menyeimbangkan inovasi AI dan pengawasan layanan kesehatan
Mereka mendukung AI sebagai langkah pendukung dan bukan sebagai solusi mandiri. Oleh karena itu, mereka memperkenalkan bahwa setiap penerapan diawasi dengan cermat oleh para profesional medis berpengalaman.
Dan setelah ini…lembaga-lembaga kemanusiaan di Organisasi Kesehatan Dunia (WHO) berupaya untuk menyempurnakan pedoman yang menyatakan bahwa penelitian dan validasi penerapan AI untuk layanan kesehatan harus dilakukan secara ketat dan melibatkan cukup banyak manusia untuk melakukan pengawasan pada tingkat tertentu.
Rekomendasi ini bertujuan untuk mengawasi proses penerapan teknologi AI dengan tujuan menjaganya tetap aman dan bermanfaat bagi konsumen. Transparansi, audit independen dan keberagaman pemangku kepentingan merupakan langkah-langkah yang direkomendasikan.
Sektor layanan kesehatan menghadapi permasalahan di persimpangan dimana AI memainkan peran yang lebih besar. Meskipun AI diakui mempunyai potensi untuk mengubah cara pemberian layanan kesehatan, ada beberapa masalah teknis, etika, dan peraturan yang masih dihadapi dalam penerapan AI dalam bidang kedokteran.
