L’IA, en tant que domaine d’application en pleine croissance dans le secteur de la santé, est perçue à la fois de manière favorable et discutable. Les partenariats publics et les fonds importants des institutions suscitent de grands espoirs dans la technologie ; Cependant, les professionnels et les patients doutent encore que la technologie soit déjà suffisamment mature ou qu'elle puisse mettre en danger la santé des patients.
Les défis liés à l’acceptation par le public de l’IA dans le domaine de la santé
En tant que formidable acteur du changement, de nombreux géants et entreprises de l’informatique commencent à inclure l’IA générative dans les applications liées à la santé. Google et Highmark Health sont deux agences qui développent des outils uniques de processus d'admission des patients à des fins de personnalisation.
AWS d'Amazon est dédié à représenter des méthodes utilisant l'IA générative et à analyser une base de données médicale. De même, Microsoft Azure participe activement à la construction des systèmes qui assurent la communication entre les patients et les fournisseurs de produits de santé. AI poursuit des projets tels qu'Ambience Healthcare et Nabla dans le but d'élargir considérablement le rôle de l'IA à prendre en compte dans les contextes cliniques.
Le rapport de Deloitte n'est que l'une des enquêtes montrant que seuls 53 % des Américains envisageront d'utiliser l'IA générative pour améliorer les services de santé, malgré les récentes percées et avancées technologiques.
Le fait que les 47 % d’Américains restants n’aient toujours pas confiance dans l’IA générative en tant qu’outil permettant de réduire les coûts et d’améliorer l’accessibilité indique certaines lacunes importantes du marché.
Difficultés techniques et problèmes d’éthique
La fiabilité de l’IA générative dans le domaine de la santé est un sujet de tendance imminent, car des études montrent son imprévisibilité et ses inconvénients. Une étude du JAMA Pediatrics a montré un taux d’erreur élevé dans les diagnostics de maladies pédiatriques par les médecins de l’équipe rouge du ChatGPT d’OpenAI, et des études du Beth Israel Deaconess Medical Center ont observé des résultats similaires avec le GPT.
Dans la fonction médico-administrative, le benchmark MedAlign a révélé les déficiences du modèle concernant les activités quotidiennes. Cela a donné au modèle un taux d’échec de 35 %.
Ces questions datent de quelques mois où l'on croit que la possibilité de violation de ces droits pourrait surgir. Des études menées dans des domaines liés à la santé au sein de la Stanford Medicine suggèrent que la technologie émergente de l’IA pourrait renforcer les stéréotypes sociétaux susceptibles d’aggraver considérablement les inégalités en matière de santé.
La confidentialité des données, les risques de sécurité et l’évolution des lois associées à l’utilisation de l’IA dans le secteur de la santé signifient que son utilisation comporte plusieurs niveaux de complexité.
Des experts comme Andrew Borkowski du VA Sunshine Healthcare Network et Jan Egger de l’Université de Duisburg-Essen reconnaissent que des mécanismes robustes de validation et de réglementation pour les technologies émergentes d’IA générative devraient être mis en place.
Équilibrer l’innovation en matière d’IA et la surveillance des soins de santé
Ils soutiennent l’IA comme mesure de soutien plutôt que comme solution autonome, c’est pourquoi ils introduisent que chaque application est attentivement surveillée par des professionnels de la santé expérimentés.
Et suite à cela… les agences humanitaires de l’Organisation mondiale de la santé tentent d’améliorer les lignes directrices selon lesquelles la recherche et la validation des applications de l’IA pour les soins de santé devraient être rigoureuses et impliquer suffisamment d’humains pour un certain niveau de surveillance.
Cette recommandation vise à superviser le processus de mise en œuvre des technologies d’IA dans le but de les maintenir sûres et avantageuses pour les consommateurs. La transparence, l'audit indépendant et la diversité des parties prenantes participantes sont les mesures recommandées.
Le secteur de la santé est confronté à un problème à la croisée des chemins où l’IA joue un rôle plus important. Bien qu’il soit reconnu que l’IA a le potentiel de changer la manière dont les soins de santé sont dispensés, certains problèmes techniques, éthiques et réglementaires restent confrontés à l’utilisation de l’IA en médecine dans son déploiement.