L'Office des droits civils (OCR) du ministère de la Santé et des Services sociaux (HHS) a récemment publié une règle finale sur l'applicabilité de l'article 1557 de la loi sur les soins abordables, qui limite la discrimination fondée sur la race dans tout programme de santé financé par des fonds fédéraux. , couleur, nationalité, sexe, âge ou handicap.
Cette règle est conforme à la décision de la Cour suprême du comté de Bostock c. Clayton en 2020, et l'article 1557 est compris comme une discrimination « fondée sur le sexe », qui inclut à la fois l'orientation sexuelle et l'identité de genre. La dernière règle précise en outre que même lorsque l’apprentissage automatique est appliqué à une technologie basée sur l’intelligence artificielle, les normes d’utilisation des fournisseurs restent régies par l’article 1557. Par conséquent, ils sont tenus d’examiner et de traiter tout risque potentiel de discrimination.
Évaluer les risques de biais de l’IA
Selon la règle de gouvernance, un « outil d’aide à la décision en matière de soins aux patients » est toute configuration autonome ou combinée de toute technologie ou méthode qu’une entité couverte utilise pour faciliter la prise de décision clinique. Par exemple, certains fournisseurs d’outils destinés aux applications directes de soins aux patients incluent des algorithmes prédictifs capables d’évaluer le risque pour le patient et la gravité d’événements de santé futurs, ainsi que des moteurs d’analyse utilisés pour approuver ou refuser des réclamations médicales en fonction de la nécessité du traitement.
L'OCR a déclaré qu'avec l'utilisation de tels outils et en favorisant la prise de décision basée sur l'IA, la situation de chaque patient doit être reconsidérée. Plusieurs études ont démontré que le recours à certains algorithmes entraînait des disparités raciales et ethniques. La définition ci-dessus englobe les véhicules automatisés et les aides non automatisées telles que les organigrammes. La technologie de la santé pourrait donc être injuste si les personnes handicapées ne peuvent pas bénéficier de soins égaux et si les prestataires ne prennent pas en considération les caractéristiques individuelles du bilan de santé.
Efforts raisonnables de prévention des préjugés
La capacité de l’entité couverte à assumer la responsabilité supplémentaire du consommateur ou ses moyens financiers. Que les produits soient fabriqués dans le but d'utiliser leur utilisation prévue, telle qu'approuvée par les développeurs et les régulateurs, quelle que soit la présentation des données, les développeurs doivent s'efforcer d'éduquer l'entité sur le risque de discrimination.
Indiquez explicitement si la personne concernée (au nom de laquelle l'entité couverte agit) a suivi un processus ou si l'entité couverte (c'est-à-dire une organisation agissant au nom de la personne) en a déjà développé un pour évaluer les outils utilisés.
La règle diffère radicalement de l’ancienne règle selon laquelle le financement Medicare Part B est classé comme aide fédérale s’il est accordé aux prestataires et aux fournisseurs. Réduire légèrement le nombre de personnes recevant des fonds de la partie B et les exempter des exigences de l'article 1557 les rendra conformes à l'article 1557 et aux autres réglementations sur les droits civils mises en œuvre par le bureau de l'OCR.