L'Ufficio per i diritti civili (OCR) del Dipartimento della salute e dei servizi umani (HHS) ha recentemente emesso una norma finale sull'applicabilità della sezione 1557 dell'Affordable Care Act, che impedisce a qualsiasi programma sanitario finanziato con dollari federali di discriminare in base alla razza , colore, nazionalità, sesso, età o disabilità.
Questa regola è in linea con la decisione della Corte Suprema della contea di Bostock contro Clayton del 2020 e la Sezione 1557 è intesa come discriminazione “basata sul sesso”, che include sia l’orientamento sessuale che l’identità di genere. L’ultima regola ha inoltre stabilito che, anche quando l’apprendimento automatico viene applicato in una tecnologia basata sull’intelligenza artificiale, gli standard di utilizzo dei fornitori rimangono soggetti alla Sezione 1557. Pertanto, sono tenuti a esaminare e affrontare qualsiasi potenziale rischio di discriminazione.
Valutazione dei rischi di bias dell’IA
Secondo la regola di governance, uno “strumento di supporto decisionale per l’assistenza al paziente” è qualsiasi configurazione autonoma o combinata di qualsiasi tecnologia o metodo utilizzato da un’entità coperta per supportare il processo decisionale clinico. Ad esempio, alcuni fornitori di strumenti per applicazioni di cura diretta del paziente includono algoritmi predittivi in grado di valutare il rischio del paziente e la gravità di futuri eventi sanitari, nonché motori di analisi utilizzati per sostenere o negare le indicazioni mediche in base alla necessità del trattamento.
L’OCR ha affermato che con l’utilizzo di tali strumenti e favorendo il processo decisionale basato sull’intelligenza artificiale, la situazione di ogni paziente deve essere riconsiderata. Diversi studi hanno dimostrato che la dipendenza da determinati algoritmi ha portato a disparità razziali ed etniche. La definizione di cui sopra incapsula veicoli automatizzati e ausili non automatizzati come i diagrammi di flusso. La tecnologia sanitaria potrebbe quindi essere ingiusta se si impedisce alle persone con disabilità di ottenere pari cure e se i fornitori non tengono conto delle caratteristiche individuali del controllo sanitario.
Sforzi ragionevoli di prevenzione dei pregiudizi
La capacità dell'entità coperta di assumersi la responsabilità aggiuntiva del consumatore o i suoi mezzi finanziari. Se i prodotti sono realizzati con l'intenzione di utilizzare la loro destinazione d'uso come approvato dagli sviluppatori e dalle autorità di regolamentazione, indipendentemente dalla disposizione dei dati, gli sviluppatori dovrebbero sforzarsi di educare l'entità riguardo al rischio di discriminazione.
Sii esplicito riguardo al fatto se l'interessato (per conto del quale agisce l'entità interessata) ha seguito un processo o se l'entità interessata (ovvero un'organizzazione che agisce per conto dell'interessato) ne ha già sviluppato uno per valutare gli strumenti utilizzati.
La regola differisce radicalmente dalla regola precedente secondo cui il finanziamento Medicare Parte B è classificato come assistenza federale se concesso a fornitori e fornitori. Ridurre leggermente il numero di persone che ricevono fondi della Parte B ed esentarle dai requisiti della Sezione 1557 li renderà conformi alla Sezione 1557 e ad altre norme sui diritti civili implementate dall'ufficio OCR.