Oficiul pentru Drepturi Civile (OCR) din Departamentul de Sănătate și Servicii Umane (HHS) a emis recent o regulă finală privind aplicabilitatea secțiunii 1557 din Legea privind îngrijirea la prețuri accesibile, care limitează orice programe de sănătate finanțate din dolari federali de la discriminarea pe criterii de rasă. , culoare, naționalitate, sex, vârstă sau dizabilitate.
Această regulă se aliniază cu decizia Bostock v. Clayton County Supreme Court din 2020, iar Secțiunea 1557 este înțeleasă ca o discriminare „pe bază de sex”, care include atât orientarea sexuală, cât și identitatea de gen. Ultima regulă a mai stabilit că, chiar și atunci când învățarea automată este aplicată într-o tehnologie bazată pe inteligență artificială, standardele de utilizare ale furnizorilor rămân în conformitate cu Secțiunea 1557. Prin urmare, li se cere să examineze și să abordeze orice riscuri potențiale de discriminare.
Evaluarea riscurilor de părtinire a AI
Conform regulii de guvernare, un „instrument de sprijinire a deciziei de îngrijire a pacienților” este orice configurație independentă sau combinată a oricărei tehnologii sau metode pe care o entitate acoperită o folosește pentru a ajuta la luarea deciziilor clinice. De exemplu, unii furnizori de instrumente pentru aplicațiile de îngrijire directă a pacienților includ algoritmi predictivi care pot evalua riscul pacientului și severitatea evenimentelor viitoare de sănătate, precum și motoare de analiză utilizate pentru a susține sau a respinge afirmațiile medicale pe baza necesității tratamentului.
OCR a declarat că, odată cu utilizarea unor astfel de instrumente și favorizând luarea deciziilor bazate pe inteligență artificială, situația fiecărui pacient trebuie reconsiderată. Mai multe studii au demonstrat că baza pe anumiți algoritmi a dus la disparități rasiale și etnice. Definiția de mai sus încapsulează vehicule automate și ajutoare neautomatizate, cum ar fi diagramele de flux. Prin urmare, tehnologia sănătății ar putea fi nedreaptă dacă persoanele cu dizabilități sunt împiedicate să obțină îngrijire egală, iar furnizorii nu iau în considerare caracteristicile individuale ale controlului de sănătate.
Eforturi rezonabile de prevenire a prejudecăților
Capacitatea entității acoperite de a-și asuma responsabilitatea suplimentară a consumatorului sau mijloacele sale financiare. Indiferent dacă produsele sunt produse cu intenția pentru utilizarea prevăzută, așa cum este aprobată de dezvoltatori și autorități de reglementare, indiferent de aspectul datelor, dezvoltatorii ar trebui să depună eforturi pentru a educa entitatea cu privire la riscul discriminării.
Fiți explicit dacă persoana vizată (în numele căreia acționează entitatea vizată) a urmat un proces sau dacă entitatea vizată (adică, o organizație care acționează în numele subiectului) a dezvoltat deja unul pentru evaluarea instrumentelor utilizate.
Regula diferă radical de vechea regulă conform căreia finanțarea Medicare Partea B este clasificată ca asistență federală dacă este acordată furnizorilor și furnizorilor. Reducerea ușoară a numărului de persoane care primesc fonduri din partea B și scutirea acestora de la cerințele Secțiunii 1557 le va face să respecte Secțiunea 1557 și alte reglementări privind drepturile civile implementate de biroul OCR.