Úřad pro občanská práva (OCR) na ministerstvu zdravotnictví a sociálních služeb (HHS) nedávno vydal konečné pravidlo o použitelnosti paragrafu 1557 zákona o cenově dostupné péči, který omezuje jakékoli zdravotní programy financované federálními dolary před diskriminací na základě rasy. , barva, národnost, pohlaví, věk nebo postižení.

Toto pravidlo je v souladu s rozhodnutím Nejvyššího soudu okresu Bostock v. Clayton z roku 2020 a § 1557 je chápán jako diskriminace „na základě pohlaví“, která zahrnuje jak sexuální orientaci, tak genderovou identitu. Poslední pravidlo dále řešilo, že i když je strojové učení aplikováno v technologii využívající umělou inteligenci, používání standardů poskytovatelů zůstává v souladu s § 1557. Proto jsou povinni zkoumat a řešit veškerá potenciální rizika diskriminace.

Posouzení rizik zkreslení AI

Podle pravidla řízení je „nástroj na podporu rozhodování o péči o pacienty“ jakákoli samostatná nebo kombinovaná konfigurace jakékoli technologie nebo metody, kterou krytá jednotka používá k podpoře klinického rozhodování. Například někteří dodavatelé nástrojů pro aplikace přímé péče o pacienty zahrnují prediktivní algoritmy, které dokážou vyhodnotit riziko pacienta a závažnost budoucích zdravotních událostí, stejně jako analytické nástroje používané k potvrzení nebo popření lékařských tvrzení na základě nutnosti léčby. 

OCR uvedl, že s využitím těchto nástrojů a upřednostněním rozhodování na základě umělé inteligence musí být situace u každého pacienta přehodnocena. Několik studií ukázalo, že spoléhání se na určité algoritmy vedlo k rasovým a etnickým rozdílům. Výše uvedená definice zahrnuje automatizovaná vozidla a neautomatizované pomůcky, jako jsou vývojové diagramy. Zdravotní technologie by tak mohla být nespravedlivá, pokud by lidem se zdravotním postižením bylo bráněno v rovnocenné péči a poskytovatelé by nezohledňovali individuální charakteristiky zdravotní prohlídky.

Rozumné úsilí o prevenci zkreslení

Schopnost zahrnutého subjektu převzít dodatečnou spotřebitelskou odpovědnost nebo jeho finanční prostředky. Ať už jsou produkty vyráběny se záměrem pro jejich zamýšlené použití, jak je schváleno vývojáři a regulačními orgány, bez ohledu na rozložení dat by se vývojáři měli snažit subjekt poučit o riziku diskriminace.

Jasně uveďte, zda subjekt údajů (jehož jménem zahrnutá entita jedná) sledoval proces nebo zda zahrnutá entita (tj. organizace jednající jménem subjektu) již vyvinula nějaký proces pro hodnocení používaných nástrojů.

Pravidlo se radikálně liší od dřívějšího pravidla, že financování Medicare části B je klasifikováno jako federální pomoc, pokud je poskytnuto poskytovatelům a dodavatelům. Mírným snížením počtu osob přijímajících finanční prostředky podle části B a jejich vyjmutím z požadavků § 1557 budou splňovat § 1557 a další předpisy o občanských právech zavedené úřadem OCR.