Pilsoņu tiesību birojs (OCR) Veselības un cilvēku pakalpojumu departamentā (HHS) nesen izdeva pēdējo noteikumu par Likuma par pieņemamu aprūpi 1557. panta piemērojamību, kas ierobežo jebkādas veselības programmas, ko finansē no federālajiem dolāriem, no diskriminācijas rases dēļ. , ādas krāsa, tautība, dzimums, vecums vai invaliditāte.
Šis noteikums atbilst 2020. gadā pieņemtajam Bostock v. Clayton County Supreme Court lēmumam, un 1557. sadaļa tiek saprasta kā diskriminācija “dzimuma dēļ”, kas ietver gan seksuālo orientāciju, gan dzimuma identitāti. Pēdējais noteikums arī noteica, ka pat tad, ja ar mākslīgo intelektu darbināmā tehnoloģijā tiek izmantota mašīnmācība, pakalpojumu sniedzēju lietošanas standarti paliek saskaņā ar 1557. pantu. Tāpēc viņiem ir jāpārbauda un jānovērš visi iespējamie diskriminācijas riski.
AI novirzes risku novērtēšana
Saskaņā ar pārvaldības noteikumu “pacientu aprūpes lēmumu atbalsta rīks” ir jebkura atsevišķa vai kombinēta jebkuras tehnoloģijas vai metodes konfigurācija, ko aptvertā organizācija izmanto, lai palīdzētu pieņemt klīniskus lēmumus. Piemēram, daži rīku piegādātāji tiešai pacientu aprūpes lietojumprogrammai ietver prognozēšanas algoritmus, kas var novērtēt pacienta risku un turpmāko veselības notikumu smagumu, kā arī analīzes dzinējus, ko izmanto, lai apstiprinātu vai noliegtu medicīniskās prasības, pamatojoties uz ārstēšanas nepieciešamību.
OCR norādīja, ka, izmantojot šādus rīkus un dodot priekšroku AI balstītai lēmumu pieņemšanai, situācija ar katru pacientu ir jāpārskata. Vairāki pētījumi parādīja, ka paļaušanās uz noteiktiem algoritmiem izraisīja rasu un etniskās atšķirības. Iepriekš minētajā definīcijā ir ietverti automatizēti transportlīdzekļi un neautomatizēti palīglīdzekļi, piemēram, blokshēmas. Tādējādi veselības tehnoloģijas varētu būt negodīgas, ja cilvēkiem ar invaliditāti tiek liegta vienlīdzīga aprūpe un pakalpojumu sniedzēji neņem vērā veselības pārbaudes individuālās īpašības.
Saprātīgi neobjektivitātes novēršanas pasākumi
Aptvertās vienības spēja uzņemties papildu patērētāja atbildību vai savus finanšu līdzekļus. Neatkarīgi no datu izkārtojuma izstrādātājiem ir jācenšas izglītot subjektu par diskriminācijas risku neatkarīgi no tā, vai produkti ir ražoti paredzētajam lietojumam, ko apstiprinājuši izstrādātāji un regulatori.
Skaidri norādiet, vai datu subjekts (kura vārdā darbojas aptvertā vienība) ir sekojis procesam vai arī aptvertā vienība (t.i., organizācija, kas darbojas subjekta vārdā) jau ir izstrādājusi vienu izmantoto rīku novērtēšanai.
Noteikums radikāli atšķiras no iepriekšējā noteikuma, ka Medicare B daļas finansējums tiek klasificēts kā federālā palīdzība, ja tas tiek piešķirts pakalpojumu sniedzējiem un piegādātājiem. Nedaudz samazinot to personu skaitu, kas saņem B daļas līdzekļus, un atbrīvojot tās no 1557. panta prasībām, tiks nodrošināta atbilstība 1557. panta prasībām un citiem OCR biroja ieviestajiem civiltiesību noteikumiem.