Biuro Praw Obywatelskich (OCR) w Departamencie Zdrowia i Opieki Społecznej (HHS) wydało niedawno ostateczną zasadę dotyczącą stosowania sekcji 1557 ustawy o niedrogiej opiece zdrowotnej, która ogranicza wszelkie programy zdrowotne finansowane z dolarów federalnych przed dyskryminacją ze względu na rasę , kolor skóry, narodowość, płeć, wiek lub niepełnosprawność.

Zasada ta jest zgodna z orzeczeniem Sądu Najwyższego hrabstwa Bostock przeciwko Clayton z 2020 r., a art. 1557 jest rozumiany jako dyskryminacja „ze względu na płeć”, która obejmuje zarówno orientację seksualną, jak i tożsamość płciową. Ostatnia zasada dodatkowo stanowiła, że ​​nawet jeśli uczenie maszynowe jest stosowane w technologii opartej na sztucznej inteligencji, standardy stosowania dostawców pozostają zgodne z sekcją 1557. W związku z tym są oni zobowiązani do zbadania i zajęcia się wszelkim potencjalnym ryzykiem dyskryminacji.

Ocena ryzyka stronniczości AI

Zgodnie z zasadami zarządzania „narzędzie wspomagające podejmowanie decyzji dotyczących opieki nad pacjentem” to dowolna samodzielna lub połączona konfiguracja dowolnej technologii lub metody stosowanej przez podmiot objęty do wspomagania podejmowania decyzji klinicznych. Na przykład niektórzy dostawcy narzędzi do zastosowań w bezpośredniej opiece nad pacjentem obejmują algorytmy predykcyjne, które mogą oceniać ryzyko pacjenta i ciężkość przyszłych zdarzeń zdrowotnych, a także silniki analityczne stosowane do potwierdzania lub odrzucania twierdzeń medycznych na podstawie konieczności leczenia. 

OCR stwierdziło, że w związku z wykorzystaniem takich narzędzi i faworyzowaniem podejmowania decyzji w oparciu o sztuczną inteligencję, należy ponownie rozważyć sytuację każdego pacjenta. Kilka badań wykazało, że poleganie na określonych algorytmach prowadziło do dysproporcji rasowych i etnicznych. Powyższa definicja obejmuje pojazdy zautomatyzowane i niezautomatyzowane pomoce, takie jak schematy blokowe. Technologia medyczna mogłaby zatem być niesprawiedliwa, gdyby osobom niepełnosprawnym uniemożliwiano korzystanie z takiej samej opieki, a świadczeniodawcy nie uwzględniali indywidualnych cech oceny stanu zdrowia.

Rozsądne wysiłki mające na celu zapobieganie stronniczości

Zdolność podmiotu objętego do przejęcia dodatkowej odpowiedzialności konsumenckiej lub jego środków finansowych. Niezależnie od tego, czy produkty są produkowane z przeznaczeniem zgodnym z ich przeznaczeniem, zatwierdzonym przez twórców i organy regulacyjne, niezależnie od układu danych, deweloperzy powinni starać się edukować podmiot w zakresie ryzyka dyskryminacji.

Należy wyraźnie określić, czy osoba, której dane dotyczą (w imieniu której działa podmiot objęty) postępowała zgodnie z procesem lub czy podmiot objęty (tj. organizacja działająca w imieniu podmiotu) opracował już proces służący do oceny wykorzystanych narzędzi.

Zasada ta radykalnie różni się od poprzedniej zasady, zgodnie z którą finansowanie Medicare Część B jest klasyfikowane jako pomoc federalna, jeśli jest udzielana świadczeniodawcom i dostawcom. Nieznaczne zmniejszenie liczby osób otrzymujących fundusze z Części B i zwolnienie ich z wymogów wynikających z sekcji 1557 sprawi, że będą one zgodne z sekcją 1557 i innymi przepisami dotyczącymi praw obywatelskich wdrażanymi przez biuro OCR.