O Escritório de Direitos Civis (OCR) do Departamento de Saúde e Serviços Humanos (HHS) emitiu recentemente uma regra final sobre a aplicabilidade da seção 1557 da Lei de Cuidados Acessíveis, que limita quaisquer programas de saúde financiados por dólares federais de discriminar com base na raça , cor, nacionalidade, sexo, idade ou deficiência.
Esta regra está alinhada com a decisão do Supremo Tribunal do Condado de Bostock v. Clayton em 2020, e a Secção 1557 é entendida como discriminação “com base no sexo”, que inclui tanto a orientação sexual como a identidade de género. A última regra resolveu ainda que, mesmo quando a aprendizagem automática é aplicada numa tecnologia alimentada por inteligência artificial, os padrões de utilização dos fornecedores permanecem sob a Secção 1557. Portanto, eles são obrigados a examinar e abordar quaisquer riscos potenciais de discriminação.
Avaliando riscos de viés de IA
De acordo com a regra de governação, uma “ferramenta de apoio à decisão sobre cuidados de saúde” é qualquer configuração autónoma ou combinada de qualquer tecnologia ou método que uma entidade abrangida utilize para auxiliar a tomada de decisões clínicas. Por exemplo, alguns fornecedores de ferramentas para aplicações de cuidados diretos ao paciente incluem algoritmos preditivos que podem avaliar o risco do paciente e a gravidade de futuros eventos de saúde, bem como motores de análise utilizados para endossar ou negar alegações médicas com base na necessidade de tratamento.
OCR afirmou que com a utilização de tais ferramentas e favorecendo a tomada de decisões baseada em IA, a situação de cada paciente deve ser reconsiderada. Vários estudos demonstraram que a dependência de certos algoritmos levou a disparidades raciais e étnicas. A definição acima engloba veículos automatizados e recursos não automatizados, como fluxogramas. A tecnologia da saúde poderá, portanto, ser injusta se as pessoas com deficiência forem impedidas de receber cuidados iguais e os prestadores não levarem em consideração as características individuais do exame de saúde.
Esforços razoáveis de prevenção de preconceitos
A capacidade da entidade coberta de assumir a responsabilidade adicional do consumidor ou os seus meios financeiros. Quer os produtos sejam produzidos com a intenção de utilização pretendida, conforme aprovado pelos desenvolvedores e reguladores, independentemente do layout dos dados, os desenvolvedores devem se esforçar para educar a entidade sobre o risco de discriminação.
Seja explícito sobre se o titular dos dados (em cujo nome a entidade abrangida atua) tem seguido um processo ou se a entidade abrangida (ou seja, uma organização que atua em nome do titular) já desenvolveu um processo para avaliar as ferramentas utilizadas.
A regra difere radicalmente da regra anterior de que o financiamento do Medicare Parte B é classificado como assistência federal se concedido a prestadores e fornecedores. Reduzir ligeiramente o número de pessoas que recebem fundos da Parte B e isentá-las dos requisitos da Seção 1557 fará com que cumpram a Seção 1557 e outros regulamentos de direitos civis implementados pelo escritório de OCR.