The New Rule of AI Discrimination in the Healthcare Sector in Progress

Cryptopolitan · 2024-05-09T18:03:04.000Z

The Office for Civil Rights (OCR) in the Department of Health and Human Services (HHS) recently issued a final rule on the applicability of section 1557 of the Affordable Care Act, which limits any health programs funded by federal dollars from discriminating based on race, color, nationality, sex, age, or disability. This rule aligns with the Bostock v. Clayton County Supreme Court’s decision in 2020, and Section 1557 is understood as discrimination “based on sex,” which includes both sexual orientation and gender identity. The last rule further resolved that even when machine learning is applied in an artificial intelligence-powered technology, the providers’ use standards stay under Section 1557. Therefore, they are required to examine and address any potential risks of discrimination. Assessing AI bias risks Under the governance rule, a “patient care decision support tool” is any standalone or combined configuration of any technology or method a covered entity uses to aid clinical decision-making. For instance, some suppliers of tools for direct patient care applications include predictive algorithms that can assess patient risk and severity of future health events, as well as analysis engines used to endorse or deny medical claims based on the necessity of treatment. OCR stated that with the utilization of such tools and favoring AI-based decision-making, the situation with every patient must be reconsidered. Several studies demonstrated that reliance on certain algorithms led to racial and ethnic disparities. The above definition encapsulates automated vehicles and non-automated aids like flowcharts. Health technology could thus be unfair if people with disabilities are prevented from acquiring equal care, and the providers do not take into consideration the individual characteristics of the health check. Reasonable bias prevention efforts The covered entity’s ability to take on the additional consumer responsibility or its financial means. Whether the products are produced with an intention for their intended use as approved by the developers and regulators, regardless of the data layout, developers should endeavor to educate the entity regarding the risk of discrimination. Be explicit about whether the data subject (on whose behalf the covered entity is acting) has been following a process or whether the covered entity (i.e., an organization acting on behalf of the subject) has already developed one for evaluating the tools used. The rule radically differs from the former rule that Medicare Part B funding is classified as federal assistance if given to providers and suppliers. Slightly reducing the number of persons receiving Part B funds and exempting them from Section 1557 requirements will make them comply with Section 1557 and other civil rights regulations implemented by the OCR office.

O Escritório de Direitos Civis (OCR) do Departamento de Saúde e Serviços Humanos (HHS) emitiu recentemente uma regra final sobre a aplicabilidade da seção 1557 da Lei de Cuidados Acessíveis, que limita quaisquer programas de saúde financiados por dólares federais de discriminar com base na raça , cor, nacionalidade, sexo, idade ou deficiência.
Esta regra está alinhada com a decisão do Supremo Tribunal do Condado de Bostock v. Clayton em 2020, e a Secção 1557 é entendida como discriminação “com base no sexo”, que inclui tanto a orientação sexual como a identidade de género. A última regra resolveu ainda que, mesmo quando a aprendizagem automática é aplicada numa tecnologia alimentada por inteligência artificial, os padrões de utilização dos fornecedores permanecem sob a Secção 1557. Portanto, eles são obrigados a examinar e abordar quaisquer riscos potenciais de discriminação.
Avaliando riscos de viés de IA
De acordo com a regra de governação, uma “ferramenta de apoio à decisão sobre cuidados de saúde” é qualquer configuração autónoma ou combinada de qualquer tecnologia ou método que uma entidade abrangida utilize para auxiliar a tomada de decisões clínicas. Por exemplo, alguns fornecedores de ferramentas para aplicações de cuidados diretos ao paciente incluem algoritmos preditivos que podem avaliar o risco do paciente e a gravidade de futuros eventos de saúde, bem como motores de análise utilizados para endossar ou negar alegações médicas com base na necessidade de tratamento.
OCR afirmou que com a utilização de tais ferramentas e favorecendo a tomada de decisões baseada em IA, a situação de cada paciente deve ser reconsiderada. Vários estudos demonstraram que a dependência de certos algoritmos levou a disparidades raciais e étnicas. A definição acima engloba veículos automatizados e recursos não automatizados, como fluxogramas. A tecnologia da saúde poderá, portanto, ser injusta se as pessoas com deficiência forem impedidas de receber cuidados iguais e os prestadores não levarem em consideração as características individuais do exame de saúde.
Esforços razoáveis ​​de prevenção de preconceitos
A capacidade da entidade coberta de assumir a responsabilidade adicional do consumidor ou os seus meios financeiros. Quer os produtos sejam produzidos com a intenção de utilização pretendida, conforme aprovado pelos desenvolvedores e reguladores, independentemente do layout dos dados, os desenvolvedores devem se esforçar para educar a entidade sobre o risco de discriminação.
Seja explícito sobre se o titular dos dados (em cujo nome a entidade abrangida atua) tem seguido um processo ou se a entidade abrangida (ou seja, uma organização que atua em nome do titular) já desenvolveu um processo para avaliar as ferramentas utilizadas.
A regra difere radicalmente da regra anterior de que o financiamento do Medicare Parte B é classificado como assistência federal se concedido a prestadores e fornecedores. Reduzir ligeiramente o número de pessoas que recebem fundos da Parte B e isentá-las dos requisitos da Seção 1557 fará com que cumpram a Seção 1557 e outros regulamentos de direitos civis implementados pelo escritório de OCR.

Explore mais do Criador

Últimas Notícias