La Oficina de Derechos Civiles (OCR) del Departamento de Salud y Servicios Humanos (HHS) emitió recientemente una norma final sobre la aplicabilidad de la sección 1557 de la Ley de Atención Médica Asequible, que limita la discriminación por motivos de raza en cualquier programa de salud financiado con fondos federales. , color, nacionalidad, sexo, edad o discapacidad.
Esta regla se alinea con la decisión de la Corte Suprema del condado de Bostock v. Clayton en 2020, y la Sección 1557 se entiende como discriminación “basada en el sexo”, que incluye tanto la orientación sexual como la identidad de género. La última regla resolvió además que incluso cuando el aprendizaje automático se aplica en una tecnología impulsada por inteligencia artificial, los estándares de uso de los proveedores permanecen bajo la Sección 1557. Por lo tanto, deben examinar y abordar cualquier riesgo potencial de discriminación.
Evaluación de los riesgos de sesgo en la IA
Según la regla de gobernanza, una “herramienta de apoyo a la toma de decisiones sobre la atención al paciente” es cualquier configuración independiente o combinada de cualquier tecnología o método que una entidad cubierta utiliza para ayudar a la toma de decisiones clínicas. Por ejemplo, algunos proveedores de herramientas para aplicaciones de atención directa al paciente incluyen algoritmos predictivos que pueden evaluar el riesgo del paciente y la gravedad de futuros eventos de salud, así como motores de análisis utilizados para respaldar o rechazar reclamos médicos en función de la necesidad del tratamiento.
La OCR afirmó que, con el uso de estas herramientas y la preferencia por la toma de decisiones basada en inteligencia artificial, es necesario reconsiderar la situación de cada paciente. Varios estudios demostraron que la dependencia de determinados algoritmos conducía a disparidades raciales y étnicas. La definición anterior engloba los vehículos automatizados y los dispositivos no automatizados, como los diagramas de flujo. Por lo tanto, la tecnología sanitaria podría ser injusta si se impide a las personas con discapacidades obtener la misma atención y los proveedores no tienen en cuenta las características individuales del control de salud.
Esfuerzos razonables de prevención de sesgos
La capacidad de la entidad cubierta para asumir la responsabilidad adicional del consumidor o sus medios financieros. Ya sea que los productos se produzcan con la intención de cumplir con el uso previsto según lo aprobado por los desarrolladores y los reguladores, independientemente del diseño de los datos, los desarrolladores deben esforzarse por educar a la entidad sobre el riesgo de discriminación.
Sea explícito acerca de si el interesado (en cuyo nombre actúa la entidad cubierta) ha estado siguiendo un proceso o si la entidad cubierta (es decir, una organización que actúa en nombre del interesado) ya ha desarrollado uno para evaluar las herramientas utilizadas.
La norma difiere radicalmente de la norma anterior, según la cual los fondos de la Parte B de Medicare se clasifican como asistencia federal si se otorgan a proveedores y abastecedores. Reducir levemente la cantidad de personas que reciben fondos de la Parte B y eximirlas de los requisitos de la Sección 1557 hará que cumplan con la Sección 1557 y otras normas de derechos civiles implementadas por la oficina de OCR.
