美国卫生与公众服务部（HHS）民权办公室（OCR）最近发布了关于《平价医疗法案》第 1557 条适用性的最终规定，该规定限制任何由联邦资金资助的健康项目不得基于种族、肤色、国籍、性别、年龄或残疾进行歧视。
这条规则与 2020 年 Bostock v. Clayton County 最高法院的裁决一致，第 1557 条被理解为“基于性别”的歧视，包括性取向和性别认同。最后一条规则进一步规定，即使机器学习应用于人工智能技术，提供商的使用标准仍受第 1557 条的约束。因此，他们必须检查并解决任何潜在的歧视风险。
评估人工智慧偏见风险
根据治理规则，「病患照护决策支援工具」是所涵盖实体用于辅助临床决策的任何技术或方法的任何独立或组合配置。例如，一些用于直接患者护理应用程式的工具供应商包括可以评估患者风险和未来健康事件严重程度的预测演算法，以及用于根据治疗的必要性认可或拒绝医疗索赔的分析引擎。
OCR 表示，随著此类工具的使用和基于人工智慧的决策的支持，必须重新考虑每个患者的情况。多项研究表明，对某些演算法的依赖会导致种族和民族差异。上述定义封装了自动车辆和流程图等非自动辅助工具。因此，如果残疾人无法获得平等的护理，并且提供者不考虑健康检查的个人特征，那么卫生技术可能是不公平的。
合理的偏见预防措施
所涵盖实体承担额外消费者责任的能力或其财务手段。无论产品的生产目的是否经开发商和监管机构批准，无论数据布局如何，开发商都应努力就歧视风险对实体进行教育。
明确资料主体（所涵盖实体代表其行事）是否一直遵循某个流程，或者所涵盖实体（即代表主体行事的组织）是否已经开发了用于评估所使用工具的流程。
该规则与先前的规则截然不同，先前的规则是，如果向提供者和供应商提供医疗保险 B 部分资金，则将其归类为联邦援助。稍微减少接收 B 部分资金的人数并免除他们遵守第 1557 条的要求，将使他们遵守第 1557 条以及 OCR 办公室实施的其他民权法规。
