美國衛生與公衆服務部（HHS）民權辦公室（OCR）最近發佈了關於《平價醫療法案》第 1557 條適用性的最終規定，該規定限制任何由聯邦資金資助的健康項目不得基於種族、膚色、國籍、性別、年齡或殘疾進行歧視。

這條規則與 2020 年 Bostock v. Clayton County 最高法院的裁決一致，第 1557 條被理解爲“基於性別”的歧視，包括性取向和性別認同。最後一條規則進一步規定，即使機器學習應用於人工智能技術，提供商的使用標準仍受第 1557 條的約束。因此，他們必須檢查並解決任何潛在的歧視風險。

評估人工智慧偏見風險

根據治理規則，「病患照護決策支援工具」是所涵蓋實體用於輔助臨床決策的任何技術或方法的任何獨立或組合配置。例如，一些用於直接患者護理應用程式的工具供應商包括可以評估患者風險和未來健康事件嚴重程度的預測演算法，以及用於根據治療的必要性認可或拒絕醫療索賠的分析引擎。

OCR 表示，隨著此類工具的使用和基於人工智慧的決策的支持，必須重新考慮每個患者的情況。多項研究表明，對某些演算法的依賴會導致種族和民族差異。上述定義封裝了自動車輛和流程圖等非自動輔助工具。因此，如果殘疾人無法獲得平等的護理，並且提供者不考慮健康檢查的個人特徵，那麼衛生技術可能是不公平的。

合理的偏見預防措施

所涵蓋實體承擔額外消費者責任的能力或其財務手段。無論產品的生產目的是否經開發商和監管機構批准，無論數據佈局如何，開發商都應努力就歧視風險對實體進行教育。

明確資料主體（所涵蓋實體代表其行事）是否一直遵循某個流程，或者所涵蓋實體（即代表主體行事的組織）是否已經開發了用於評估所使用工具的流程。

該規則與先前的規則截然不同，先前的規則是，如果向提供者和供應商提供醫療保險 B 部分資金，則將其歸類為聯邦援助。稍微減少接收 B 部分資金的人數並免除他們遵守第 1557 條的要求，將使他們遵守第 1557 條以及 OCR 辦公室實施的其他民權法規。