保健福祉省（HHS）の公民権局（OCR）は最近、連邦政府の資金で賄われる医療プログラムが人種、肌の色、国籍、性別、年齢、または障害に基づいて差別することを制限している医療費負担適正化法第1557条の適用に関する最終規則を発行しました。

この規則は、2020 年のボストック対クレイトン郡最高裁判所の判決と一致しており、第 1557 条は「性別に基づく」差別として理解されており、これには性的指向と性自認の両方が含まれます。最後の規則ではさらに、機械学習が人工知能を活用したテクノロジーに適用されている場合でも、プロバイダーの使用基準は第 1557 条に留まると決議されています。したがって、プロバイダーは差別の潜在的なリスクを調査し、対処する必要があります。

AIバイアスリスクの評価

ガバナンス規則では、「患者ケアの意思決定支援ツール」とは、対象となる事業体が臨床上の意思決定を支援するために使用するテクノロジーまたは方法のスタンドアロン構成または組み合わせ構成を指します。たとえば、直接的な患者ケア アプリケーション用のツールを提供する一部のサプライヤーには、患者のリスクと将来の健康イベントの重症度を評価できる予測アルゴリズムや、治療の必要性に基づいて医療請求を承認または拒否するために使用される分析エンジンが含まれています。

OCR は、このようなツールの利用と AI ベースの意思決定の支持により、すべての患者の状況を再考する必要があると述べています。いくつかの研究では、特定のアルゴリズムへの依存が人種や民族の格差につながることが実証されています。上記の定義には、自動運転車とフローチャートなどの非自動補助装置が含まれます。したがって、障害を持つ人々が平等なケアを受けることができず、プロバイダーが健康診断の個々の特性を考慮しない場合、医療技術は不公平になる可能性があります。

合理的な偏見防止の取り組み

対象事業体が追加の消費者責任を負う能力またはその財政的手段。製品が開発者および規制当局によって承認された意図された使用目的で製造されているかどうかにかかわらず、データ レイアウトに関係なく、開発者は差別のリスクに関して事業体を教育するよう努める必要があります。

データ主体（対象主体に代わって行動する組織）がプロセスに従っているかどうか、または対象主体（つまり、対象主体に代わって行動する組織）が、使用されるツールを評価するためのプロセスをすでに開発しているかどうかを明確にします。

この規則は、メディケア パート B の資金がプロバイダーやサプライヤーに提供される場合は連邦援助として分類されるという以前の規則とは根本的に異なります。パート B 資金を受け取る人の数をわずかに減らし、彼らをセクション 1557 の要件から免除することで、彼らはセクション 1557 および OCR オフィスによって実施されるその他の公民権規制に準拠することになります。