Văn phòng Dân quyền (OCR) thuộc Bộ Y tế và Dịch vụ Nhân sinh (HHS) gần đây đã ban hành quy tắc cuối cùng về khả năng áp dụng mục 1557 của Đạo luật Chăm sóc Giá cả phải chăng, trong đó hạn chế mọi chương trình y tế được tài trợ bởi đô la liên bang khỏi sự phân biệt đối xử dựa trên chủng tộc. , màu da, quốc tịch, giới tính, tuổi tác hoặc khuyết tật.

Quy tắc này phù hợp với quyết định của Tòa án Tối cao Quận Bostock kiện Clayton vào năm 2020 và Mục 1557 được hiểu là sự phân biệt đối xử “dựa trên giới tính”, bao gồm cả xu hướng tính dục và bản dạng giới. Quy tắc cuối cùng giải quyết thêm rằng ngay cả khi học máy được áp dụng trong công nghệ hỗ trợ trí tuệ nhân tạo, các tiêu chuẩn sử dụng của nhà cung cấp vẫn tuân theo Mục 1557. Do đó, họ phải kiểm tra và giải quyết mọi rủi ro phân biệt đối xử tiềm ẩn.

Đánh giá rủi ro sai lệch AI

Theo quy tắc quản trị, “công cụ hỗ trợ quyết định chăm sóc bệnh nhân” là bất kỳ cấu hình độc lập hoặc kết hợp nào của bất kỳ công nghệ hoặc phương pháp nào mà tổ chức được bảo hiểm sử dụng để hỗ trợ việc ra quyết định lâm sàng. Ví dụ: một số nhà cung cấp công cụ cho các ứng dụng chăm sóc bệnh nhân trực tiếp bao gồm các thuật toán dự đoán có thể đánh giá rủi ro của bệnh nhân và mức độ nghiêm trọng của các sự kiện sức khỏe trong tương lai, cũng như các công cụ phân tích được sử dụng để xác nhận hoặc từ chối các yêu cầu y tế dựa trên sự cần thiết của việc điều trị.

OCR tuyên bố rằng với việc sử dụng các công cụ như vậy và ưu tiên đưa ra quyết định dựa trên AI, tình huống của mọi bệnh nhân phải được xem xét lại. Một số nghiên cứu đã chứng minh rằng việc phụ thuộc vào một số thuật toán nhất định đã dẫn đến sự chênh lệch về chủng tộc và sắc tộc. Định nghĩa trên bao gồm các phương tiện tự động và các thiết bị hỗ trợ không tự động như sơ đồ. Do đó, công nghệ y tế có thể không công bằng nếu người khuyết tật không được hưởng sự chăm sóc bình đẳng và các nhà cung cấp dịch vụ không xem xét đến các đặc điểm cá nhân của việc kiểm tra sức khỏe.

Những nỗ lực ngăn chặn sự thiên vị hợp lý

Khả năng của tổ chức được bảo hiểm để đảm nhận trách nhiệm bổ sung của người tiêu dùng hoặc các phương tiện tài chính của tổ chức đó. Cho dù sản phẩm được sản xuất với mục đích sử dụng như đã được nhà phát triển và cơ quan quản lý phê duyệt hay không, bất kể bố cục dữ liệu như thế nào, nhà phát triển đều phải nỗ lực giáo dục tổ chức về nguy cơ phân biệt đối xử.

Hãy nêu rõ ràng liệu chủ thể dữ liệu (thay mặt cho tổ chức được điều hành đang hành động) có tuân theo một quy trình hay không hoặc liệu tổ chức được điều chỉnh (tức là một tổ chức hành động thay mặt cho chủ thể) đã phát triển một quy trình để đánh giá các công cụ được sử dụng hay chưa.

Quy tắc này hoàn toàn khác với quy tắc trước đây rằng nguồn tài trợ của Medicare Phần B được phân loại là hỗ trợ liên bang nếu được cấp cho các nhà cung cấp và nhà cung cấp. Việc giảm nhẹ số lượng người nhận quỹ Phần B và miễn cho họ khỏi các yêu cầu của Mục 1557 sẽ khiến họ tuân thủ Mục 1557 và các quy định về quyền công dân khác do văn phòng OCR thực hiện.