Управление по гражданским правам (OCR) Министерства здравоохранения и социальных служб (HHS) недавно опубликовало окончательное правило о применимости раздела 1557 Закона о доступном медицинском обслуживании, который ограничивает любые программы здравоохранения, финансируемые из федеральных долларов, от дискриминации по расовому признаку. цвет, национальность, пол, возраст или инвалидность.
Это правило соответствует решению Верховного суда округа Босток против Клейтона, принятому в 2020 году, а раздел 1557 понимается как дискриминация «по половому признаку», которая включает как сексуальную ориентацию, так и гендерную идентичность. Последнее правило далее постановило, что даже когда машинное обучение применяется в технологии, основанной на искусственном интеллекте, стандарты использования поставщиков остаются в соответствии с разделом 1557. Следовательно, они обязаны изучать и устранять любые потенциальные риски дискриминации.
Оценка рисков предвзятости ИИ
В соответствии с правилом управления «инструментом поддержки принятия решений по лечению пациентов» является любая отдельная или комбинированная конфигурация любой технологии или метода, которые организация, на которую распространяется действие страховки, использует для облегчения принятия клинических решений. Например, некоторые поставщики инструментов для приложений непосредственного ухода за пациентами включают в себя прогностические алгоритмы, которые могут оценивать риск для пациента и тяжесть будущих событий со здоровьем, а также механизмы анализа, используемые для подтверждения или отклонения медицинских заявлений на основе необходимости лечения.
В OCR заявили, что с использованием таких инструментов и поддержкой принятия решений на основе искусственного интеллекта ситуация с каждым пациентом должна быть пересмотрена. Несколько исследований показали, что использование определенных алгоритмов приводит к расовым и этническим различиям. Приведенное выше определение включает в себя автоматизированные транспортные средства и неавтоматизированные вспомогательные средства, такие как блок-схемы. Таким образом, медицинские технологии могут быть несправедливыми, если люди с ограниченными возможностями не смогут получить равную помощь, а поставщики услуг не принимают во внимание индивидуальные особенности медицинского осмотра.
Разумные усилия по предотвращению предвзятости
Способность застрахованной организации взять на себя дополнительную ответственность перед потребителем или использовать свои финансовые средства. Независимо от того, производятся ли продукты с намерением использовать их по назначению, одобренному разработчиками и регулирующими органами, независимо от структуры данных, разработчики должны постараться информировать организацию о риске дискриминации.
Четко укажите, соблюдает ли субъект данных (от имени которого действует субъект, на который распространяется действие страховки) какой-либо процесс, или субъект, на который распространяется действие страховки (т. е. организация, действующая от имени субъекта), уже разработал такой процесс для оценки используемых инструментов.
Это правило радикально отличается от прежнего правила, согласно которому финансирование Medicare Part B классифицируется как федеральная помощь, если оно предоставляется поставщикам медицинских услуг. Небольшое сокращение числа лиц, получающих средства по Части B, и освобождение их от требований раздела 1557 заставит их соблюдать раздел 1557 и другие положения о гражданских правах, применяемые офисом OCR.