ИИ как растущая область применения в секторе здравоохранения воспринимается обеими сторонами как положительно, так и сомнительно. Государственное партнерство и значительные средства институтов вызывают большие надежды на эту технологию; однако специалисты и пациенты все еще сомневаются в том, что технология уже достаточно развита и может ли она поставить под угрозу здоровье пациентов.
Проблемы общественного признания ИИ в здравоохранении
Будучи великолепным творцом перемен, многие ИТ-гиганты и компании начинают включать генеративный искусственный интеллект в приложения, связанные со здравоохранением. Google и Highmark Health — два агентства, которые разрабатывают уникальные инструменты персонализации процесса приема пациентов.
AWS Amazon предназначен для представления методов с использованием генеративного искусственного интеллекта и анализа медицинской базы данных. Аналогичным образом, Microsoft Azure активно участвует в создании систем, обеспечивающих связь между пациентами и поставщиками медицинских продуктов. ИИ занимается такими предприятиями, как Ambience Healthcare и Nabla, в целях значительного расширения роли ИИ, которая будет учитываться в клинических условиях.
Отчет Deloitte — лишь одно из исследований, показывающих, что только 53% американцев рассмотрят возможность использования генеративного искусственного интеллекта для улучшения медицинских услуг, несмотря на недавние прорывы и технологические достижения.
Тот факт, что оставшиеся 47% американцев до сих пор не чувствуют уверенности в генеративном ИИ как в инструменте снижения затрат и повышения доступности, указывает на некоторые существенные пробелы на рынке.
Технические трудности и этические вопросы
Надежность генеративного искусственного интеллекта в здравоохранении является надвигающейся тенденцией, поскольку исследования показывают его непредсказуемость и недостатки. Исследование JAMA Pediatrics показало высокий уровень ошибок в диагностике педиатрических заболеваний врачами красной команды ChatGPT OpenAI, а исследования в Медицинском центре Бет Исраэль Дьяконесса показали аналогичные результаты с GPT.
В медицинской административной функции тест MedAlign выявил недостатки модели в повседневной деятельности. Это дало модели 35% отказов.
Эти вопросы касаются нескольких месяцев, когда полагают, что может возникнуть возможность нарушения этих прав. Исследования в области здравоохранения Стэнфордского медицинского университета показали, что новая технология искусственного интеллекта может укрепить социальные стереотипы, которые могут заметно усугубить неравенство в отношении здоровья.
Конфиденциальность данных, риски безопасности и меняющиеся законы, связанные с использованием ИИ в здравоохранении, означают, что его использование состоит из нескольких уровней сложности.
Такие эксперты, как Эндрю Борковски из VA Sunshine Healthcare Network и Ян Эггер из Университета Дуйсбург-Эссен, признают, что необходимо создать надежные механизмы проверки и регулирования для новых генеративных технологий искусственного интеллекта.
Баланс между инновациями в области искусственного интеллекта и надзором за здравоохранением
Они поддерживают ИИ как вспомогательную меру, а не как отдельное решение, поэтому они обещают, что за каждым приложением внимательно следят опытные медицинские работники.
И вслед за этим… человеческие агентства Всемирной организации здравоохранения пытаются улучшить руководящие принципы, согласно которым исследования и проверка приложений ИИ в здравоохранении должны быть строгими и включать достаточное количество людей для определенного уровня надзора.
Эта рекомендация направлена на контроль над процессом внедрения технологий искусственного интеллекта с целью обеспечения их безопасности и преимуществ для потребителей. Рекомендуемыми мерами являются прозрачность, независимый аудит и разнообразие заинтересованных сторон.
Сектор здравоохранения столкнулся с проблемой на перепутье, где ИИ играет более важную роль. Хотя признано, что ИИ потенциально может изменить способ оказания медицинской помощи, существуют некоторые технические, этические и нормативные проблемы, с которыми все еще приходится сталкиваться при использовании ИИ в медицине.