KI als wachsender Anwendungsbereich im Gesundheitswesen wird sowohl positiv als auch fragwürdig wahrgenommen. Öffentliche Partnerschaften und die beträchtlichen Mittel der Institutionen wecken große Hoffnungen in die Technologie. Fachleute und Patienten zweifeln jedoch immer noch daran, ob die Technologie bereits ausgereift genug ist oder ob sie die Gesundheit der Patienten gefährden könnte.
Herausforderungen bei der öffentlichen Akzeptanz von KI im Gesundheitswesen
Viele IT-Giganten und Unternehmen beginnen, generative KI in gesundheitsbezogene Anwendungen zu integrieren, da sie großartige Veränderungen bewirken. Google und Highmark Health sind zwei Agenturen, die einzigartige Tools zur Personalisierung von Patientenaufnahmeprozessen entwickeln.
Amazons AWS ist darauf ausgerichtet, Methoden mithilfe generativer KI darzustellen und eine medizinische Datenbank zu analysieren. Ebenso beteiligt sich Microsoft Azure aktiv am Aufbau der Systeme, die die Kommunikation zwischen Patienten und Anbietern von Gesundheitsprodukten vermitteln. KI verfolgt Projekte wie Ambience Healthcare und Nabla, um die Rolle der KI im klinischen Umfeld stark auszuweiten.
Der Deloitte-Bericht ist nur eine von mehreren Umfragen, die zeigen, dass trotz der jüngsten Durchbrüche und technologischen Fortschritte nur 53 % der Amerikaner den Einsatz generativer KI zur Verbesserung der Gesundheitsversorgung in Betracht ziehen.
Die Tatsache, dass die restlichen 47 % der Amerikaner noch immer kein Vertrauen in die generative KI als Instrument zur Kostensenkung und Verbesserung der Zugänglichkeit haben, weist auf erhebliche Marktlücken hin.
Technische Schwierigkeiten und ethische Probleme
Die Zuverlässigkeit generativer KI im Gesundheitswesen ist ein Trendthema, da Studien ihre Unvorhersehbarkeit und Nachteile belegen. Eine Studie von JAMA Pediatrics zeigte eine hohe Fehlerquote bei der Diagnose von Kinderkrankheiten durch die Red-Team-Ärzte von OpenAIs ChatGPT, und Studien am Beth Israel Deaconess Medical Center beobachteten ähnliche Ergebnisse mit GPT.
Im medizinisch-administrativen Bereich offenbarte der MedAlign-Benchmark die Defizite des Modells bei Alltagsaktivitäten. Er wies darauf hin, dass das Modell eine Ausfallrate von 35 % aufwies.
Diese Probleme sind Anlass zu der Annahme, dass es zu einer möglichen Verletzung dieser Rechte kommen könnte. Studien aus gesundheitsbezogenen Bereichen von Stanford Medicine deuten darauf hin, dass die aufkommende KI-Technologie gesellschaftliche Stereotypen verstärken könnte, die die gesundheitliche Ungleichheit deutlich verschärfen könnten.
Datenschutz, Sicherheitsrisiken und die sich ändernden Gesetze im Zusammenhang mit dem Einsatz von KI im Gesundheitswesen bedeuten, dass ihre Nutzung mehrere Komplexitätsebenen umfasst.
Experten wie Andrew Borkowski vom VA Sunshine Healthcare Network und Jan Egger von der Universität Duisburg-Essen sind sich einig, dass robuste Validierungs- und Regulierungsmechanismen für die aufkommenden generativen KI-Technologien eingeführt werden sollten.
Balance zwischen KI-Innovation und Überwachung des Gesundheitswesens
Sie unterstützen KI eher als unterstützende Maßnahme denn als eigenständige Lösung und sorgen dafür, dass jede Anwendung von erfahrenem medizinischem Fachpersonal aufmerksam beobachtet wird.
Und in der Folge versuchen menschliche Agenturen der Weltgesundheitsorganisation, die Richtlinien zu verbessern, wonach die Forschung und Validierung der KI-Anwendungen im Gesundheitswesen streng sein und genügend Menschen einbeziehen sollte, um ein gewisses Maß an Aufsicht zu gewährleisten.
Diese Empfehlung zielt darauf ab, den Prozess der Implementierung von KI-Technologien zu überwachen, um sicherzustellen, dass diese für Verbraucher sicher und vorteilhaft bleiben. Die empfohlenen Maßnahmen sind Transparenz, unabhängige Prüfungen und Vielfalt der beteiligten Interessengruppen.
Der Gesundheitssektor steht an einem Scheideweg, an dem KI eine immer größere Rolle spielt. Obwohl anerkannt wird, dass KI das Potenzial hat, die Art und Weise der Gesundheitsversorgung zu verändern, gibt es bei der Nutzung von KI in der Medizin noch einige technische, ethische und regulatorische Probleme.