Ein Lagebericht in einer Stunde statt erst nach einem Tag: Im Kampf gegen Ebola in Afrika zeigt Künstliche Intelligenz (KI), wie sie die Gesundheitsversorgung unterstützen kann. Auch in Deutschland kann KI in der Medizin helfen. Doch Experten warnen vor fehlender Transparenz und ungeklärten Risiken.
Seit Mai bekämpfen Teams vor Ort in der Demokratischen Republik Kongo (DRK) das Bundibugyo-Ebola-Virus. Jeden Tag klopfen die sogenannten Health Workers (deutsch: Gesundheitsarbeiter) an Haustüren und bieten Beratung an. Sie erfassen Genesungen und Todesfälle und leiten Personen mit verdächtigen Symptomen an medizinische Einrichtungen weiter.
WERBUNG
WERBUNG
Das Wissen dieser Health Workers, in deren Notizbüchern der Zustand einer gesamten Gemeinde steht, wurde laut eines Berichts des KI-Unternehmens Anthropic digitalisiert.
Wer ist erkrankt? Mit wem hatte die Person Kontakt und wo hat sie sich aufgehalten, bevor sie von ihrer Infektion wusste? Bei der Auswertung der Antworten und Meldungen wurde das Modell Claude von Anthropic verwendet. An der Studie waren unter anderem CEPI, das WHO-Regionalbüro für Afrika und das nationale biomedizinische Forschungsinstitut INRB beteiligt.
KI hilft die Ausbreitung von Epidemien schneller einzuschätzen
"Ein Lagebericht entsteht innerhalb einer Stunde statt eines gesamte Arbeitstages", erklärt Dr. Marie Roseline Darnycka Belizaire, Direktorin für Notfallvorsorge und -reaktion im Regionalbüro für Afrika der Weltgesundheitsorganisation (WHO). Künstliche Intelligenz kann helfen, die Ausbreitung von Epidemien schneller einzuschätzen und medizinische Hilfe gezielter einzusetzen, so die WHO-Stellvertreterin auf der Bühne des World Health Summits.
Bei der Analyse der Daten wurden mögliche Ausbruchsgebiete identifiziert und Vorbereitungen getroffen, wie etwa Vorräte von medizinischen Hilfsgütern an wichtige Knotenpunkte oder Risikogebiete gebracht.
Das kann im Ernstfall entscheidend sein. Denn je früher Gesundheitsbehörden auf einen möglichen Ausbruch reagieren, desto besser können sie sich vorbereiten und die Versorgung organisieren. KI soll dabei helfen, Informationen aus unterschiedlichen Quellen schneller auszuwerten und die Entscheidungen der Verantwortlichen zu unterstützen.
Dieses Positivbeispiel vom Einsatz Künstlicher Intelligenz bei der Gesundheitsversorgung zeigt die Ebene, auf der KI mit relativ wenig Risiko eingesetzt werden kann. Experten sehen für die zukünftige Anwendung von künstlicher Intelligenz allerdings deutlich mehr Möglichkeiten.
Die Technologie könnte Diagnosen verbessern, medizinisches Personal von Verwaltungsaufgaben entlasten und helfen, knappe Ressourcen gezielter einzusetzen. Gleichzeitig stellen sich grundlegende Fragen: Wie zuverlässig sind die Ergebnisse? Können medizinische Fachkräfte nachvollziehen, wie eine KI zu einer Entscheidung kommt? Und profitieren tatsächlich die Patientinnen und Patienten davon?
KI als Unterstützung für überlastetes Gesundheitspersonal
Weltweit wächst der Bedarf an medizinischer Versorgung. Gleichzeitig fehlt es vielerorts an Personal, Zeit und Material. Für Dr. Thomas Zapata, Direktor der WHO Academy in Lyon, liegt darin ein wesentlicher Ansatzpunkt für den Einsatz künstlicher Intelligenz.
"Wir müssen über ein Paradoxon nachdenken, mit dem wir derzeit konfrontiert sind. Wir haben weltweit mehr Gesundheitsfachkräfte als jemals zuvor, uns stehen beispiellose Technologien zur Verfügung", so Zapata in einer Diskussionsrunde auf dem World Health Summit. Trotzdem herrsche ihm zufolge ein enormer Mangel an Gesundheitspersonal. "Die Nachfrage nach Gesundheitsdienstleistungen wächst und wächst."
Er sieht KI als Möglichkeit, die Lücke zu verkleinern. Entscheidend sei jedoch, sie nicht als Selbstzweck zu betrachten, sondern als Werkzeug, das in bestehende Gesundheitssysteme integriert wird.
"KI ist ein Wegbereiter, ein Mittel zum Zweck. Derzeit sind wir sehr fasziniert von Technologie und KI, aber ich denke, wir müssen sie im Kontext des Gesundheitssystems an der richtigen Stelle einordnen", warnt Zapata. Für ihn passt Künstliche Intelligenz an zwei Stellen. KI könnte einerseits die Art verändern, wie medizinische Versorgung organisiert wird. Andererseits müsse sich auch die Aus- und Weiterbildung des Gesundheitspersonals an die neuen Möglichkeiten anpassen.
Letztendlich kann KI natürlich dazu beitragen, die Arbeitsbelastung zu verringern, Verwaltungsaufgaben zu optimieren, die klinische Entscheidungsfindung zu verbessern und auch die Diagnoseerstellung zu optimieren. Besonders wichtig ist ihm, dass die Technologie Zeit für das freimacht, was sich nicht ohne Weiteres automatisieren lässt und lassen solle: die Betreuung von Patienten.
Insbesondere die Ebola-Krise in der Demokratischen Republik Kongo habe gezeigt, dass Vertrauen in die lokalen Gesundheitssysteme fehlt.
Dadurch bleibt den Ärzten mehr Zeit für die Menschen
Gerade dort, wo medizinisches Personal unter hohem Zeitdruck arbeitet, können automatisierte Abläufe einen Unterschied machen. Dr. Cecilia Mbaca, Senior Technical Advisor für Gesundheit und Notfälle bei der Hilfsorganisation CARE, kennt die Herausforderungen aus mehr als 15 Jahren Arbeit an vorderster Front.
Für sie sind drei Fragen entscheidend: Kann KI medizinische Entscheidungen unterstützen? Kann sie repetitive Aufgaben übernehmen? Und hilft sie dabei, die Versorgung stärker an den individuellen Bedürfnissen der Patientinnen und Patienten auszurichten?
"Wenn KI diese Arbeit sehr gut erledigt, bleibt mehr Zeit für die persönlichen Aspekte der Pflege, sodass wir Fragen stellen, zuhören, Patienten untersuchen und sie an die nächste Versorgungsstufe weiterleiten können", erklärt auch Dr. Cecilliah Mbaka, Senior Technical Advisor für Gesundheit und Notfälle bei der Hilfsorganisation CARE.
Sie habe selbst mehr als 15 Jahre an vorderster Front gearbeitet, mit wenig Unterstützung und begrenzten Ressourcen sowie einer hohen Arbeitsbelastung.
Gerade bei Epidemien geht es dabei nicht allein um medizinische Daten. Auch das Vertrauen der Bevölkerung spielt eine wichtige Rolle. Menschen müssen darauf vertrauen können, dass sie in einer Gesundheitseinrichtung geschützt und angemessen versorgt werden. In den betroffenen Gemeinden kann dieses Vertrauen entscheidend dafür sein, ob Erkrankte rechtzeitig medizinische Hilfe suchen.
So geht man davon aus, dass etwa 50 Prozent der Todesfälle in den Dörfern in der DRK passieren und nicht in den medizinischen Einrichtungen, so der Epidemiologe Maximilian Gertler. Denn das Gesundheitssystem vor Ort steht unter Druck und war nicht auf den Ebola-Ausbruch vorbereitet. Tausende Schutzanzüge werden pro Tag benötigt, um das Pflegepersonal gegen Kontamination zu schützen. Deutschland hat zuletzt 21 Millionen Euro an Hilfen aufgestockt.
KI kann die Organisation der Versorgung also unterstützen. Sie kann jedoch nicht allein dafür sorgen, dass Menschen medizinischen Einrichtungen vertrauen. Denn, das kritisieren KI-Experten selbst, oftmals ist der Weg zur Diagnose heutzutage noch intransparent.
Transparenzproblem: Wie kommt die KI zu ihrer Diagnose?
Moderne KI-Systeme können große Datenmengen auswerten und Muster erkennen, die Menschen möglicherweise entgehen. Doch häufig bleibt unklar, wie genau sie zu ihren Ergebnissen gelangen.
Dr. Thomas Thesen, Professor für medizinische Ausbildung und Informatik an der Geisel School of Medicine der US-amerikanischen Dartmouth University, beschreibt dieses Problem so: "Sie sind zwar äußerst geschickt darin, Muster zu erkennen, aber sie sind wirklich schlecht darin, uns zu erklären, worum es sich bei diesen Mustern handelt." Chatbots und Large Language Models wie Claude oder ChatGPT hätten ein Erklärproblem, wie er es nennt. Künstliche Intelligenz bleibe hier eine Blackbox.
Das ist jedoch besonders im Gesundheitswesen relevant. Wenn ein System eine Diagnose oder Behandlungsempfehlung liefert, müssen medizinische Fachkräfte einschätzen können, ob diese im konkreten Fall sinnvoll ist. Ein Ergebnis allein reicht dafür nicht immer aus. Auch der Weg dorthin muss nachvollziehbar sein.
"Das ist also das Problem der Erklärbarkeit. Sie können nicht in einer für Menschen verständlichen Sprache erklären, wie sie zu diesen Bedingungen gelangen.“
Dieses sogenannte Blackbox-Problem betrifft nicht nur die Transparenz, sondern auch die Verantwortung: Wer haftet, wenn eine KI eine falsche Empfehlung gibt? Auch für Dr. Mbaka ist deshalb entscheidend, dass KI nicht einfach Ergebnisse liefert, sondern die Entscheidungsfindung tatsächlich unterstützt.
Experte: KI darf Lernen in der Ausbildung nicht ersetzen
Auch in der Ausbildung medizinischer Fachkräfte kann künstliche Intelligenz helfen - etwa indem sie Informationen schneller zugänglich macht oder bei wiederkehrenden Aufgaben unterstützt. Doch gerade beim Lernen sieht Thesen, Professor für Medizinische Ausbildung und Informatik Risiken.
Er verweist auf eine Studie, in der die Informationssuche über herkömmliche Suchmaschinen mit der Nutzung eines KI-Chatbots verglichen wurde. Die Studierenden, die den Chatbot verwendeten, verfügten demnach über oberflächlicheres Wissen, das weniger gut gefestigt war.
"Solche sogenannten erwünschten Schwierigkeiten sind also tatsächlich sehr wichtig für den Lernprozess. Und wenn man das gesamte Lernen kognitiv an einen Chatbot auslagert - was zwar sehr effizient sein mag - so lernt man dabei nichts."
Wer sich Wissen dauerhaft aneignen muss, sollte sich ihm zufolge nicht jede Denkarbeit von einer KI abnehmen lassen. Gerade in der Medizin kann es darauf ankommen, auch dann richtig zu entscheiden, wenn die technische Unterstützung nicht verfügbar ist.
Auch Thesen empfiehlt deshalb, KI vor allem dort einzusetzen, wo sie Arbeitsbelastung reduziert. Wo es dagegen darum geht, Wissen zu verstehen und langfristig zu behalten, müsse das eigenständige Lernen seinen Platz behalten.