Eigentlich soll künstliche Intelligenz den Betrieb in Krankenhäusern und Praxen besser und patientenfreundlicher machen. Jetzt stellt sich heraus: Es gibt unerwartete Nebenwirkungen.
WERBUNG
Professor Axel Pries findet klare Worte: "Ärzte haben häufig das Gefühl, dass sie gar nicht mehr das tun, wofür sie eigentlich ausgebildet wurden", sagt der Präsident des World Health Summit (WHS) zu Euronews.
Anfang dieser Woche versammelten sich die schlausten Köpfe aus Medizin und Wissenschaft auf dem WHS, um sich über innovative Ideen im Gesundheitswesen auszutauschen - darunter auch über Künstliche Intelligenz (KI) in der Medizin.
Das Ziel: Die Medizinversorgung zu verbessern. Dazu gehört auch, dass Klinikärzte sich wieder mehr um die Patienten kümmern können, anstelle "den bürokratischen Moloch zu füttern", so Pries zu Euronews.
KI: Eines der Hauptgründe für Burnout?
Laut der Deutschen Krankenhausgesellschaft verbringen Klinikärzte im Durchschnitt ganze drei Stunden pro Tag mit Bürokratie. Das könnte in Zukunft die KI übernehmen. Doch, KI kann auch schaden:
Das Verrückte: "Einer der Hauptgründe, warum Ärztinnen und Ärzte Burnout in Amerika hatten in den letzten 20 Jahren, war die Einführung von digitalen Systemen", sagt Pries zu Euronews. Laut Pries liege es daran, dass die Systeme nicht intelligent, sondern "dumm" waren. Denn nicht nutzergerechte Systeme würden noch mehr Arbeit schaffen, so Pries.
Das bestätigt auch Dr. Markus Beier, Bundesvorsitzender des Hausärzteverbandes: "Praktikabilität und Usability müssen von Anfang an mitgedacht werden in der Digitalisierung bestehender Prozesse, damit es zu keinem Stressor wird", so Beier zu Euronews. Wenn zusätzliche Innovationen implementiert werden, seien das erstmal zusätzliche Prozesse in der Praxis und diese würden kurzfristig natürlich zusätzliche Arbeit schaffen, glaubt Beier.
Systeme waren nicht intelligent, sondern "dumm"
Mit der Praktikabilität gab es in der Praxis bereits einige Schwierigkeiten: "Wenn die KI zum Beispiel trainiert wird mit Daten, die nicht stimmig sind, also sagen wir mal, alle die Daten, die da reingehen, sind von Menschen aus Amerika, dann ist das für Chinesen oder für Leute in Afrika unter Umständen gar nicht passend", erklärt Pries zu Euronews.
Ein großes Problem sei gewesen, dass die KI nicht geschlechtsneutral trainiert worden wäre, sondern zu viel mit Männern und zu wenig mit Frauen. Die Konsequenz: Die Bedürfnisse von Frauen wurden durch die K.I. nicht richtig gesehen, erzählt Pries.
Auch Dr. Beier glaubt, dass Digitalisierungsprojekte nur funktionieren, wenn sie einen Nutzen für die Praxen haben. "Wenn sie technisch auch wirklich sauber funktionieren", so Beier. Denn wenn die Ärzte sowieso schon am Limit arbeiten, sei ein zusätzlicher Aufwand mit KI ein zusätzlicher Stressfaktor.
Praktikabilität müsse deshalb von Anfang an ein zentraler Baustein sein. "Hier müssen klare Standards gesetzt werden", glaubt Beier. Doch schon an der Stelle gibt es Schwachstellen: "Wir sehen jetzt schon bei der Umsetzung der ePA, dass das sehr inhomogen ist", so Beier. Dabei sei die elektronische Patientenakte (ePA) bisher noch nicht einmal KI-gesteuert. "Der Einsatz von [KI] ist jetzt noch kein flächendeckendes Phänomen im deutschen Gesundheitswesen", sagt Beier zu Euronews.
Politik darf nicht nur an die Kosten denken
Und da ist die Politik gefragt: Professor Pries ruft zu mehr Mut auf, neue Dinge auszuprobieren. Doch das hat auch seinen Preis. Die Einführung eines neuen Krankenhausinformationssystems mit KI-Funktionen an der Charité würde sich auf dreistellige Millionenbeträge belaufen, so Pries.
Doch Politik dürfe bei dem Gesundheitssektor nicht immer nur die Kosten denken. Denn "mit einem nicht gut funktionierenden Gefährt voranzukommen" würde das Problem auch nicht lösen. Auch wenn KI bisher weder in Krankenhäusern noch in Hausarztpraxen in Deutschland flächendeckend Einsatz gefunden hat: In fünf bis sechs Jahren sieht Pries KI als "wirklichen Game Changer".
Datenschutz oder Datennutz?
Aber da wäre noch der Datenschutz: Viele Patienten befürchten, dass es Datenschutzverstöße geben könnte und sensible Patientendaten verloren gehen oder an Dritte geleakt werden, etwa durch Hackerangriffe. Das ist zuletzt dem Klinikkonzern Ameos passiert. Dieser hat nach einem Hackerangriff sensible Patientendaten verloren, Datenschutzlinien wurden missachtet. Es gab einen Abfluss persönlicher Daten.
Laut Dr. Beier könnten diese Fälle nicht gänzlich vermieden werden: Denn je mehr mit Patientendaten gearbeitet werde, desto mehr Möglichkeiten gäbe es logischerweise auch, dass ein Datenmissbrauch stattfinde. Doch die Folge dürfe auch nicht sein, dass sinnvolle digitale Anwendungen nicht umgesetzt würden. Alles müsse im Sinne der Patienten stattfinden - auch und vor allem bei KI.
Professor Pries erkennt die Wichtigkeit des Datenschutzes zwar an. Doch keine KI einzusetzen sei auch keine Lösung: Schließlich seien Menschen heutzutage auch bereit, über Social Media unglaublich viele Daten von sich in die Welt zu geben. Auf der anderen Seite seien sie dann sehr vorsichtig, was die offizielle Nutzung angehe.
"Da sehe ich schon einen riesen Unterschied, ob ich die Daten an Amazon oder Google gebe oder zum Beispiel an die Charité", so Pries. "Da gibt es eine gewisse Schizophrenie, würde ich fast sagen, zwischen dem Datenschutz und dem Datennutz", so Pries zu Euronews.