KI-Chatbots entscheiden schneller und selbstbewusster als Ärztinnen und Ärzte, aber weniger differenziert, wer eine lebensrettende Nierentransplantation erhält.
KI entscheidet über Transplantation? Neue Studie zeigt deutliche Unterschiede zwischen Sprachmodellen und Ärztinnen und Ärzten.
WERBUNG
WERBUNG
Laut der Studie treten KI-Modelle oft übermäßig selbstsicher auf, gewichten andere Faktoren und vereinfachen komplexe Entscheidungen zu stark, wenn sie bestimmen sollen, welche Patientin oder welcher Patient ein Spenderorgan erhält.
Für ihre Untersuchung konfrontierte das Forschungsteam der Penn State University in den USA verschiedene Große Sprachmodelle (LLMs) mit hypothetischen Szenarien. Grundlage waren Datensätze aus veröffentlichten Studien zur Verteilung von Spendernieren, in denen reale Probandinnen und Probanden dieselben Entscheidungen getroffen hatten.
In jedem Szenario standen zwei Personen zur Auswahl, Patient A und Patient B, beide grundsätzlich geeignet für eine einzige verfügbare Niere und beschrieben durch Alter, Gesundheitszustand und Trinkgewohnheiten. Eine entscheidende Instanz musste festlegen, welche der beiden die Niere erhält.
„Wir haben diese Vergleiche auf verschiedene Arten durchgeführt“, sagte Hosseini. „Manchmal haben wir nur ein Merkmal isoliert, manchmal mehrere kombiniert, um zu sehen, wie die KI konkurrierende Faktoren gewichtet. In einigen Fällen haben wir die Option ‚Münzwurf‘ eingeführt, um Unentschlossenheit zu messen – ein zentrales Element menschlicher moralischer Urteile.“
Menschen maßen dem Alter meist größere Bedeutung bei und bevorzugten jüngere gegenüber älteren Patientinnen und Patienten. Viele Modelle legten dagegen mehr Gewicht auf einen geringen Alkoholkonsum. Menschliche Entscheidungen berücksichtigten mehrere Faktoren und reagierten stärker auf den Kontext, LLMs konzentrierten sich dagegen häufig auf nur ein Merkmal.
„Zum einen weichen KI-Chatbots bei der Bewertung der Eigenschaften von Patientinnen und Patienten häufig von menschlichen Wertvorstellungen ab“, sagte Hadi Hosseini, Leiter der Studie an der Penn State University. „Sie fixieren sich auf einen einzelnen Faktor, etwa die Trinkgewohnheiten, statt verschiedene Gesichtspunkte auszubalancieren – so wie es Menschen tun.“
Die Forschenden stellten außerdem fest, dass KI kaum mit Unentschlossenheit ringt. Menschen erkennen, dass es nicht die eine objektiv richtige Antwort gibt und dass Entscheidungen oft von nuancierten moralischen Abwägungen abhängen. Die Systeme legten sich dagegen meist ohne großes Zögern auf eine Option fest.
„Wenn wir etwas Knappes verteilen, ob eine Niere, einen Arbeitsplatz oder den Zugang zu anderen Ressourcen, gibt es nicht immer eine eindeutig richtige Entscheidung“, sagte John Dickerson, Geschäftsführer von Mozilla.ai, der an der Studie mitarbeitete.
„Menschen erkennen diese Unklarheit und machen sie durch offene Debatten zum Teil des Verteilungsprozesses. KI-Modelle tun das oft nicht.“
KI und ethische Entscheidungen
Nach Angaben der Autorinnen und Autoren sollen KI-Systeme in vielen aktuellen Anwendungen nicht nur Fakten liefern, sondern zunehmend auch Werturteile fällen.
Große Sprachmodelle kommen im Gesundheitswesen immer häufiger zum Einsatz. Sie unterstützen klinische Abläufe, Diagnostik, Therapieplanung und den rechtzeitigen Einsatz knapper medizinischer Ressourcen.
Eine ihrer Anwendungen betrifft die Entscheidung, welche Patientin oder welcher Patient eine Niere von verstorbenen oder lebenden Spenderinnen und Spendern erhält. Nach Einschätzung der Autorinnen und Autoren hängt diese Verteilung von komplexen ethischen und moralischen Überlegungen ab.
In solchen Hochrisikoszenarien verlangen Entscheidungen nicht nur Präzision, sondern auch eine enge Ausrichtung an menschlichen Werten und moralischem Urteil.
Nach Ansicht des Teams steht die Frage, ob KI überhaupt moralische Entscheidungen treffen kann und ob diese mit menschlichen Werten übereinstimmen, im Zentrum der aktuellen Debatte über künstliche Intelligenz.
„Die ethischen Risiken sind hoch, und die Rolle der KI in solch lebensverändernden Entscheidungen braucht gründliche Reflexion“, sagte Hosseini. „Moralische Urteile in Bereichen wie der Organverteilung entscheiden direkt darüber, wer lebt und wer stirbt. Deshalb dürfen wir die Rolle der KI darin nicht dem Zufall überlassen.“
„Wir wollen den Einsatz von KI nicht als Ersatz für professionelle Urteilsfähigkeit in der medizinischen Entscheidungsfindung oder anderen Hochrisikokontexten bewerben“, fügte er hinzu. „Doch da Einzelpersonen, Organisationen und Unternehmen immer stärker auf KI vertrauen, um Entscheidungen zu treffen oder Empfehlungen zu erhalten, wird es entscheidend, ihr Verhalten genau zu verstehen.“