Der Guardian deckte auf: Googles KI-Zusammenfassungen geben ungenaue Gesundheitsinformationen aus. Die Ergebnisse werfen Fragen zur Verlässlichkeit auf.
Google hat laut Medienberichten einige KI-Übersichten zu Gesundheitsfragen entfernt. Anlass war eine Recherche, die irreführende Angaben aufdeckte.
KI-Übersichten sind von künstlicher Intelligenz erzeugte Zusammenfassungen. Sie erscheinen oberhalb der Suchergebnisse und liefern Antworten zu Themen oder Fragen.
Eine Untersuchung des Guardian ergab, dass manche Zusammenfassungen falsche Gesundheitsinformationen enthielten und damit Menschen gefährden könnten.
Die Zeitung stellte fest, dass KI-Übersichten auf Fragen wie „What is the normal range for liver blood tests?“ und „What is the normal range for liver function tests?“ massenhaft Zahlen ohne Kontext ausspielten. Die Antworten berücksichtigten zudem keine Unterschiede nach Nationalität, Geschlecht, Ethnie oder Alter.
Bei beiden Fragen lieferte die Google-Suche ein hervorgehobenes Snippet. Das ist ein Absatz, der aus der relevantesten Website zur Nutzerfrage stammt und ganz oben in den Ergebnissen steht.
Google entschied sich in beiden Fällen, im Snippet die Bandbreite gesunder Werte verschiedener in der Leber vorkommender Substanzen zu übernehmen. Dazu gehörten Alanin-Aminotransferase (ALT), die die Energieproduktion reguliert, Aspartat-Aminotransferase (AST), die beschädigte Blutzellen erkennt, und Alkalische Phosphatase (ALP), die beim Abbau von Proteinen hilft.
Die Zahlen stammten laut Guardian von Max Healthcare, einer gewinnorientierten Krankenhauskette in Neu-Delhi.
Hervorgehobene Snippets unterscheiden sich von KI-Übersichten, weil der Text im Snippet nicht von KI erzeugt wird.
Die Recherche des Guardian ergab, dass Varianten dieser Fragen, etwa „[liver function test] lft reference range“ oder „lft test reference range“, weiterhin KI-Zusammenfassungen erzeugten. Leberfunktionstests sind Bluttests, die Proteine und Enzyme messen, um zu prüfen, wie gut die Leber arbeitet.
Berichten zufolge riet Google Menschen mit Bauchspeicheldrüsenkrebs, fettreiche Lebensmittel zu meiden. Fachleute sagten dem Guardian, das sei keine gute Empfehlung, weil dadurch das Risiko eines tödlichen Verlaufs steigen könne.
Die Guardian-Recherche fällt in eine Zeit, in der Fachleute Alarm schlagen, dass KI-Chatbots „halluzinieren,“ also Antworten erfinden, wenn ihnen die korrekten Informationen fehlen.
Euronews Next fragte bei Google nach, ob das Unternehmen KI-Übersichten bei bestimmten Gesundheitsanfragen entfernt habe. Eine Antwort gab es zunächst nicht.
Am Wochenende kündigte Google an, KI-Übersichten auch in seinem E-Mail-Dienst Gmail einzuführen.
Mit der neuen Funktion können Nutzer Fragen zu ihren E-Mails stellen und direkt Antworten erhalten, statt sie per Stichwortsuche zu durchforsten.