Google löscht fehlerhafte KI-Gesundheits-Infos nach Expertenwarnung

Irreführende Blutwerte

Google löscht KI-Ergebnisse nach gefährlichen Gesundheitsfehlern

Googles KI-Übersichten liefern irreführende Gesundheitsinformationen. Experten warnen vor gefährlichen Konsequenzen für Patienten.

Google hat mehrere seiner automatisch generierten Gesundheitszusammenfassungen gelöscht, nachdem diese falsche Informationen ausgespielt hatten. Eine Recherche der britischen Zeitung „The Guardian“ hat aufgedeckt, dass die sogenannten AI Overviews Nutzer bei der Suche nach Leberwerten in die Irre führten – mit potenziell schwerwiegenden Folgen.

Wer bei Google nach dem normalen Bereich für Lebertests suchte, bekam dem Bericht zufolge Zahlen von der Künstlichen Intelligenz präsentiert, die laut Experten gefährlich irreführend waren. Die KI lieferte Werte ohne jeglichen Kontext und ignorierte dabei wichtige Faktoren wie Alter, Geschlecht oder ethnische Herkunft der Patienten, heißt es. Das Problem: Menschen mit ernsthaften Lebererkrankungen könnten durch diese Angaben fälschlicherweise annehmen, ihre Blutwerte seien in Ordnung.

Vanessa Hebditch von der britischen Wohltätigkeitsorganisation British Liver Trust bezeichnete die Ergebnisse als „gefährlich“ und „alarmierend“. Sie begrüßte zwar die Entfernung der fehlerhaften Zusammenfassungen, äußerte aber dennoch Bedenken. Denn bei leicht abgewandelten Suchanfragen erschienen nach wie vor problematische KI-Übersichten.

„Ein Leberfunktionstest ist eine Reihe verschiedener Bluttests. Die Ergebnisse zu verstehen und zu wissen, was als Nächstes zu tun ist, ist komplex und umfasst weit mehr als nur den Vergleich einer Reihe von Zahlen“, erklärte Hebditch dem „Guardian“. Die KI-Zusammenfassungen stellten bestimmte Werte fett gedruckt dar, wodurch Nutzer leicht übersehen könnten, dass diese möglicherweise nicht zu ihren eigenen Tests passten.

Das Unternehmen reagierte auf die Enthüllungen und entfernte die betroffenen Suchergebnisse. Ein Sprecher betonte, man arbeite kontinuierlich an der Verbesserung der Systeme und greife bei Bedarf ein. Die KI-Zusammenfassungen seien bei vielen Themen „hilfreich“ und „zuverlässig“ für die Nutzer.

Google erklärte zudem, alle Inhalte würden intern von medizinischem Fachpersonal überprüft und stützten sich auf hochwertige Quellen. Das Unternehmen zeige die AI Overviews nur bei Suchanfragen an, bei denen es hohe Zuversicht in die Qualität der Antworten habe.

Hebditch fordert eine weitreichendere Maßnahme: Google solle die KI-Übersichten bei Gesundheitsfragen generell deaktivieren, um die Verbreitung von Fehlinformationen zu verhindern. Diese Forderung lehnte das Unternehmen jedoch ab.

Sue Farrington vom Patient Information Forum, einer Organisation für evidenzbasierte Gesundheitsinformationen, bezeichnete die Entfernung als guten ersten Schritt, aber längst nicht ausreichend. „Es gibt immer noch zu viele Beispiele dafür, dass Google AI Overviews den Menschen ungenaue Gesundheitsinformationen liefern“, sagte sie.