KI-Chatbots übersehen überraschend viele medizinische Diagnosen – neue Studie enthüllt erschreckende Lücken

Eine aktuelle Untersuchung der Fachzeitschrift Nature Medicine zeigt deutliche Defizite bei der Nutzung von KI-gestützten Chatbots und großen Sprachmodellen (Large Language Models, LLMs) für medizinische Diagnosen. Obwohl diese Systeme in der Lage sind, allgemeine Fragen zu beantworten, sind sie laut der Studie nicht zuverlässig genug, um als primäre Quelle für medizinische Beratung zu dienen.

Für die Studie wurden 1.298 Teilnehmer im Vereinigten Königreich gebeten, ein LLM wie ChatGPT oder Metas Llama 3 zu nutzen, um medizinische Ratschläge zu erhalten. Die Ergebnisse zeigen, dass die Sprachmodelle die medizinischen Zustände in weniger als 34,5 % der Fälle korrekt identifizieren konnten. Dies verdeutlicht, dass die Nutzung solcher Modelle für Erstdiagnosen nur eingeschränkt sinnvoll ist.

Leistung der Sprachmodelle

Die Untersuchung hebt hervor, dass LLMs auf medizinischen Wissensprüfungen Ergebnisse erzielen, die dem Bestehen des US Medical Licensing Exam vergleichbar sind. Auch klinische Dokumentationen, die von LLMs erstellt werden, werden laut Studie in der Qualität als gleichwertig oder sogar besser als die von Ärzten verfassten Unterlagen bewertet.

Ein zentrales Problem trat jedoch bei der direkten Nutzung durch die Teilnehmer auf. Oft wurden nicht genügend Informationen bereitgestellt: In 16 von 30 Interaktionen enthielten die initialen Nachrichten nur unvollständige Angaben. Dadurch war das Modell nicht in der Lage, verlässliche Diagnosen zu liefern. In einigen Fällen verschlechterte sich die Genauigkeit sogar, nachdem zusätzliche Details eingegeben wurden. Die Studie berichtet: „In zwei Fällen gaben die LLMs zunächst korrekte Antworten, fügten jedoch nach zusätzlichen Informationen der Nutzer neue, falsche Antworten hinzu.“ Dies zeigt, dass längere Dialoge mit den Chatbots die Genauigkeit der Diagnosen nicht steigern.

Nach der ersten Diagnose konnten die LLMs die korrekten Folgemaßnahmen nur in 44,2 % der Fälle richtig angeben. Unter den getesteten Modellen befand sich auch Metas Llama 3, eines der führenden großen Sprachmodelle.

Nutzung von Chatbots für medizinische Beratung

Eine Umfrage von OpenAI, dem Entwickler von ChatGPT, zeigt, dass drei von fünf Erwachsenen in den USA KI-Systeme für Gesundheitsfragen nutzen. Dabei werden die Modelle eingesetzt, um erste Informationen bei Krankheitssymptomen zu erhalten, Arztbesuche vorzubereiten oder medizinische Anweisungen besser zu verstehen. Trotz eines Hinweises auf der ChatGPT-Website, dass „ChatGPT Fehler machen kann und wichtige Informationen überprüft werden sollten“, vertrauen viele Nutzer den Angaben der KI als faktisch korrekt.

Die Studie macht deutlich, dass ChatGPT und ähnliche Chatbots nicht als Grundlage für medizinische Entscheidungen genutzt werden sollten, insbesondere nicht in kritischen Situationen. Trotz hoher Leistungswerte bei theoretischen Prüfungen sind die Modelle für praktische Diagnosen im Alltag nur eingeschränkt verlässlich.