Es ist zwei Uhr nachts, ein Ziehen in der Brust, und statt in die Notaufnahme zu fahren, tippt man die Symptome in ein Chatfenster. Sekunden später antwortet die KI: ausführlich, ruhig, in ganzen Sätzen, mit einer Einschätzung und ein paar Ratschlägen. Kein Wartezimmer, keine Kosten, keine unangenehmen Fragen. Für Millionen Menschen ist der KI-Chatbot längst die erste Anlaufstelle bei Gesundheitsfragen geworden - noch vor dem Hausarzt und oft auch vor der klassischen Suchmaschine.
Das Problem steckt genau in dieser überzeugenden Ruhe. Eine KI klingt kompetent, egal ob sie recht hat oder nicht. Sie formuliert eine falsche Auskunft mit derselben Souveränität wie eine richtige. Und anders als ein Arzt sagt sie selten von sich aus: Das weiß ich nicht. Die Frage ist also nicht, ob KI bei Gesundheitsthemen nützlich sein kann - das kann sie. Die Frage ist, wann man ihren Antworten trauen darf und wann nicht.
- KI-Chatbots formulieren Falsches so souverän wie Richtiges - der sichere Tonfall ist kein Qualitätssiegel
- In einer TU-Berlin-Studie lag selbst das beste ChatGPT-Modell nur in 74 Prozent der Fälle richtig und gab bei identischer Frage teils widersprüchliche Ratschläge
- Eine Studie in Nature Medicine zeigte: Wer mit KI recherchierte, fand seltener die richtige Verdachtsdiagnose als mit klassischer Internetsuche
- Sinnvoll ist KI zum Erklären von Fachbegriffen, Einordnen von Laborwerten und Vorbereiten von Arztfragen - nicht für Diagnosen, Dosierungen oder Notfälle
- Jede Auskunft sollte gegengeprüft, mit einer seriösen Quelle abgeglichen und im Zweifel dem Arzt gezeigt werden
Warum die KI so überzeugend klingt - und warum das täuscht
Ein großes Sprachmodell versteht Medizin nicht. Es sagt Wort für Wort das jeweils wahrscheinlichste nächste Wort voraus, gelernt aus riesigen Textmengen. Das Ergebnis liest sich flüssig und fachkundig, weil das Modell den Sprachstil medizinischer Texte perfekt imitiert. Ob der Inhalt stimmt, ist eine andere Sache. Genau das ist der Kern des Problems: Ein Chatbot kann richtig und falsch nicht unterscheiden.
Kommt keine passende Information aus den Trainingsdaten, erfindet das Modell mitunter eine - plausibel klingend, frei erfunden. Fachleute nennen das Halluzination. Die Stiftung Gesundheitswissen warnt ausdrücklich davor, dass KI Inhalte erfinden kann, die auf den ersten Blick stimmig wirken. Dazu kommt: Die Antwort hängt stark davon ab, wie man fragt. Eine ungenaue oder unvollständige Frage führt zu einer ebenso lückenhaften Antwort - ohne dass die KI nachhakt, was ein Arzt selbstverständlich täte.
Was Studien über die Trefferquote sagen
Die Zahlen sind ernüchternder, als der glatte Tonfall vermuten lässt. Ein Team der TU Berlin testete 22 Versionen von ChatGPT an 45 echten Patientenfällen und erzeugte dabei fast 10.000 Einschätzungen. Das in der Fachzeitschrift Communications Medicine veröffentlichte Ergebnis: Das beste Modell lag nur in 74 Prozent der Fälle richtig. Und die Empfehlungen schwankten sogar bei identischer Frage - GPT-5 riet bei gleicher Eingabe in 42 Prozent der Fälle Unterschiedliches. Auffällig war die Neigung, fast immer zum Arzt zu schicken, auch bei harmlosen Beschwerden; rund 70 Prozent der Fehler gingen auf dieses übervorsichtige Muster zurück.
Noch deutlicher wird es, wenn echte Menschen die KI im Alltag einsetzen. Eine britische Studie, veröffentlicht in Nature Medicine, ließ mehr als tausend Freiwillige medizinische Fälle einschätzen - die einen mit KI-Chatbot, die anderen mit gewöhnlicher Internetsuche. Wer die Suchmaschine nutzte, kam mit rund anderthalbmal höherer Wahrscheinlichkeit zur passenden Verdachtsdiagnose als die KI-Gruppe. Und über die Hälfte beider Gruppen traf anschließend falsche Folgeentscheidungen, etwa den nötigen Arztbesuch zu unterlassen. Die überlegene Technik führte also nicht zum besseren Ergebnis.
Wofür sich die KI wirklich eignet
Trotzdem ist der Chatbot kein nutzloses Werkzeug - man muss ihn nur richtig einsetzen. Stark ist die KI beim Übersetzen und Einordnen. Einen unverständlichen Befund in Alltagssprache erklären lassen, einen Laborwert grob einordnen, medizinische Fachbegriffe entschlüsseln: Dafür ist ein Sprachmodell gut geeignet, weil es Sprache umformt statt Diagnosen zu stellen.
Besonders wertvoll ist die KI in der Vorbereitung auf einen Arzttermin. Sie hilft, die eigenen Beschwerden zu sortieren und die richtigen Fragen zu formulieren, sodass man das kurze Gespräch beim Arzt besser nutzt. Auch für allgemeines Gesundheitswissen - wie eine Ernährungsumstellung grundsätzlich funktioniert oder was hinter einem Krankheitsbild steckt - liefert sie einen brauchbaren Einstieg. Vorausgesetzt, man behandelt die Antwort als Ausgangspunkt für eine Recherche, nicht als deren Ende.
Wo Sie der KI nicht vertrauen sollten
Klare Grenze: Sobald es konkret und riskant wird, gehört die Entscheidung nicht in ein Chatfenster. Eine Diagnose stellen, eine Medikamentendosis festlegen, Wechselwirkungen zweier Präparate beurteilen, akute Symptome bewerten - hier kann eine falsche, aber selbstsicher vorgetragene Auskunft gefährlich werden. Gerade bei Dosierungen und Wechselwirkungen ist der Spielraum für Fehler klein und die Folge potenziell groß.
Ebenso wenig taugt die KI für den Notfall. Bei Anzeichen wie plötzlichem Brustschmerz, Atemnot, einseitiger Lähmung, Sprachstörungen oder starken, ungewohnten Schmerzen zählt jede Minute - da ruft man den Notruf 112, statt zu tippen. Und ein weiterer blinder Fleck: Das Wissen eines Modells hat einen Stichtag. Neue Leitlinien, zurückgezogene Medikamente oder aktuelle Warnungen können schlicht fehlen, ohne dass die KI darauf hinweist.
So prüfen Sie eine KI-Antwort richtig
Vertrauen lässt sich ersetzen durch Überprüfung. Fordern Sie konkrete Quellen ein und sehen Sie nach, ob es die genannte Studie oder Institution wirklich gibt - erfundene Belege sind ein typisches Warnzeichen. Gleichen Sie die Aussage mit einer zweiten, seriösen und aktuellen Quelle ab, statt sie einfach zu übernehmen. Und zeigen Sie unsichere oder folgenreiche Informationen im Zweifel Ihrem Arzt oder Apotheker.
Wer verlässliche Gesundheitsinformationen sucht, ist ohnehin gut beraten, redaktionell geprüfte Angebote heranzuziehen - fundierte Beiträge finden sich etwa im Gesundheits & Health Magazin oder bei den großen Gesundheitsportalen. Solche von Menschen erstellten und überprüften Texte lassen sich hervorragend nutzen, um eine KI-Auskunft gegenzulesen. Ein einfacher Selbsttest hilft zusätzlich: Fragen Sie die KI, wie sicher sie sich ihrer Antwort ist. Räumt sie Unsicherheit ein, ist das ein guter Anlass, genauer hinzusehen.
Die ehrliche Antwort auf die Vertrauensfrage
Kann man den Gesundheitsantworten einer KI trauen? Bedingt. Als schneller Erklärer, Übersetzer und Vorbereiter für das Arztgespräch ist sie ein Gewinn. Als Diagnose-Instrument, Dosierungshilfe oder Notfallberater ist sie es nicht - und der selbstsichere Ton macht sie in diesen Rollen eher gefährlicher als harmloser.
Die vernünftige Haltung liegt zwischen blindem Vertrauen und pauschaler Ablehnung. Nutzen Sie die KI als eine von mehreren Stimmen, nie als die letzte. Sie ersetzt nicht das Fachwissen und den prüfenden Blick eines Menschen, der Sie tatsächlich untersucht. In der Medizin bleibt das der entscheidende Unterschied - und vorerst wird keine noch so flüssige Formulierung ihn überbrücken.
