ChatGPT ersetzt keinen Arzt: Warum die „sichere“ KI-Antwort in Gesundheitsfragen gefährlich sein kann

Künstliche Intelligenz wird zunehmend die erste Anlaufstelle, wenn Menschen ein ungewöhnliches Symptom bemerken, Laborergebnisse erhalten oder einfach versuchen zu verstehen, was in ihrem Körper vor sich geht. ChatGPT und ähnliche Dienste antworten schnell, strukturiert und in verständlicher Sprache, was den Eindruck einer vollständigen ärztlichen Beratung erweckt. Doch wie die Hausärztin Lilia Sarachman in einem exklusiven Kommentar für Wave RBC.UA betont, ist es gefährlich, das neuronale Netz als Ersatz für den Arzt zu verwenden: Selbst eine sehr überzeugende Antwort des Algorithmus kann eine vollständige medizinische Untersuchung nicht ersetzen.

Warum die KI den Patienten „nicht sieht“

Das Kernproblem besteht laut Lilia Sarachman darin, dass die künstliche Intelligenz den Patienten nicht sieht. Bei einer persönlichen Untersuchung bewertet der Arzt weit mehr als eine trockene Beschreibung der Symptome: Er achtet auf die Hautfarbe, die Atemart, das Vorhandensein von Ödemen, Besonderheiten der Schmerzen, die Reaktion des Körpers bei der Untersuchung und viele weitere Details. „Manchmal verändert ein einzelnes Detail bei der Untersuchung die gesamte Diagnose- und Behandlungstaktik“, so die Ärztin. Deshalb erlaubt selbst eine sehr detaillierte Beschreibung des eigenen Zustands im Chat nicht immer, ein vollständiges klinisches Bild zu erstellen, auf dem eine fundierte Behandlung aufbaut.

Der sichere Ton als Falle für den Patienten

Das zweite, nicht weniger tückische Problem ist, dass ein Fehler der künstlichen Intelligenz wie eine völlig professionelle Antwort aussehen kann. ChatGPT ist in der Lage, Informationen sicher, strukturiert und verständlich zu formulieren, weshalb es für Menschen ohne medizinische Ausbildung äußerst schwierig sein kann, festzustellen, wo die verlässliche Information endet und der Fehler beginnt. Infolgedessen kann der Patient einer falschen Interpretation der Symptome glauben, sich beruhigen und den Arztbesuch aufschieben. Besonders gefährlich ist das, wenn hinter scheinbar unbedeutenden Symptomen tatsächlich ein Zustand steckt, der eine Notfallversorgung erfordert.

Wenn ein Symptom eine dringende Beurteilung erfordert

Die Ärztin erinnert daran, dass Symptome wie Brustschmerzen, Atemnot, Schwindel, Schwäche oder Kopfschmerzen Dutzende verschiedener Ursachen haben können. Ein Teil davon ist tatsächlich relativ harmlos, aber einige erfordern eine dringende medizinische Beurteilung. Genau in solchen Situationen wird die „häusliche“ Diagnose mit Hilfe eines Chatbots aus einem bequemen Werkzeug zu einem Risikofaktor: Der Mensch verbringt Zeit mit der Diskussion mit dem Algorithmus, anstatt um lebendige Hilfe zu bitten.

Wie man KI in Gesundheitsfragen richtig einsetzt

Doch die künstliche Intelligenz selbst ist laut Lilia Sarachman kein Feind. Sie kann ein nützliches Werkzeug sein, wenn man sie bestimmungsgemäß einsetzt: Mit Hilfe der KI kann man einen unverständlichen medizinischen Begriff in einfachen Worten erklären, eine Liste von Fragen für den Arzt vorbereiten, Informationen über die eigenen Symptome strukturieren oder bereits erhaltene Empfehlungen besser verstehen. „Die Gesundheit des Menschen ist genau der Fall, in dem man nicht testen sollte, wie gut der Algorithmus der künstlichen Intelligenz funktioniert“, fasst die Ärztin zusammen. Das neuronale Netz funktioniert also als Assistent und „Übersetzer“, aber nicht als Diagnostiker und behandelnder Spezialist.

Gerichtliche Präzedenzfälle: Wenn der KI-Rat in einer Klage endet

Die Gefahr, den Arzt durch einen Algorithmus zu ersetzen, geht bereits über theoretische Warnungen hinaus. Wie russische Medien berichten, hat im Juli 2026 ein ehemaliger Pastor OpenAI verklagt und behauptet, ChatGPT habe ihm geraten, keinen Arzt aufzusuchen, was seiner Gesundheit, so seine Worte, geschadet habe. Solche Präzedenzfälle zeigen anschaulich, dass die „sichere“ Antwort des neuronalen Netzes nicht nur einen Fehler enthalten, sondern auch dem grundlegenden Prinzip – der Notwendigkeit einer persönlichen medizinischen Versorgung – direkt widersprechen kann. Vor diesem Hintergrund klingen Aussagen über den raschen Anstieg der Genauigkeit diagnostischer neuronaler Netze (einschließlich Meldungen, dass einzelne KI-Modelle die Diagnosegenauigkeit gegenüber den Entscheidungen großer Konzerne übertreffen) wie ein Argument „für“ die Entwicklung der Technologie, aber nicht wie ein Argument „gegen“ den lebendigen Arzt.

Widersprüchliche Daten

Im öffentlichen Diskurs rund um die medizinische KI koexistieren zwei gegensätzliche Positionen. Einerseits betonen Entwickler und Forscher, dass diagnostische neuronale Netze eine hohe Genauigkeit erreichen, und einige Modelle übertreffen laut Medienberichten in einzelnen Metriken die Entscheidungen großer Technologieunternehmen; die KI wird als mächtiges Werkzeug positioniert, das das Gesundheitssystem entlasten kann. Andererseits bestehen praktizierende Ärzte wie Lilia Sarachman darauf, dass kein Modell den Patienten sieht, den Kontext der Untersuchung berücksichtigt und einen Fehler in professionell klingender Form ausgeben kann, und die Klagen (wie im Fall des ehemaligen Pastors und OpenAI) zeigen den realen Schaden durch blindes Vertrauen auf die Ratschläge eines Chatbots. Beide Perspektiven spiegeln verschiedene Aspekte derselben Realität wider: Die Technologie entwickelt sich tatsächlich und ist als Hilfsmittel nützlich, aber ihre aktuellen Einschränkungen machen die Verwendung der KI als Ersatz für eine persönliche ärztliche Beratung unmöglich. Eine ehrliche Darstellung dieses Widerspruchs ist wichtig, damit der Nutzer das neuronale Netz weder als Allheilmittel noch als nutzloses Spielzeug, sondern als begrenzten Assistenten versteht.

Das Fazit für den Leser ist einfach: ChatGPT und ähnliche Dienste können helfen, Begriffe zu klären, Fragen zu formulieren und Symptome zu strukturieren, aber die Entscheidung über Diagnose und Behandlung bleibt die Vorrechte des Arztes, der den Patienten als Ganzes sieht. In Gesundheitsfragen, wie Lilia Sarachman warnt, sollte man nicht testen, wie gut der Algorithmus funktioniert – hier stehen die Gesundheit und das Leben eines Menschen auf dem Spiel.