Was der KI-Hinweis an einer medizinischen Antwort verändert

Ein Krankenhaus verschickt eine verständliche Antwort. Darunter steht: „Mit KI-Unterstützung erstellt.“ Was weiß die Empfängerin jetzt? Eine Software könnte die Rechtschreibung verbessert, einen ersten Entwurf formuliert oder medizinische Vorschläge geliefert haben. Eine Ärztin könnte jeden Satz geprüft oder lediglich den Versand ausgelöst haben. Der Hinweis lässt mehrere sehr unterschiedliche Abläufe offen.

Für mich liegt hier die entscheidende Frage für die Kommunikation: Welche Vorstellung von der geleisteten Arbeit entsteht beim Gegenüber? Wer KI-Beteiligung offenlegt, sollte eine zutreffende Vorstellung ermöglichen. Die Forschung zeigt, dass schon eine Herkunftsangabe Bewertungen verändert. Sie liefert zugleich Gründe, einen niedrigeren Vertrauenswert vorsichtig zu interpretieren. Sachgerechte Skepsis kann erwünscht sein, wenn jemand die Aussagekraft einer Antwort zuvor überschätzt hat.

Derselbe Text, drei zugeschriebene Quellen

Moritz Reis, Florian Reis und Wilfried Kunde veröffentlichten am 25. Juli 2024 zwei vorab registrierte Experimente in Nature Medicine. Die ausgewerteten Stichproben umfassten 1.050 und 1.230 über Prolific gewonnene Personen. Die erste war international; die zweite wurde hinsichtlich Alter, Geschlecht und ethnischer Zugehörigkeit an der britischen Bevölkerung ausgerichtet. Beide beurteilten vier kurze medizinische Frage-Antwort-Szenarien. Die zugeschriebene Quelle variierte zwischen Ärzt:in, KI und ärztlich überarbeiteter KI. [1]

Innerhalb eines Szenarios blieb der Antworttext gleich. Tatsächlich waren alle Antworten mit ChatGPT 3.5 vorbereitet und anschließend ärztlich bearbeitet, ergänzt und auf medizinische Richtigkeit geprüft worden. Das ist die Stärke des Versuchs: Unterschiedliche Textqualität kann den beobachteten Herkunftseffekt innerhalb dieser Anordnung nicht erklären. Er untersucht zugeschriebene Urheberschaft. Einen Leistungsvergleich zwischen Ärzt:innen und Sprachmodellen enthält er nicht. [1]

Bei vermuteter KI-Beteiligung fielen Zuverlässigkeits- und Einfühlsamkeitsbewertungen niedriger aus. In der ersten Studie betrug der standardisierte Unterschied bei der Zuverlässigkeit zwischen menschlicher und KI-Zuschreibung 0,28, mit einem 95-Prozent-Konfidenzintervall von 0,13 bis 0,43. Das beschreibt einen kleinen Unterschied auf einer Bewertungsskala. Daraus werden weder 28 Prozent weniger Vertrauen noch eine entsprechend veränderte Behandlungsentscheidung. [1]

Die Verständlichkeit wurde durch die Herkunftsangabe in beiden Studien nicht signifikant verändert. In der zweiten Studie sank zwar die angegebene Bereitschaft, dem Rat zu folgen. Beim angebotenen Speichern eines Links zur vermeintlichen Plattform unterschieden sich die Vergleiche mit der menschlichen Quelle jedoch nicht signifikant. Dieses begrenzte Verhaltensmaß erfasste Interesse am Angebot; eine tatsächliche Behandlung oder langfristige Nutzung wurde damit nicht beobachtet. [1]

Was an dieser Skepsis offenbleibt

Die Versuchsanordnung isoliert einen Effekt, erklärt aber seine Bedeutung im einzelnen Fall nur begrenzt. Die Teilnehmenden lasen fremde Fälle. Sie konnten keine eigenen Beschwerden schildern, Rückfragen stellen oder eine behandelnde Person kennenlernen. In der zweiten Studie wurden Personen ausgeschlossen, die sich an die zugeschriebene Quelle nicht richtig erinnerten. Die Ergebnisse beziehen sich damit auf eine nach dem Aufmerksamkeitskriterium ausgewählte Stichprobe unter kontrollierten Bedingungen.

Vor allem bezeichnet „KI mit ärztlicher Überarbeitung“ eine Zusammenarbeit, über deren konkrete Durchführung Leser:innen wenig erfahren. Vermuten sie eine sorgfältige inhaltliche Prüfung? Eine schnelle Durchsicht? Oder die bloße Möglichkeit menschlichen Eingreifens? Aus dem Vertrauenswert lässt sich diese Unterscheidung nicht ablesen. Mein Schluss daraus: Ein Krankenhaus sollte Vorbehalte zunächst als Fragen an die Verständlichkeit seiner Abläufe behandeln. Die Studie begründet keine Empfehlung, KI-Beteiligung zu verbergen.

Neuere Forschung macht die Arbeitsteilung sichtbar

Eine am 21. August 2026 veröffentlichte Untersuchung von Insa Schaffernak und Kolleg:innen verändert die Perspektive. In zwei vorab registrierten Experimenten bewerteten 489 beziehungsweise 570 Personen beschriebene augenärztliche Sprechstunden. Die Rekrutierung erfolgte über deutsche Hochschulen, überwiegend unter berufsbegleitend Studierenden. Die Daten wurden von März bis April sowie von Juni bis Oktober 2025 erhoben. Die Stichproben waren jung, im Mittel etwa 25 Jahre alt, und überwiegend weiblich. [2]

Verglichen wurden unterschiedliche Aufgaben der KI: zusätzliche Bildmarkierungen und Analysen einerseits, ein vorläufiger Diagnosevorschlag andererseits. In der zweiten Studie kam der Zeitpunkt hinzu. In einer Variante zog die ärztliche Person die KI bei der Beurteilung hinzu. In einer anderen bildete und kommunizierte sie zunächst eine eigene Einschätzung und betrachtete anschließend die KI-Ausgabe. Es ging um beschriebene Abläufe; die Teilnehmenden erlebten keine echte Behandlung. [2]

Bei gleichzeitiger Betrachtung erhielt diagnostische KI-Unterstützung geringere Vertrauensbewertungen als die zusätzliche visuelle Unterstützung. Wenn die ärztliche Einschätzung zuerst erfolgte, war dieser Unterschied zwischen den beiden KI-Arten nicht mehr statistisch signifikant. In der zweiten Studie lag das geschätzte mittlere Vertrauen in die medizinische Entscheidung bei diagnostischer Unterstützung bei 4,87 für die gleichzeitige und 5,35 für die nachgelagerte Verwendung, auf einer siebenstufigen Skala. Der entsprechende Vergleich war statistisch signifikant. [2]

Daraus entsteht noch keine klinische Empfehlung, KI grundsätzlich erst am Ende zu konsultieren. Die Studie untersuchte Bewertungen. Ob diese Reihenfolge Diagnosen verbessert, Arbeitszeit verändert oder in einer bestimmten Versorgungssituation angemessen ist, wurde nicht ermittelt. Zudem bleiben Ablauf und dessen sprachliche Darstellung miteinander verbunden. Die Ergebnisse zeigen aber eine wichtige Grenze pauschaler Aussagen: Eine erwähnte KI-Beteiligung führte unter diesen Bedingungen keineswegs durchgehend zu derselben Reaktion.

Eine Offenlegung braucht einen überprüfbaren Inhalt

Die ethische Begründung für Offenheit besteht unabhängig davon, welche Formulierung höhere Zustimmungswerte erzielt. Die Weltgesundheitsorganisation verbindet in ihren Leitprinzipien für KI im Gesundheitswesen Transparenz und Verständlichkeit mit menschlicher Selbstbestimmung, Verantwortung und Möglichkeiten, Entscheidungen zu hinterfragen. Das sind Orientierungspunkte für die Gestaltung. Sie ersetzen keine Prüfung der konkreten rechtlichen Anforderungen eines Einsatzes. [3]

Für die praktische Umsetzung schlage ich vier Angaben vor: Welche Aufgabe hat die KI übernommen? Was wurde anschließend fachlich geprüft? Wer verantwortet die versandte Antwort? Wie kann die empfangende Person eine Frage oder Korrektur anbringen? Die Angaben müssen zum tatsächlichen Vorgang passen. „Ärztlich geprüft“ wäre eine weitreichende Behauptung, wenn nur Schreibweise und Format kontrolliert wurden.

Ein frei erfundenes Beispiel für einen entsprechend organisierten Ablauf lautet: „Die KI hat den ersten Textentwurf erstellt. Die zuständige Ärztin hat die medizinischen Aussagen und ihre Anwendung auf Ihre Frage vor dem Versand geprüft. Bei Rückfragen erreichen Sie unser Behandlungsteam über die Antwortfunktion.“ Jeder dieser Sätze beschreibt eine Leistung oder einen erreichbaren Kontakt. Eine Einrichtung könnte ihn nur verwenden, wenn sie genau diesen Ablauf zuverlässig einhält.

Bei allgemeiner Gesundheitsinformation müsste die Erklärung anders ausfallen. Eine allgemeine fachliche Prüfung erlaubt keine Behauptung, dass die individuelle Situation einer bestimmten Person beurteilt wurde. Ebenso gehört die Verarbeitung personenbezogener Daten in eine überprüfte, verständliche Auskunft. Aus der ärztlichen Freigabe eines Textes folgt für sich genommen keine Aussage darüber, wo Daten gespeichert werden oder wer darauf zugreifen kann.

Prüfen, welche Vorstellung tatsächlich ankommt

Eine Klinik könnte zwei wahrheitsgemäße Erklärungen desselben freigegebenen Beispiels in einer betreuten Verständlichkeitsprüfung vergleichen: einen knappen Hinweis und eine etwas ausführlichere Beschreibung der Aufgaben. Das wäre ein eigener Gestaltungsvorschlag. Die genannten Studien haben diese konkrete Prüfung nicht durchgeführt. Die Beispiele sollten außerhalb einer laufenden Behandlung verwendet werden; für beide Fassungen gelten dieselben tatsächlichen Angaben zur KI-Beteiligung.

Anschließend würde ich Menschen in eigenen Worten erklären lassen, wer die medizinischen Aussagen geprüft hat, ob ihre persönliche Situation berücksichtigt wurde und an wen sie sich bei einem Fehler wenden können. Zusätzlich wäre interessant, ob sie eine zugesicherte Leistung vermuten, die tatsächlich fehlt. Ein hoher Vertrauenswert bei falscher Vorstellung von individueller Prüfung wäre ein Warnsignal. Eine präzisere, vorsichtigere Einschätzung könnte dagegen ein gutes Ergebnis sein.

Für Pharmaunternehmen und Medizintechnikhersteller ist diese Unterscheidung ebenfalls nützlich, etwa bei fachlichen Antworten oder Erläuterungen zu einem Produkt. Die hier besprochenen Versuche haben solche Geschäftsbeziehungen nicht untersucht. Die Übertragung ist meine praktische Ableitung: Die Erklärung sollte Empfänger:innen ermöglichen, eine konkrete Aussage, ihren Prüfungsumfang und die verantwortliche Stelle richtig einzuordnen. Dafür muss die Organisation zuerst wissen, welche Arbeit tatsächlich geleistet wurde. Erst dann lässt sich diese Arbeit ehrlich beschreiben.