Wenn Mensch und KI widersprechen: die strittige Entscheidung klären

Ein KI-System empfiehlt, eine geplante Einführung zu verschieben. Die verantwortliche Führungskraft hält den Termin für realistisch. Beide Einschätzungen klingen plausibel. Was jetzt fehlt, ist ein Verfahren, das den Unterschied aufklärt. Wer einfach eine weitere Antwort erzeugen lässt, hat anschließend möglicherweise drei Meinungen und dieselbe offene Entscheidung.

Ich würde einen solchen Widerspruch als Arbeitsauftrag behandeln: Welche konkrete Behauptung unterscheidet die beiden Einschätzungen, und welche Information könnte sie klären? Der folgende Ablauf ist ein eigener organisatorischer Vorschlag. Er richtet sich an begrenzte Verwaltungs- und Unternehmensentscheidungen. Er ist kein geprüftes Verfahren für Diagnostik oder Therapie. Das durchgängige Beispiel einer Medizintechnikabteilung ist frei erfunden.

Was die Forschung zum Eingreifen beiträgt

Buçinca und Kolleg:innen berichteten 2021 über ein Experiment mit 199 ausgewerteten Teilnehmer:innen. Die Aufgabe betraf den Austausch von Lebensmittelzutaten; die KI-Hilfe war simuliert. Gestaltungen, die eigenes Nachdenken verlangten, verringerten die Übernahme falscher Empfehlungen gegenüber einfachen Erklärungshilfen, beseitigten sie aber nicht. Besonders wirksame Varianten wurden ungünstiger bewertet. Der Befund beschreibt diese Versuchsumgebung und keinen klinischen Sicherheitsgewinn. [1]

Poursabzi-Sangdeh und Kolleg:innen untersuchten in vier vorab registrierten Experimenten mit insgesamt 3.800 Personen Vorhersagen von Wohnungspreisen. Mehr Einblick in ein Modell erleichterte teilweise dessen Nachvollzug, konnte jedoch die Korrektur großer Fehler bei ungewöhnlichen Fällen erschweren. Ein gezielter Hinweis auf mögliche Ausreißer veränderte dieses Ergebnis im vierten Experiment. Die 2021 veröffentlichte Arbeit untersucht keine heutigen sprachlichen KI-Erklärungen. [2]

Aus diesen begrenzten Befunden leite ich eine Gestaltungsfrage ab: Wie lässt sich die strittige Sache so sichtbar machen, dass die zuständige Person sie tatsächlich prüfen kann? Mehr Text auf dem Bildschirm ist dafür allein kein überzeugender Maßstab. Der folgende Ablauf muss in der jeweiligen Organisation erprobt und seinem Aufwand nach angepasst werden.

1. Den Widerspruch in einen Satz bringen

Im erfundenen Beispiel bereitet eine Abteilung die Einführung einer internen Dokumentenablage vor. Die KI fasst freigegebene Projektunterlagen zusammen und empfiehlt eine Verschiebung, weil angeblich noch keine Schulung stattgefunden hat. Die Projektleiterin erinnert sich an eine abgeschlossene Schulung. Der prüfbare Widerspruch lautet: War die für diese Einführung erforderliche Schulung zum vereinbarten Stichtag abgeschlossen?

Diese Formulierung enthält Gegenstand, Bedingung und Zeitpunkt. Sie verhindert, dass eine Diskussion über die gesamte Leistungsfähigkeit der KI die konkrete Prüfung verdrängt. Vielleicht meinen die Beteiligten unterschiedliche Gruppen. Vielleicht gilt eine andere Schulungsversion. Vielleicht fehlt dem System ein Protokoll. Jede dieser Möglichkeiten verlangt einen anderen nächsten Schritt.

2. Die eigene Begründung festhalten

Bevor weitere Erklärungen erzeugt werden, hält die Projektleiterin kurz fest, worauf ihre Einschätzung beruht: Einladungsdatum, erinnerte Teilnehmergruppe, vermuteter Abschlussnachweis. Auch ihre Unsicherheit gehört dazu. Eine Erinnerung an einen Termin beweist beispielsweise noch keine vollständige Teilnahme. Diese Notiz macht sichtbar, welche Teile der eigenen Position später bestätigt oder korrigiert werden müssen.

Für routinemäßige Fälle kann das ein Satz sein. Bei einer Entscheidung mit größeren Folgen kann eine zweite zuständige Person hinzukommen. Entscheidend ist, dass zusätzliche Prüfung einen klaren Gegenstand bekommt. Eine lange Begründungspflicht für jede kleine Abweichung wäre ein erheblicher Arbeitsaufwand und müsste ihren Nutzen erst zeigen.

3. Die maßgebliche Information unabhängig prüfen

Im Beispiel wird der freigegebene Schulungsnachweis über den bekannten internen Ablageweg geöffnet. Geprüft werden Teilnehmergruppe, Schulungsfassung und Datum. Eine von der KI genannte Fundstelle kann ein Suchhinweis sein; ihre Existenz und ihr Inhalt brauchen eine eigenständige Prüfung. Dafür gelten die bestehenden Zugriffsrechte. Die Klärung eines Widerspruchs ist kein Anlass, geschützte Unterlagen in ein zusätzliches, ungeprüftes System zu übertragen.

Nun zeigt sich: Die Projektleiterin erinnert sich richtig an eine Schulung für die erste Nutzergruppe. Eine zweite Gruppe wurde inzwischen in den Einführungsumfang aufgenommen. Für sie fehlt der Nachweis. Beide ursprünglichen Aussagen waren zu weit gefasst. Die relevante Entscheidung betrifft jetzt den Umfang der Einführung und die noch offene Voraussetzung für diese Gruppe.

4. Sachverhalt und Entscheidung trennen

Ein geklärter Sachverhalt bestimmt die Entscheidung häufig nur teilweise. Die Abteilung könnte den Termin für die erste Gruppe halten, die zweite später einbeziehen oder die gesamte Einführung verschieben. Welche Möglichkeit vertretbar ist, hängt von Abhängigkeiten, Zusagen und den geltenden internen Anforderungen ab. Diese Bewertung bleibt bei der dafür zuständigen Funktion.

Die entscheidende Person dokumentiert daher zwei kurze Aussagen: Was wurde festgestellt? Welche Handlung folgt daraus und weshalb? Bei einer anderen Beweislage kann dasselbe Verfahren auch die ursprüngliche KI-Empfehlung bestätigen. Sein Zweck ist eine begründete Entscheidung. Eine hohe Zahl menschlicher Korrekturen wäre für sich genommen ebenso wenig ein Qualitätsnachweis wie eine hohe Zustimmungsquote.

5. Fehlende Information als Ergebnis zulassen

Mitunter bleibt der entscheidende Nachweis unauffindbar. Dann wird die offene Voraussetzung benannt, zusammen mit der Person, die sie klären kann, und einem sinnvollen Zeitpunkt für die nächste Entscheidung. Falls die Entscheidung vorher fallen muss, braucht es die dafür vorgesehenen Zuständigkeiten und Regeln zum Umgang mit Unsicherheit. Eine zusätzlich erzeugte Formulierung kann die fehlende Information nicht ersetzen.

Auch eine Aussage wie „Ich bin mir zu 95 Prozent sicher“ würde ich zunächst als Teil der Antwort behandeln. Als Entscheidungsgrundlage verdient eine solche Zahl erst Gewicht, wenn nachvollziehbar ist, wie sie zustande kommt und wie gut sie in vergleichbaren, unabhängig geprüften Fällen zu tatsächlicher Richtigkeit passt. Das ist hier eine eigene Prüfregel. Die beiden genannten Studien messen die Kalibrierung heutiger Sprachmodelle nicht.

6. Die Ursache für künftige Fälle festhalten

Nach der Entscheidung genügt im Beispiel eine knappe Ursachenangabe: Der Einführungsumfang war in den Unterlagen uneinheitlich. Das ist etwas anderes als eine fehlende Quelle, eine falsche Zusammenfassung oder eine veraltete menschliche Erinnerung. Eine solche Unterscheidung hilft, eine passende Änderung auszuwählen. Zusätzliche Schulung würde einen widersprüchlichen Projektumfang beispielsweise kaum unmittelbar beheben.

Für wiederkehrende Fälle kann die Organisation wenige erlaubte Angaben sammeln: Art des Widerspruchs, verwendete Prüfgrundlage, Entscheidung, verbleibende Unsicherheit und erforderliche Nacharbeit. Die Sammlung braucht eine festgelegte Aufbewahrung und Zugriffsbeschränkung. Personen- oder Geschäftsgeheimnisse gehören nur hinein, wenn ihre Verarbeitung für diesen Zweck geklärt ist. Häufig reicht eine abstrahierte Beschreibung des Fehlertyps.

Eine kurze Arbeitskarte für den nächsten Fall

Die Arbeitskarte kann sechs Felder enthalten: strittige Behauptung, eigene Begründung, maßgebliche Information, festgestellter Sachverhalt, zuständige Entscheidung und notwendige Änderung. Das Blatt bleibt leer, bis ein echter Widerspruch seine Verwendung rechtfertigt. Es soll eine Untersuchung erleichtern und lässt sich nach ersten erlaubten Erprobungen kürzen oder präzisieren.

Mich interessiert daran besonders die Lernmöglichkeit für die Organisation. Ein sauber geklärter Widerspruch kann zeigen, wo Begriffe unscharf sind, Quellen fehlen oder Zuständigkeiten unklar bleiben. Erst die konkrete Prüfung macht diese Unterschiede sichtbar. Damit entsteht aus einer irritierenden KI-Antwort ein nachvollziehbarer Anlass, die gemeinsame Entscheidungsgrundlage zu verbessern.