Wer pflegt das Wissen, mit dem Ihre KI arbeitet?

Eine KI kann auf dieselbe Frage zwei unterschiedliche Antworten liefern, obwohl beide auf echten internen Unterlagen beruhen. Der Grund kann schon vor der technischen Verarbeitung liegen: Zwei Abteilungen verstehen unter demselben Begriff etwas anderes. Wer dann ausschließlich die Formulierung des Arbeitsauftrags verbessert, lässt den eigentlichen Konflikt bestehen.

Dieser Leitfaden behandelt eine konkrete Führungsaufgabe: festlegen, wer die Bedeutung und Gültigkeit des Wissens verantwortet, das eine KI-Anwendung verwenden soll. Er richtet sich an Kliniken, Pharmaunternehmen, Medizintechnik und andere wissensintensive Organisationen. Die Beispiele sind erfunden; der vorgeschlagene Ablauf ist eine eigene organisatorische Ableitung.

Ein Beispiel: Was bedeutet verfügbare Kapazität?

Stellen wir uns eine Klinik vor, deren Leitung nach der verfügbaren Kapazität für die nächste Woche fragt. Eine Übersicht zählt räumlich vorhandene Plätze. Eine zweite erfasst Plätze, für die Personal vorgesehen ist. Eine dritte berücksichtigt bereits zugesagte Belegungen. Alle drei Zahlen können korrekt erhoben sein und trotzdem zu verschiedenen Entscheidungen führen.

Eine Antwort ohne erkennbare Definition könnte eine Sicherheit erzeugen, die die Unterlagen gar nicht hergeben. Vor der Automatisierung sollte die Klinik deshalb vereinbaren, welche Frage mit welcher Kennzahl beantwortet wird. Dabei kann es mehrere sinnvolle Kennzahlen geben. Sie brauchen unterscheidbare Namen und einen erklärten Verwendungszweck.

Die WHO behandelt in ihrem Rahmen für Routinedaten aus Gesundheitseinrichtungen unter anderem Vollständigkeit, zeitgerechte Bereitstellung und Konsistenz sowie die organisatorische Verantwortung für Datenqualität. Das Dokument untersucht keine KI-Anwendung, bietet aber einen geeigneten Bezugspunkt für die Qualität ihrer Informationsgrundlage. [1]

Eine kleine Wissenseinheit festlegen

Beginnen Sie mit einer häufigen Frage, die tatsächlich eine Entscheidung vorbereitet. Im Beispiel lautet sie: Welche Kapazität können wir nach unserer derzeitigen Planung zusagen? Die dafür benötigte Wissenseinheit umfasst mehr als eine Zahl. Sie enthält die Definition, den Zeitbezug, die zuständige Stelle und die Bedingungen, unter denen die Antwort verwendet werden darf.

Für diese Einheit schlage ich eine kurze Vereinbarung mit sechs Feldern vor. Erstens: die Entscheidung, die unterstützt werden soll. Zweitens: die genaue Bedeutung des verwendeten Begriffs. Drittens: die maßgebliche Datengrundlage. Viertens: fachlich verantwortliche Person und Vertretung. Fünftens: Gültigkeitsstand und Anlass für eine erneute Prüfung. Sechstens: Vorgehen bei Widerspruch oder fehlenden Angaben.

Im Kapazitätsbeispiel könnte die Vereinbarung festhalten, dass die Zahl nur die derzeit personell eingeplante und noch nicht zugesagte Kapazität beschreibt. Eine spätere Änderung der Personalplanung würde eine neue Berechnung auslösen. Wer eine andere Frage stellt, etwa nach baulicher Erweiterbarkeit, erhält eine andere Kennzahl mit eigenem Namen.

Die Felder sind ein Arbeitsvorschlag. Ihre Zahl ist keine wissenschaftlich begründete Grenze. Eine Organisation sollte sie verkürzen oder ergänzen, wenn die konkrete Entscheidung es erfordert.

Zuständigkeiten so trennen, dass Entscheidungen möglich bleiben

Die fachliche Verantwortung entscheidet über die Bedeutung. Die technische Verantwortung stellt bereit, was vereinbart wurde. Die Freigabe klärt, ob und unter welchen Bedingungen die Information im vorgesehenen Ablauf verwendet werden darf. Diese Rollen können in einer kleinen Organisation teilweise bei denselben Personen liegen; sie sollten dennoch erkennbar bleiben.

Ein technisches Team kann beispielsweise nachweisen, dass eine Zahl korrekt aus einer Tabelle übernommen wurde. Ob die Tabelle personell gesicherte oder nur räumlich vorhandene Kapazität zählt, muss fachlich geklärt werden. Werden beide Fragen in einem einzigen Fehlerbericht vermischt, lässt sich die notwendige Entscheidung schwer zuordnen.

Benennen Sie außerdem eine Vertretung. Eine Wissensgrundlage, deren Bedeutung nur eine Person erklären kann, bleibt bei Urlaub, Wechsel oder Überlastung schwer zu pflegen. Die Vertretung sollte anhand eines Beispiels nachvollziehen können, wie die Definition angewendet wird und wann sie an ihre Grenze kommt.

Änderungen dürfen die Vergangenheit erklärbar lassen

Angenommen, die Klinik beschließt, ab Oktober eine zusätzliche Voraussetzung in der Kapazitätszahl zu berücksichtigen. Ein Rückgang gegenüber September könnte dann teilweise aus der geänderten Definition entstehen. Ohne Versionsangabe sieht die Veränderung möglicherweise wie ein tatsächlicher Verlust aus.

Die W3C-Empfehlung zur Bereitstellung von Daten beschreibt Angaben zu Herkunft, Fassungen und Änderungen. Ich übertrage dieses Prinzip hier auf interne Wissenspflege: Eine neue Definition sollte einen Gültigkeitsbeginn und eine kurze Erklärung des Unterschieds erhalten. Frühere Fassungen bleiben nachvollziehbar, soweit der jeweilige Aufbewahrungszweck dies erfordert. [2]

Für die KI-Antwort bedeutet das eine klare Anforderung: Der zugrunde gelegte Stand muss erkennbar sein. Falls die Anfrage mehrere Zeiträume umfasst, sollte das System unterschiedliche Definitionen sichtbar machen oder die Frage zur fachlichen Klärung weiterreichen. Es sollte einen fehlenden gemeinsamen Maßstab nicht durch eine sprachlich glatte Zusammenfassung verdecken.

Qualität hängt an der beabsichtigten Verwendung

Eine monatlich gepflegte Übersicht kann für eine langfristige Planung genügen und für eine Entscheidung am selben Nachmittag ungeeignet sein. Deshalb sollte die Wissensvereinbarung festhalten, welchen Zeithorizont sie unterstützt. Auch die notwendige Genauigkeit ergibt sich aus der Entscheidung.

Die W3C-Arbeitsgruppennotiz zum Datenqualitätsvokabular von 2016 lässt unterschiedliche Qualitätsbewertungen für unterschiedliche Nutzungen zu. Sie stellt keine allgemeine Punktzahl bereit, ab der ein Datensatz für jeden Zweck geeignet wäre. [3] Für den Betrieb leite ich daraus ab: Die Person, die den Verwendungszweck verantwortet, muss eine begründete Anforderung an Aktualität und Genauigkeit mittragen.

Im Beispiel könnte die Klinik eine grobe Kapazitätsübersicht für eine strategische Diskussion zulassen. Eine konkrete Zusage verlangt dagegen die dafür vorgesehene aktuelle Bestätigung. Diese Unterscheidung gehört in die Antwort und in den Ablauf, damit Nutzer:innen wissen, welche nächste Handlung möglich ist.

Den Pflegeaufwand klein und sichtbar beginnen

Wählen Sie für den Anfang drei wiederkehrende Fragen aus. Füllen Sie die Vereinbarung gemeinsam mit der fachlich verantwortlichen Stelle aus und prüfen Sie je eine gewöhnliche, eine widersprüchliche und eine unvollständige Anfrage. Dafür reichen freigegebene künstliche Daten. Besprechen Sie anschließend, welche Unklarheit erst durch die Übung sichtbar wurde.

Nach einer vereinbarten Nutzungsphase betrachten Sie die eingegangenen Rückfragen. Mussten Definitionen verändert werden? War die Vertretung handlungsfähig? Gab es Antworten auf Grundlage eines veralteten Stands? Der Aufwand für diese Pflege gehört zur Entscheidung über eine Ausweitung der Anwendung.

Falls die ersten drei Fragen sehr unterschiedliche Aktualisierungsabstände verlangen, sollten diese Unterschiede erhalten bleiben. Ein einheitlicher Prüftermin kann organisatorisch bequem sein und zugleich den Bedarf einzelner Entscheidungen verdecken. Die Vereinbarung soll diesen Bedarf für die zuständigen Personen bearbeitbar machen.

Für mich ist das eine konkrete Form von Führungsverantwortung bei KI: Die Organisation bestimmt, was sie mit ihren Begriffen meint, wer Änderungen verantwortet und wann eine Antwort verwendet werden darf. Je klarer diese Vereinbarungen sind, desto gezielter lässt sich technische Unterstützung daran ausrichten.