KI braucht menschliche Urteilskraft – Impulse aus Istanbul

Menschliche Kontrolle beim Einsatz von KI setzt voraus, dass Menschen Ergebnisse beurteilen können. Diese Verbindung von Urteilskraft, Verantwortung und Organisation stand im Mittelpunkt des Vortrags „Keeping Humans in Control“ von Prof. Dr. Angelika Kreitel am 8. Oktober 2026 in Istanbul.

Woran menschliche Kontrolle im Alltag hängt

Der englischsprachige Vortrag trägt den Untertitel „What Responsible AI Implementation Requires in Healthcare“. Er betrachtet KI aus dem Arbeitsalltag von Organisationen: Mitarbeitende nutzen sie zum Recherchieren, Schreiben, Zusammenfassen und Analysieren. Im Gesundheitswesen kommen besonders sensible Informationen und Entscheidungen mit unmittelbaren Folgen für Menschen hinzu.

Kreitels Ausgangspunkt: Ein leistungsfähiges System liefert nicht automatisch verlässliche Ergebnisse. Nützliche, überzeugende und falsche Antworten können ähnlich aussehen. Wer Ergebnisse freigibt, muss deshalb erkennen können, was überprüft werden muss und ob die verfügbaren Belege ausreichen.

Human oversight requires human competence.

Prof. Dr. Angelika Kreitel, „Keeping Humans in Control“, Folie 7

Vier Fragen vor der Entscheidung

Eine im Vortrag vorgestellte Prüfroutine macht diese Haltung konkret:

1. Aussage: Was behauptet die KI eigentlich?
2. Beleg: Worauf stützt sich diese Aussage?
3. Überprüfung: Trägt der Beleg die Aussage tatsächlich?
4. Entscheidung: Was darf ich mit dieser Information verantwortbar tun?

Die Fragen helfen, eine plausible Formulierung von einer belastbaren Entscheidungsgrundlage zu unterscheiden. Eine Quellenangabe allein beendet die Prüfung noch nicht: Auch ihre Aussagekraft und der jeweilige Anwendungskontext müssen beurteilt werden.

KI-Einführung ist eine Organisationsaufgabe

Die Präsentation beschreibt Spannungsfelder zwischen Datenfülle und Datensparsamkeit, Geschwindigkeit und Kontrolle sowie Automatisierung und Verantwortung. Diese Spannungen müssen im Betrieb bearbeitet werden: durch klare Einsatzgrenzen, nachvollziehbare Entscheidungen und Menschen, die ihre Kontrollaufgabe ausüben können.

KI-Kompetenz bekommt damit eine konkrete Funktion. Sie unterstützt Mitarbeitende dabei, Unsicherheit zu erkennen, vertrauliche Informationen zu schützen und den eigenen Entscheidungsspielraum einzuschätzen. Eine bloße Freigabe am Ende eines automatisierten Ablaufs reicht dafür nicht aus.

Was das für unsere Trainings bedeutet

Die abschließende Folie verbindet Grundlagenwissen mit Situationen aus dem Gesundheitswesen und Lernen durch Entscheidungen und Feedback. Genau dort setzt der Transfer an: Funktionsweisen kennen, Grenzen erkennen und das eigene Urteil an konkreten Fällen schärfen.

Zum Training für Krankenhaus und Gesundheitswesen · Zum Training für Unternehmen

---

Redaktionelle Zusammenfassung auf Grundlage der Präsentation „Keeping Humans in Control“ von Prof. Dr. Angelika Kreitel, IDUCK, Istanbul, 8. Oktober 2026. Die vier Prüffragen sind sinngemäß aus dem Englischen übertragen. Fotos aus dem bereitgestellten Konferenzmaterial.