Verlernen wir zu urteilen, weil KI für uns denkt?

9. Okt.

9 Min. Lesezeit

Der Leutnant einer amerikanischen Feuerwehr betritt ein Haus, in dem es in der Küche brennt. Seine Mannschaft richtet den Wasserstrahl auf die Flammen. Normalerweise würde das Feuer jetzt zurückweichen. Es tut es nicht. Der Leutnant bemerkt etwas Seltsames: Das Wohnzimmer ist ungewöhnlich heiß, und es ist ungewöhnlich leise. Er kann nicht sagen, was ihn stört, aber er lässt alle Männer das Haus verlassen. Wenige Augenblicke später bricht der Boden ein. Das Feuer brannte im Keller.

Der Psychologe Gary Klein hat diese Geschichte in seinem Buch „Sources of Power“ (1998) erzählt, und sie wird seither oft zitiert. Der Leutnant selbst sprach später von einem sechsten Sinn. Klein hat es nüchterner beschrieben: Der Mann hatte in Jahren unzählige Brände gesehen und erkannte ein Muster, das nicht passte, ohne dass er es hätte benennen können.

Diese Fähigkeit hat einen Namen, der in der Wirtschaft selten fällt: Urteilskraft. Sie basiert auf implizitem Wissen und steht in keiner Stellenbeschreibung, lässt sich schwer in eine Kennzahl übersetzen, und entscheidet trotzdem darüber, ob die Feuerwehr-Mannschaft das Haus rechtzeitig verlässt oder nicht.

In Unternehmen sieht das weniger dramatisch aus. Eine Einkaufsleiterin lehnt ein Angebot ab, das auf dem Papier besser ist, und kann es nicht begründen. Ein Geschäftsführer zögert bei einer Übernahme, obwohl das Zahlenwerk stimmt. Ein Vertriebsleiter spürt, dass ein Kunde abspringt, Monate bevor das Auftragsvolumen es zeigt.

Die Frage, die sich gerade stellt, ist, was mit dieser Fähigkeit passiert, wenn immer mehr Einschätzungen von KI-Systemen vorbereitet, vorsortiert oder gleich selbst getroffen werden.

Die Antwort aus der aktuellen Forschung ist unbequem: KI liefert nicht automatisch schlechte Entscheidungen, aber Menschen urteilen mit KI-Hilfe anders als ohne, und dieser Unterschied taucht in keiner Auswertung auf.

Was Urteilskraft ist, und was sie nicht ist

Der Philosoph Michael Polanyi hat 1966 in „The Tacit Dimension“ einen Satz geschrieben, der bis heute die Debatte über implizites Wissen prägt: Wir wissen mehr, als wir zu sagen wissen. Der Leutnant konnte nicht erklären, was ihn aus dem Haus trieb. Dennoch hatte er recht.

Urteilskraft umfasst die Fähigkeit, auf der Grundlage von Erfahrungen, Wahrnehmungen und Beurteilungen eine Situation einzuschätzen, Zusammenhänge zu erkennen und Entscheidungen zu treffen. Ein wesentlicher Teil davon beruht auf implizitem Wissen, das Menschen in ihrem Handeln leitet, ohne dass sie es vollständig benennen können.

Zugleich gehört zur Urteilskraft, Einschätzungen bewusst zu hinterfragen und gegeneinander abzuwägen. Sie ist kein Bauchgefühl im Sinne von Beliebigkeit.

Daniel Kahneman, der Intuition jahrzehntelang kritisch untersucht hat, und Gary Klein, der sie verteidigt hat, haben 2009 gemeinsam einen Aufsatz veröffentlicht, der das klärt („Conditions for Intuitive Expertise: A Failure to Disagree“, American Psychologist). Ihr gemeinsames Ergebnis: Intuition eines Experten ist verlässlich, wenn zwei Bedingungen erfüllt sind. Das Umfeld muss regelmäßig genug sein, dass sich Muster überhaupt erlernen lassen. Und der Experte muss lange genug geübt haben, mit Rückmeldung darüber, ob er richtig lag.

Dieser zweite Punkt ist für alles Weitere entscheidend. Urteilskraft ist keine Eigenschaft, die man besitzt wie ein Zeugnis. Sie entsteht durch Gebrauch. Sie wächst mit jedem Fall, den jemand selbst beurteilt hat, mit jeder Einschätzung, die sich später als richtig oder falsch herausstellte. Fehlen diese Gelegenheiten über längere Zeit, fehlt auch die Übung, durch die sich Urteilskraft entwickelt und bewährt. Ob und wie stark sie dadurch abnimmt, ist eine Frage, die die bisherige Forschung noch nicht abschließend beantwortet.

Was die Forschung gerade zeigt

An mehreren Stellen zugleich beginnt sich ein Bild abzuzeichnen.

Eine Forschungsgruppe um Jacqueline Ng Lane von der Harvard Business School hat gemeinsam mit MIT Solve ein Feldexperiment durchgeführt.

MIT Solve vergibt jährlich Fördermittel für Projekte zur globalen Gesundheitsgerechtigkeit, 2024 waren es eine Million US-Dollar für 30 Bewerber. Die Einreichungen wurden von Prüfern bewertet, unter drei Bedingungen: ohne KI, mit KI-Empfehlung in Form eines einfachen „weiter“ oder „nicht weiter“, und mit einer KI-Empfehlung samt ausformulierter Begründung.

Zwei Ergebnisse stechen hervor. Mit KI-Unterstützung lehnten die Prüfer im Durchschnitt neun Prozentpunkte mehr Vorschläge ab. Und die ausformulierten Begründungen überzeugten Fachleute und Laien gleichermaßen. Lane fasst es so zusammen, dass Menschen die Entscheidungen der KI oft übernehmen, selbst wenn diese falsch liegen, weil die Begründung plausibel klingt. Bei objektiven Kriterien stimmten Mensch und KI weitgehend überein, bei subjektiven und kreativen Bewertungen war die KI schwächer.

Dieser Befund verdient Aufmerksamkeit, weil er eine verbreitete Beruhigung infrage stellt. Dass am Ende ein Mensch entscheidet, ist keine Garantie dafür, dass ein Mensch urteilt. Wenn die Empfehlung gut begründet daherkommt, wird die Prüfung zur Bestätigung.

Eine Untersuchung von Microsoft Research und der Carnegie Mellon University aus dem Jahr 2025 geht denselben Mechanismus von der anderen Seite an. Befragt wurden 319 Wissensarbeiter, die mindestens einmal pro Woche generative KI nutzen, ergänzt um die Analyse von 936 konkreten Beispielen. Wer der KI stärker vertraute, wendete weniger kritisches Denken auf ihre Ergebnisse an. Wer dagegen mehr Vertrauen in die eigenen Fähigkeiten hatte, prüfte und überarbeitete die Antworten häufiger. Es handelt sich um Selbstauskünfte, das sollte man dazusagen. Aber die Richtung ist bemerkenswert: Das Vertrauen in die eigene Urteilsfähigkeit schützt, und gerade diese Fähigkeit braucht regelmäßige Übung.

Im Mai 2026 hat der Softwareanbieter GoTo mit Workplace Intelligence eine Erhebung unter 2.500 Beschäftigten und IT-Führungskräften weltweit veröffentlicht. Darin berichten 46 Prozent der Beschäftigten in der DACH-Region von zu starker Abhängigkeit von Technologie. 30 Prozent der Befragten fühlen sich ohne KI-Werkzeuge nicht mehr zuverlässig arbeitsfähig. 52 Prozent sind der Ansicht, dass ihre übermäßige KI-Nutzung ihre Fähigkeiten beeinträchtigt und sie weniger intelligent macht. Auch das sind Selbstauskünfte, kein objektiv gemessener Fähigkeitsverlust. Dennoch ist bemerkenswert, dass die Beschäftigten selbst eine Veränderung ihrer Fähigkeiten wahrnehmen.

Im August 2026 schließlich hat die Harvard Business Review einen Beitrag von Leonid Sudakov und Nathan Furr (INSEAD) veröffentlicht, dessen Titel die These bereits enthält: KI untergräbt die Urteilskraft von Führungskräften.

Die Autoren greifen dabei das bereits beschriebene Feldexperiment von Jacqueline Ng Lane und ihrem Team auf und leiten daraus eine weiterführende These ab: Organisationen, die KI-Werkzeuge verstärkt einsetzen, laufen Gefahr, ihre Führungskräfte ungewollt aus genau der Fähigkeit herauszutrainieren, die ihren Wettbewerbsvorteil ausmacht: der eigenständigen Urteilskraft. Als Gegenmittel nennen sie zwei Praktiken, die sie „strukturierte Neugier“ und „bewussten Dissens“ nennen, und sie benennen zwei Fähigkeiten, die es zu schützen gilt: die Breite der Wahrnehmung, also schwache Signale überhaupt zu bemerken, und die Unabhängigkeit der Interpretation, also sich eine eigene Meinung zu bilden, statt dem Modell zu folgen.

Keine dieser Arbeiten beweist für sich genommen, dass Führungskräfte in Unternehmen heute schlechter urteilen als vor fünf Jahren. Zusammen beschreiben sie aber einen plausiblen Mechanismus, und der verdient es, ernst genommen zu werden, bevor sich die Folgen zeigen.

Der leise Mechanismus

Am deutlichsten wird dieser Mechanismus, wenn man ihn an einem Beispiel durchspielt, das keine konkrete Firma beschreibt, sondern ein Muster, das viele Organisationen kennen.

Eine Kreditentscheidung, eine Lieferantenauswahl, die Bewertung einer Bewerbung: In jedem dieser Fälle gab es früher eine Abfolge von Schritten. Jemand sichtete das Material, bildete sich einen ersten Eindruck, verglich mit früheren Fällen, merkte, wo etwas nicht passte, und gab eine Einschätzung weiter. Dann prüfte die nächste Ebene. Jeder Schritt war Arbeit, aber jeder Schritt war auch Training. Wer zehn Jahre lang Lieferantenangebote gesichtet hat, erkennt in einem Angebot das Unstimmige, ohne lange zu suchen.

Wird nun der erste Schritt von einem System erledigt, verschwindet eine Aufgabe, die lästig war. Gleichzeitig verschwindet die Gelegenheit, an dieser Aufgabe zu lernen. Die erfahrene Mitarbeiterin urteilt weiterhin, aber sie sieht nur noch, was das System vorsortiert hat. Und die nachrückende Kollegin hat nie die Gelegenheit, das Muster selbst zu erwerben, das die erfahrene Mitarbeiterin noch hat.

Das ist der eigentlich kritische Punkt. Urteilskraft geht nicht an dem Tag verloren, an dem die KI eingeführt wird. Das Risiko entsteht über einen längeren Zeitraum, wenn eine Generation von Beschäftigten ohne die Übungsfälle auskommt, aus denen sich ihre Urteilskraft sonst entwickelt hätte. Und weil das Umfeld, das die Erfahrenen geprägt hat, sich verändert, lässt sich auch nicht mehr sicher sagen, ob ihre Intuition noch passt. Nach Kahneman und Klein hängt Verlässlichkeit an einem Umfeld, das regelmäßig genug ist. Wenn sich die Regeln verschieben, ohne dass es jemand merkt, wird auch die erfahrene Intuition riskant.

Warum das in den Zahlen nicht auftaucht

Wenn das stimmt, müsste es doch irgendwo auffallen. Die Schwierigkeit liegt darin, dass die Instrumente, mit denen Unternehmen ihre Leistung messen, für diesen Verlust blind sind.

Der Effizienzgewinn ist sofort sichtbar. Eine Prüfung, die früher einen Tag dauerte, dauert eine Stunde. Das lässt sich messen, berichten und feiern. Der Verlust an Urteilskraft dagegen hat keine Spalte. Die Qualität eines Urteils zeigt sich erst, wenn es sich bewährt oder nicht, oft Jahre später, und selbst dann lässt sich die Entscheidung kaum auf die Frage zurückführen, wer sie auf welcher Grundlage getroffen hat. Eine fehlgeschlagene Übernahme wird dem Markt zugeschrieben, eine verlorene Kundenbeziehung der Konjunktur.

Hinzu kommt, dass Urteilskraft sich selten vollständig erklären lässt. Der Leutnant konnte nicht sagen, was ihn irritierte. Wer in einem Meeting sagt, er habe ein ungutes Gefühl bei einer Sache, gegen die ein klar strukturierter, plausibel begründeter KI-Vorschlag steht, spricht aus einer schwächeren Position. Das Argument der Maschine kommt mit Gliederungspunkten daher, der Erfahrene bringt ein Unbehagen mit. Die Studie von Lane zeigt, wie leicht die formulierte Begründung gewinnt, auch wenn sie falsch ist.

So kann ein Muster entstehen, in dem sich Organisationen Schritt für Schritt von dem trennen, was sie am schwersten ersetzen können, und in dem diese Trennung als Fortschritt verbucht wird.

Zwei Missverständnisse

Zwei verbreitete Annahmen helfen in dieser Lage nicht weiter.

Die erste lautet, dass der Mensch ja immer noch „im Loop“ sei. Das ist formal richtig und inhaltlich oft folgenlos. Entscheidend ist nicht, ob ein Mensch am Ende unterschreibt, sondern ob er sich vorher ein eigenes Bild gemacht hat. Wer eine begründete Empfehlung prüft, prüft in der Regel die Begründung, nicht die Sache. Das ist ein anderer Vorgang, und er trainiert eine andere Fähigkeit.

Die zweite Annahme ist der Gegensatz von Daten und Bauchgefühl. Er wird gern bemüht, wenn es um KI und Führung geht, und er führt in die Irre. Kahneman und Klein haben gezeigt, dass es nicht um zwei Lager geht, sondern um eine Frage der Bedingungen: In welchen Umfeldern ist Erfahrung ein verlässlicher Ratgeber, und in welchen nicht? Die ernsthafte Antwort ist weder, dass man Intuition ersetzen, noch dass man ihr unbesehen vertrauen soll. Die Frage ist, wo sie trägt und wo nicht, und das lässt sich nur herausfinden, wenn man weiß, worauf sie sich stützt.

Was Organisationen tun können

Aus alledem folgt keine Empfehlung, auf KI zu verzichten. Sie wäre unrealistisch und in vielen Fällen auch falsch. Es folgt aber, dass der Schutz von Urteilskraft eine bewusste Aufgabe ist, die nicht von selbst erledigt wird. Einige Ansatzpunkte ergeben sich aus der Forschung und aus dem, was Organisationen ohnehin über Lernen wissen.

Das eigene Urteil zuerst festhalten. Wenn die Einschätzung der Menschen vor der Empfehlung des Systems entsteht, bleibt sie unabhängig. Es muss keine lange Notiz sein. Ein Satz genügt, in dem steht, was jemand erwartet und warum. Die Autoren des HBR-Beitrags nennen die Haltung dahinter „bewussten Dissens“: die Gewohnheit, die Gegenposition zu suchen, bevor man einer Empfehlung folgt.

Rückmeldung organisieren. Urteilskraft braucht, wie Kahneman und Klein betonen, Feedback. Wer eine Einschätzung abgibt, sollte später erfahren, ob sie sich bewährt hat. In vielen Organisationen fehlt genau diese Schleife, auch ohne KI. Mit KI wird sie wichtiger, weil die Übungsfälle seltener werden.

Bewusst entscheiden, welche Urteile bei Menschen bleiben. Nicht jede Entscheidung braucht menschliche Urteilskraft, und nicht jede Aufgabe sollte aus Prinzip beim Menschen bleiben. Aber es lohnt sich, für die Kernentscheidungen des Unternehmens ausdrücklich festzulegen, dass Menschen sie eigenständig vorbereiten, auch wenn ein System es schneller könnte. Das ist eine Investition in Lernfähigkeit, ähnlich wie die Ausbildung von Nachwuchs, die sich auch nicht am Tagesergebnis rechnet.

Nachwuchs an echten Fällen lernen lassen. Wo Einstiegsaufgaben automatisiert werden, braucht es Ersatz für den Lerneffekt, den sie hatten: begleitete Fälle, in denen Nachwuchskräfte selbst urteilen und danach mit den Erfahrenen vergleichen.

Sichtbar machen, wonach die Erfahrenen urteilen. Das ist der anspruchsvollste Punkt. Der Leutnant konnte seine Wahrnehmung nicht erklären, und viele erfahrene Beschäftigte können es auch nicht, wenn man sie direkt fragt. Aber über konkrete Fälle, im Vergleich ähnlicher Situationen, lässt sich herausarbeiten, woran sie Unterschiede erkennen. Was wirkt bei einem Lieferanten verlässlich, was bei einem anderen nicht? Woran merkt eine Vertriebsleiterin, dass ein Kunde wankt? Je genauer diese Kriterien benannt sind, desto besser lassen sie sich weitergeben, prüfen und auch gegen die Empfehlungen eines Systems halten. Aus unausgesprochener Erfahrung wird dann ein Wissen, das die Organisation gemeinsam besitzt, nicht nur einzelne Köpfe.

Eine offene Frage

Der Leutnant hat an jenem Tag nicht deshalb richtig entschieden, weil er mehr Daten hatte. Gemessen an jedem heutigen System, das Temperatur, Geräusche und Brandverlauf aufzeichnen könnte, wusste er wenig. Was ihn trug, hatte sich über Jahre in ihm abgelagert, und er fand den Mut, danach zu handeln, ohne es belegen zu können.

Unternehmen werden in den kommenden Jahren Systeme einführen, die Datenmengen verarbeiten, die kein Mensch überblickt. Das ist ein Gewinn. Offen bleibt, wer in diesen Unternehmen in zehn Jahren noch den Raum betritt und merkt, dass etwas nicht stimmt, und ob die Organisation ihm dann zuhört. Das lässt sich nicht kaufen. Es muss wachsen, und dafür braucht es Anlässe, selbst zu urteilen.

Für die Geschäftsführung stellt sich deshalb eine entscheidende Frage: Welche Urteile müssen Menschen weiterhin eigenständig treffen, damit die Organisation auch in Zukunft über die Urteilskraft verfügt, die sie braucht?

Quellen

Gary Klein: Sources of Power. How People Make Decisions, MIT Press, 1998
Michael Polanyi: The Tacit Dimension, 1966
Daniel Kahneman, Gary Klein: Conditions for Intuitive Expertise: A Failure to Disagree, American Psychologist, 2009
Jacqueline Ng Lane et al.: The Narrative AI Advantage? A Field Experiment on AI-Augmented Evaluations of Early-Stage Innovations, Harvard Business School Working Paper 25-001, vorgestellt in Harvard Business School Working Knowledge, 12.03.2025
Microsoft Research und Carnegie Mellon University: The Impact of Generative AI on Critical Thinking, 2025
GoTo / Workplace Intelligence: The Pulse of Work in 2026, Mai 2026
Leonid Sudakov, Nathan Furr: AI Is Undermining Leaders' Judgment. Here's What to Do About It., Harvard Business Review, 19.08.2026