Warum wir der KI unser Urteil überlassen

Stellen wir uns eine Entscheidungsvorlage vor, die an alles gedacht zu haben scheint. Die Zahlen passen zusammen, die Argumentation ist verständlich, Risiken werden benannt. Am Ende steht eine Empfehlung. Wir lesen sie, ergänzen zwei Punkte und geben sie frei. Wer hat entschieden?

Organisatorisch ist die Antwort einfach: die Person, die freigegeben hat. Inhaltlich hängt sie davon ab, was vorher passiert ist. Wer hat festgelegt, welches Problem gelöst werden soll? Welche Optionen überhaupt vorkommen? Was als Erfolg zählt? Eine KI kann alle Rechnungen korrekt ausführen und trotzdem Entscheidungen vorwegnehmen, die wir für unsere eigenen halten.

Mich interessiert daran weniger das spektakuläre Versagen einer Maschine als der unscheinbare Übergang von Unterstützung zu Urteilsdelegation. Dieser Übergang braucht weder einen leichtgläubigen Menschen noch eine offensichtlich schlechte KI. Er kann gerade dort entstehen, wo das System zuverlässig Arbeit abnimmt und überzeugende Ergebnisse liefert.

Um das zu verstehen, müssen wir mehrere Vorgänge auseinanderhalten. Sonst wird jede Entlastung zum Denkverlust erklärt, jeder KI-Fehler zum Beweis menschlicher Bequemlichkeit und jede menschliche Freigabe zur vermeintlichen Garantie von Kontrolle. Keine dieser Abkürzungen hilft.

Entlastung ist zunächst eine vernünftige Entscheidung

Wir lagern ständig geistige Arbeit aus. Ein Kalender übernimmt Erinnerungen, eine Tabelle Berechnungen, eine Kollegin die Recherche. Die Forschung bezeichnet die Nutzung äußerer Hilfen zur Verringerung interner Denkanforderungen als kognitives Offloading. Risko und Gilbert beschreiben in ihrem Forschungsüberblick, wie Aufgabenanforderungen und die Einschätzung der eigenen Fähigkeiten solche Entscheidungen beeinflussen. Der Begriff bezeichnet einen normalen Umgang mit begrenzten Ressourcen, keine Diagnose geistigen Verfalls.

Auch die Vorteile generativer KI sind real. In einem präregistrierten Experiment von Noy und Zhang mit 453 berufstätigen Hochschulabsolventen sank bei beruflichen Schreibaufgaben der Zeitaufwand mit ChatGPT um 40 Prozent, während die bewertete Qualität um 18 Prozent stieg. Das sind Ergebnisse für bestimmte Aufgaben und Bewertungen, keine Garantie besseren Geschäftserfolgs. Sie reichen aber aus, um die Nutzung als vernünftige Entscheidung zu verstehen.

Es wäre merkwürdig, von Menschen zu verlangen, jede eingesparte Minute wieder in die vollständige Rekonstruktion der Arbeit zu investieren. Delegation soll gerade ermöglichen, etwas zu erledigen, ohne jeden Teilschritt selbst auszuführen. Niemand prüft jede Tabellenkalkulation durch Kopfrechnen nach.

Der interessante Punkt liegt deshalb an der Grenze zwischen verschiedenen Arten der Abgabe:

Was wir abgeben	Was dabei zu beurteilen bleibt
Eine Ausführung, etwa das Sortieren von Daten	Ob Ergebnis und Verfahren den Auftrag erfüllen
Eine prüfbare Antwort, etwa eine Berechnung	Ob die Antwort stimmt und das Vertrauen angemessen ist
Ein Urteil zwischen vertretbaren Optionen	Welche Ziele und Abwägungen wir übernehmen wollen

Diese Unterscheidung ist entscheidend. Eine falsche Summe lässt sich korrigieren. Ob ein Unternehmen mehr Wachstum oder mehr Stabilität anstreben sollte, lässt sich durch Nachrechnen allein nicht entscheiden. Wer beides unter „KI überprüfen“ zusammenfasst, übersieht den schwierigeren Teil.

Prüfen kostet und manchmal kostet es fast die ganze Arbeit

Eine gute Antwort zu erzeugen und ihre Güte zu erkennen sind unterschiedliche Aufgaben. Bei einer Übersetzung in eine Sprache, die ich nicht beherrsche, fehlt mir möglicherweise gerade die Kompetenz, für die ich das Werkzeug benutze. Bei einer Marktanalyse müsste ich Quellen lesen, Annahmen vergleichen und Alternativen durchdenken. Die Prüfung kann einen erheblichen Teil des ursprünglichen Aufwands zurückbringen.

Vasconcelos und Kollegen untersuchten diesen Zusammenhang in fünf Studien mit insgesamt 731 Personen anhand von Labyrinthaufgaben und simulierter KI. Aufgabenschwierigkeit, Aufwand der Erklärung und finanzielle Anreize beeinflussten, wie häufig Menschen falsche Empfehlungen übernahmen. Gut prüfbare Erklärungen konnten das reduzieren. Das spricht dafür, Übernahme auch als Kosten-Nutzen-Entscheidung zu verstehen. Labyrinthe haben allerdings eine überprüfbare Lösung; offene Geschäftsentscheidungen sind erheblich weniger eindeutig.

Für eine einzelne Person kann eine oberflächliche Prüfung unter diesen Umständen nachvollziehbar sein. Wenn die letzten Ergebnisse brauchbar waren, die Aufgabe bald fertig sein muss und ein Fehler vermutlich auffallen würde, erscheint weiteres Nachforschen wenig attraktiv. Ob diese Einschätzung stimmt, ist eine andere Frage. Eine verständliche Strategie kann auf falschen Erwartungen beruhen.

Hilfreich ist die Unterscheidung zwischen Erklärung und Verifikation. Fok und Weld argumentieren in einer theoretischen Synthese, dass Erklärungen besonders dann zur gemeinsamen Leistung beitragen können, wenn sie die Prüfung einer Antwort ermöglichen oder verbilligen. Nachvollziehbare Gründe allein sind kein Richtigkeitsnachweis. Ihr Ansatz erklärt, weshalb zusätzliche Transparenz allein oft wenig hilft.

Ein konkretes Beispiel: Eine verlinkte Originalquelle erlaubt mir zu prüfen, ob eine Zahl tatsächlich veröffentlicht wurde. Ein Absatz darüber, warum die Zahl wirtschaftlich plausibel sei, beantwortet diese Frage nicht. Beide Ausgaben können ausführlich und professionell aussehen. Nur die erste verschafft mir Zugang zu unabhängiger Evidenz, sofern die Quelle erreichbar ist und die Behauptung tatsächlich trägt.

Besonders schwierig wird es, wenn wir auch die Bewertung einer KI-Ausarbeitung wieder an KI delegieren. Eine weitere plausible Begründung kann dann wie eine unabhängige Bestätigung wirken, obwohl die tragenden Annahmen weiterhin ungeprüft sind. Entscheidend ist, ob die Prüfung Zugang zu belastbaren Belegen schafft oder nur eine weitere überzeugende Erklärung liefert.

Auch mehr geistige Beteiligung kann helfen, hat aber ihren Preis. In einem Experiment von Buçinca, Malaya und Gajos mit 199 Personen reduzierten Interaktionsformen, die eigene Denkarbeit erzwangen, die Übernahme falscher KI-Empfehlungen. Gerade wirksame Varianten wurden subjektiv schlechter bewertet. Das Ergebnis gilt für das untersuchte Entscheidungssetting. Es erklärt immerhin, warum ein angenehmeres Produkt und eine bessere Entscheidung nicht automatisch dasselbe Ziel sind.

Prüfung ist damit kein kostenloser letzter Handgriff. Sie konkurriert um dieselbe Zeit und Aufmerksamkeit, die das Werkzeug freisetzen soll. Wer verstehen will, weshalb sie unterbleibt, muss diese Konkurrenz ernst nehmen.

Wir müssen auch unsere eigene Prüfkompetenz einschätzen

Selbst ausreichend Zeit löst das Problem nicht vollständig. Ich muss erkennen, wann ich Hilfe brauche, wann ich einen Fehler bemerken würde und wann ein fremdes Urteil besser ist als mein eigenes. Diese Einschätzung des eigenen Wissens heißt Metakognition. Sie kann zutreffen, aber sie ist keine eingebaute Qualitätskontrolle.

In Experimenten von Fügener und Kollegen zur Aufgabenverteilung bei Klassifikationen erzielte die Kombination einen Vorteil gegenüber der KI, wenn die KI an Menschen delegierte. Menschliche Delegation brachte diesen Vorteil nicht. Die Autoren identifizieren unzureichendes Wissen über die eigenen Fähigkeiten als zentrales Hindernis. In diesen abgegrenzten Aufgaben erkannten Menschen also nicht zuverlässig, wann ihr eigener Beitrag hilfreich war.

Domänenwissen hilft, weil es konkrete Angriffspunkte liefert. Wer ein Geschäftsfeld kennt, kann bemerken, dass eine vermeintlich attraktive Zielgruppe gar nicht erreichbar ist oder eine Kennzahl einen wichtigen Effekt verdeckt. Allgemeine Berufserfahrung ersetzt dieses Wissen nicht. Umgekehrt kann eine erfahrene Person der KI auch dort widersprechen, wo deren Antwort besser ist. Kompetenz und Selbstvertrauen sollten deshalb getrennt betrachtet werden.

Eine Befragung von Lee und Kollegen erfasste bei 319 Wissensarbeitern 936 Beispiele für KI-Nutzung. Höheres Vertrauen in generative KI hing mit weniger berichteter kritischer Reflexion zusammen; aufgabenspezifisches Selbstvertrauen mit mehr. Die Studie beschreibt außerdem eine Verschiebung hin zu Prüfung und Integration. Sie beruht auf Selbstberichten und Zusammenhängen. Sie misst weder einen Verlust kritischer Denkfähigkeit noch beweist sie, dass KI diesen verursacht.

Für das übermäßige Verlassen auf automatisierte Unterstützung gibt es einen älteren Begriff: Automation Bias. Menschen folgen dabei einer falschen Empfehlung oder unterlassen nötige Schritte, weil das System keinen Anlass zum Eingreifen signalisiert. Ein systematischer Review von Goddard, Roudsari und Wyatt umfasst 74 Publikationen, mit Schwerpunkt auf klinischer Entscheidungsunterstützung. Die heterogenen älteren Studien zeigen, dass unzureichende Kontrolle schon vor generativer KI ein Thema war. Wie stark sie heutige Agenten betrifft, muss im jeweiligen Einsatz untersucht werden.

Die angemessene Antwort kann trotzdem nicht lauten, jeder KI grundsätzlich zu misstrauen. Dietvorst, Simmons und Massey zeigten in fünf Studien, dass Menschen nach beobachteten Fehlern algorithmische Prognosen zu stark meiden konnten, obwohl diese insgesamt besser waren als menschliche Prognosen. Diese ältere Forschung betrifft keine heutigen Sprachagenten. Sie belegt aber einen wichtigen Gegenmechanismus: Zu wenig Vertrauen kann die Qualität ebenfalls verschlechtern.

Verantwortliche Delegation verlangt also eine doppelte Kalibrierung. Wir brauchen eine brauchbare Einschätzung des Systems und eine ebenso brauchbare Einschätzung unserer eigenen Grenzen. Ein selbstbewusster Mensch vor einem selbstbewusst formulierenden Modell erfüllt diese Voraussetzung nicht.

Plausibilität liefert uns die fertige Sicht auf das Problem

Sprachmodelle liefern nicht bloß Ergebnisse. Sie liefern eine Sprache, in der diese Ergebnisse bereits eingeordnet sind. Das ist praktisch: Ein guter Text macht Zusammenhänge zugänglich. Zugleich kann die Verständlichkeit der Darstellung mit der Belastbarkeit des Inhalts verwechselt werden.

Steyvers und Kollegen untersuchten mit insgesamt 301 Personen die Einschätzung von Sprachmodellen bei Wissensfragen. Längere Erklärungen erhöhten das Vertrauen, ohne richtige und falsche Antworten besser unterscheidbar zu machen. Wurde die Sprache an ein intern ermitteltes Sicherheitssignal des Modells angepasst, konnten Nutzer seine Zuverlässigkeit besser einschätzen. Dieses Signal gibt Auskunft über die interne Sicherheit des Modells; es garantiert keine richtige Antwort. Eine beliebige vom Modell ausgegebene Prozentzahl liefert deshalb noch keine verlässliche Unsicherheitsangabe.

Mein eigener gedanklicher Anschluss an diesen Befund betrifft die Ausgangslage der Prüfung. Sobald eine vollständige Argumentation vorliegt, kann ich mich an ihr entlangarbeiten. Ich prüfe dann beispielsweise, ob eine vorgeschlagene Marktstrategie schlüssig ist. Die vorgelagerte Frage, ob überhaupt der richtige Markt verglichen wurde, gerät leichter aus dem Blick. Die Vorlage wird zum Anker: Sie gibt vor, worauf sich Zustimmung und Widerspruch beziehen.

Ein guter Entwurf kann umgekehrt Fragen sichtbar machen, die ich übersehen hätte. Der Unterschied liegt darin, ob ich durch ihn weitere Möglichkeiten erschließe oder seinen Ausschnitt mit dem gesamten Entscheidungsraum verwechsle.

Besonders anschaulich wird das bei unterbestimmten Aufgaben. Damit meine ich Situationen, in denen Daten und Auftrag mehrere begründbare Entscheidungen zulassen. Ein Beispiel wäre die Bewertung eines Angebots nach kurzfristigem Ertrag oder nach langfristiger Kundenbindung. Beide Kriterien können legitim sein. Welche Gewichtung angemessen ist, folgt nicht allein aus den Daten.

Ein Forschungsbericht von Anthropic beschreibt ein Experiment mit 50 Fachleuten für kausale Inferenz, deren Agenten zufällig verborgene Präferenzen zugewiesen wurden. Bei vier analytischen Entscheidungen folgten die Fachleute ihnen in 86 Prozent der Fälle. Die Optionen waren vertretbar; falsche Antworten waren nicht der Testgegenstand. Der im Haupttest untersuchte Einfluss auf die abschließende Empfehlung war statistisch nicht eindeutig nachweisbar. Eine künstliche Landwirtschaftsaufgabe und absichtlich verstärkte Agentenpräferenzen begrenzen die Übertragbarkeit. Die Untersuchung zeigt Einfluss auf Urteilsspielräume; ob die Übernahme solcher Präferenzen schadet, bleibt offen.

Für mich liegt hier die anspruchsvollere Frage der KI-Nutzung. Wir können eine Ausarbeitung auf sachliche Fehler prüfen und trotzdem übersehen, dass wir ihre Prioritäten übernommen haben. Auch eine fehlerfreie Empfehlung kann auf einer Abwägung beruhen, die niemand bewusst legitimiert hat.

Ohne brauchbares Feedback wird Übernahme zur Gewohnheit

Wie merken wir eigentlich, ob unsere Delegation funktioniert? Bei einigen Aufgaben gibt es schnelle Rückmeldung. Ein Programm scheitert an einem Test. Eine Quelle enthält die behauptete Aussage nicht. Andere Aufgaben liefern lange keine eindeutige Antwort. Eine Geschäftsidee kann gut klingen, ohne umgesetzt zu werden. Eine Website kann professionell wirken, ohne dass ihr Beitrag zum Geschäft bekannt ist.

Die vorhandene Rückmeldung misst ihre Qualität dann womöglich nicht ausreichend. Gerade der Unterschied zwischen überzeugender Darstellung und überprüfter Wirkung ist leicht zu verwischen.

Hogarth, Lejarraga und Soyer unterscheiden in einem konzeptuellen Überblick Lernumgebungen danach, ob Erfahrung verlässliche Informationen für spätere Entscheidungen liefert. Verspätetes, selektives oder irreführendes Feedback kann falsche Überzeugungen stabilisieren. Diese Übertragung auf KI-gestützte Strategiearbeit ist meine Schlussfolgerung, kein Ergebnis eines Experiments mit heutigen Agenten. Sie erklärt, warum häufige Nutzung und wachsende Sicherheit noch keine belastbare Lernkurve ergeben müssen.

Aus Gesprächen kenne ich diese unterschiedliche Härte der Rückmeldung: KI-Ergebnisse werden gelobt, Anzeigenmanagement nach Geldverlusten dagegen ausgenommen. Das ist eine persönliche Beobachtung, keine Erhebung. Anzeigenverluste beweisen keinen Qualitätsmangel anderer Ergebnisse; Geschäftserfolg hat viele Ursachen. Interessant ist, dass manche Anwendungen an Folgen gemessen werden, andere vor allem an ihrem überzeugenden Eindruck.

Eine weitere Rückkopplung entsteht, wenn das System unsere Sicht bestätigt. Sycophancy bezeichnet die Neigung, Nutzern übermäßig nach dem Mund zu reden. In einer 2026 in Science veröffentlichten Untersuchung von Cheng und Kollegen mit elf Modellen und drei präregistrierten Experimenten mit insgesamt 2.405 Personen verstärkte zustimmende KI das Gefühl, selbst recht zu haben, und verringerte die Bereitschaft zur Konfliktklärung. Solche Systeme wurden zugleich stärker bevorzugt. Die Befunde betreffen kurzfristige Reaktionen in zwischenmenschlichen Konflikten.

Für Organisationen lässt sich daraus eine plausible, noch gesondert zu prüfende Dynamik ableiten. Eine Führungskraft bringt eine Präferenz ein. Die KI entwickelt dazu eine überzeugende Begründung. Die Begründung erscheint in einer Vorlage als zusätzliche fachliche Unterstützung. Im nächsten Gespräch wird sie wie eine unabhängige Bestätigung behandelt, obwohl sie womöglich vor allem den Ausgangswunsch ausgearbeitet hat. Die scheinbare Zahl der Argumentgeber wächst, ohne dass entsprechend unabhängige Prüfung hinzugekommen wäre.

Wettbewerb und Leistungsanreize könnten diesen Kreislauf verstärken. Sichtbare Ergebnisse entstehen sofort; sorgfältige Prüfung kostet Zeit und verhindert mitunter nur einen Fehler, den anschließend niemand sieht. Wer nach Durchsatz bewertet wird, hat einen nachvollziehbaren Grund, mehr zu produzieren. Die vollständige Kette von Wettbewerbsdruck über KI-Nutzung bis zu schlechteren Unternehmensentscheidungen ist damit nicht kausal bewiesen. Sie ist eine organisatorische Hypothese, die zu mehreren untersuchten Teilmechanismen passt.

Delegation kann auch von Verantwortung entlasten

Bisher ging es vor allem darum, wie Urteilsmacht im praktischen Arbeiten wandert. Es gibt aber auch Situationen, in denen Menschen eine Entscheidung bewusst abgeben möchten, weil jeder mögliche Ausgang unangenehm ist. Dann verspricht Delegation neben weniger Arbeit auch emotionalen Abstand zur eigenen Beteiligung.

Xu und Kollegen untersuchten solche Entscheidungen ohne attraktiven Ausgang in acht Experimenten. Der Wunsch, Verantwortung zu vermeiden, konnte die Delegation an KI motivieren; bei öffentlichen Entscheidungen oder solchen mit Folgen für andere war diese Tendenz stärker. Wahrgenommene Autonomie des Systems und emotionale Distanz spielten dabei eine Rolle. Die untersuchten Konfliktsituationen liefern damit ein zusätzliches Motiv für Delegation, keine Erklärung für jede alltägliche KI-Nutzung.

Ein verwandtes Problem untersuchten Köbis und Kollegen in 13 Experimenten innerhalb von vier Studien. In Aufgaben mit Würfelberichten und steuerähnlichen Angaben ermöglichten vage Ziele oder Beispiele mehr unehrliche Delegation als ausdrückliche Regeln. Solche Laboraufgaben untersuchen eine andere Grenze als das versehentliche Übernehmen einer schlecht geprüften Analyse. Aus ihren Befunden lässt sich Nutzern deshalb keine allgemeine Täuschungsabsicht unterstellen.

Für meine Ausgangsfrage folgt daraus eine wichtige Unterscheidung: Verantwortung kann psychologisch auf Abstand rücken, obwohl sie organisatorisch bei derselben Person bleibt. Wer ein Ziel vorgibt und das Ergebnis freigibt, ist weiterhin am Zustandekommen der Entscheidung beteiligt. Eine gefühlte Entlastung sagt nichts darüber aus, ob Zuständigkeit wirksam übertragen wurde; rechtliche Haftungsfragen beantworten diese Experimente nicht.

Gute Leistung heute beantwortet die Lernfrage noch nicht

Ein gutes Arbeitsergebnis sagt zunächst etwas darüber aus, was die Kombination aus Mensch und Werkzeug leisten kann. Daraus folgt weder, dass der Mensch die zugrunde liegende Fähigkeit erworben hat, noch dass er eine vorhandene Fähigkeit verliert. Diese Trennung wird in der Debatte erstaunlich oft übersprungen.

Im randomisierten Experiment von Wiles und Kollegen bearbeiteten 487 Unternehmensberater Data-Science-Aufgaben außerhalb ihrer bisherigen Fähigkeiten. Mit ChatGPT und Training schnitten sie besser ab, blieben aber hinter Data Scientists zurück. Im anschließenden Test ohne ChatGPT zeigte sich kein nachweisbarer technischer Wissenszuwachs. Das belegt vorübergehend erweiterte Leistungsfähigkeit des Mensch-Werkzeug-Systems. Es belegt keinen Verlust vorhandenen Wissens. Die Studie entstand mit Ressourcen von BCG und Beteiligung von BCG- und OpenAI-Mitarbeitern.

Ein tatsächlicher Lernnachteil zeigte sich dagegen in einem Feldexperiment von Bastani und Kollegen mit fast 1.000 Schülern im Mathematikunterricht. Eine weitgehend unbeschränkte GPT-Hilfe verbesserte die Übungsleistung, führte nach ihrem Entzug aber zu schlechteren Prüfungsergebnissen als Lernen ohne KI. Ein didaktisch begrenzter Tutor schwächte diesen Nachteil stark ab. Das ist ein wichtiger Gestaltungsbefund im Schulkontext, kein Nachweis allgemeinen Kompetenzabbaus bei erwachsenen Wissensarbeitern.

Es gibt ebenso positive Lernbefunde. Brynjolfsson, Li und Raymond untersuchten die gestaffelte Einführung eines KI-Assistenten bei 5.172 Supportmitarbeitern. Die Zahl gelöster Fälle pro Stunde stieg im Durchschnitt um 15 Prozent; weniger erfahrene Beschäftigte profitierten stärker. Die Untersuchung liefert auch Hinweise auf Lernen. Sie betrifft eine Firma und wiederkehrende Supportaufgaben, kein vollständig randomisiertes Rollout. Trotzdem widerspricht sie der pauschalen Erzählung, KI-Nutzung ersetze zwangsläufig den Aufbau eigener Kompetenz.

Die Befunde sprechen dafür, die Art der Zusammenarbeit genauer zu betrachten. Wer Zusammenhänge nachvollzieht und an verlässlicher Rückmeldung lernt, kann eine andere Entwicklung nehmen als jemand, der ausschließlich fertige Lösungen weiterreicht. Für die konkrete Arbeitsgestaltung bleibt das eine zu überprüfende Annahme. Die bloße Zahl der KI-Interaktionen verrät darüber wenig.

Auch Leistung selbst ist aufgabenspezifisch. Im Experiment von Dell’Acqua und Kollegen mit 758 Unternehmensberatern wurden passende Aufgaben mit GPT-4 schneller bearbeitet und mehr Aufgaben erledigt. Bei einer gezielt außerhalb der untersuchten Fähigkeiten liegenden Aufgabe sank dagegen die Quote korrekter Lösungen. Die Ergebnisse betreffen ausgewählte Aufgaben und damalige Systeme. Sie zeigen, warum erfolgreiche Delegation in einem Bereich keine verlässliche Aussage über einen benachbarten Bereich erlaubt.

Urteilshoheit liegt vor der Freigabe

Ich halte die Forderung, Menschen müssten bei jeder Aufgabe möglichst viel selbst denken, für wenig hilfreich. Wir brauchen Entlastung, und wir können mit KI bessere Ergebnisse erzielen. Die wichtigere Frage lautet, welche gedankliche Arbeit für eine verantwortliche Entscheidung erhalten bleiben muss.

Bei einer prüfbaren Antwort geht es um belastbare Gründe für Vertrauen. Bei offenen Entscheidungen geht es zusätzlich um die Legitimation der Maßstäbe. Wer eine Zielgröße auswählt, verteilt Aufmerksamkeit und nimmt eine Wertung vor. Wer bestimmte Optionen gar nicht betrachtet, begrenzt die mögliche Entscheidung. Diese Schritte können im ersten Entwurf liegen, lange bevor jemand auf „Freigeben“ klickt.

Organisatorische Verantwortung kann dabei vollständig beim Menschen bleiben, während die faktische Entscheidungsmacht bereits gewandert ist. Eine Unterschrift zeigt, wer zuständig ist. Sie zeigt nicht, wer den entscheidenden Maßstab gesetzt hat. Für den tatsächlichen Einfluss auf eine Entscheidung ist dieser Unterschied entscheidend.

Urteilshoheit bedeutet für mich deshalb auch nicht, jeden Gedanken selbst erfunden zu haben. Wir dürfen uns überzeugen lassen, von Menschen ebenso wie von Maschinen. Entscheidend ist, ob wir nachvollziehen können, was wir übernehmen, welche Alternativen bestehen und warum die Abwägung zu unseren Zielen passt.

Die Grenze verantwortlicher Delegation verläuft dort, wo eine fremde Empfehlung unbemerkt zum eigenen Maßstab wird. Eine KI darf uns viel Arbeit abnehmen. Welche Gründe für uns zählen sollen, müssen wir weiterhin bewusst verantworten.

In meiner Rolle als Head of AI bei REACHX arbeite ich derzeit an einem KI-Betriebssystem. Es soll die hier beschriebenen Probleme bei der Delegation von Aufgaben, Entscheidungen und ihrer Bewertung an KI adressieren.

Was Führungskräfte daraus für ihre Organisation ableiten können, beschreibe ich im begleitenden Artikel The Age of Bullshit Wie Unternehmen mit KI ihre Urteilskraft behalten.