„80 Prozent an die KI" — mein Merksatz kommt ins Rutschen

Amazon wollte Job-Bewerbungen mit ein bis fünf Sternen bewerten lassen, wie Produkte im Shop, und baute dafür ab 2014 ein KI-System. Trainiert wurde es mit den eigenen Bewerbungen aus zehn Jahren, eingereicht überwiegend von Männern.

Die Software zog daraus ihre Schlüsse: Sie wertete Lebensläufe ab, in denen das Wort „women’s“ vorkam, und stufte Absolventinnen zweier reiner Frauen-Colleges herunter. Der Reuters-Bericht, der den Fall 2018 öffentlich machte, nennt als Beispiel die Kapitänin eines Frauen-Schachclubs: Die Zeile „women’s chess club captain“ brachte Abzug. Schon 2015, drei Jahre vor dem Bericht, hatte Amazon die Verzerrung erkannt.

Der Konzern versuchte noch, einzelne Begriffe zu neutralisieren, und löste das Entwicklerteam schließlich auf. Dieses Ende interessiert mich mehr als der Fehler selbst. Amazon hat sich nicht darauf verlassen, dass im Alltag schon ein Mensch über jeden Vorschlag drüberschaut. Der Konzern hat nachgesehen, was das System tatsächlich tat, und ihm die Aufgabe wieder entzogen. So ein Urteil stützt sich auf Messung. Genau die fehlt dem Satz, mit dem ich in Schulungen bisher beruhigt habe. Im Dezember 2025 habe ich Führungskräfte eines Versicherers in generativer KI geschult, und an diesem Fall gemessen verspricht ausgerechnet dieser Satz eine Sicherheit, die er nicht belegen kann.

Zusammen ist nicht automatisch besser

Der Satz steht in meinem Handout und lautet: „AI übernimmt 80 % der Routinearbeit … Die kritischen 20 % (Expertise, Entscheidung) bleiben bei Ihnen.“ Er kommt an, weil er beruhigt, die Rollen sauber verteilt und dem Menschen den ehrenvollen Teil zuweist: Die Maschine arbeitet, der Mensch urteilt.

Der Satz trägt aber nur, solange der prüfende Mensch das Ergebnis tatsächlich besser macht. Gemessen sieht das anders aus: gemischte Teams aus Mensch und KI schneiden im Durchschnitt schlechter ab als die jeweils stärkere Seite allein, bei Entscheidungsaufgaben war dieser Rückstand besonders deutlich. Das zeigt eine Auswertung von 106 Experimenten, 2024 in Nature Human Behaviour erschienen. Besser als der Mensch allein war die Kombination trotzdem. Das ist kein Widerspruch, sondern verrät, welche Seite in diesen Experimenten meistens die stärkere war: die KI. Und genau dieses Kräfteverhältnis entscheidet die Bilanz. War der Mensch allein besser als das System, legte das gemischte Team zu. War das System allein besser, verlor es. Der prüfende Mensch verbessert das Ergebnis also nicht grundsätzlich — er verbessert es, solange er der Aufgabe gewachsener ist als das System.

Seit ich diese Zahlen kenne, ist mir mein Satz zu glatt. Er verrät nicht, welche 20 Prozent kritisch sind und woran man sie erkennt. Er lässt sich bequem so lesen: Solange irgendwo ein Mensch freigibt, sind wir auf der sicheren Seite. Und diese Lesart habe ich mit dem Handout mitgeliefert.

Mein Praktikant schreibt schneller, als ich prüfen kann

Eine Seite hinter dem Merksatz beschreibe ich im selben Handout KI als unzuverlässigen Praktikanten: 80 Prozent perfekt, 20 Prozent katastrophal. Das sind andere 20 Prozent als im Merksatz: dort der Anteil der Arbeit beim Menschen, hier der Anteil, in dem die KI danebenliegt. Gleich daneben steht die Warnung vor dem Review-Engpass: Die KI generiert in fünf Sekunden, der Mensch prüft zwei Stunden. Unter Termindruck gewinnt immer der Ablauf, in dem aus Prüfen Abnicken wird.

Die Forschung bestätigt die Warnung: Je aufwendiger die unabhängige Prüfung eines automatisierten Vorschlags, desto seltener finden Menschen den Fehler darin. Dieses Muster zieht sich durch 40 Studien zu automatisierten Entscheidungshilfen, quer durch die Branchen ausgewertet in einer Übersichtsarbeit. Meine Konsequenz daraus: Wer nur dieselben Unterlagen noch einmal anschaut, die auch das System hatte, trägt formal die Verantwortung — und ist praktisch kein Kontrollpunkt. Ehrliche Kontrolle braucht eigenes Material und fühlt sich nach Reibung an. Fühlt sich dein Freigabeprozess angenehm reibungslos an, ist das kein Qualitätsmerkmal, sondern ein Warnsignal.

Der naheliegende Reflex wäre, dem Praktikanten einen Chef zur Freigabe vorzusetzen. Genau der scheitert, sobald der Chef abzeichnet, was er selbst nicht nachrechnen kann. Die Konsequenz ist, dem Praktikanten nur dort freie Hand zu lassen, wo Fehler auffallen und wenig kosten.

Die Korrektur meines Merksatzes stand also die ganze Zeit im selben Dokument: Review-Engpass und Praktikant argumentieren nicht mit Rollenbildern, sondern mit Prüfaufwand, Fehlerfolgen und der Erkennbarkeit von Fehlern. Ich halte diese beiden Warnungen heute für den ehrlicheren Teil meines Schulungsmaterials.

Und manchmal stört der Mensch

Die Gegenrichtung ist genauso unbequem, denn sie trifft den ehrenvollen Teil, den mein Satz dem Menschen zuweist. In einer MIT-Studie haben 444 Fachkräfte kurze, klar umrissene Schreibaufgaben erledigt: Mit ChatGPT sanken die Bearbeitungszeiten um 37 Prozent, die extern bewertete Qualität stieg. 68 Prozent reichten den KI-Text unbearbeitet ein, und die Nachbearbeitung der übrigen brachte keinen messbaren Qualitätsgewinn. In diesem Aufgabentyp bleiben die kritischen 20 Prozent demnach häufig schlicht aus. Und wo doch nachgearbeitet wird, hilft es nicht verlässlich. Für jemanden, der Führungskräften das Verifizieren beibringt, ist diese 68 die unbequemste Zahl in diesem Text.

Wer aus Prinzip trotzdem jede Einzelfreigabe behält, vernichtet an solchen Stellen messbar Leistung. Der Praktikant kann manche Teilaufgabe längst besser als der Chef; das Gegenlesen wird dann zum Ritual, das Gehalt kostet und keinen Fehler fängt.

Welche Aufgaben das sind, lässt sich nicht am Organigramm ablesen: Die Grenze verläuft quer durch die Aufgaben selbst. In einem Feldexperiment der Harvard Business School mit 758 BCG-Berater:innen arbeiteten Teilnehmende mit KI über 25 Prozent schneller und erzielten über 40 Prozent höhere Qualitätsbewertungen — bei Aufgaben innerhalb dessen, was die eingesetzte KI nachweislich gut kann. Bei einer Aufgabe außerhalb wurden sie mit KI schlechter. Zwei Aufgaben, die für Menschen gleich schwer aussehen, können auf verschiedenen Seiten dieser Grenze liegen.

Fünf Fragen, bevor du eine Aufgabe abgibst

Beide Befunde bleiben nebeneinander wahr: Ohne Kontrolle vervielfacht KI die Fehler der Vergangenheit, und Kontrolle als Pflichtschritt macht Ergebnisse oft nicht besser, sondern schlechter oder bloß teurer. Aus den Warnungen meines Handouts und dieser Studienlage ist ein Raster geworden: fünf Fragen, die ich für jeden Anwendungsfall einzeln stelle:

Hinter allen fünf Fragen steckt dieselbe Regel: selbst messen statt Versprechen glauben. Was ein System bei dir kann, weißt du erst, wenn du es an deinen eigenen Fällen gemessen hast.

Was die KI ausführt, was sie vorbereitet — und was du behältst

Nicht die Kontrolle ist das Problem, sondern die Formel, die überall dieselbe Kontrolle verordnet. Mit den fünf Antworten landet jeder Anwendungsfall in einer von drei Zuordnungen; die ersten drei Fragen bestimmen die Richtung, die letzten beiden prüfen deine Kontrolle und schützen die Vielfalt:

Ein Vorschlag setzt den Rahmen, bevor die Diskussion beginnt, und schrumpft die Entscheidung auf ein Ja oder Nein also wieder auf Abnicken. Kehr die Reihenfolge um: Erst beziehst du Position, dann lässt du sie von der KI angreifen — Gegenargumente, blinde Flecken, die Annahmen, auf denen deine Wahl steht. So bleibt das Abwägen Arbeit, und genau die ist hier nicht delegierbar.

Zwei Dinge machen aus diesen Zuordnungen mehr als eine hübsche Folie. Erstens gilt keine Zuordnung für immer, denn Modelle, Daten und Prozesse verschieben sich laufend; jede braucht deshalb ein Ablaufdatum: einen festen Termin, an dem neu gemessen und neu entschieden wird. Zweitens darf die Zuordnung in beide Richtungen kippen: Zeigt deine Messung, dass das System eine Teilaufgabe zuverlässig besser erledigt, ist mehr Autonomie die verantwortungsvolle Entscheidung. Verantwortung heißt dann, Grenzen zu setzen und Messwerte zu überwachen, nicht jede Einzelfreigabe zu behalten.

Im Handout stehen dazu zwei Regeln: „KI hat das gesagt“ niemals akzeptieren. „Ich habe das mit KI gemacht, verifiziert und stehe dafür ein“ immer einfordern. Diese Regeln bleiben. Nur den Merksatz davor habe ich ausgetauscht. Die neue Kurzform: Verantwortung bleibt bei dir; ob auch die Einzelentscheidung bei dir bleibt, entscheidet die Messung. Die fünf Fragen sind das Werkzeug dafür.

Wo mein Raster dünn wird

Dieses Raster ist eine Faustregel, geschärft an der Forschung — keine bewiesene Universalregel. Ausgerechnet die empfohlene Form — Aufgaben vorab zwischen Mensch und KI aufteilen — ist die am dünnsten erforschte: Nur drei der 106 ausgewerteten Experimente haben genau das getestet. Ich halte sie für den richtigen Weg; gemessen ist sie erst in Ansätzen.

Für kleinere Unternehmen kommt eine Kostenfrage ohne allgemeine Schwellenwerte dazu: Testfälle bauen, Stichproben ziehen und neu bewerten kostet Zeit. Ist dieser Aufwand dauerhaft größer als der Gewinn, ist Nicht-Automatisieren die bessere Führungsentscheidung.

Und weil Transparenz zur Prüfbarkeit gehört: Meine Firma Code Q verdient an KI-Umsetzungen, ich habe hier also ein Eigeninteresse. Gerade deshalb ist das Raster so gebaut, dass du es ohne uns anwenden kannst.

Wie der Praktikant verlässlich wird

Meine Schulung endet mit einem Satz, den ich nicht zurücknehme: „In 5 Jahren fragt niemand mehr, ob Sie KI genutzt haben. Die Frage wird nur sein: Ist das Ergebnis gut?“

Ich lese ihn heute anders als beim Schreiben. „Ist das Ergebnis gut?“ ist keine Beruhigung, sondern ein Messauftrag. Amazons Recruiting-System hatte die Vergangenheit zum Maßstab gemacht, und es flog raus, weil jemand hingeschaut und die Konsequenz gezogen hat.