An fehlender Experimentierfreude scheitert die KI-Transformation im Mittelstand nicht mehr. In fast jedem Unternehmen laufen inzwischen erste KI-Piloten – und viele davon funktionieren. Trotzdem schafft es nur ein kleiner Teil der Experimente in den skalierten Produktivbetrieb. Zwischen dem funktionierenden Piloten und dem unternehmensweiten Betrieb klafft eine Lücke, die sich seit zwei Jahren nur langsam schließt. Die Studienlage über mehrere unabhängige Erhebungen hinweg zeigt: Es ist eine Systemlücke, keine Technologielücke. Die Modelle sind gut genug, die Werkzeuge verfügbar, die Preise fallen. Was fehlt, ist ein System aus Governance, Betrieb und Kostensteuerung.

Einzelerfolge ja, System nein

Die Deloitte-Befragung zum Jahresende 2024 – 2.773 Führungskräfte vom Director- bis C-Level aus 14 Ländern – bringt das Paradox auf den Punkt: 74 Prozent der Befragten geben an, dass ihre fortgeschrittenste GenAI-Initiative die ROI-Erwartungen erfüllt (43 Prozent) oder übertrifft (31 Prozent); jeder Fünfte berichtet für diese Leuchtturm-Initiative sogar einen ROI von über 30 Prozent. Gleichzeitig erwarten über zwei Drittel derselben Befragten, dass höchstens 30 Prozent ihrer laufenden GenAI-Experimente in den nächsten drei bis sechs Monaten voll skaliert sein werden. Der einzelne Pilot funktioniert – die Organisation dahinter noch nicht.

Ein Jahr später hat sich das Bild nur graduell verbessert. Die Deloitte-Studie vom Januar 2026 (3.235 Senior Leader aus 24 Ländern) zählt nur 25 Prozent der Unternehmen, die mindestens 40 Prozent ihrer KI-Piloten in den Produktivbetrieb gebracht haben; 54 Prozent erwarten dieses Niveau binnen drei bis sechs Monaten – die Hoffnung wandert also mit dem Kalender. Besonders aufschlussreich für die nächste Welle: Rund drei Viertel der Unternehmen planen den Einsatz agentischer KI innerhalb von zwei Jahren, aber nur 21 Prozent verfügen über ein reifes Governance-Modell für Agenten. Genau diese Lücke macht autonome Agenten riskant, denn Autonomie ohne Aufsicht skaliert Fehler.

Viel Nutzung, wenig Wirkung

Die McKinsey-Erhebung vom November 2025 (1.993 Teilnehmende aus 105 Ländern) zeichnet die gesamte Kaskade von der Nutzung bis zur Wirkung: 88 Prozent der Unternehmen setzen KI in mindestens einer Funktion ein, aber rund zwei Drittel haben sie noch nicht unternehmensweit skaliert. Nur 39 Prozent berichten überhaupt einen EBIT-Effekt auf Unternehmensebene, und der liegt meist unter 5 Prozent. Lediglich rund 6 Prozent qualifizieren sich als „AI High Performer“ mit signifikantem Wertbeitrag – die Treppe von der Nutzung zur Wirkung führt steil nach unten.

Eine methodische Einordnung gehört dazu: Deloitte, McKinsey und BCG erheben Selbstauskünfte von Führungskräften, keine geprüften Bilanzdaten. Solche Surveys neigen zu Optimismus und messen Wahrnehmung, nicht Kausalität. Wertvoll sind sie dennoch, weil die Richtung der Befunde über mehrere unabhängige Erhebungen hinweg konsistent ist – und die selbstberichtete Lücke zwischen Experimentierfreude und Skalierung dürfte eher unter- als übertrieben sein.

Der Deutschland-Spiegel: punktuell statt unternehmensweit

Für den deutschen Mittelstand liefert der IW-Report 33/2025 des Instituts der deutschen Wirtschaft (IW-Zukunftspanel, 1.038 Unternehmen aus Industrie und industrienahen Dienstleistungen) die nüchterne Bestandsaufnahme: 37,0 Prozent der Unternehmen nutzen KI. Bei Großunternehmen ab 250 Mitarbeitenden sind es 66,3 Prozent, bei 50 bis 249 Mitarbeitenden 56,1 Prozent, bei kleineren Unternehmen nur 35,6 Prozent. Entscheidend ist die Qualität der Nutzung: Sie erfolgt laut IW meist nur punktuell in einzelnen Unternehmensbereichen und selten unternehmensweit. 29,3 Prozent der Unternehmen setzen vor allem kostenfreie Tools ein, nur 13,0 Prozent kaufen KI-Lösungen zu, und lediglich 3,6 Prozent entwickeln eigene KI.

Die IW-Autoren ziehen daraus ein volkswirtschaftliches Fazit, das man als Weckruf lesen muss: Dass mehr als 60 Prozent der kleinen Unternehmen KI weder nutzen noch die Nutzung planen, bedeutet, dass ein sehr großer Teil des Mittelstands derzeit nicht vom KI-Potenzial profitiert.

Das Reifegradmodell des MIT CISR

Wer skalieren will, muss zuerst wissen, wo er steht. Das derzeit brauchbarste Ordnungsraster liefert das MIT Center for Information Systems Research (CISR). Weill, Woerner und Sebastian beschreiben vier Stufen unternehmerischer KI-Reife:

  1. Stufe 1 – Experiment and Prepare: Erste Experimente, Richtlinien und Weiterbildung; KI ist Sache einzelner Neugieriger.
  2. Stufe 2 – Build Pilots and Capabilities: Gezielte Piloten, Kompetenzaufbau, erste Datenarbeit; KI ist Projektgeschäft.
  3. Stufe 3 – Develop AI Ways of Working: KI wird Teil der Arbeitsweise ganzer Bereiche; Plattformen, Standards und Governance entstehen; KI ist Betriebsthema.
  4. Stufe 4 – Become AI Future Ready: KI ist unternehmensweit verankert, in Produkten wie Prozessen; das Unternehmen steuert ein KI-Portfolio wie eine Kernfähigkeit.

Die Verteilung wandert sichtbar nach rechts: 2022 lagen 28 Prozent der untersuchten Unternehmen auf Stufe 1, 34 Prozent auf Stufe 2, 31 Prozent auf Stufe 3 und nur 7 Prozent auf Stufe 4. Das CISR-Update vom August 2025 (152 Unternehmen, als Trendaussage zu lesen) zeigt 13 Prozent auf Stufe 1, 23 Prozent auf Stufe 2, 46 Prozent auf Stufe 3 und 18 Prozent auf Stufe 4. Die Masse des Marktes arbeitet sich also gerade von den Piloten in die skalierten Arbeitsweisen vor – wer in Pilotlogik verharrt, fällt relativ zurück.

Der wertkritische Sprung: von Stufe 2 auf Stufe 3

Wie groß der Unterschied ist, zeigen die Finanzkennzahlen der CISR-Erhebungswelle von 2022 (721 Unternehmen): Unternehmen auf Stufe 3 lagen beim Umsatzwachstum um 11,3 Prozentpunkte und beim Profit um 8,7 Prozentpunkte über ihrem Branchenschnitt; Stufe-4-Unternehmen um 17,1 beziehungsweise 10,4 Prozentpunkte. Stufe-1-Unternehmen schnitten dagegen um 12,6 Prozentpunkte (Wachstum) und 9,6 Prozentpunkte (Profit) schlechter ab als ihre Branche, Stufe-2-Unternehmen um 3,5 beziehungsweise 2,2 Prozentpunkte. Der finanziell wertvollste Sprung liegt laut CISR-Update genau im Übergang von Stufe 2 zu Stufe 3 – von Piloten zu skalierten Arbeitsweisen.

Auch hier gilt ein Caveat: Die Werte stammen aus der 2022er-Welle, als KI überwiegend traditionelle, analytische KI bedeutete, und es handelt sich um Korrelationen, nicht um nachgewiesene Kausalität. Reife Unternehmen sind oft auch in anderen Dimensionen besser geführt. Die Zahlen belegen daher nicht, dass KI-Reife Wachstum verursacht – wohl aber, dass skalierte KI-Arbeitsweisen und überdurchschnittliche Finanzperformance systematisch zusammen auftreten.

Was das für Ihr Unternehmen bedeutet

International wie national zeigt sich dasselbe Muster in drei Schichten: Breite ohne Tiefe – fast alle experimentieren, die meisten punktuell, im Mittelstand dominieren Gratis-Tools und Einzelinitiativen. Einzelerfolg ohne Systemerfolg – die beste Initiative rechnet sich fast überall, das Portfolio als Ganzes skaliert selten. Erwartung ohne Governance – Agenten stehen auf jeder Roadmap, aber nur eine Minderheit hat die Steuerungsstrukturen dafür.

Die Skalierungslücke ist damit kein Erkenntnisproblem, sondern ein Bauproblem. Wer sie schließen will, braucht drei Komponenten: eine Governance, die über Start, Weiterführung und Stopp von Use Cases entscheidet; einen Betrieb (LLMOps), der KI-Anwendungen testet, überwacht und versioniert; und eine Kostensteuerung, die Token-Kosten und Lizenzen pro Use Case kalkulierbar hält. Erst wenn diese drei Komponenten zusammenkommen, wird aus einzelnen erfolgreichen Piloten ein KI-Betriebssystem.

Die vollständige Analyse – inklusive Selbsteinstufung entlang der vier CISR-Stufen, Operating Model und 12-Monats-Fahrplan – finden Sie im Whitepaper „Vom Piloten zum Betriebssystem“.