Wenn fast alle Unternehmen mit KI experimentieren, aber laut McKinsey-Erhebung vom November 2025 nur rund 6 Prozent einen signifikanten Wertbeitrag erzielen, lohnt der genaue Blick auf diese Minderheit. Drei Muster stechen quer durch die Studienlage hervor – und keines davon ist eine Technologieentscheidung. Sie brauchen anschließend eine Organisationsform, die auch für ein Unternehmen mit 50 bis 5.000 Mitarbeitenden realistisch betreibbar ist: ohne Konzernstab, ohne zwanzigköpfiges Plattformteam.

Was High Performer anders machen: drei Muster

Muster 1: Workflows umbauen statt Tools verteilen

Die McKinsey-Analyse vom März 2025 (1.491 Teilnehmende aus 101 Ländern) hat 25 organisatorische Attribute daraufhin untersucht, welche am stärksten mit einem berichteten EBIT-Effekt durch GenAI zusammenhängen. Das Ergebnis ist eindeutig: Das Neudesign von Workflows hat den größten Einfluss – und zugleich haben es nur 21 Prozent der GenAI-Nutzer tatsächlich getan. Die Mehrheit legt KI-Werkzeuge über unveränderte Prozesse und wundert sich, dass Minutengewinne nirgends in der GuV ankommen. Auch hier gilt der methodische Vorbehalt: Die Analyse zeigt Korrelationen in Selbstauskünften, keine Kausalität. Aber der Befund deckt sich mit der betriebswirtschaftlichen Logik: Wert entsteht, wenn ein Prozess anders läuft – schneller, günstiger, besser –, nicht wenn ein Werkzeug verfügbar ist.

Muster 2: Fokus – Tiefe schlägt Breite

BCGs „AI Radar 2025“ (1.803 C-Level-Führungskräfte aus 19 Märkten) zeigt, dass die als „Leader“ klassifizierten Unternehmen im Schnitt nur 3,5 Use Cases priorisieren – die übrigen verzetteln sich auf durchschnittlich 6,1. Das passt zur BCG-Ressourcenregel 10/20/70: 10 Prozent des Aufwands stecken in Algorithmen, 20 Prozent in Technologie und Daten, 70 Prozent in Menschen und Prozessen – und diese 70 Prozent kann niemand auf zehn Baustellen gleichzeitig leisten. Schon im Oktober 2024 hatte BCG gemessen, dass nur 26 Prozent der Unternehmen über den Proof of Concept hinauskommen und lediglich 4 Prozent substanziellen Wert in der Breite erzielen.

Muster 3: KI ist Chefsache, im Wortsinn

Von allen untersuchten Governance-Attributen korreliert in der McKinsey-Erhebung vom März 2025 die Aufsicht der KI-Governance durch den CEO am stärksten mit der berichteten Ergebniswirkung; in 28 Prozent der Unternehmen liegt diese Verantwortung tatsächlich beim CEO, in 17 Prozent beim Board. Für den Mittelstand heißt das: Die Geschäftsführung delegiert die Umsetzung, aber nicht die Verantwortung – dieselbe nicht delegierbare Gesamtverantwortung, die auch der EU AI Act und NIS2 der Unternehmensleitung auferlegen.

Die McKinsey-Novemberwelle 2025 schärft das Bild weiter: High Performer verfolgen 3,6-mal häufiger eine explizit transformative Ambition statt inkrementeller Effizienzziele, bauen zu 55 Prozent Workflows fundamental um (übrige: rund 20 Prozent) und validieren zu 65 Prozent die Ergebnisse ihrer Agenten systematisch durch Menschen (Human-in-the-Loop), gegenüber 23 Prozent bei den übrigen. Human-in-the-Loop ist damit kein Sicherheitsnetz für Anfänger, sondern ein Erkennungsmerkmal der Besten. Der Microsoft Work Trend Index 2026 (20.000 KI-nutzende Beschäftigte in 10 Ländern, als Anbieterstudie zu lesen) ergänzt: Organisationale Faktoren – Kultur, Führung, Talentpraxis – erklären etwa doppelt so viel der KI-Wirkung wie individuelle Anstrengung.

Die Evidenz: zentral geführt kommt in Produktion

Fokus, Umbau und Führung brauchen eine Organisationsform. Die bislang beste empirische Antwort stammt aus dem Großbankensektor: McKinsey hat im März 2024 die GenAI-Betriebsmodelle von 16 der größten Banken Europas und der USA untersucht. Über die Hälfte der Institute wählte für GenAI ein zentral geführtes Modell – und der Reifevergleich gibt ihnen recht: Rund 70 Prozent der stark zentralisierten Organisationen hatten GenAI-Use-Cases bereits in Produktion, gegenüber nur rund 30 Prozent der vollständig dezentralen. Die Empfehlung der Studienautoren: zentral starten, mit wachsender Reife föderieren.

Natürlich sind 16 Großbanken mit Milliardenbudgets kein Mittelstands-Panel. Übertragbar ist nicht die Organisationsgröße, sondern das Prinzip: In der frühen Phase schlägt Bündelung die Verzettelung – weil knappe Expertise, Governance und teure Bausteine sich nicht sinnvoll auf viele Inseln verteilen lassen.

Hub and Spoke im Mittelstandsformat

Was bei der Großbank ein Center of Excellence mit Dutzenden Mitarbeitenden ist, ist im Mittelstand ein Kernteam von ein bis zwei Personen: ein KI-Koordinator beziehungsweise eine KI-Koordinatorin plus ein Sponsor auf Geschäftsführungsebene. Dieser Hub macht nicht alle Use Cases selbst – er setzt Standards, betreibt die gemeinsamen Bausteine (zentraler Modellzugang, Evals, Kosten-Dashboard) und steuert das Portfolio. Die Umsetzung liegt bei Microteams je Use Case: drei bis fünf Personen, cross-funktional, mit klarem Mandat.

Skalierung braucht dabei keine neuen Abteilungen, sondern klar benannte Rollen, die im Mittelstand meist schon als Teilzeit-Hüte existieren: der Sponsor auf Geschäftsführungsebene (Prioritäten, Budget, Eskalation), die KI-Koordination (Standards, Werkzeugkasten, Evals, Kosten-Dashboard), Data Owner je Datendomäne, KI-Champions als Multiplikatoren in den Fachbereichen sowie die frühzeitig eingebundenen Funktionen Betriebsrat, Datenschutz und Informationssicherheit. Neu ist nur ihre Verknüpfung.

Die Governance-Kadenz: zwei Termine genügen

Governance heißt im Mittelstand nicht Gremienlandschaft, sondern Taktung. Zwei Regeltermine reichen:

  • Monatlich das KI-Board (60 bis 90 Minuten): Sponsor, KI-Koordination und betroffene Fachbereichsleitungen. Agenda: Statusampel je Use Case, neue Risiken, Kostenstand, Entscheidungsbedarfe.
  • Quartalsweise das Portfolio-Review: Jeder Use Case wird explizit weitergeführt, umgesteuert oder gestoppt.

Stoppen ist dabei Hygiene, kein Scheitern: Laut S&P Global 451 Research (März 2025, 1.006 Befragte) werden im Schnitt 46 Prozent aller KI-Proofs-of-Concept vor der Produktion eingestellt; 42 Prozent der Unternehmen brachen zuletzt die Mehrheit ihrer KI-Initiativen ab. Gartner prognostizierte schon Mitte 2024 mindestens 30 Prozent GenAI-Abbrüche nach dem Proof of Concept. Wer nie stoppt, hat kein Portfolio, sondern einen Zoo. Entlastend wirkt, die Abbruchkriterien beim Start jedes Use Cases zu definieren – Mindest-Qualität im Eval, maximale Kosten pro Vorgang, Frist bis zum messbaren Nutzen.

Was JPMorgan und Allianz vormachen

Zwei der am besten dokumentierten Groß-Rollouts zeigen die Muster im Betrieb – ausdrücklich als Selbstauskünfte der Unternehmen: JPMorganChase skalierte seine interne LLM-Plattform bis Mitte 2025 auf rund 200.000 Mitarbeitende, mit Opt-in-Zugang und Nutzungs-Controlling – bezahlt wird, was genutzt wird. Die Allianz betreibt ihren internen Assistenten seit September 2023 und meldete im Februar 2025 über 60.000 aktive Nutzerinnen und Nutzer mit einem Wochen-Engagement von 95 Prozent unter den Aktiven – plus ein Stufenmodell: Standardversion für alle, Premium-Ausbaustufe nur für Bereiche mit nachgewiesenem Bedarf. Die Skala ist nicht übertragbar, die Muster sind es: eine Plattform statt Tool-Zoo, Adoption als KPI statt Annahme, zentrale Evals und Freigaben. Ein 200-Personen-Unternehmen kann jedes dieser Prinzipien mit Bordmitteln umsetzen.

Die vollständige Analyse – inklusive Rollenmodell, Board-Agenda und 12-Monats-Fahrplan zum KI-Betriebssystem – finden Sie im Whitepaper „Vom Piloten zum Betriebssystem“.