Welches Modell soll es sein – ein proprietäres Frontier-Modell per API oder offene Gewichte im eigenen Betrieb? Die Frage ist 2026 keine Glaubensfrage mehr, sondern eine Abwägung mit belastbaren Daten. Dieser Artikel fasst die Modelllandschaft zusammen und zeigt, wie Sie die passende Anpassungstiefe wählen – von Prompting über RAG bis Fine-Tuning.

Was „offen“ bei KI-Modellen wirklich heißt

Bei Software ist „Open Source“ klar definiert, bei KI-Modellen ist die Lage feiner abgestuft. Marktüblich ist der Begriff „Open Weights“: Die trainierten Modellgewichte sind frei herunterladbar und lokal betreibbar – die Trainingsdaten und der vollständige Trainingscode sind es meist nicht. Entscheidend für Unternehmen ist die Lizenz. Permissive Lizenzen wie Apache 2.0 oder MIT erlauben kommerzielle Nutzung, Veränderung und Weitergabe ohne nennenswerte Auflagen – etwa bei Qwen3, gpt-oss, Mistral 3 oder der Apache-Variante von Teuken-7B. Daneben stehen Community-Lizenzen mit Auflagen: Metas Llama-Modelle sind frei nutzbar, aber unter einer eigenen Lizenz mit Nutzungsbedingungen und Schwellenwerten, die nicht der Open-Source-Definition der OSI entspricht. Für typische Mittelstandsszenarien unkritisch – aber ein Fall für die Rechtsabteilung, nicht fürs Bauchgefühl.

Die Qualitätslücke: klein, aber wieder offen

Die wichtigste Frage lautet: Wie viel Leistung kostet Offenheit? Der Stanford AI Index verfolgt die Lücke zwischen dem jeweils besten offenen und geschlossenen Modell auf dem Chatbot-Arena-Leaderboard. Im Mai 2023 lag der Abstand noch bei 15,2 Prozent, im August 2024 war er auf 0,5 Prozent zusammengeschmolzen, Anfang 2025 lag er bei 1,7 Prozent. Der AI Index 2026 meldet nun: Die Lücke hat sich wieder geöffnet – im März 2026 führt das beste geschlossene Modell mit rund 3,3 Prozentpunkten, und sechs der zehn Spitzenplätze des Leaderboards sind geschlossen.

Die Kernbotschaft für Entscheider ist zweiteilig: Offene Modelle sind konkurrenzfähig – der Abstand von einst zweistelligen Prozentwerten ist auf wenige Punkte geschrumpft. Aber die absolute Spitze bleibt geschlossen – wer das letzte Quäntchen Reasoning-Leistung braucht, landet derzeit bei proprietären Frontier-Modellen.

Meilensteine der offenen Modellwelt

Wie dynamisch der Markt ist, zeigen die Meilensteine der Jahre 2024 und 2025. Die Veröffentlichung von DeepSeek R1 unter MIT-Lizenz am 20. Januar 2025 demonstrierte, dass Spitzen-Reasoning nicht exklusiv den US-Frontier-Laboren gehört. Die Börse reagierte historisch: Am 27. Januar 2025 verlor die Nvidia-Aktie rund 17 Prozent – etwa 589 Mrd. USD Marktkapitalisierung an einem Tag, der größte absolute Tagesverlust der US-Börsengeschichte. Für Einkäufer ist die Lehre nicht die Tagesbewegung, sondern die Struktur: Das Modellangebot ist volatil und global – wer Wechseloptionen hält, profitiert von jedem dieser Schübe.

Weitere Wegmarken laut Whitepaper: Qwen3 (April 2025) brachte eine permissiv lizenzierte Familie von 0,6 bis 235 Mrd. Parametern. Mit gpt-oss (5. August 2025) veröffentlichte OpenAI die ersten offenen Gewichte seit GPT-2; das 120B-Modell läuft auf einer einzelnen 80-GB-GPU. Mistral 3 (2. Dezember 2025) lieferte ein europäisches Spitzenmodell unter Apache 2.0. Und mit Teuken-7B (26. November 2024) existiert ein öffentlich gefördertes Basismodell des Fraunhofer-Konsortiums OpenGPT-X, trainiert für alle 24 EU-Amtssprachen. Ein europäisches Lehrstück liefert Aleph Alpha: Das Heidelberger Unternehmen verabschiedete sich 2024 aus dem Frontier-Wettrennen und positionierte sich als modellagnostisches Enterprise-Betriebssystem – europäische Souveränität entsteht realistischer auf der Plattform- und Betriebsebene als durch den Versuch, das Frontier-Rennen zu gewinnen.

Enterprise-Realität: Wann offene Gewichte die richtige Wahl sind

Trotz technischer Reife bleiben offene Modelle in Unternehmen vorerst Minderheitenprogramm: In der Menlo-Ventures-Erhebung sank der Anteil offener Modelle an den Enterprise-Workloads von 19 Prozent (2024) auf 11 Prozent (2025) – wiederum eine US-lastige Investorenstudie. Der Grund ist pragmatisch: Gehostete APIs sind bequemer, und die Frontier-Leistung liegt dort. Für den Mittelstand sind offene Gewichte in vier Situationen die richtige Wahl:

  • Datenhoheit und Vertraulichkeit: Das Modell läuft dort, wo die Daten liegen – im eigenen Rechenzentrum oder bei einem europäischen Hoster.
  • On-Premises-Pflicht: Regulatorische oder vertragliche Vorgaben, die Cloud-APIs ausschließen.
  • Kostenkontrolle bei Dauerlast: Hohe, gleichmäßige Volumina können Selbstbetrieb wirtschaftlich machen.
  • Anpassungstiefe: Volle Kontrolle für Fine-Tuning, Destillation oder Einbettung in eigene Produkte – ohne Nutzungsbedingungen eines API-Anbieters.

Und selbst wer heute ausschließlich geschlossene API-Modelle nutzt, profitiert: Die bloße Existenz konkurrenzfähiger offener Modelle diszipliniert die Preise der Anbieter und ist die glaubwürdige Exit-Drohung in jeder Vertragsverhandlung. Offenheit ist strategisch wertvoll, noch bevor Sie sie nutzen.

Anpassungstiefe: Prompting, RAG, Fine-Tuning

Zwischen „Modell von der Stange“ und „eigenes Modell trainieren“ liegt ein Kontinuum von Anpassungsstufen. Die teuerste Fehlentscheidung in der Praxis: zu früh zu tief einzusteigen. Die richtige Reihenfolge ist eine Eskalationslogik – man beginnt mit der billigsten Stufe und eskaliert nur, wenn eine messbare Lücke bleibt. Genau diese Reihenfolge empfiehlt auch OpenAI in seinem Leitfaden zur Optimierung der Modellgenauigkeit.

Stufe 1: Prompt Engineering plus Evals. Präzise Anweisungen, Beispiele und strukturierte Ausgabeformate lösen einen erstaunlich großen Teil der Praxisfälle. Entscheidend ist weniger die Prompt-Kunst als die Messbarkeit: eine kleine Evaluationssuite mit 30 bis 50 typischen Eingaben und erwarteten Ausgaben, gegen die jede Änderung getestet wird. Ohne diese Basislinie können Sie weder entscheiden, ob eine Eskalation nötig ist, noch, ob sie etwas gebracht hat.

Stufe 2: RAG – dem Modell Wissen geben. Wenn das Modell scheitert, weil ihm Wissen fehlt – Produktdaten, Verträge, aktuelle Preise –, hilft kein besserer Prompt, sondern Retrieval-Augmented Generation: Das System sucht zur Laufzeit relevante Passagen aus den eigenen Dokumenten und reicht sie dem Modell als Kontext mit. Empirisch zeigt sich: Für die Injektion neuen Wissens ist RAG dem unüberwachten Fine-Tuning konsistent überlegen. Der Haken: RAG ist nur so gut wie die Dokumentenbasis – veraltete oder widersprüchliche Dokumente produzieren souverän formulierte falsche Antworten.

Stufe 3: Fine-Tuning – dem Modell Verhalten beibringen. Fine-Tuning verändert die Modellgewichte anhand hunderter bis tausender Beispiele. Es ist das Mittel der Wahl, wenn das Problem nicht fehlendes Wissen ist, sondern Verhalten: konsistenter Ton, striktes Ausgabeformat, Fachterminologie. Für reines Faktenwissen ist es das falsche Werkzeug – und es bindet enger an ein konkretes Modell. RAG und Fine-Tuning lassen sich kombinieren: Retrieval liefert das Wissen, das feinabgestimmte Modell die Form. Der klassische Fehlgriff im Einkauf: „Wir trainieren das Modell auf unsere Daten“ meint fast immer RAG, verstanden wird oft Fine-Tuning – und bestellt wird dann das Falsche.

Fazit

Offene und geschlossene Modelle sind keine Lager, sondern Optionen in einem Portfolio. Die Lücke zur Spitze ist klein, die Lizenzfrage klärbar, und die Anpassungstreppe verhindert teure Fehlgriffe – vorausgesetzt, eigene Evals bilden die Messbasis. Die vollständige Entscheidungslogik inklusive Entscheidungs-Checkliste finden Sie im Whitepaper „Der KI-Werkzeugkasten“ von Nicholas Krimmel.