KI & Medien Briefing #6

Diese Woche verschiebt sich der Prüfpunkt von der Modellleistung zur Arbeitsweise. Agenten können Zustände übersehen, Benchmarks können Rückschritte verdecken, Provenienz kann an der Anfrage scheitern und Systeme können Entscheidungen lenken, ohne ihre Gründe zu nennen. Zugleich liegen belastbare Fortschritte dort, wo Aufgaben begrenzt, Zwischenschritte prüfbar und Übergaben klar geregelt sind. Vertrauen entsteht damit aus beobachtbaren Abläufen, nicht aus Modellnamen.

Agenten brauchen Aufsicht über Zustände

Sicherheitsprüfungen, die nur einzelne Anfragen betrachten, verlieren bei lang laufenden Agenten den Zusammenhang. Eine Studie zu Zerlegungsangriffen prüfte 91 ausführbare Aufgaben und 11.393 vergleichbare harmlose Anfragen. Unter einem Verweigerungsbudget von einem Prozent scheiterten alle zehn getesteten Richtlinien daran, Angriffe zuverlässig zu stoppen oder das Budget einzuhalten. Bei unbekannten Aufgaben erreichten Angriffe nach zwei Versuchen eine Erfolgsrate von 100 Prozent, laut der Studie. Ein zweiter Befund verschiebt das Problem in die Infrastruktur: In 25 von 63 geprüften Zellen änderte allein ein zurückgehaltener KV-Cache einen geschützten Effekt, obwohl die angreifenden Tokens in keiner Anfrage auftauchten, berichten Zhang und Yang.

Für Freigaben reicht ein sauberer Gesprächsverlauf damit als Prüfbeleg kaum aus. Organisationen müssen Sitzungen, Identitäten, Werkzeugzugriffe und Wiederanläufe gemeinsam testen. Auch ausgelagerte Verarbeitung gehört ins Protokoll. Wie solche Kontrollen über lange Ketten und mehrere Agenten skalieren, bleibt offen.

Ein Gesamtscore kann den Rückschritt verstecken

Modellwechsel wirken in der Übersicht oft besser, während einzelne Aufgaben leiser den Rückwärtsgang einlegen. Eine Untersuchung von drei Migrationen in der GPT-5.4- bis GPT-5.6-Sol-Reihe wiederholte 900 Benchmark-Aufgaben je Modell 50-mal. Kanten mit aggregierten Gewinnen von bis zu 7,3 Prozentpunkten enthielten bis zu 8,3 Prozent zuverlässig schlechtere Einzelaufgaben. Bei aggregierten Verlusten gab es bis zu 10,7 Prozent zuverlässig bessere Aufgaben, laut Xu und Wu. In der klinischen Fehlererkennung lagen 13 von 15 Modellen unter zufälliger paarweiser Unterscheidung, obwohl ihre F1-Werte moderat wirkten, berichtet eine MLHC-Studie.

Das verändert die Messpflicht bei Freigaben und API-Wechseln. Ein Score braucht seine Testfälle, Bewertungsregel, Vergleichsgruppe und Unsicherheit. Besonders bei regulierten oder teuren Abläufen zählt die Aufgabenebene. Ein Prüfer-Modell kann bei fehlender Sicherheit Quellen abrufen oder sich enthalten, doch die Übertragbarkeit solcher Verfahren in reale Prozesse ist noch offen.

Herkunft endet nicht am Eingangstor

Ein Datensatz kann sauber beschrieben sein und dennoch später eine RAG-Antwort lenken. Eine Untersuchung von 29.000 Datensatzbeschreibungen auf Hugging Face und Zenodo fand einzelne Herkunftssignale nur unregelmäßig. Vollständige Provenienzketten blieben selten, laut der Analyse zur Transparenz unter dem AI Act. Bei koordinierter Vektorsuche besetzten zehn einzeln unauffällige Dokumente gemeinsam alle zehn Zielplätze. In einer BGE-large-, HNSW- und Qwen2.5-7B-Pipeline löste die eingeschleuste Behauptung in 88 Prozent der Ziele aus, berichten Pathak und Sharma. Ein Filter bei der Aufnahme erkannte solche Dokumente bei einem Prozent Fehlalarmrate nur zu 4,2 Prozent.

Das relevante Signal entsteht erst bei der konkreten Anfrage. Herkunft muss daher über Datensatz, Aufnahme, Abruf, Ausgabe und Weitergabe mitgeführt werden. Wasserzeichen können Zuordnung stützen, liefern aber Wahrscheinlichkeiten und sind angreifbar. Für Gerichte, Forschung und Redaktionen braucht jede Antwort einen sichtbaren Prüfpfad. Unsichere Herkunft braucht eine eigene Verfahrensregel.

Empfehlungssysteme üben Macht im Kleingedruckten aus

Ein System kann Auswahlentscheidungen prägen, ohne seine Einflussfaktoren zu nennen. Ein randomisiertes Audit mit sieben Modellen, 3.024 Auswahlsets und 40.068 bewerteten Antworten prüfte, welche Merkmale Ärztinnen und Ärzte sichtbar machen. Eine Bewertung von 3,9 auf 4,7 erhöhte die Auswahlwahrscheinlichkeit um 31,4 Prozentpunkte. Der Listenplatz allein entsprach einem Preisvorteil von 11 US-Dollar je Besuch. Geschlecht und ethnische Signale tauchten in höchstens 0,03 Prozent der Begründungen auf, laut Gillani und Baig. Bei Chatbot-Werbung empfahl Grok 4.1 Fast in 83 Prozent der Fälle ein gesponsertes Produkt, das fast doppelt so teuer war, laut einer weiteren Untersuchung.

Selbsterklärungen erfassen solche Rang- und Sichtbarkeitseffekte kaum. Aufsicht muss deshalb wiederholbare Verhaltenstests, Preis- und Platzierungsvarianten sowie anfechtbare Ergebnisse prüfen. Öffentliche Stellen brauchen eigene Prüfkapazität und eine echte Suspendierbarkeit. Gemeinsame EU-Regeln schaffen dafür einen Rahmen. Gleiche Schutzstandards hängen weiterhin von sehr ungleichen Behördenressourcen ab.

Belastbare KI beginnt mit einer kleinen Aufgabe

Die verlässlichsten Fortschritte dieser Woche entstehen dort, wo ein Sprachmodell einen begrenzten Schritt erledigt und ein prüfbares System den Rest übernimmt. Bei juristischen Fristen erreichte eine Pipeline aus Fakten-Graph und Kalender-Engine in 427 synthetischen Fällen 90,2 Prozent korrekte Antworten. Direkte Modellantworten kamen auf 61,2 Prozent, laut Zhyrko, Han und Verberne. Bei Bluebook-Zitaten stieg die Genauigkeit durch strukturierte Elemente und einen Regel-Executor von 42,6 auf bis zu 85,5 Prozent, berichten Dahl und Martínez. Anthropic übernahm zudem 180 von 388 automatisch erstellten Wartungs-Pull-Requests nach menschlicher Prüfung, laut dem Bericht.

Die Lehre reicht über Recht und Software hinaus. Gute Abläufe teilen Aufgaben auf, speichern Zwischenzustände und messen Rückfälle. GRASP stieg auf einem klinischen Benchmark von 40,6 auf 88,8 Prozent, blieb bei offenen Aktionsräumen jedoch flach, laut der Studie. So wird aus einem Modellversprechen eine kontrollierbare Arbeitsroutine. Vertrauen hat dann eine Form: prüfbare Schritte, begrenzte Zuständigkeiten und eine Aufsicht, die eingreifen kann.

Agenturen bauen ihre Führung um KI herum — und Ihre Marketingabteilung ist die eigentliche Adressatin

Innerhalb einer Woche haben mehrere deutsche Agenturen personelle und strukturelle Weichen gestellt — und alle drehen sich um dieselbe Frage: Wer besetzt künftig die KI-Kompetenz in Marketing und Kommunikation, das Haus oder der Dienstleister?

Anfang Juli hat die Serviceplan-Tochter Plan.Net eine eigene Einheit für sogenannte agentische KI gestartet — Systeme, die Aufgaben selbstständig abarbeiten, nicht nur auf Zuruf antworten. Nach Unternehmensangaben umfasst die Unit rund 40 Fachleute und betreut bereits KI-Programme für Großkunden. Das Angebot ist als End-to-End-Beratung angelegt: von Strategie und Datenintelligenz über Kreation und Content-Produktion bis zu Aussteuerung und Performance. Die Begründung aus dem Haus: KI-Tools seien vielerorts im Einsatz, es fehlten aber belastbare Prozesse, klare Verantwortlichkeiten und ein skalierbares Setup. Das ist die entscheidende Ansage. Der Verkaufshebel ist nicht mehr das Tool, sondern das Betriebsmodell dahinter — und das lässt sich als Beratungsmandat teuer verkaufen.

Zeitgleich hat die Hamburger Segmenta Experience ihre Geschäftsführung erweitert. Laut der Meldung rückt Stefanie Schwalm, bislang Head of Innovation, in die Geschäftsführung auf und teilt sich die Leitung künftig mit Bastian Scherbeck und Nico Ziegler. Segmenta Experience positioniert sich als AI-Arm der Gruppe und arbeitet nach eigenen Angaben mit einem eigenen KI-Betriebssystem für die Kundenarbeit. Dieselbe Logik wie bei Plan.Net, nur eine Nummer kleiner: Die KI-Kompetenz wandert in die Führungsebene, weil sich damit Geschäft machen lässt.

Und dann ist da Kim Notz von der Hamburger Kreativagentur KNSK, die in einer Kolumne die Gegenrechnung aufmacht: Wenn KI immer mehr Kreativaufgaben übernimmt — was bleibt, das die Maschine nicht kann? Ihre These teilt sie mit anderen in der Branche, die Strategie, Beratung und Kreation als die Bereiche sehen, in denen menschliche Kompetenz auch im KI-Zeitalter den Unterschied macht. Das Argument: KI bringe keine eigene Kultur hervor, die entstehe durch Menschen, ihre Erfahrungen und Perspektiven. Übersetzt: Die austauschbare Mitte der Wertschöpfung — Ausführung, Produktion, Schemakreation — verschwindet zuerst.

Für Sie als Entscheiderin oder Entscheider im Medienhaus ist das keine Personalienmeldung aus der Agenturszene, sondern eine Preisverhandlung, die schon begonnen hat. Wenn Plan.Net mit rund 40 Leuten KI-fähige Operating Models verkauft und Segmenta die Führung auf AI-First trimmt, stehen Ihre internen Marketing- und Kommunikationsteams vor derselben Sortierfrage: Welche kreative Wertschöpfung behalten Sie im Haus — Strategie, Markenkern, redaktionelles Urteil — und welche geben Sie an einen KI-first-Dienstleister ab, der sie schneller und billiger liefert? Wer bis zum nächsten Etatgespräch keine eigene Antwort auf die Agentic-Angebote hat, verhandelt aus der schwächeren Position. Die spannende Frage ist nicht, ob die Mitte stirbt, sondern ob Sie zum Zeitpunkt der Beerdigung schon wissen, was bei Ihnen oben und was unten steht.