Man wollte uns KI-Content verkaufen — also habe ich eine Redaktionspipeline gebaut

Die Geschichte beginnt nicht mit Code, sondern mit einem Verkaufsgespräch.

Mitte 2026 saß ich einem Dienstleister gegenüber, der dem Fortbildungsinstitut, dessen IT ich verantworte, ein Paket verkaufen wollte: SEO, „KI-Content” und Social Media, alles aus einer Hand. Der Auftritt war professionell — und je länger der Termin dauerte, desto klarer wurde, dass hier etwas nicht zusammenpasste.

Das Angebot, das den Anstoß gab

Vier Dinge haben mich damals zur Absage-Empfehlung gebracht, und sie lohnen sich als Checkliste für jeden, dem „KI-Content als Dienstleistung” angeboten wird:

Referenzen aus der falschen Welt. Die Agentur kam erkennbar aus dem B2C-Social-Media-Geschäft — Fitness, Gastronomie, Unterhaltung. Kein einziger Kunde aus Verwaltung oder Bildung. Das ist kein Makel an sich, aber SEO für ein Fachpublikum ist ein anderes Handwerk als Reichweite für Konsummarken.

Unglaubwürdig im eigenen Fach. Ein kurzer Lighthouse-Lauf während des Termins — Lighthouse ist ein kostenloses Google-Werkzeug, das die technische Qualität einer Website misst und in Punkten von 0 bis 100 bewertet: Die eigene Website der Agentur lag bei einer Mobile-Performance von unter 30 Punkten. Die sogenannten Core Web Vitals (Ladezeit, Reaktionsschnelligkeit, Layout-Stabilität) sind seit dem Page-Experience-Update 2021 ein Ranking-Faktor bei Google — wer SEO verkauft und die eigene Seite so ausliefert, hat ein Glaubwürdigkeitsproblem. (Unsere Seite lag zum Vergleich bei 90–100.)

Fachliche Falschaussagen. Im Gespräch fiel der Satz, auch „irrelevanter Traffic” helfe beim Ranking. Das ist irreführend — reine Besucherzahlen ohne Suchbezug sind nach Googles offiziellen Aussagen kein direkter Ranking-Faktor; inwieweit Nutzersignale indirekt einfließen, ist seit den Navboost-Enthüllungen 2024 Gegenstand der Debatte, aber ‘irrelevanter Traffic’ hilft in keiner Lesart. Als Erfolgsbeleg wurde ein Projekt gezeigt, das bei näherem Hinsehen eine generische Keyword-Content-Farm war: massenhaft dünne Artikel, die nur um Suchbegriffe herum gebaut sind. Für eine Zielgruppe aus der öffentlichen Verwaltung wäre so etwas nicht nur wirkungslos, sondern rufschädigend — und seit Googles Spam-Update vom März 2024 läuft es unter „scaled content abuse” mit entsprechendem Abstrafungsrisiko.

Das Vertriebsmuster. Erst wurde ein sechsstelliges Jahresbudget in den Raum gestellt, dann auf einen niedrigen vierstelligen Monatsbetrag „reduziert” — klassisches Anchoring. Dazu der Wunsch nach einer Budget-Zusage vor dem schriftlichen Angebot und eine Mindestlaufzeit von rund zwei Jahren. Nichts davon ist illegal. Alles davon ist ein Warnsignal.

Meine Empfehlung an die Geschäftsleitung war eine technisch begründete Absage — und ein Gegenvorschlag: Wenn „möglichst viel generischer KI-Content, möglichst schnell” der falsche Weg ist, dann drehen wir es um. Die Inhalte kommen von den eigenen Fachleuten und Dozent:innen, die es im Haus ja gibt. Die KI übernimmt das Handwerk drumherum — Recherche, Struktur, Entwurf, SEO-Basics. Und jeder Beitrag durchläuft vor der Veröffentlichung einen redaktionellen Review plus einen automatisierten Fakt-Check. KI als Werkzeug, nicht als Autor.

Genau aus diesem Gegenvorschlag ist die Redaktionspipeline entstanden, um die es hier geht.

Der zweite Anstoß: die eigenen Artikel

Bevor ich gebaut habe, habe ich gemessen — und das war ernüchternd. Zwei unabhängige Audits unseres bestehenden Blogs förderten Fehlerklassen zutage, die verdächtig nach dem aussahen, was ich der Content-Farm vorgeworfen hätte: Quellenangaben ohne nachprüfbare Fundstelle, ein fachlicher Stand, der seit einem Jahr überholt war, ein „gilt ausschließlich”, wo die Realität differenzierter ist, stehengebliebene Arbeitsnotizen. Keine plumpen Halluzinationen — echte Informationen, zu stark verallgemeinert oder still veraltet.

Das ist die eigentliche Pointe der Vorgeschichte: Die Fehlerklassen, die eine Content-Farm am Fließband produziert, entstehen in kleinerer Dosis auch bei sorgfältiger Arbeit mit KI-Unterstützung. Der Unterschied liegt nicht im Werkzeug, sondern darin, ob jemand systematisch prüft. Also wurden genau diese Fehlerklassen zu den Prüfregeln meines Fakt-Check-Agenten.

Der Aufbau in einem Absatz

Für die technisch Interessierten: ein FastAPI-Backend (der Server, der die Logik ausführt) mit PostgreSQL als Datenbank, davor eine React-Oberfläche im Browser, dahinter WordPress als Publikationsziel, angebunden über dessen Programmierschnittstelle. Die Anmeldung läuft über Keycloak, einen Login-Server, der zentral verwaltet, wer sich anmelden darf; die KI-Anbindung über die Anthropic-API.

Für alle anderen zählt der Ablauf: Eine automatische Recherche schlägt wöchentlich Themen vor — samt Quellen, sonst fliegt der Vorschlag raus. Der Entwurf entsteht im Dialog mit dem Sprachmodell. Klickt die Redaktion auf „Akzeptieren”, startet der Fakt-Check. Danach entscheidet der Mensch pro Anmerkung: übernehmen, ablehnen, anpassen — und veröffentlicht. Jeder KI-Schritt ist überspringbar; die redaktionelle Verantwortung bleibt beim Menschen.

Genau an diesem Punkt passiert das Interessanteste am ganzen System: Die KI wechselt die Rolle — vom (Co-)Autor zum Kritiker. Dasselbe Modell, das eben noch formuliert hat, bekommt anschließend die Aufgabe, den entstandenen Text zu zerpflücken: Belege einfordern, Absolutaussagen anzweifeln, Aktualität prüfen. Nicht, weil ein Modell sich selbst besonders gut kontrollieren könnte — sondern weil sich mit klarer Aufgabenstellung, Websuche und Quellenzwang ein völlig anderer Arbeitsmodus erzwingen lässt als beim Schreiben.

Die wichtigste Designentscheidung: Anker per Zitat, nicht per Zeichenposition

Anmerkungen sollen dort stehen, wo das Problem ist — direkt an der betroffenen Textstelle. Das klingt trivial, ist es aber nicht. Der naive Ansatz wäre, das Modell nach Zeichenpositionen zu fragen („Fehler ab Zeichen 1.482″). Der scheitert in der Praxis regelmäßig, weil Sprachmodelle Zeichenpositionen nicht verlässlich bestimmen können.

Stattdessen gibt der Agent je Fund die betroffene Passage wörtlich als Zitat zurück, und die Oberfläche sucht dieses Zitat im Text. Dahinter steckt eine kleine Kaskade: erst der exakte Textvergleich; findet der nichts, ein Normalisierungsdurchlauf, der Leerzeichen, typografische Anführungszeichen und Gedankenstriche vereinheitlicht und die Fundstelle danach auf die Originalposition zurückrechnet. Was dann immer noch nicht passt, landet als allgemeine Anmerkung über dem Text statt mittendrin. Kommt ein Zitat mehrfach vor, wird nie automatisch ersetzt — der Mensch klickt die gemeinte Stelle an. Diese Kaskade ist unspektakulär und trägt das ganze Feature.

Was der Agent prüft — die Anti-Content-Farm-Checkliste

Die Prüfdimensionen habe ich nicht am Reißbrett erfunden, sondern aus den realen Fehlerbildern abgeleitet:

• Absolutheits-Scanner: Jeder Satz mit „immer”, „nie”, „ausschließlich”, „muss” gilt als Hochrisiko und wird gegen Quellen geprüft. Die drei peinlichsten Bestandsfehler wären damit alle gefunden worden.
• Aktualitätssuche: Der Agent sucht gezielt nach Entwicklungen, die jünger sind als die jüngste im Artikel zitierte Quelle — die Fehlerklasse „Artikel verpasst genau die eine neue Entscheidung oder Version” wird damit strukturell abgefangen.
• Quellen-Verifikation: Jede zitierte Fundstelle wird per Websuche gegengecheckt. „Mehrere Studien zeigen” ohne Beleg ist ein Fund, keine Formulierungsfrage — genau die Sorte Satz, von der Content-Farmen leben.
• Boundary-Tests: Grenzwerte werden dreiseitig geprüft — was gilt unterhalb, exakt am Wert, oberhalb? Erstaunlich, wie oft der Exakt-Fall fehlt.
• Publikationsreife: Arbeitsnotizen, offene Autorenfragen, Werbesprache, Stilbrüche — was eben so live geht, wenn niemand hinschaut.

Technisch ist das ein einziger Aufruf der KI-Schnittstelle mit zwei Bausteinen. Erstens die eingebaute Websuche: Der Agent entscheidet selbst, wonach er sucht, ich muss dafür keine eigene Suchmechanik programmieren. Zweitens „Structured Outputs” — die Vorgabe, dass die Antwort nicht als Fließtext, sondern in einem festen Datenformat zurückkommt: pro Fund Kategorie, Schweregrad, Zitat, Korrekturvorschlag, Quellen, Prüf-Kennzeichen. Nur so lassen sich die Funde überhaupt automatisch in der Oberfläche anzeigen.

Dazu kommt ein „Claim Ledger”: eine Ampel-Liste aller prüfbaren Tatsachenbehauptungen des Artikels, auch der korrekten. Statt 900 Wörter komplett gegenzulesen, sieht die Redaktion „14 Behauptungen, davon 2 gelb”.

Ob beide Bausteine zusammen funktionieren — erst selbstständig suchen, dann strukturiert antworten —, war meine größte technische Unsicherheit; ich hatte einen zweistufigen Notfallplan eingeplant. Er war unnötig: Der einphasige Weg läuft seit dem ersten Tag stabil.

Der Benchmark, der mich überzeugt hat

Bevor ich dem System echte Artikel anvertraut habe, habe ich einen Testartikel mit fünf absichtlich eingebauten Fehlern der bekannten Muster geschrieben: falsche Normreferenz, überholter Fachstand, unzulässige Absolutaussage und zwei weitere. Der Agent fand alle fünf, belegte sie mit amtlichen Quellen — und entdeckte über die Aktualitätssuche eigenständig genau die einschlägige höchstrichterliche Entscheidung, deren Fehlen den Original-Fehler ausgemacht hatte. Kosten des Laufs: 2,63 Dollar, Dauer sechs Minuten. In der späteren Nachprüfung veröffentlichter Bestandsartikel deckten sich die Agent-Funde mit den manuellen Audits.

Schreiben heißt führen, nicht prompten

Beim Entwurfsschritt bin ich bewusst vom „perfekten Prompt” abgerückt. Meine Erfahrung: Ich komme schneller ans Ziel, wenn ich dem Modell in normaler Sprache beschreibe, was ich will, und mich dann Runde für Runde herantaste — also führe, statt einmalig perfekt zu instruieren. Die Pipeline bildet genau das ab: Der Entwurf entsteht in einem Chat, jede Anweisung („kürze den Einstieg, ergänze ein Praxisbeispiel”) erzeugt eine neue Fassung, der komplette Verlauf bleibt am Artikel gespeichert. Ein Detail, das sich bewährt hat: Editiert jemand zwischendurch von Hand, bekommt das Modell diesen Stand in der nächsten Runde ausdrücklich mitgeteilt — es überschreibt menschliche Korrekturen nicht aus Unwissenheit.

Lehrgeld

Drei Dinge haben mich Zeit oder Geld gekostet, die ich beim nächsten Mal von Anfang an anders machen würde:

Selbstständige KI-Läufe brauchen ein Budget. Mein erster langer Fakt-Check lief 40 Minuten und brach dann mit einem Netzwerkfehler ab — Arbeit weg, Rechenzeit trotzdem bezahlt. Zwei Fixes: ein automatischer Neuversuch bei abgerissener Verbindung und vor allem ein Aufgaben-Budget, mit dem sich das Modell sein Kontingent selbst einteilt. Seitdem: gleiche Trefferqualität in dreieinhalb Minuten.

Hintergrundprozesse überleben keine Software-Updates. Der Prüflauf läuft im Hintergrund auf dem Server. Wird der Server währenddessen neu gestartet, ist der Lauf tot — und ohne Gegenmaßnahme wartet die Redaktion ewig auf einen sich drehenden Ladekreis. Heute markiert eine Startroutine hängengebliebene Läufe sauber als abgebrochen und verschickt eine Mail; vor jedem Update prüfe ich, ob gerade etwas läuft.

Der Kostentreiber ist nicht die Suche, sondern der mitgeschleppte Kontext. Die Websuche kostet bei Anthropic derzeit (Stand bei Veröffentlichung) 10 Dollar pro tausend Suchanfragen — das klingt nach dem großen Posten, ist es aber nicht. Bei jeder weiteren Suchrunde wird der gesamte bisherige Gesprächsverlauf erneut an das Modell übergeben und erneut abgerechnet; bei sieben, acht Suchen summiert sich das auf ein Vielfaches. Deshalb protokolliert bei mir jeder Lauf Verbrauch, Suchanfragen und Dollarbetrag in der Datenbank, und ein Ausgabenlimit beim Anbieter ist Pflicht.

Zur Einordnung der Größenordnungen: Ein kompletter Fakt-Check kostet 1,70 bis 2,60 Dollar, eine Entwurfs- oder Überarbeitungsrunde 20 bis 40 Cent, die wöchentliche Themenrecherche ein bis zwei Dollar pro Themenbereich. Ein fertiger, geprüfter Artikel liegt damit bei wenigen Dollar — ein Bruchteil dessen, was die Agentur monatlich aufgerufen hätte, und mit dem umgekehrten Qualitätsversprechen: wenige substanzielle Beiträge statt vieler dünner.

Was ich anders sehe als vor dem Projekt

Ich habe keinen „Halluzinations-Detektor” gebaut, und genau das war richtig. Die gefährlichen Fehler in Fachtexten sind selten frei erfunden — es sind echte Informationen, zu stark verallgemeinert oder still veraltet. Ein Prüf-Agent mit Quellenzwang, Aktualitätssuche und Misstrauen gegen Absolutaussagen fängt genau diese Klasse — vorausgesetzt, ein Mensch trifft die Entscheidungen.

Der produktivste Perspektivwechsel war für mich der Rollentausch: Die KI ist im zweiten Schritt nicht mehr Mitautorin, sondern Kritikerin. Sie ändert keine einzige Zeile selbst. Sie macht Probleme sichtbar, belegt sie und schlägt eine Formulierung vor. Angenommen wird per Klick — und abgelehnt auch.

Und das Verkaufsgespräch? Im Rückblick bin ich dafür fast dankbar. Manchmal braucht es ein schlechtes Angebot, um das eigene Anforderungsprofil scharf zu stellen: Für ein Fachpublikum zählt Vertrauen, nicht Masse — und Vertrauen kann man nicht outsourcen, aber man kann ihm eine Pipeline bauen.

Im nächsten Beitrag: Die Zitat-Verankerung im Detail — Normalisierungskaskade, Positions-Rückrechnung und die Fälle, in denen die Textsuche trotzdem ins Leere läuft.