Context Engineering: vom Prompt-Basteln zur Kontext-Architektur für zuverlässige Prozess-KI
Die meisten KI-Projekte scheitern nicht am Modell, sondern an dem, was man ihm vorlegt. Ein Prompt, der im Chat gut funktionierte, versagt im Prozess, weil dort jeden Tag andere Dokumente, andere Zustände und andere Werkzeuge im Spiel sind. Context Engineering ist die Antwort darauf: die bewusste Gestaltung dessen, was in das Kontextfenster eines Modells gelangt — Anweisung, Beispiele, abgerufene Fakten, Werkzeuge und Zustand. Dieser Beitrag zeigt herstellerneutral, wie daraus eine Prozessautomation wird, die morgen noch dasselbe tut wie heute.
Vom Prompt zum Kontext: warum der Begriff 2025 aufkam
Solange KI ein Chatfenster war, genügte es, die Frage gut zu formulieren. Das war Prompt Engineering. Sobald KI in Prozessen arbeitet, sieht das Modell bei jedem Aufruf mehr als eine Frage: eine Anweisung, die jemand vor Monaten geschrieben hat, Dokumente, die eine Suche gerade herausgesucht hat, Ergebnisse von Werkzeugen, den Verlauf der letzten Schritte. Alles zusammen füllt das Kontextfenster — den Arbeitsspeicher des Modells, gemessen in Tokens.
Der Begriff Context Engineering wurde 2025 populär, als unter anderem Andrej Karpathy ihn als „die feine Kunst und Wissenschaft, das Kontextfenster mit genau den richtigen Informationen für den nächsten Schritt zu füllen“ beschrieb (Karpathy, 2025). Anthropic hat den Ansatz im selben Jahr in einem Leitfaden für Agentensysteme ausgearbeitet: Der Kontext ist eine begrenzte Ressource mit abnehmendem Grenznutzen; die Aufgabe ist, die kleinste Menge an Information zu finden, die das gewünschte Ergebnis wahrscheinlich macht (Anthropic, 2025).
Für Entscheider ist der Perspektivwechsel wichtig: Ein Prompt ist ein Text, den man verbessert. Ein Kontext ist ein Bauteil, das man entwirft, versioniert und testet — wie ein Formular, eine Schnittstelle oder eine Arbeitsanweisung. Was Kontextfenster und Tokens genau sind, erklärt das KI-Glossar 2026.
Was ins Kontextfenster gehört — die fünf Bausteine
1. Anweisung
Rolle, Aufgabe, Regeln, Ausgabeformat. Kurz, eindeutig, ohne Widersprüche. „Antworte nur auf Grundlage der vorgelegten Quellen; wenn sie nicht ausreichen, sage das“ ist eine Regel, die in Projekten mehr Halluzinationen verhindert hat als jede Modellwahl.
2. Beispiele
Zwei bis fünf gute Beispiele für Eingabe und gewünschte Ausgabe wirken stärker als eine Seite Regeln. Sie zeigen das Format, den Ton und die Grenzfälle. Beispiele sind Daten, keine Prosa — sie gehören gepflegt und geprüft.
3. Abgerufene Fakten
Die Abschnitte, die eine Suche zur aktuellen Aufgabe gefunden hat: Vertragsklauseln, Handbuchseiten, Kundendaten. Sie kommen aus RAG und einem gut gebauten Embedding-Index — mit Quelle und Datum, damit das Modell zitieren kann.
4. Werkzeuge
Beschreibungen dessen, was das Modell aufrufen darf: eine Suche, eine Datenbankabfrage, ein Kalender, ein Ticketsystem. Jede Beschreibung kostet Platz und lenkt ab; nur die Werkzeuge anbieten, die der Schritt braucht. Werkzeuganbindung über offene Standards vertieft die Workflow-Agentur.
5. Zustand
Wo steht der Prozess? Was wurde schon entschieden, welche Felder sind gefüllt, was hat der Nutzer zuletzt gesagt? Zustand gehört strukturiert in den Kontext, nicht als endloser Verlauf. Alter Verlauf wird zusammengefasst oder ausgelagert.
Die Reihenfolge
Stabile Teile zuerst (Anweisung, Werkzeuge, Beispiele), veränderliche Teile danach (Fakten, Zustand, Frage). Das ist lesbarer für das Modell und günstiger, weil Anbieter und lokale Laufzeiten gleichbleibende Anfänge zwischenspeichern können.
Mehr Kontext ist nicht besser: was die Forschung zeigt
Die naheliegende Idee — einfach alles ins Fenster packen, es ist ja groß genug — scheitert messbar. Eine Studie aus Stanford und Berkeley zeigte 2023, dass Sprachmodelle Informationen am Anfang und am Ende eines langen Kontexts deutlich besser nutzen als solche in der Mitte; die Leistung fiel teils unter das Niveau ohne jeden Kontext (Liu et al., 2023). Der Effekt ist als „Lost in the Middle“ bekannt.
Eine Untersuchung des Datenbankanbieters Chroma an 18 Modellen bestätigte 2025, dass die Leistung mit wachsender Kontextlänge auch dann sinkt, wenn die Aufgabe selbst einfach bleibt — und dass ablenkende, aber thematisch nahe Inhalte den Effekt verstärken (Chroma, 2025). Anthropic nennt dasselbe Phänomen „Context Rot“ und leitet daraus die Regel ab, den Kontext zu kuratieren statt zu füllen (Anthropic, 2025).
Für Ihren Prozess heißt das: Der Suchschritt darf nicht fünfzig Abschnitte liefern, sondern die fünf richtigen. Der Verlauf darf nicht mitwachsen, sondern wird verdichtet. Werkzeuge werden je Schritt eingeblendet, nicht pauschal. Und was das Modell nicht braucht, bleibt draußen — auch wenn es hineinpassen würde. Warum das zugleich der wirksamste Schutz gegen erfundene Antworten ist, erklärt Halluzinationen vermeiden.
Struktur-Muster für zuverlässige Prozess-KI
Vier Muster haben sich in Projekten als tragfähig erwiesen. Sie sind unabhängig vom Modell und lassen sich lokal wie in der Cloud umsetzen.
Ein Schritt, ein Kontext. Statt einem Modell einen ganzen Vorgang zu übergeben, wird der Prozess in Schritte zerlegt: klassifizieren, extrahieren, prüfen, formulieren. Jeder Schritt bekommt einen eigenen, schlanken Kontext mit nur den Werkzeugen und Fakten, die er braucht. Anthropic beschreibt dieses Vorgehen als Kette einfacher, komponierbarer Muster, die zuverlässiger sind als ein einziger großer Agent (Anthropic, 2024). Für kleine Schritte reichen oft kleine Sprachmodelle.
Strukturierte Ein- und Ausgabe. Das Modell bekommt Fakten mit klaren Markierungen — Quelle, Datum, Abschnitt — und liefert Ergebnisse in einem festen Schema, das die nachfolgende Software prüfen kann. Freitext ist für Menschen; Prozesse brauchen Felder.
Datenklasse vor Kontext. Bevor irgendetwas ins Fenster wandert, entscheidet eine Regel, welches Modell den Kontext sehen darf. In Projekten mit einem Berufsgeheimnisträger war das die erste Weiche: Dokumente der höchsten Schutzklasse erreichten ausschließlich das lokale Modell; ein Wächter blockte jeden Weg zu einem Cloud-Endpunkt. Diese Regel steht außerhalb des Prompts, im Code — Guardrails im Sinne von Guardrails und Human-in-the-Loop.
Zustand außerhalb des Modells. Der Prozesszustand lebt in einer Datenbank oder einem Workflow-System und wird je Schritt in verdichteter Form eingeblendet. Das Modell merkt sich nichts; das System merkt sich alles. So bleibt jeder Aufruf nachvollziehbar und wiederholbar. Wie solche Abläufe in Werkzeugen wie n8n gebaut werden, zeigt n8n-Automatisierung; welche Anwendungsfälle sich eignen, KI-Agenten im Mittelstand.
Versionierung und Tests: Prompts sind Code
Ein Kontext, der in Prozessen läuft, ändert sich: Regeln kommen dazu, Beispiele werden ausgetauscht, das Modell wird aktualisiert. Ohne Versionierung weiß nach drei Monaten niemand, warum das System heute anders antwortet als im Frühjahr. Deshalb gilt: Anweisungen, Beispiele und Schema liegen in der Versionsverwaltung wie Programmcode — mit Datum, Änderungsgrund und der Möglichkeit, zurückzugehen. Jede produktive Antwort protokolliert, welche Kontextversion und welches Modell sie erzeugt haben.
Tests gehören dazu, und zwar vor jeder Änderung. Ein Testset aus echten Fällen mit erwarteten Ergebnissen — darunter bewusst Fälle, in denen das Modell die Antwort verweigern muss — läuft nach jeder Anpassung durch. In einem lokalen Projekt zeigte genau so ein Negativtest, dass ein Prüfschritt eine erfundene Zahl durchgewunken hatte; die Härtung führte zunächst zu Falschverweigerungen, bis Anweisung und Prüfung ausbalanciert waren. Ohne Testset wäre beides unbemerkt geblieben. Wie solche Tests aufgebaut sind, beschreibt KI-Evaluierung und Zuverlässigkeit.
| Baustein | Prompt-Basteln (Chat-Denken) | Context Engineering (Prozess-Denken) |
|---|---|---|
| Anweisung | Frei formuliert, wächst mit jedem Sonderfall | Kurz, versioniert, mit Änderungsgrund |
| Beispiele | Ein, zwei aus dem Kopf | Gepflegtes Set inklusive Grenzfällen, im Testset gespiegelt |
| Fakten | Ganze Dokumente eingefügt | Wenige passende Abschnitte mit Quelle und Datum |
| Werkzeuge | Alle immer verfügbar | Je Schritt nur die nötigen, klar beschrieben |
| Zustand | Kompletter Verlauf wird mitgeschleppt | Verdichtet, außerhalb des Modells gehalten |
| Prüfung | „Sieht gut aus“ | Testset vor jeder Änderung, Protokoll je Antwort |
Typische Fehler — und das Fazit
Widersprüchliche Regeln. Über Monate gewachsene Anweisungen enthalten Sätze, die einander aufheben. Das Modell wählt eine Seite — mal die eine, mal die andere. Abhilfe: Anweisung regelmäßig kürzen und gegen das Testset prüfen.
Fremde Anweisungen in den Fakten. Ein abgerufenes Dokument oder eine eingehende Mail enthält Text, der wie eine Anweisung aussieht — und das Modell befolgt ihn. Das ist Prompt Injection, in der OWASP-Liste der größten Risiken für Sprachmodell-Anwendungen an erster Stelle (OWASP, 2025). Abhilfe: Fakten klar als Daten markieren, Werkzeugrechte begrenzen, kritische Aktionen freigeben lassen. Vertiefung bei der Workflow-Agentur zu Prompt Injection.
Modellwechsel ohne Test. Ein neues Modell antwortet anders auf denselben Kontext. Wer wechselt, ohne das Testset laufen zu lassen, merkt Verschlechterungen erst beim Kunden.
Verlauf als Gedächtnis. Der ganze Chatverlauf wird bei jedem Schritt mitgegeben. Nach zwanzig Schritten ist das Fenster voll mit Altem, und die aktuelle Aufgabe geht unter — der oben beschriebene Effekt.
Kurz gesagt: Context Engineering macht aus einem Prompt ein Bauteil. Fünf Bausteine — Anweisung, Beispiele, Fakten, Werkzeuge, Zustand — werden schlank gehalten, in fester Reihenfolge zusammengesetzt, versioniert und vor jeder Änderung gegen ein Testset geprüft. Regeln, die nie gebrochen werden dürfen, stehen im Code, nicht im Prompt. So entsteht Prozess-KI, die morgen noch dasselbe tut wie heute — und deren Kosten planbar bleiben, wie Prozessautomation-Kosten zeigt.
Häufige Fragen zu Context Engineering
Was ist Context Engineering?
Ist mehr Kontext nicht immer besser?
Wie versioniert man Prompts richtig?
Was ist der Unterschied zwischen Context Engineering und Guardrails?
Brauche ich für Context Engineering ein großes Modell?
- A. Karpathy, Beitrag auf X zum Begriff „context engineering“, Juni 2025, https://x.com/karpathy/status/1937902205765607626
- Anthropic, „Effective context engineering for AI agents“, 2025, https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents
- Anthropic, „Building effective agents“, 2024, https://www.anthropic.com/research/building-effective-agents
- N. F. Liu et al., „Lost in the Middle: How Language Models Use Long Contexts“, arXiv:2307.03172, 2023 (TACL 2024), https://arxiv.org/abs/2307.03172
- Chroma Research, „Context Rot: How Increasing Input Tokens Impacts LLM Performance“, 2025, https://research.trychroma.com/context-rot
- OWASP Foundation, „OWASP Top 10 for Large Language Model Applications 2025“ (LLM01 Prompt Injection), 2025, https://genai.owasp.org/llm-top-10/
Welcher Ihrer Prozesse hat den größten Hebel?
In 30 Minuten analysieren wir Ihre Abläufe und sagen Ihnen ehrlich, was Automatisierung bei Ihnen bringt, und was nicht.
Antwort innerhalb eines Werktags · unverbindlich
Weiterlesen in KI in der Praxis
- KI-Halluzinationen vermeiden: Ursachen und SchutzWarum KI-Modelle Fakten erfinden und wie Unternehmen das Risiko senken: Grounding und RAG, Selbstkontrolle, Qualitätstests, Mensch in der Schleife.
- KI-Agenten für den Mittelstand: Use-Cases & Einstieg 2026KI-Agenten im Mittelstand: konkrete Use-Cases nach Abteilung, wo Agenten heute realistisch sind und ein praxisnaher Einstiegs-Fahrplan für 2026.
- KI-gestützte Prozessautomation: Use-Cases, Blueprint & DSGVOKI-gestützte Prozessautomation: sechs Praxis-Use-Cases, Architektur-Blueprint und DSGVO-konformer Betrieb. Leitfaden für den Mittelstand.
- KI auf deutschen Servern: On-Premise und Private CloudKI auf deutschen Servern: Daten bleiben in Deutschland. On-Premise & Private-Cloud KI für den Mittelstand, DSGVO-konform. Jetzt beraten lassen.