Agent-Framework

Definition

Ein Agent-Framework ist eine Bibliothek oder Plattform, die wiederverwendbare Bausteine für die Entwicklung KI-basierter Agenten bereitstellt. Es kapselt typische Komponenten wie Planning, Memory, Tool-Use, Multi-Agent-Orchestrierung, State-Management und Observability hinter konsistenten Abstraktionen. Damit reduzieren Agent-Frameworks Boilerplate und etablieren Konventionen, die Entwicklungszeit, Wartung und Onboarding erleichtern.

Der Begriff hat sich seit 2023 etabliert, als die agentische Welle mit AutoGPT und BabyAGI startete und schnell klar wurde, dass produktive Agenten mehr brauchen als einen einzelnen LLM-Call. Ein modernes Agent-Framework bietet daher meist nicht nur einen Loop, sondern ein ganzes Ökosystem aus Schnittstellen, Adaptern und Werkzeugen.

Komponenten

Typische Bestandteile eines Agent-Frameworks:

• LLM-Adapter: einheitliche Schnittstellen zu verschiedenen Anbietern (OpenAI, Anthropic, Google, Mistral, lokale Modelle).
• Prompt-Templates: parametrisierbare Vorlagen mit Versionierung und Strukturschemata.
• Tool-Registry: Definitionen externer Funktionen mit Schema-Validierung und Discovery.
• Memory: Konversations-, Summary-, Vector- und Episodic-Memory mit Persistenz.
• Planner: Komponenten für Goal-Decomposition, Plan-and-Execute, ReAct, Reflexion.
• State-Management: explizite, typisierte States mit Reducern, Checkpointing und Replay.
• Multi-Agent-Orchestrierung: Routing, Supervisor, Handoffs zwischen spezialisierten Agenten.
• Tracing und Evaluation: strukturiertes Logging, Metriken, Vergleich von Varianten.
• Sicherheits-Layer: Budget-Caps, Rate-Limits, Sandboxing, Human-in-the-Loop-Hooks.

Praxis und Anwendung

Anwendungsfelder sind breit:

• Coding-Agenten: Devin, Claude Code, Cursor Agent, OpenDevin, oft auf LangGraph oder Anthropic Agent SDK.
• Web-Agenten: Operator, Manus, Browser-Use, mit Mischung aus Frameworks und Custom-Stacks.
• Customer-Support: typischerweise LangGraph, LlamaIndex oder CrewAI mit Eskalation an Menschen.
• Research-Agenten: Deep Research, Perplexity Pro, Elicit, oft mit eigenem Stack auf Anthropic- oder OpenAI-Basis.
• Internal-Tools: Pipelines auf LangChain/LangGraph plus LangSmith, integriert in Slack, Teams oder Linear.
• Multi-Agent-Simulationen: AutoGen, CrewAI, Anthropic-Multi-Agent-Patterns für komplexe kollaborative Setups.

In Produktionsumgebungen 2026 dominiert eine Kombination aus Framework als Skelett und Custom-Code für kritische Pfade (Sicherheit, Latenz, Kostenoptimierung).

Häufige Fehler

• Framework-Wahl ohne Use-Case-Test: ein Schaufenster-Demo überzeugt, ein echter Prototyp zeigt Lücken.
• Übermässige Abstraktion: zu viele Layer verstecken Verhalten, das beim Debugging zählt.
• Ignorierte Versions-Politik: API-Breaks zwischen Minor-Versionen können Produktionssysteme stoppen.
• Naive Multi-Agent-Setups: mehr Agenten lösen selten ein Problem, das mit einem klaren State und einer guten Pipeline nicht funktioniert.
• Fehlendes Tracing: ohne LangSmith, Phoenix, Langfuse oder vergleichbar bleiben Kosten und Fehler verborgen.
• Vendor-Lock-in bei Hosted-Angeboten: Plattform-Migration wird teuer, wenn Persistenz und Tracing proprietär sind.

Abgrenzung

• MCP: Protokoll für Tool-Anbindung, kein Application-Framework.
• Workflow-Engines (Temporal, Airflow): klassisch, nicht LLM-spezifisch, keine Agent-Semantik.
• LLM-SDKs: Provider-spezifische Clients, keine Agent-Abstraktion.
• No-Code-Agent-Builder: visuelle Plattformen wie Zapier, n8n mit AI-Bausteinen oder LangFlow.
• Agent-Produkte (Devin, Manus): fertige Anwendungen, oft auf eigenem oder kombiniertem Framework.
• Eval-Frameworks (Ragas, Promptfoo): spezialisiert auf Qualitätsmessung, komplementär zu Agent-Frameworks.