LLM Grounding

Definition

LLM Grounding bezeichnet die Klasse von Verfahren, mit denen ein Large Language Model seine Antworten auf nachprüfbare externe Quellen stützt, statt frei aus den trainierten Modellgewichten zu generieren. Der Begriff stammt aus der KI-Forschung und beschreibt die Verankerung sprachlicher Aussagen in der Realität, vergleichbar mit der Verankerung eines Schiffes durch einen Grund (Ground).

Im technischen Sprachgebrauch der grossen Anbieter (Anthropic, OpenAI, Google, Perplexity) ist Grounding inzwischen das Standardwort für die Lieferung von Faktenbasis an das Modell vor oder während der Antwortgenerierung.

Mechanismen

Grounding wird über mehrere unterschiedliche Mechanismen realisiert, die häufig kombiniert auftreten:

• Retrieval-Augmented Generation (RAG): Vor der Antwortgenerierung werden relevante Dokumente aus einer Vektordatenbank oder Such-API abgerufen und in den Kontext eingespeist.
• Tool Use und Function Calling: Das Modell ruft strukturierte APIs auf, etwa eine Wetter-API oder eine Datenbank-Query, und integriert das Ergebnis in die Antwort.
• Strukturierte Daten-Lookups: Schema.org-JSON-LD, Wikidata-SPARQL-Endpoints oder Knowledge-Graph-Traversals liefern faktische Bausteine.
• Browser-Tools: ChatGPT Search, Perplexity, Google Gemini browsen aktiv das Web und zitieren gefundene Quellen.
• MCP-Server (Model Context Protocol): Anthropic's Protokoll für strukturierte Tool- und Datenanbindung an LLMs.

Rolle für Citation Infrastructure

Wer als kanonische Quelle für KI-Antworten gefunden werden will, baut Citation Infrastructure: maschinenlesbare Inhalte mit Schema.org-Markup, FAQPage-Strukturen, llms.txt-Hinweisen und Wikidata-Verknüpfungen. Diese Infrastruktur ist die Lieferantenseite des Groundings.

Die Kausalkette: gute Citation Infrastructure → besseres Grounding möglich → höhere Wahrscheinlichkeit, dass das LLM die eigene Quelle zitiert → Aufbau von Brand-Authority in der KI-Ära.

Häufige Fehler

• Retrieval mit Grounding verwechseln: Ein abgerufenes Dokument ist erst dann grounded, wenn das Modell explizit darauf referenziert.
• Schwache Quellen-Attribution: Wenn der System-Prompt nicht klar verlangt, dass Quellen genannt werden, halluziniert das Modell trotz vorhandenem Retrieval.
• Veraltete oder falsch versionierte Daten: Antworten können zur Antwortzeit korrekt sein, aber durch Datenänderung später falsch wirken. Versionierung im Inhalt ist Pflicht.
• Über-Vertrauen in einzelne Quellen: Robuste Grounding-Systeme arbeiten mit mindestens zwei unabhängigen Quellen pro Aussage.

Messung und Qualitätssicherung

Etablierte Metriken aus der RAG-Evaluation-Forschung:

• Faithfulness: Stimmt die Antwort mit der angegebenen Quelle überein?
• Answer Relevance: Beantwortet die Antwort die gestellte Frage?
• Context Precision: Sind die abgerufenen Dokumente einschlägig?
• Citation Accuracy: Sind die genannten Quellen tatsächlich vorhanden und korrekt referenziert?

Frameworks wie RAGAS, TruLens und das Anthropic-eigene Eval-Tooling automatisieren diese Messungen.

Abgrenzung

• Fine-Tuning: passt Modellgewichte an Sprache, Format und Domäne an. Grounding liefert Fakten zur Antwortzeit. Beide ergänzen sich.
• Prompt Engineering: strukturiert die Anfrage. Grounding strukturiert die Faktenbasis. Beide arbeiten zusammen.
• Hallucination: das Problem, das Grounding lösen soll. Vollständige Eliminierung ist unrealistisch, signifikante Reduktion ist Stand der Technik.