Model Card

Standardisiertes Dokument, das Eigenschaften, Trainingsbedingungen, intendierten Einsatz und Grenzen eines Machine-Learning-Modells transparent beschreibt.

Definition

Eine Model Card ist ein standardisiertes, in der Regel kurzes Dokument, das die wichtigsten Eigenschaften eines Machine-Learning-Modells transparent zusammenfasst. Sie beschreibt, wofür ein Modell entwickelt wurde, wie es trainiert und evaluiert wurde, wo seine Grenzen liegen und welche ethischen Überlegungen relevant sind. Model Cards sind weder Marketingdokumente noch technische Whitepapers, sondern strukturierte Steckbriefe für Entscheidungsträger, Entwicklerinnen und Compliance.

Das Konzept geht auf das Paper Model Cards for Model Reporting (Mitchell et al., 2019) zurück und hat sich seither zu einem De-facto-Standard entwickelt. Plattformen wie Hugging Face, Google Vertex AI und Azure ML stellen Model-Card-Templates bereit. Der EU AI Act verankert Model-Card-ähnliche Inhalte als Pflicht für General-Purpose-AI-Modelle und Hochrisiko-Systeme.

Mechanismus

Eine Model Card folgt einer wiederkehrenden Struktur, die sich an verschiedenen Templates orientiert, im Kern aber stabil ist:

Modelldetails: Name, Version, Anbieter, Veröffentlichungsdatum, Lizenz, Kontakt.
Intendierter Einsatz: Primärer Use-Case, Zielgruppe, Out-of-Scope-Use, bekannte Misuse-Risiken.
Trainingsdaten: Quellen, Vorverarbeitung, Sprachverteilung, Bias-Überlegungen, Datenherkunft und Lizenzlage.
Trainingskonfiguration: Architektur, Hyperparameter, Compute, Trainingsdauer, Energieverbrauch.
Evaluation: Benchmarks, Metriken, Performance pro Subgruppe (Geschlecht, Sprache, Region), Vergleichsbasis.
Ethische Überlegungen: Fairness-Analyse, Datenschutz, gesellschaftliche Risiken.
Sicherheit: Red-Teaming-Ergebnisse, Refusal-Verhalten, bekannte Failure Modes.
Empfehlungen: Hinweise für sicheren Einsatz, notwendige Mitigationen, Monitoring.

Model Cards werden mit jedem Modell-Release aktualisiert und versioniert. Bei Finetuning oder Domänenanpassung entstehen abgeleitete Cards, die auf die Original-Card verweisen.

Praxis und Anwendung

In der Praxis erscheint die Model Card als Markdown-Datei im Modell-Repository (etwa auf Hugging Face), als PDF im Anbieter-Portal oder als JSON-Datei für maschinelle Auswertung. Anthropic veröffentlicht Model Cards für Claude-Modelle, OpenAI System Cards für GPT-4 und Folgemodelle, Google für Gemini, Meta für Llama.

Enterprise-Kunden nutzen Model Cards für drei Zwecke:

Beschaffung: Auswahl geeigneter Modelle anhand intendierter Einsatzgebiete und Evaluations-Ergebnisse.
Compliance: Erfüllung von AI-Act-, NIST- oder ISO-Anforderungen an Modellnachweise.
Betrieb: Konfiguration von Monitoring, Filter-Pipelines und Schulungen anhand der dokumentierten Grenzen.

Für regulatorische Pflichten ergänzen Anbieter die Model Card um eine Trainingsdaten-Zusammenfassung (AI Act, Artikel 53) und eine technische Dokumentation gemäss Anhang IV. Hochrisiko-Betreiber führen die Model Card in ihr Risikomanagement-System ein und verknüpfen sie mit der Folgenabschätzung für Grundrechte.

Häufige Fehler

Generische Templates ohne Substanz: Eine Model Card, die ausschliesslich Marketing-Sprache und keine konkreten Metriken enthält, ist wertlos und verstösst gegen den Geist der Transparenzpflicht.
Veraltete Version: Wer eine Model Card nicht mit jedem Modell-Update pflegt, dokumentiert irrelevante Eigenschaften.
Fehlende Subgruppen-Evaluation: Ohne Performance-Aufschlüsselung nach Sprache, Region oder demografischen Merkmalen bleibt Fairness-Behauptung leer.
Out-of-Scope-Use nicht benannt: Wenn Misuse-Szenarien nicht explizit ausgeschlossen sind, übernehmen Anbieter implizit Verantwortung für ungeeignete Einsätze.
Trennung von System Card vergessen: Model und System sind verschieden. Wer Pre-Processing, Filter und Tooling nicht separat dokumentiert, verfehlt das Ziel der Nachvollziehbarkeit.

Abgrenzung

Datasheet for Datasets: dokumentiert den Datensatz, nicht das Modell. Model Cards referenzieren Datasheets.
System Card: dokumentiert das gesamte Deployment-System inklusive Filter, Tooling, Monitoring.
Technische Dokumentation (AI Act, Anhang IV): umfassender und regulatorisch verpflichtend für Hochrisiko-Systeme.
Model Spec: beschreibt das gewünschte Verhalten (OpenAI Model Spec, Anthropic Usage Policies). Die Model Card beschreibt, was das Modell tatsächlich kann.
Transparency Report: Anbieter-weiter Bericht über Einsatz, Vorfälle und Massnahmen, kein modellspezifisches Dokument.

Weiter im KI-Lexikon

← Zurück zum Lexikon

Häufige Fragen

Was ist eine Model Card?+

Eine Model Card ist ein standardisiertes Begleitdokument zu einem Machine-Learning-Modell. Sie beschreibt Trainingsdaten, intendierten Einsatz, Evaluations-Ergebnisse, ethische Erwägungen und bekannte Grenzen. Das Konzept stammt aus der Arbeit von Margaret Mitchell und Kolleginnen (Google) von 2019 und ist heute in der EU-AI-Act-Konformität verankert.

Was steht in einer Model Card?+

Übliche Abschnitte: Modellname und Version, Anbieter, intendierter Einsatz und Out-of-Scope-Use, Trainingsdaten und Vorverarbeitung, Trainingskonfiguration, Evaluations-Metriken pro Subgruppe, ethische Überlegungen, Sicherheitsmassnahmen, Lizenz und Kontakt. Die EU verlangt zusätzlich Trainingsdaten-Zusammenfassungen für General-Purpose-AI-Modelle.

Wer hat das Konzept eingeführt?+

Margaret Mitchell, Simone Wu, Andrew Zaldivar und weitere Autorinnen und Autoren stellten 2019 auf der ACM-Konferenz FAT* (heute FAccT) das Paper Model Cards for Model Reporting vor. Es entstand aus der Erkenntnis, dass Modelle ohne Kontextdokumentation in unpassenden Umgebungen eingesetzt werden und so Schaden anrichten können.

Wie unterscheidet sich eine Model Card von einer System Card?+

Eine Model Card dokumentiert ein einzelnes Modell, also dessen Gewichte und Trainingsbedingungen. Eine System Card dokumentiert das gesamte Einsatz-System inklusive Pre- und Post-Processing, Tooling, Safety-Filter und Deployment-Kontext. OpenAI nutzt System Cards für GPT-4 und Folgemodelle, Anthropic kombiniert Model Cards mit Responsible Scaling Reports.

Sind Model Cards regulatorisch verpflichtend?+

In der EU werden Modellprofile für General-Purpose-AI-Modelle ab dem 2. August 2025 verpflichtend, deren Inhalte sich stark an Model-Card-Konventionen orientieren. Hochrisiko-Systeme verlangen technische Dokumentation gemäss Anhang IV des AI Act, die ebenfalls Model-Card-Elemente enthält. In den USA empfehlen NIST und OMB Model Cards als Best Practice.

Welche Risiken adressieren Model Cards?+

Vor allem unangemessene Wiederverwendung: ein Modell, das auf einer bestimmten Population trainiert wurde, kann in einer anderen versagen oder diskriminieren. Model Cards machen Trainingsverteilung, Evaluations-Subgruppen und Out-of-Scope-Use sichtbar und reduzieren so Misuse durch Unwissen.

Wie wird eine Model Card erstellt?+

Üblich ist die Kombination aus automatischem Tooling (Hugging Face Hub generiert ein Skelett, Google Model Card Toolkit erzeugt strukturierte JSON-Dateien) und kuratierter Bearbeitung durch ML-Team, Compliance und Produkt. Die Karte wird mit jeder Modellversion aktualisiert und versioniert.

Warum sind Model Cards für Enterprise-Kunden wichtig?+

Beschaffung und Compliance verlangen Nachweise zu Modelleigenschaften, Datenherkunft und Eignung. Eine vollständige Model Card erleichtert Due-Diligence, Risiko-Assessment und Vertragsverhandlung. Anbieter, die keine Model Card liefern, sind in regulierten Branchen kaum einsetzbar.

Quellen

Mitchell et al. (2019), Model Cards for Model Reporting (ACM FAT* 2019, heute FAccT)
Google Cloud, Model Card Toolkit
Hugging Face, Model Card Guidelines

Zuletzt geprüft: 2026-07-02