OpenAI o1 / o3 (Reasoning-Modelle)

Definition

OpenAI o1 und o3 sind spezialisierte Reasoning-Modelle, die OpenAI im September bzw. Dezember 2024 vorgestellt hat. Sie unterscheiden sich von der klassischen GPT-Familie (GPT-4, GPT-4o) dadurch, dass sie vor der eigentlichen Antwort eine ausgedehnte interne Chain-of-Thought ausführen. Diese eingebaute Denkphase verbessert die Performance auf Mathematik-, Code-, Logik- und wissenschaftlichen Reasoning-Benchmarks dramatisch und bricht teils Rekorde, die zuvor als unerreichbar für LLMs galten.

Die Modelle markieren einen Paradigmenwechsel: statt mehr Parameter oder mehr Trainingsdaten wird Inference-Time Compute zur entscheidenden Ressource. Mehr Reasoning-Tokens, längere Bedenkzeit und tiefere interne Suchbäume liefern messbar bessere Antworten. OpenAI positioniert o-Modelle als eigene Familie neben GPT-4o und nicht als deren Nachfolger, denn beide Familien haben unterschiedliche Stärken und Anwendungsfälle.

Geschichte und Architektur

Die Idee, dass Modelle länger über Antworten nachdenken sollen, ist nicht neu. Chain-of-Thought-Prompting (Wei et al., 2022) zeigte, dass die Aufforderung Schritt für Schritt nachzudenken die Performance verbessert. Self-Consistency (Wang et al., 2023) erweiterte dies durch mehrfache Generierung und Mehrheits-Voting. Tree of Thoughts (Yao et al., 2023) führte explizite Suchbäume ein. o1 und o3 sind die Industrialisierung dieser Ideen, mit Reinforcement Learning trainiert, statt nur durch Prompting ausgelöst.

Wichtige Meilensteine:

• o1-preview (September 2024): erste öffentliche Reasoning-Variante, erreichte rund 44 Prozent auf AIME und das 62. Codeforces-Perzentil — weit vor GPT-4o.
• o1-mini (September 2024): günstigere Variante, zeitgleich mit o1-preview erschienen, fokussiert auf STEM-Reasoning.
• o1 (Dezember 2024): Vollversion mit 83 Prozent auf AIME und 89. Codeforces-Perzentil, ersetzte o1-preview.
• o3 (Dezember 2024): ARC-AGI-Durchbruch mit 87.5 Prozent in High-Compute, 75.7 Prozent in Standard-Compute.
• o3-mini (Januar 2025): günstige Variante, in ChatGPT Plus enthalten.
• o4-mini (April 2025): verbesserte Effizienz und Tool-Use.

Die Architektur basiert weiterhin auf der Decoder-only-Transformer-Struktur, vermutlich mit Mixture-of-Experts. Der entscheidende Unterschied liegt im Training: OpenAI beschreibt es offiziell als grossskaliges Reinforcement Learning auf der Chain-of-Thought. Ob dabei einzelne Reasoning-Schritte separat belohnt werden (Process Supervision, eine eigene OpenAI-Forschungslinie), ist nicht bestätigt. Das Training erlaubt dem Modell, beim Inferieren längere und qualitativ bessere Gedankenketten zu produzieren. Die internen Reasoning-Tokens sind dem Nutzer nur teilweise sichtbar, OpenAI gibt eine Zusammenfassung statt der vollständigen Kette.

Praxis und Anwendung

Reasoning-Modelle haben sich in spezifischen Domänen etabliert:

• Mathematik-Forschung: AIME, Putnam, Olympia-Aufgaben, Beweis-Verifikation. Mathematiker nutzen o3 als Brainstorming-Partner und Lemma-Generator.
• Wissenschaftliches Reasoning: Biologie- und Chemie-Aufgaben auf Doktorats-Niveau (GPQA), Physik-Olympia-Aufgaben.
• Komplexes Coding: Codeforces-Probleme, SWE-Bench-Aufgaben mit mehreren Dateien, Refactoring komplexer Codebases.
• Strategie und Spiele: Schach-Endspiele, Go-Analysen, Optimierungs-Probleme.
• Recht und Compliance: mehrstufige Argumentations-Ketten, Vertrags-Analyse, Regulatory-Reasoning.

In der Praxis empfiehlt sich ein Tiered-Approach: GPT-4o oder Claude Sonnet als Standard, o3-mini oder o3 für Aufgaben, bei denen erste Versuche scheitern oder hohe Korrektheit gefordert ist. Caching und Batch-API reduzieren Kosten signifikant. Die Reasoning Effort Parameter (low, medium, high) erlauben Kontrolle über Token-Verbrauch.

Integrationen: In ChatGPT ist die o-Serie seit GPT-5 (August 2025) im Einheitsmodell GPT-5 aufgegangen, das Reasoning bei Bedarf selbst zuschaltet. Die API bietet o3 mit konfigurierbarem Reasoning Effort, Function Calling und Structured Outputs. Cursor, Continue und Cline integrieren o-Modelle als Reasoning-Tier, oft als optionalen Premium-Modus.

Häufige Fehler

• Reasoning-Modelle als bessere GPT-4 verstehen: sie sind in vielen Standardaufgaben langsamer und teurer ohne Qualitätsgewinn. Sie sind eine Spezialfamilie für Reasoning.
• Token-Kosten unterschätzen: Reasoning-Tokens zählen als Output-Tokens. Eine einzelne Anfrage kann 50.000 Tokens und damit 3 Dollar kosten, ohne dass dies offensichtlich ist.
• Streaming-Verfügbarkeit falsch einschätzen: anfangs streamten o-Modelle die finale Antwort nicht; API-Streaming kam Ende 2024 (o1-preview/mini) bzw. Anfang 2025 (o1). Die interne Denkphase bleibt dennoch spürbare Wartezeit vor dem ersten Token.
• Vision und Tools voraussetzen: o1 und o3 haben eingeschränkte Multimodalität gegenüber GPT-4o. Komplexe Tool-Use ist in o3 verfügbar, aber nicht in o1-mini.
• Reasoning-Logs für Audit erwarten: OpenAI verbirgt die vollständige interne Chain-of-Thought, nur Zusammenfassungen sind sichtbar. Reproduzierbarkeit und Debugging sind eingeschränkt.

Abgrenzung

• GPT-4o: standardmässiges Multi-Modal-Modell, schneller und günstiger, weniger Reasoning-Performance.
• Claude Extended Thinking: Anthropics Pendant zu o1, integriert in normale Claude-Modelle.
• DeepSeek R1: offenes Reasoning-Modell, im Januar 2025 publiziert, vergleichbar mit o1.
• Gemini Deep Think: Googles Reasoning-Variante, vergleichbar mit o3, seit Gemini 2.5 verfügbar (Mai 2025); das 2.0-Pendant hiess Flash Thinking.
• Klassisches Chain-of-Thought-Prompting: Prompting-Technik bei normalen LLMs, weniger leistungsfähig als trainierte Reasoning-Modelle.