GPT-Familie (Geschichte)

Definition

Die GPT-Familie umfasst die Reihe der Generative Pre-trained Transformer-Modelle von OpenAI. Sie beginnt 2018 mit GPT-1 und reicht in Stand 2026 von GPT-1 bis GPT-5 sowie den parallelen Reasoning-Modellen o1, o3 und o4-mini. Alle Modelle teilen die Decoder-only-Transformer-Architektur und das Pretraining-Prinzip via Next-Token-Prediction.

Die Familie hat das LLM-Zeitalter geprägt: GPT-3 etablierte 2020 das Few-Shot-Paradigma, ChatGPT löste 2022 die Konsumenten-Welle aus, GPT-4 setzte 2023 neue Benchmark-Standards. Die Modellfamilie ist eines der einflussreichsten Software-Produkte der KI-Geschichte und hat OpenAI von einem Forschungs-Labor zum dominanten kommerziellen KI-Anbieter gemacht.

Geschichte

GPT-1 (Juni 2018)

GPT-1 wurde von Alec Radford, Karthik Narasimhan, Tim Salimans und Ilya Sutskever in der Publikation Improving Language Understanding by Generative Pre-Training vorgestellt. Mit 117 Millionen Parametern war es nach heutigen Massstäben klein, demonstrierte aber das Pretraining-Then-Fine-Tuning-Paradigma erstmals klar für generative Modelle. GPT-1 nutzte BookCorpus als Trainingsdaten und erreichte state-of-the-art Ergebnisse auf mehreren NLU-Benchmarks nach Fine-Tuning.

GPT-2 (Februar 2019)

GPT-2 vergrösserte die Architektur auf 1.5 Milliarden Parameter und trainierte auf WebText, einem aus Reddit-Links kuratierten Datensatz. Die wichtigste Erkenntnis: GPT-2 konnte ohne Fine-Tuning erstaunlich kohärente Texte generieren. OpenAI hielt das volle Modell zunächst zurück, mit der Begründung, es könnte für Desinformation missbraucht werden. Über mehrere Monate wurden zunehmend grössere Versionen veröffentlicht. Die Release-Strategie war einer der ersten breit diskutierten Fälle verantwortlicher KI-Veröffentlichung.

GPT-3 (Mai 2020)

GPT-3 sprang auf 175 Milliarden Parameter und wurde am 28. Mai 2020 in der Publikation Language Models are Few-Shot Learners vorgestellt. Die zentrale Erkenntnis: bei genügend Skala lernt das Modell Few-Shot-Learning emergent, das heisst, es kann Aufgaben aus wenigen Beispielen im Prompt lösen, ohne Fine-Tuning. GPT-3 war die Grundlage der ersten API-Version von OpenAI (Juni 2020) und löste eine Welle kommerzieller LLM-Anwendungen aus (Copy.ai, Jasper, frühe GitHub Copilot Versionen).

GPT-3.5 und ChatGPT (November 2022)

GPT-3.5 war eine Weiterentwicklung von GPT-3 mit Instruction Tuning und Reinforcement Learning from Human Feedback (RLHF). Diese beiden Techniken machten das Modell deutlich besser im Befolgen von Anweisungen und in der Dialogführung. Am 30. November 2022 veröffentlichte OpenAI ChatGPT als kostenlose Forschungs-Preview. Das Produkt erreichte in fünf Tagen eine Million Nutzer und in zwei Monaten 100 Millionen, der schnellste Anstieg eines Konsumenten-Produkts in der Geschichte. ChatGPT löste die KI-Welle 2023 aus und veränderte die öffentliche Wahrnehmung von KI grundlegend.

GPT-4 (März 2023)

GPT-4 brachte mehrere Sprünge: Bild-Eingabe über einen separaten Vision-Encoder (nativ multimodal wurde erst GPT-4o), deutlich verbesserte Reasoning-Fähigkeit, höheres Sicherheits-Alignment und längeres Kontextfenster. Die Architektur ist vermutlich Mixture-of-Experts mit 1 bis 1.8 Billionen Parametern, offiziell hat OpenAI das nie bestätigt. GPT-4 definierte für anderthalb Jahre den Frontier-Standard und war Engine hinter ChatGPT Plus, Microsoft Copilot, GitHub Copilot X und vielen Enterprise-Produkten.

GPT-4o (Mai 2024)

GPT-4o (omni) ist das erste nativ multimodale Modell von OpenAI. Statt separater Encoder für Text, Bild und Audio verarbeitet ein einziges Modell alle Modalitäten direkt. Das ermöglicht Echtzeit-Sprach-Konversation mit unter 500 ms Latenz und natürlichere Multi-Modal-Interaktionen. GPT-4o wurde mit deutlich aggressiveren Preisen eingeführt (5 Dollar Input pro Million Tokens gegenüber 30 Dollar bei GPT-4) und etablierte das Standard-Modell für ChatGPT.

Bedeutung und Wirkung

Die GPT-Familie hat die KI-Branche so stark geprägt wie kein anderes Produkt-Lineup. Ökonomisch katapultierte sie OpenAI von einem Non-Profit-Lab zum 300-Milliarden-Bewertungs-Unternehmen. Technisch etablierte sie das Decoder-only-Transformer-Paradigma als dominante Architektur und das Scaling-Hypothesis-Narrativ als zentrales Branche-Glaubensbekenntnis. Kulturell brachte ChatGPT KI in den Mainstream und prägte den öffentlichen Diskurs über Arbeit, Bildung und Kreativität.

Häufige Fehler

• GPT-Modelle als deterministisch annehmen: auch bei Temperature 0 sind kleine Varianzen möglich, Reproduzierbarkeit muss getestet werden.
• GPT-4 und GPT-4o gleichsetzen: GPT-4o ist nativ multimodal und günstiger, hat aber leichte Reasoning-Unterschiede.
• o-Modelle und GPT-Modelle vermengen: o1, o3 und o4-mini sind eigene Familie mit explizitem Chain-of-Thought, nicht direkte GPT-Nachfolger.
• Preise nicht aktualisieren: OpenAI hat Preise seit 2023 mehrfach gesenkt, Kalkulationen auf Basis alter Preise verzerren ROI.
• Konsumenten- und API-Tier verwechseln: ChatGPT Free, Plus und API haben unterschiedliche Privacy- und Throughput-Eigenschaften.

Abgrenzung

• ChatGPT: das Konsumenten-Produkt, basierend auf der GPT-Familie, nicht das Modell selbst.
• o1, o3, o4-mini: OpenAI-Reasoning-Modelle, technisch eigene Familie.
• Claude-Familie (Anthropic): Hauptkonkurrent, eigenes Alignment-Paradigma (Constitutional AI).
• Gemini-Familie (Google): Hauptkonkurrent, stärker nativ multimodal und mit längerem Kontext.
• Llama-Familie (Meta): Open-Source-Konkurrent mit veröffentlichten Gewichten.