GAN (Generative Adversarial Network)

Definition

Ein Generative Adversarial Network (GAN) ist ein generatives Machine-Learning-Modell aus zwei konkurrierenden neuronalen Netzen, die in einem Minimax-Spiel gegeneinander trainiert werden. Der Generator lernt, aus Zufallsrauschen synthetische Daten zu erzeugen, die der Verteilung eines Trainingsdatensatzes entsprechen. Der Diskriminator lernt parallel, echte Trainingsdaten von synthetischen Generator-Outputs zu unterscheiden.

Der Konflikt der beiden Netze treibt beide voran: Der Generator wird zunehmend besser darin, plausible Daten zu produzieren, der Diskriminator wird zunehmend besser darin, Fälschungen zu erkennen. Im theoretischen Idealfall erreicht das System ein Nash-Gleichgewicht, in dem der Generator die wahre Datenverteilung exakt reproduziert und der Diskriminator nur noch zufällig raten kann.

Das Konzept wurde 2014 von Ian Goodfellow und Co-Autoren publiziert und gilt als eine der einflussreichsten Innovationen der modernen KI-Geschichte. Yann LeCun bezeichnete GANs als die interessanteste Idee der letzten zehn Jahre im Deep Learning.

Mechanismus und Architektur

Ein GAN besteht aus zwei zentralen Komponenten:

• Generator G: Nimmt einen Zufallsvektor z aus einer latenten Verteilung (typisch Normalverteilung) und mappt ihn auf den Datenraum, etwa ein Bild. Architektur ist meist ein transponiertes CNN oder, in modernen Varianten, ein styled-MLP wie in StyleGAN.
• Diskriminator D: Nimmt ein Datensample und gibt einen Skalar zwischen 0 und 1 aus, der die geschätzte Wahrscheinlichkeit darstellt, dass das Sample echt ist. Architektur ist meist ein CNN mit Klassifikations-Head.

Die ursprüngliche Loss-Funktion ist ein binäres Cross-Entropy-Spiel: Der Diskriminator maximiert log(D(x)) + log(1 - D(G(z))), der Generator minimiert log(1 - D(G(z))). In der Praxis verwendet man oft Non-Saturating-Loss oder Wasserstein-Loss, weil das Original-Setup unter Vanishing Gradients leidet.

Das Training wechselt zwischen einem Diskriminator-Schritt und einem Generator-Schritt. Hyperparameter wie die Lernraten der beiden Netze, die Anzahl Diskriminator-Updates pro Generator-Update und die Architektur-Symmetrie entscheiden über Stabilität und Konvergenz.

Wichtige Varianten:

• DCGAN: Deep Convolutional GAN mit Batch-Normalization und Leaky ReLU für stabileres Training.
• WGAN und WGAN-GP: Ersetzt Cross-Entropy durch Wasserstein-Distanz und löst Vanishing Gradients.
• StyleGAN: Nutzt einen Mapping-Network und Style-Injection für kontrollierbare, photorealistische Gesichter.
• Conditional GAN: Nimmt Klassenlabel oder Text als zusätzlichen Input.
• CycleGAN: Lernt Domain-Translation ohne paarweise Trainingsdaten.

Praxis und Anwendung

GANs sind in mehreren Domänen produktiv im Einsatz:

• Gesichtsgenerierung: StyleGAN3 erzeugt photorealistische, nicht existierende Gesichter, eingesetzt in Werbung, Spielen und Datenanonymisierung.
• Image-to-Image-Translation: CycleGAN wandelt Sommerbilder in Winterbilder, Pferde in Zebras, Fotos in Gemälde.
• Super Resolution: SRGAN und ESRGAN heben niedrig aufgelöste Bilder auf höhere Auflösungen, eingesetzt in Streaming, Astronomie und Medizin.
• Daten-Augmentation: Synthetische Trainingsbeispiele für unterrepräsentierte Klassen in medizinischer Bildgebung oder Anomalie-Detektion.
• Deepfakes: Gesichtstausch in Videos. Technologisch beeindruckend, ethisch und juristisch hoch kontrovers.
• Mode-Design und Architektur: Erzeugung neuer Designs als Inspirationsmaterial.
• Medizinische Synthese: Generierung synthetischer MRT- oder Histopathologie-Bilder für Training und Privacy-Preservation.
• Edge-Inferenz: GANs sind oft kleiner und schneller als Diffusion Models und damit besser für mobile oder Real-Time-Anwendungen geeignet.

Wichtige Implementierungs-Frameworks sind PyTorch (mit den offiziellen StyleGAN-Repositories von NVIDIA), TensorFlow und JAX. HuggingFace stellt vortrainierte GAN-Checkpoints bereit.

Häufige Fehler

• Mode Collapse ignorieren: Generator erzeugt nur eine kleine Bandbreite an Samples. Gegenmittel sind Mini-Batch-Discrimination, Spectral Normalization oder Wasserstein-Loss.
• Unbalanciertes Training: Wenn der Diskriminator zu stark wird, erhält der Generator keine nützlichen Gradienten. Lernraten und Update-Verhältnis sorgfältig tunen.
• Fehlende Diversitäts-Evaluation: Niedriger FID allein sagt nichts über Mode Coverage. Precision und Recall für Generative Models nutzen.
• Architektur-Asymmetrie: Wenn Generator und Diskriminator stark unterschiedliche Kapazität haben, kollabiert das Training. Symmetrische Designs sind robuster.
• Falsche Loss-Wahl: Original-Loss ist instabil. WGAN-GP oder Hinge-Loss sind in der Praxis robuster.
• Augmentation übersehen: Im low-data Regime liefert Augmentation (ADA, StyleGAN2-ADA) deutlich bessere Resultate.

Abgrenzung

• Variational Autoencoder (VAE): VAEs sind ebenfalls generativ, basieren aber auf probabilistischer Latenz-Variable und KL-Divergenz. Liefern oft unschärfere Samples als GANs, aber stabileres Training.
• Diffusion Model: Lernt iterative Entrauschung und liefert state-of-the-art Generierung bei Text-zu-Bild. Stabileres Training, höherer Compute-Bedarf.
• Autoregressive Modelle: Erzeugen Daten Pixel für Pixel oder Token für Token, etwa PixelCNN oder Image GPT. Langsamer in Inferenz, aber exakte Likelihood.
• Normalizing Flows: Invertierbare neuronale Netze, die exakte Likelihood liefern. Weniger ausdrucksstark als GANs oder Diffusion bei hochdimensionalen Daten.
• Energy-Based Models: Lernen eine Energie-Funktion über den Datenraum. Verwandt mit GANs, aber mit anderer Trainings-Dynamik.