Unsupervised Learning

Definition

Unsupervised Learning ist das Lernparadigma ohne Labels. Das Modell sieht nur Eingaben und versucht, daraus eine Repräsentation, eine Struktur oder eine Verteilung zu rekonstruieren. Es gibt keine externe Korrektur, die sagt, welche Antwort richtig ist, sondern eine intern definierte Zielfunktion, die das Modell minimiert oder maximiert.

Der Begriff Unsupervised steht im Gegensatz zu Supervised und betont das Fehlen einer Lehrerinstanz. In der Praxis ist die Grenze zwischen Unsupervised und Self-Supervised Learning fliessend, weil viele Verfahren intern doch eine Form von Zielsignal konstruieren.

Mechanismus

Je nach Aufgabenstellung greifen unterschiedliche Mechanismen:

• Clustering: Datenpunkte werden in Gruppen eingeteilt, sodass Punkte innerhalb einer Gruppe ähnlich und zwischen Gruppen verschieden sind. k-Means optimiert die Summe der quadrierten Abstände zu Cluster-Zentren.
• Dichteschätzung: Eine Wahrscheinlichkeitsverteilung über den Datenraum wird modelliert. Gaussian Mixture Models, Kernel Density Estimation und normalizing Flows sind Standardansätze.
• Dimensionalitätsreduktion: Eine niedrigdimensionale Repräsentation wird gesucht, die möglichst viel Information bewahrt. PCA findet die Achsen grösster Varianz, Autoencoder lernen nichtlineare Kompression.
• Generative Modellierung: Das Modell lernt, neue Datenpunkte zu erzeugen, die wie Trainingsdaten aussehen. GANs, VAEs und Diffusion Models sind hier dominant.
• Self-Supervised Pretraining: Aus den Daten werden Pretext-Aufgaben konstruiert, etwa fehlende Tokens vorhersagen oder verschiedene Augmentationen eines Bildes einander zuordnen.

Praxis

Unsupervised Learning ist überall dort wertvoll, wo Labels teuer oder nicht verfügbar sind. Kundensegmentierung in Marketing, Anomalie-Erkennung in IT-Sicherheit und Finanzbetrug, Topic Modeling in grossen Textsammlungen und Pretraining von Foundation Models sind klassische Einsatzgebiete.

In modernen Pipelines wird Unsupervised Learning oft als Vorstufe genutzt: Pretraining liefert Repräsentationen, die anschliessend mit wenigen Labels supervised feinabgestimmt werden. Diese Kombination ist der Hauptgrund, warum Sprachmodelle wie GPT, BERT und Claude überhaupt funktionieren.

Häufige Fehler

• Cluster-Zahl willkürlich wählen: k-Means braucht eine vorgegebene Cluster-Zahl. Sie nach Bauchgefühl zu wählen führt zu beliebigen Ergebnissen. Elbow-Methode, Silhouette-Analyse oder Gap-Statistik sind Mindeststandards.
• Skalierung ignorieren: Distanzbasierte Verfahren reagieren empfindlich auf unterschiedliche Feature-Skalen. Standardisierung oder Normalisierung sind fast immer nötig.
• Visualisierung als Wahrheit nehmen: t-SNE und UMAP optimieren lokale Nachbarschaften und verzerren globale Distanzen. Eine schöne Visualisierung ist kein Beweis für inhaltliche Struktur.
• Anomalie-Erkennung ohne Baseline: Wer keinen Vergleich mit zufälligen Punkten oder Random-Baselines macht, sieht überall Anomalien.
• Generative Modelle überinterpretieren: Hohe Likelihood heisst nicht, dass die Samples menschlich sinnvoll sind. FID, Inception Score und Human Eval sind komplementär.

Abgrenzung

• Supervised Learning: Mit Labels, direkte Optimierung gegen Ziel.
• Self-Supervised Learning: Labels werden algorithmisch konstruiert, technisch eine Brücke zwischen beiden Welten.
• Reinforcement Learning: Lernen aus Belohnungen, mit Aktionen und Sequenzen.
• Semi-Supervised Learning: Kombination aus kleinem gelabelten und grossem ungelabelten Anteil.