Training: Wie KI-Modelle lernen

Training ist der Prozess, bei dem ein KI-Modell aus Daten lernt: Es passt seine internen Parameter (Gewichte) so lange an, bis seine Vorhersagen möglichst gut stimmen. Ohne Training ist ein Modell wertlos — es enthält nur zufällige Werte. Erst das Training formt aus dem Rohmaterial ein nützliches System.

Die Grundidee

Ein Modell bekommt Eingaben und liefert Ausgaben. Zu Beginn sind die Ausgaben falsch. Das Training misst, wie falsch sie sind (dazu dient die Loss Function), und passt die Gewichte so an, dass der Fehler kleiner wird. Dieser Kreislauf aus Vorhersage, Fehlermessung und Anpassung wiederholt sich millionenfach.

Die Lernarten

Je nach Datenlage unterscheidet man drei Hauptarten — ausführlich erklärt in Maschinelles Lernen: Die drei Lernarten:

Supervised Learning: Das Modell lernt aus Beispielen mit bekannter Lösung (z.B. Bild + Label „Katze").
Unsupervised Learning: Das Modell findet Muster in Daten ohne vorgegebene Lösungen (z.B. Clustering).
Reinforcement Learning: Ein Agent lernt durch Belohnung und Bestrafung in einer Umgebung.

Der Ablauf eines Trainingsdurchlaufs

Forward Pass: Die Eingabedaten (aus einem Dataset) durchlaufen das Netz, die Vorhersage entsteht.
Loss-Berechnung: Die Loss Function vergleicht Vorhersage und Zielwert.
Backward Pass: Der Fehler wird rückwärts durch das Netz propagiert (Backpropagation); die Ableitung zeigt, in welche Richtung jedes Gewicht angepasst werden muss.
Update: Ein Optimierungsverfahren wie Gradient Descent oder Adam verändert die Gewichte in kleinen Schritten.

Ein kompletter Durchlauf über alle Trainingsdaten ist eine Epoche. Weil die Datenmenge riesig ist, werden die Daten in Batches (Stapeln) verarbeitet — das Modell aktualisiert seine Gewichte nach jedem Batch, nicht erst nach der ganzen Epoche.

Wichtige Hyperparameter

Lernrate: Wie groß die Anpassungsschritte sind. Zu groß → das Modell überspringt das Optimum; zu klein → das Training dauert ewig.
Batch-Size: Wie viele Beispiele pro Update. Kleinere Batches = häufigere Updates, aber mehr Rauschen.
Epochen: Wie oft das Modell die Daten komplett sieht. Zu viele Epochen führen zu Overfitting.

Trainings-, Validierungs- und Testdaten

Seriöses Training teilt die Daten in drei Teile:

Trainingsdaten: Hier lernt das Modell die Gewichte.
Validierungsdaten: Damit werden Hyperparameter eingestellt und Overfitting erkannt.
Testdaten: Die werden erst am Ende benutzt, um die echte Leistung zu messen.

Rechenleistung und Hardware

Große Modelle brauchen enorm viel Rechenleistung. GPUs sind dafür ideal, weil sie tausende Berechnungen parallel ausführen — genau die Matrix-Operationen, aus denen neuronale Netze bestehen. Spezielle Beschleuniger wie CUDA und TPUs treiben das weiter voran. Das Training großer Sprachmodelle dauert auf solcher Hardware Wochen und kostet Millionen.