Feature Scaling bringt die numerischen Merkmale (Features) eines Datensatzes auf vergleichbare Wertebereiche. Werden Merkmale nicht skaliert, dominieren große Zahlenwerte (z. B. Gehalt in Euro) kleine (z. B. Alter in Jahren) und verzerren so Abstands- und Gradientenberechnungen.
Standardisierung und Normalisierung
- Standardisierung (Z-Score): Jedes Merkmal wird um den Mittelwert zentriert und durch die Standardabweichung geteilt:
z = (x - μ) / σ. Ergebnis: Mittelwert 0, Standardabweichung 1. Robust gegenüber Ausreißern und der Standard für viele Verfahren. - Normalisierung (Min-Max-Scaling): Jedes Merkmal wird auf das Intervall [0, 1] abgebildet:
x' = (x - min) / (max - min). Sinnvoll, wenn ein fester Wertebereich bekannt ist; empfindlich gegen Ausreißer. - Robust Scaling: Nutzt Median und Interquartilsabstand statt Mittelwert und Standardabweichung – besonders widerstandsfähig gegen Ausreißer.
Wann Scaling nötig ist
Abstandsbasierte Verfahren wie k-Nearest-Neighbor, Support Vector Machines und neuronale Netze mit Gradientenabstieg konvergieren schneller und fairer mit skalierten Merkmalen. Baum-basierte Verfahren wie Random Forest oder Gradient Boosting sind dagegen skaleninvariant, da sie nur Rangfolgen auswerten. Vor dem Training gilt: Den Skalierungs-Parameter ausschließlich auf der Trainingsmenge berechnen und auf Test- und Validierungsdaten anwenden – sonst entsteht Datenleckage (siehe Train-Test-Split).
Feature Scaling gehört zur Datenvorbereitung neben Datenbereinigung, synthetischen Daten und Data Augmentation. Ein reiner Holdout ohne Skalierung kann bei gemischten Merkmalsskalen irreführende Ergebnisse liefern.
Verwandte Grundlagen: Dataset, Modell, Validierungsdaten, Maschinelles Lernen.