Was ist Hyperparameter-Tuning
Optimierung der ML-Modelleinstellungen
Hyperparameter-Tuning ist der Prozess der Suche nach optimalen Einstellungen für ein Machine-Learning-Modell, die nicht aus Daten gelernt, sondern vor Trainingsbeginn festgelegt werden.
Beispiele für Hyperparameter
- Lernrate — Trainingsgeschwindigkeit
- Anzahl der Schichten im neuronalen Netzwerk
- Batch-Größe — Beispiele pro Iteration
- Regularisierung — L1, L2, Dropout
Tuning-Methoden
- Grid Search — erschöpfende Suche aller Kombinationen
- Random Search — zufällige Stichproben
- Bayesian Optimization — intelligente Suche basierend auf früheren Ergebnissen
- AutoML — automatisches Tuning
Werkzeuge
- Optuna, Hyperopt, Ray Tune, Keras Tuner
Bedeutung
Richtiges Hyperparameter-Tuning kann die Modellqualität erheblich verbessern, ohne die Architektur zu ändern.