Mis on Hüperparameetrite häälestamine
ML-mudeli seadete optimeerimine
Hüperparameetrite häälestamine on protsess, mille käigus leitakse masinõppe mudeli optimaalsed seaded, mida ei õpita andmetest, vaid määratakse enne treeningu algust.
Hüperparameetrite näited
- Õppimiskiirus — treenimiskiirus
- Kihtide arv närvivõrgus
- Partii suurus — näited iteratsiooni kohta
- Regulariseerimine — L1, L2, dropout
Häälestamismeetodid
- Grid Search — kõigi kombinatsioonide ammendav otsing
- Random Search — juhuslik valim
- Bayesi optimeerimine — nutikas otsing varasemate tulemuste põhjal
- AutoML — automaatne häälestamine
Tööriistad
- Optuna, Hyperopt, Ray Tune, Keras Tuner
Tähtsus
Õige hüperparameetrite häälestamine võib mudeli kvaliteeti märkimisväärselt parandada ilma arhitektuuri muutmata.