Mikä on Hyperparametrien viritys
ML-mallin asetusten optimointi
Hyperparametrien viritys on prosessi, jossa etsitään optimaaliset asetukset koneoppimismallille, joita ei opita datasta vaan asetetaan ennen koulutuksen alkamista.
Esimerkkejä hyperparametreista
- Oppimisnopeus — koulutusnopeus
- Kerrosten lukumäärä neuroverkossa
- Erän koko — esimerkkejä per iteraatio
- Regularisointi — L1, L2, dropout
Viritysmetodeja
- Grid Search — kaikkien yhdistelmien tyhjentävä haku
- Random Search — satunnainen otanta
- Bayesilainen optimointi — älykäs haku aiempien tulosten perusteella
- AutoML — automaattinen viritys
Työkalut
- Optuna, Hyperopt, Ray Tune, Keras Tuner
Merkitys
Oikea hyperparametrien viritys voi merkittävästi parantaa mallin laatua muuttamatta arkkitehtuuria.