Nedir Hiperparametreler
Eğitimden önce tanımlanan model ayarları
Hiperparametreler, eğitim başlamadan önce ayarlanan ve süreç boyunca değişmeyen makine öğrenimi model parametreleridir. Normal parametrelerin aksine, hiperparametreler modelin mimarisini ve davranışını tanımlar.
Ana Hiperparametreler
- Öğrenme oranı — model öğrenme hızı
- Parti boyutu — bir iterasyon için veri parti boyutu
- Epoch sayısı — tüm veri kümesi üzerinden geçiş sayısı
- Katman sayısı — sinir ağı katman sayısı
- Düzenlileştirme — düzenlileştirme parametreleri (L1, L2, dropout)
Ayarlama Yöntemleri
- Grid Search — tüm değer kombinasyonlarının kapsamlı araması
- Random Search — parametre uzayında rastgele arama
- Bayesian Optimizasyonu — Bayesian optimizasyonu
- AutoML — otomatik mimari ve parametre seçimi
Model Üzerindeki Etki
- Çok yüksek öğrenme oranı — model yakınsamaz
- Çok düşük öğrenme oranı — yavaş eğitim
- Büyük parti boyutu — daha hızlı ama daha kötü genelleme
- Küçük parti boyutu — daha iyi genelleme ama daha yavaş