Nima Giperparametrlar
O'qitishdan oldin belgilanadigan model sozlamalari
Giperparametrlar — bu mashina o'rganish modelining o'qitish boshlanishidan oldin o'rnatiladigan va jarayon davomida o'zgarmaydigan parametrlari. Oddiy parametrlardan farqli o'laroq, giperparametrlar model arxitekturasi va xatti-harakatini belgilaydi.
Asosiy giperparametrlar
- O'rganish tezligi — modelning o'rganish tezligi
- Partiya hajmi — bir iteratsiya uchun ma'lumotlar partiyasi hajmi
- Epochlar soni — butun ma'lumotlar to'plami bo'ylab o'tishlar soni
- Qatlamlar soni — neyron tarmoq qatlamlari soni
- Regulyarizatsiya — regulyarizatsiya parametrlari (L1, L2, dropout)
Sozlash usullari
- Grid Search — barcha qiymat kombinatsiyalarini to'liq qidirish
- Random Search — parametrlar fazosida tasodifiy qidirish
- Bayes optimizatsiyasi — Bayes optimizatsiyasi
- AutoML — avtomatik arxitektura va parametrlarni tanlash
Modelga ta'siri
- Juda yuqori o'rganish tezligi — model yaqinlashmaydi
- Juda past o'rganish tezligi — sekin o'qitish
- Katta partiya hajmi — tezroq lekin yomonroq umumlashtirish
- Kichik partiya hajmi — yaxshiroq umumlashtirish lekin sekinroq