คืออะไร การปรับ Hyperparameter
การปรับแต่งการตั้งค่าโมเดล ML
การปรับ Hyperparameter คือกระบวนการค้นหาการตั้งค่าที่เหมาะสมที่สุดสำหรับโมเดล Machine Learning ที่ไม่ได้เรียนรู้จากข้อมูล แต่ตั้งค่าก่อนเริ่มการฝึก
ตัวอย่าง Hyperparameter
- Learning rate — ความเร็วในการฝึก
- จำนวนเลเยอร์ ในโครงข่ายประสาทเทียม
- ขนาด Batch — ตัวอย่างต่อการวนซ้ำ
- การทำให้เป็นมาตรฐาน — L1, L2, dropout
วิธีการปรับ
- Grid Search — ค้นหาทุกชุดค่าผสม
- Random Search — สุ่มตัวอย่าง
- Bayesian Optimization — การค้นหาอัจฉริยะจากผลลัพธ์ก่อนหน้า
- AutoML — การปรับอัตโนมัติ
เครื่องมือ
- Optuna, Hyperopt, Ray Tune, Keras Tuner
ความสำคัญ
การปรับ Hyperparameter ที่เหมาะสมสามารถปรับปรุงคุณภาพโมเดลได้อย่างมากโดยไม่ต้องเปลี่ยนสถาปัตยกรรม