คืออะไร การเรียนรู้มากเกินไป
เมื่อโมเดลจดจำข้อมูลฝึกสอนดีเกินไป
การเรียนรู้มากเกินไป เป็นปัญหาของการเรียนรู้ของเครื่องเมื่อโมเดลจดจำข้อมูลฝึกสอนดีเกินไปและไม่สามารถสรุปผลกับข้อมูลใหม่ได้
สัญญาณของการเรียนรู้มากเกินไป
- ความแม่นยำสูงบนข้อมูลฝึกสอน
- ความแม่นยำต่ำบนข้อมูลทดสอบ
- ช่องว่างขนาดใหญ่ระหว่างเมตริกฝึกสอนและทดสอบ
- โมเดลจดจำสัญญาณรบกวนในข้อมูล
สาเหตุ
- โมเดลซับซ้อนเกินไป
- ข้อมูลฝึกสอนไม่เพียงพอ
- ฝึกนานเกินไป
- ขาดการทำให้เป็นปกติ
วิธีป้องกัน
- การทำให้เป็นปกติ (L1, L2)
- Dropout ในเครือข่ายประสาท
- การหยุดก่อนกำหนด
- การตรวจสอบไขว้
- การเพิ่มข้อมูล
- การทำให้โมเดลง่ายขึ้น
การแลกเปลี่ยนอคติ-ความแปรปรวน
การเรียนรู้มากเกินไปเกี่ยวข้องกับอคติต่ำและความแปรปรวนสูง การหาสมดุลที่เหมาะสมเป็นสิ่งสำคัญ