ما هو الإفراط في التعلم
عندما يحفظ النموذج بيانات التدريب بشكل مفرط
الإفراط في التعلم هو مشكلة في التعلم الآلي عندما يحفظ النموذج بيانات التدريب بشكل مفرط ويفشل في التعميم على البيانات الجديدة.
علامات الإفراط في التعلم
- دقة عالية على بيانات التدريب
- دقة منخفضة على بيانات الاختبار
- فجوة كبيرة بين مقاييس التدريب والاختبار
- النموذج يحفظ الضوضاء في البيانات
الأسباب
- نموذج معقد للغاية
- بيانات تدريب غير كافية
- التدريب لفترة طويلة جداً
- نقص التنظيم
طرق الوقاية
- التنظيم (L1، L2)
- Dropout في الشبكات العصبية
- التوقف المبكر
- التحقق المتقاطع
- تعزيز البيانات
- تبسيط النموذج
موازنة التحيز والتباين
يرتبط الإفراط في التعلم بتحيز منخفض وتباين عالٍ. إيجاد التوازن الصحيح أمر بالغ الأهمية.