Qu'est-ce que Apprentissage par Transfert
Transfert de connaissances d'une tâche à une autre
Apprentissage par Transfert — technique ML où un modèle entraîné sur une tâche est utilisé comme point de départ pour résoudre une autre tâche.
Types d'Apprentissage par Transfert
- Extraction de caractéristiques — geler le modèle de base, entraîner uniquement les couches supérieures
- Affinage — entraînement supplémentaire d'une partie ou de toutes les couches
- Adaptation de domaine — adaptation à un nouveau domaine de données
- Apprentissage multi-tâches — entraînement sur plusieurs tâches simultanément
Avantages
- Moins de données — pas besoin d'énorme dataset pour nouvelle tâche
- Entraînement plus rapide — ne pas partir de zéro
- Meilleure qualité — exploitation des connaissances d'un grand dataset
- Économie de ressources — moins de calculs pour l'entraînement
Modèles Pré-entraînés Populaires
- Images — ResNet, VGG, EfficientNet, CLIP
- Texte — BERT, GPT, T5, LLaMA
- Audio — Wav2Vec, Whisper
- Multimodal — CLIP, BLIP, Flamingo
Applications Business
- Classification d'images — transfert d'ImageNet vers données entreprise
- Tâches NLP — transfert de BERT vers domaine spécifique
- Santé — transfert modèle général vers images médicales
- Startups — lancement rapide ML sans grands datasets