Qué es Aprendizaje por Transferencia
Transferencia de conocimiento de una tarea a otra
Aprendizaje por Transferencia — técnica de ML donde un modelo entrenado en una tarea se usa como punto de partida para resolver otra tarea.
Tipos de Aprendizaje por Transferencia
- Extracción de características — congelar modelo base, entrenar solo capas superiores
- Ajuste fino — entrenamiento adicional de parte o todas las capas
- Adaptación de dominio — adaptación a un nuevo dominio de datos
- Aprendizaje multitarea — entrenamiento en múltiples tareas simultáneamente
Ventajas
- Menos datos — no se necesita dataset enorme para nueva tarea
- Entrenamiento más rápido — no empezar desde cero
- Mejor calidad — aprovechando conocimiento de dataset grande
- Ahorro de recursos — menos cómputo para entrenamiento
Modelos Preentrenados Populares
- Imágenes — ResNet, VGG, EfficientNet, CLIP
- Texto — BERT, GPT, T5, LLaMA
- Audio — Wav2Vec, Whisper
- Multimodal — CLIP, BLIP, Flamingo
Aplicaciones Empresariales
- Clasificación de imágenes — transferencia de ImageNet a datos corporativos
- Tareas NLP — transferencia de BERT a dominio específico
- Salud — transferir modelo general a imágenes médicas
- Startups — lanzamiento rápido de ML sin grandes datasets