Qué es Ajuste Fino
Entrenamiento adicional de un modelo con datos específicos
Ajuste Fino — proceso de entrenamiento adicional de un modelo preentrenado en un conjunto de datos específico para adaptarlo a una tarea o dominio particular.
Enfoques de Ajuste Fino
- Ajuste fino completo — actualización de todos los pesos del modelo
- LoRA — Low-Rank Adaptation, entrenar solo adaptadores
- QLoRA — LoRA cuantizado para ahorro de memoria
- Prompt tuning — entrenar solo soft prompts
- Adapter tuning — agregar pequeños módulos entrenables
Cuándo Usar
- Dominio específico — textos legales, médicos
- Estilo corporativo — tono, terminología de la empresa
- Tarea estrecha — clasificación, extracción de entidades
- Formateo — formato de respuesta específico
Parámetros Clave
- Learning rate — velocidad de entrenamiento (usualmente baja: 1e-5 — 5e-5)
- Epochs — número de épocas (usualmente 1-5)
- Batch size — tamaño del lote
- Warmup — aumento gradual del learning rate
Aplicaciones Empresariales
- Chatbots corporativos — entrenamiento en documentos internos
- Clasificación de tickets — enrutamiento automático de solicitudes
- Generación de contenido — texto estilo marca
- Asistentes de código — entrenamiento en base de código de la empresa