O que é Aprendizado por Transferência
Transferência de conhecimento de uma tarefa para outra
Aprendizado por Transferência — técnica de ML onde um modelo treinado em uma tarefa é usado como ponto de partida para resolver outra tarefa.
Tipos de Aprendizado por Transferência
- Extração de características — congelar modelo base, treinar apenas camadas superiores
- Ajuste fino — treinamento adicional de parte ou todas as camadas
- Adaptação de domínio — adaptação a um novo domínio de dados
- Aprendizado multitarefa — treinamento em múltiplas tarefas simultaneamente
Vantagens
- Menos dados — não precisa de dataset enorme para nova tarefa
- Treinamento mais rápido — não começar do zero
- Melhor qualidade — aproveitando conhecimento de dataset grande
- Economia de recursos — menos computação para treinamento
Modelos Pré-treinados Populares
- Imagens — ResNet, VGG, EfficientNet, CLIP
- Texto — BERT, GPT, T5, LLaMA
- Áudio — Wav2Vec, Whisper
- Multimodal — CLIP, BLIP, Flamingo
Aplicações Empresariais
- Classificação de imagens — transferência de ImageNet para dados corporativos
- Tarefas NLP — transferência de BERT para domínio específico
- Saúde — transferir modelo geral para imagens médicas
- Startups — lançamento rápido de ML sem grandes datasets