Inteligência Artificial
O que é IA Explicável
IA com tomada de decisão transparente
IA Explicável (Explainable AI, XAI) é um campo da inteligência artificial onde os sistemas podem explicar suas decisões de forma compreensível para humanos.
Por que a Explicabilidade Importa
- Confiança — entender a lógica por trás das decisões de IA
- Regulamentação — conformidade com requisitos (LGPD, AI Act)
- Depuração — identificação de erros e vieses do modelo
- Responsabilidade — determinar causas de decisões incorretas
Métodos de Explicação
- LIME — explicações locais para previsões individuais
- SHAP — contribuição de cada característica para o resultado
- Mapas de atenção — visualização do foco do modelo
- Contrafactual — cenários "e se"
Áreas de Aplicação
- Saúde (diagnóstico, recomendações de tratamento)
- Finanças (scoring de crédito, detecção de fraude)
- Jurídico (decisões judiciais, risco de reincidência)
- RH (contratação, avaliação de desempenho)
Trade-offs
Frequentemente existe um trade-off entre precisão do modelo e interpretabilidade. Modelos simples (árvores de decisão) são mais compreensíveis que redes neurais.