Vad är Förklarbar AI
AI med transparent beslutsfattande
Förklarbar AI (Explainable AI, XAI) är ett område inom artificiell intelligens där system kan förklara sina beslut i en för människor förståelig form.
Varför Förklarbarhet är Viktigt
- Förtroende — förstå logiken bakom AI-beslut
- Reglering — efterlevnad av krav (GDPR, AI Act)
- Felsökning — identifiera modellfel och fördomar
- Ansvarsskyldighet — fastställa orsaker till felaktiga beslut
Förklaringsmetoder
- LIME — lokala förklaringar för individuella förutsägelser
- SHAP — varje egenskaps bidrag till resultatet
- Attention maps — visualisering av modellens fokus
- Kontrafaktiska — "tänk om" scenarier
Tillämpningsområden
- Sjukvård (diagnos, behandlingsrekommendationer)
- Finans (kreditbedömning, bedrägeriupptäckt)
- Juridik (domstolsbeslut, återfallsrisk)
- HR (rekrytering, prestationsutvärdering)
Avvägningar
Det finns ofta en avvägning mellan modellnoggrannhet och tolkningsbarhet. Enkla modeller (beslutsträd) är mer begripliga än neurala nätverk.