Mis on Seletatav tehisintellekt
Läbipaistva otsustamisega tehisintellekt
Seletatav tehisintellekt (Explainable AI, XAI) on tehisintellekti valdkond, kus süsteemid suudavad selgitada oma otsuseid inimestele arusaadaval kujul.
Miks Seletatavus on Oluline
- Usaldus — AI otsuste loogika mõistmine
- Reguleerimine — nõuetele vastavus (GDPR, AI Act)
- Silumine — mudeli vigade ja eelarvamuste tuvastamine
- Vastutus — valede otsuste põhjuste kindlaksmääramine
Selgitusmeetodid
- LIME — kohalikud selgitused üksikutele ennustustele
- SHAP — iga tunnuse panus tulemusesse
- Tähelepanukaardid — mudeli fookuse visualiseerimine
- Kontrafaktuaalne — "mis siis kui" stsenaariumid
Rakendusalad
- Tervishoid (diagnoos, ravisoovitused)
- Finants (krediidiskoor, pettuste tuvastamine)
- Õigus (kohtuotsused, retsidiivsuse risk)
- HR (värbamine, tulemuslikkuse hindamine)
Kompromissid
Mudeli täpsuse ja tõlgendatavuse vahel on sageli kompromiss. Lihtsad mudelid (otsustuspuud) on arusaadavamad kui närvivõrgud.