Mikä on Tekoälyn harha
Ennakkoluulot tekoälydatassa ja -malleissa
Tekoälyn Harha
Tekoälyn harha on systemaattinen virhe tai ennakkoluulo tekoälyjärjestelmissä, joka johtaa epäoikeudenmukaisiin tai syrjiviin tuloksiin.
Harhan Tyypit
| Tyyppi | Kuvaus | Esimerkki | |--------|--------|-----------| | Dataharha | Epäedustava otos | Koulutus yhden alueen datalla | | Algoritminen | Mallilogiikan puutteet | Olemassa olevien kaavojen vahvistaminen | | Inhimillinen | Kehittäjien ennakkoluulot | Subjektiivinen datan merkintä | | Historiallinen | Menneiden epäoikeudenmukaisuuksien jatkaminen | Syrjintä rekrytoinnissa |
Seuraukset
- Syrjintä — epäoikeudenmukaiset päätökset sukupuolen, rodun, iän perusteella
- Maineriskit — skandaalit ja luottamuksen menetys
- Oikeudelliset ongelmat — tasa-arvolakien rikkominen
- Taloudelliset tappiot — suboptimaaliset liiketoimintapäätökset
Havaitsemis- ja Lieventämismenetelmät
- Data-auditointi — otoksen edustavuuden tarkistaminen
- Oikeudenmukaisuusmittarit — mallin oikeudenmukaisuuden mittaus
- Vastakkainen testaus — haavoittuvuuksien arviointi
- Monimuotoiset tiimit — monimuotoisuus kehitystiimeissä
- Jatkuva seuranta — jatkuva tuotannon valvonta