Vad är AI-bias
Partiskhet i AI-data och modeller
AI-bias
AI-bias är systematiskt fel eller partiskhet i artificiell intelligens-system som leder till orättvisa eller diskriminerande resultat.
Typer av Bias
| Typ | Beskrivning | Exempel | |-----|-------------|---------| | Databias | Icke-representativt urval | Träning på data från en region | | Algoritmisk | Brister i modelllogik | Förstärkning av befintliga mönster | | Mänsklig | Utvecklares fördomar | Subjektiv datamärkning | | Historisk | Upprätthållande av tidigare orättvisor | Diskriminering vid rekrytering |
Konsekvenser
- Diskriminering — orättvisa beslut baserade på kön, ras, ålder
- Ryktesrisker — skandaler och förlorat förtroende
- Juridiska problem — brott mot jämlikhetslagar
- Ekonomiska förluster — suboptimala affärsbeslut
Detektions- och Begränsningsmetoder
- Datarevision — kontrollera urvalets representativitet
- Rättvise-mått — mätningar av modellens rättvisa
- Fientlig testning — sårbarhetsbedömning
- Diverse team — mångfald i utvecklingsteam
- Kontinuerlig övervakning — löpande produktionsövervakning