AI 편향 이란
AI 데이터 및 모델의 편견
AI 편향
AI 편향은 인공지능 시스템의 체계적인 오류 또는 편견으로, 불공정하거나 차별적인 결과를 초래합니다.
편향 유형
| 유형 | 설명 | 예시 | |------|------|------| | 데이터 편향 | 대표성 없는 샘플 | 단일 지역 데이터로 학습 | | 알고리즘적 | 모델 로직 결함 | 기존 패턴 증폭 | | 인간적 | 개발자 편견 | 주관적 데이터 레이블링 | | 역사적 | 과거 불공정 지속 | 채용 차별 |
결과
- 차별 — 성별, 인종, 나이 기반 불공정한 결정
- 평판 위험 — 스캔들과 신뢰 상실
- 법적 문제 — 평등법 위반
- 경제적 손실 — 차선의 비즈니스 결정
탐지 및 완화 방법
- 데이터 감사 — 샘플 대표성 확인
- 공정성 지표 — 모델 공정성 측정
- 적대적 테스트 — 취약점 평가
- 다양한 팀 — 개발팀 다양성
- 지속적 모니터링 — 프로덕션 환경 지속 모니터링