Что такое Качество данных
Обеспечение точности и полноты данных
Что такое качество данных
Качество данных — совокупность характеристик данных, определяющих их пригодность для использования в бизнес-процессах и аналитике.
Измерения качества данных
| Измерение | Описание | |-----------|----------| | Accuracy | Соответствие реальному миру | | Completeness | Полнота заполнения | | Consistency | Согласованность между системами | | Timeliness | Актуальность и своевременность | | Validity | Соответствие бизнес-правилам | | Uniqueness | Отсутствие дубликатов |
Типы проверок
- Schema validation — проверка структуры
- Range checks — значения в допустимых пределах
- Pattern matching — соответствие формату
- Referential integrity — целостность связей
- Business rules — бизнес-логика
Инструменты
| Инструмент | Тип | |------------|-----| | Great Expectations | Python framework | | dbt tests | SQL-based | | Apache Griffin | Open-source | | Talend DQ | Enterprise | | Soda Core | Modern DQ |
Метрики качества
- Data Quality Score (DQS)
- Error rate по полям
- Completeness percentage
- Freshness (время с последнего обновления)
Практики внедрения
- Data profiling при загрузке
- Автоматические проверки в pipeline
- Alerting при деградации качества
- Data stewardship процессы
- Документация data dictionary