Что такое Data Mapping
Соответствие полей между системами
Data Mapping (сопоставление данных) — процесс установления соответствия между полями, атрибутами и структурами данных в разных системах, базах данных или форматах.
Типы маппинга
| Тип | Описание | Пример | |-----|----------|--------| | Схема-схема | Соответствие между схемами БД | Oracle → PostgreSQL | | Формат-формат | Преобразование форматов | XML → JSON | | Семантический | Связь по смыслу | "Клиент" ↔ "Customer" | | Технический | Соответствие типов данных | VARCHAR → STRING |
Этапы процесса
- Анализ источника — изучение структуры исходных данных
- Анализ приёмника — изучение целевой структуры
- Определение правил — логика преобразования
- Обработка исключений — null, пустые значения, ошибки
- Валидация — проверка корректности маппинга
Правила трансформации
Простые преобразования
- Прямое копирование: source.name → target.name
- Переименование: source.client_id → target.customer_id
- Изменение типа: INTEGER → STRING
Сложные преобразования
- Конкатенация: first_name + last_name → full_name
- Разбиение: full_address → city, street, zip
- Lookup: code → описание из справочника
- Вычисления: price * quantity → total
Инструменты
- ETL-платформы — Informatica, Talend, SSIS
- iPaaS — MuleSoft, Dell Boomi, Workato
- Специализированные — Altova MapForce, CloverDX
- Open Source — Apache NiFi, Pentaho
Применение
Data Mapping критичен при интеграции систем, миграции данных, построении хранилищ и обмене между партнёрами. Качественный маппинг обеспечивает целостность и согласованность данных во всей организации.