Phả hệ dữ liệu là gì
Theo dõi nguồn gốc dữ liệu
Phả hệ dữ liệu là gì
Phả hệ dữ liệu là theo dõi đường đi hoàn chỉnh của dữ liệu từ nguồn đến người tiêu dùng, bao gồm tất cả các chuyển đổi, tổng hợp và di chuyển giữa các hệ thống.
Loại Lineage
| Loại | Mô tả | |------|-------| | Lineage kỹ thuật | Ở mức bảng, cột, SQL | | Lineage nghiệp vụ | Thuật ngữ nghiệp vụ và KPI | | Lineage vận hành | Công việc, lịch trình, phụ thuộc | | Mức cột | Chuyển đổi mức trường |
Tại sao Lineage quan trọng
- Phân tích tác động — cái gì hỏng khi thay đổi
- Phân tích nguyên nhân gốc — lỗi từ đâu
- Tuân thủ — tuân thủ GDPR, SOX
- Tài liệu — hiểu dữ liệu
- Di chuyển — lập kế hoạch chuyển đổi
Công cụ
| Công cụ | Tính năng | |---------|-----------| | Apache Atlas | Mã nguồn mở, Hadoop | | OpenLineage | Tiêu chuẩn, tích hợp | | DataHub | LinkedIn, dựa trên đồ thị | | Atlan | Danh mục dữ liệu hiện đại | | Collibra | Doanh nghiệp |
Thu thập Lineage tự động
- Phân tích SQL — phân tích truy vấn
- Tích hợp API — từ Airflow, dbt, Spark
- Phân tích log — từ hệ thống xử lý
- Thu thập metadata — từ danh mục
Trực quan hóa
- Đồ thị phụ thuộc
- Phân tích upstream/downstream
- Đánh giá tác động
- Timeline chuyển đổi
Ứng dụng thực tế
- Debug vấn đề dữ liệu
- Báo cáo tuân thủ
- Lập kế hoạch di chuyển dữ liệu
- Onboarding nhân viên mới
- Tài liệu tài sản dữ liệu