Hồ dữ liệu là gì
Lưu trữ dữ liệu thô ở bất kỳ định dạng nào
Data Lake là gì
Data Lake là kho lưu trữ tập trung cho phép bạn lưu trữ dữ liệu có cấu trúc và phi cấu trúc ở bất kỳ quy mô nào mà không cần xử lý trước.
Data Lake vs Data Warehouse
| Đặc điểm | Data Lake | Data Warehouse | |----------|-----------|----------------| | Dữ liệu | Thô, chưa xử lý | Đã xử lý, có cấu trúc | | Schema | Schema-on-read | Schema-on-write | | Người dùng | Data Scientists, kỹ sư | Nhà phân tích kinh doanh | | Linh hoạt | Cao | Hạn chế | | Chi phí | Thấp | Cao |
Kiến trúc Data Lake
- Bronze Layer — dữ liệu thô (nguyên trạng)
- Silver Layer — đã làm sạch và xác thực
- Gold Layer — tổng hợp cho phân tích
Nền tảng phổ biến
| Nền tảng | Tính năng | |----------|-----------| | AWS S3 + Athena | Serverless, trả theo query | | Azure Data Lake | Tích hợp Power BI | | Google Cloud Storage | Tích hợp BigQuery | | Apache Hadoop HDFS | Mã nguồn mở, on-premise | | Databricks Delta Lake | Giao dịch ACID |
Định dạng lưu trữ
- Parquet — columnar, nén, query nhanh
- ORC — tối ưu cho Hive
- Avro — row-based, schema evolution
- JSON/CSV — cho kịch bản đơn giản
Lợi ích
- Lưu trữ mọi loại dữ liệu
- Chi phí lưu trữ thấp
- Linh hoạt cho ML/AI
- Mở rộng đến petabytes
- Bảo toàn dữ liệu gốc