什么是 数据湖
任何格式的原始数据存储
什么是数据湖
数据湖是一个集中式存储库,允许您以任何规模存储结构化和非结构化数据,无需预处理。
数据湖与数据仓库对比
| 特征 | 数据湖 | 数据仓库 | |------|--------|----------| | 数据 | 原始、未处理 | 处理过、结构化 | | 模式 | 读取时定义 | 写入时定义 | | 用户 | 数据科学家、工程师 | 业务分析师 | | 灵活性 | 高 | 有限 | | 成本 | 低 | 高 |
数据湖架构
- 青铜层 — 原始数据(原样)
- 白银层 — 清洗和验证后
- 黄金层 — 聚合用于分析
主流平台
| 平台 | 特点 | |------|------| | AWS S3 + Athena | 无服务器,按查询付费 | | Azure Data Lake | Power BI集成 | | Google Cloud Storage | BigQuery集成 | | Apache Hadoop HDFS | 开源、本地部署 | | Databricks Delta Lake | ACID事务 |
存储格式
- Parquet — 列式、压缩、快速查询
- ORC — Hive优化
- Avro — 行式、模式演进
- JSON/CSV — 简单场景
优势
- 存储任何类型数据
- 存储成本低
- ML/AI任务灵活性
- 可扩展至PB级
- 保留原始数据