데이터 레이크 이란
모든 형식의 원시 데이터 저장소
데이터 레이크란
데이터 레이크는 전처리 없이 모든 규모의 구조화된 데이터와 비구조화된 데이터를 저장할 수 있는 중앙 집중식 저장소입니다.
데이터 레이크 vs 데이터 웨어하우스
| 특성 | 데이터 레이크 | 데이터 웨어하우스 | |------|---------------|-------------------| | 데이터 | 원시, 미처리 | 처리됨, 구조화 | | 스키마 | Schema-on-read | Schema-on-write | | 사용자 | 데이터 과학자, 엔지니어 | 비즈니스 분석가 | | 유연성 | 높음 | 제한적 | | 비용 | 낮음 | 높음 |
데이터 레이크 아키텍처
- 브론즈 레이어 — 원시 데이터(있는 그대로)
- 실버 레이어 — 정제 및 검증됨
- 골드 레이어 — 분석용 집계
주요 플랫폼
| 플랫폼 | 특징 | |--------|------| | AWS S3 + Athena | 서버리스, 쿼리당 과금 | | Azure Data Lake | Power BI 통합 | | Google Cloud Storage | BigQuery 통합 | | Apache Hadoop HDFS | 오픈소스, 온프레미스 | | Databricks Delta Lake | ACID 트랜잭션 |
저장 형식
- Parquet — 컬럼형, 압축, 빠른 쿼리
- ORC — Hive 최적화
- Avro — 행 기반, 스키마 진화
- JSON/CSV — 단순 시나리오용
장점
- 모든 데이터 유형 저장
- 낮은 저장 비용
- ML/AI 작업 유연성
- 페타바이트까지 확장
- 원본 데이터 보존