क्या है डेटा लेक
किसी भी प्रारूप में कच्चे डेटा का भंडारण
डेटा लेक क्या है
डेटा लेक एक केंद्रीकृत भंडार है जो आपको पूर्व-प्रसंस्करण के बिना किसी भी पैमाने पर संरचित और असंरचित डेटा संग्रहीत करने की अनुमति देता है।
डेटा लेक बनाम डेटा वेयरहाउस
| विशेषता | डेटा लेक | डेटा वेयरहाउस | |----------|----------|---------------| | डेटा | कच्चा, असंसाधित | संसाधित, संरचित | | स्कीमा | Schema-on-read | Schema-on-write | | उपयोगकर्ता | डेटा वैज्ञानिक, इंजीनियर | व्यापार विश्लेषक | | लचीलापन | उच्च | सीमित | | लागत | कम | उच्च |
डेटा लेक आर्किटेक्चर
- ब्रॉन्ज लेयर — कच्चा डेटा (जैसा है)
- सिल्वर लेयर — साफ और मान्य
- गोल्ड लेयर — विश्लेषण के लिए एकत्रित
लोकप्रिय प्लेटफॉर्म
| प्लेटफॉर्म | विशेषताएं | |------------|-----------| | AWS S3 + Athena | सर्वरलेस, क्वेरी पर भुगतान | | Azure Data Lake | Power BI एकीकरण | | Google Cloud Storage | BigQuery एकीकरण | | Apache Hadoop HDFS | ओपन-सोर्स, ऑन-प्रिमाइस | | Databricks Delta Lake | ACID ट्रांजैक्शन |
स्टोरेज फॉर्मेट
- Parquet — कॉलमर, कम्प्रेशन, तेज़ क्वेरी
- ORC — Hive के लिए अनुकूलित
- Avro — रो-आधारित, स्कीमा विकास
- JSON/CSV — सरल परिदृश्यों के लिए
लाभ
- किसी भी डेटा प्रकार को संग्रहीत करें
- कम भंडारण लागत
- ML/AI कार्यों के लिए लचीलापन
- पेटाबाइट्स तक स्केलेबल
- मूल डेटा संरक्षित