คืออะไร วิศวกรรมข้อมูล
การสร้างโครงสร้างพื้นฐานข้อมูล
วิศวกรรมข้อมูลคืออะไร
วิศวกรรมข้อมูล คือสาขาที่มุ่งเน้นการออกแบบ สร้าง และบำรุงรักษาระบบสำหรับรวบรวม จัดเก็บ ประมวลผล และส่งมอบข้อมูลในระดับองค์กร
งานหลัก
| งาน | คำอธิบาย | |-----|----------| | การนำเข้าข้อมูล | รวบรวมข้อมูลจากแหล่งต่างๆ | | การจัดเก็บข้อมูล | ออกแบบ Data Warehouse | | การประมวลผลข้อมูล | ETL/ELT pipelines | | การจัดการ | จัดการ dependencies และกำหนดการ | | คุณภาพข้อมูล | ตรวจสอบคุณภาพข้อมูล |
Technology Stack
- Warehouses: Snowflake, BigQuery, Redshift, Databricks
- Data Lakes: S3, Azure Data Lake, Delta Lake
- การประมวลผล: Apache Spark, dbt, Airflow
- Streaming: Kafka, Flink, Kinesis
- Orchestration: Airflow, Dagster, Prefect
รูปแบบ Data Pipeline
| รูปแบบ | การใช้งาน | |--------|----------| | Batch processing | การประมวลผลข้อมูลขนาดใหญ่เป็นระยะ | | Stream processing | การประมวลผลเหตุการณ์แบบ real-time | | Lambda architecture | รวม batch และ stream | | ELT | แปลงหลังจากโหลด |
บทบาท Data Engineer
- ออกแบบสถาปัตยกรรมข้อมูล
- พัฒนา ETL/ELT pipelines
- เพิ่มประสิทธิภาพ query
- รับประกันความพร้อมใช้งานและความน่าเชื่อถือ
- อัตโนมัติ data workflows
ตัวชี้วัดความสำเร็จ
- ความสดของข้อมูล
- ความน่าเชื่อถือของ pipeline (SLA)
- เวลาแฝงในการประมวลผล
- คะแนนคุณภาพข้อมูล
- ประสิทธิภาพต้นทุนโครงสร้างพื้นฐาน