Data Engineering Overview

Overview

상황에 따른 데이터베이스 선택방법. 데이터베이스, 데이터 파이프라인의 구동방식에 대한 설명.


RDBMS

  • ACID
  • ERD
    • MySQL
  • Connector(JDBC, ODBC)
  • ORM

NOSQL

  • BASE
  • CAP Theory
  • PACEL

Document Base Database

  • MongoDB

Hadoop Echo System

  • HDFS
  • Hbase
  • Hive
  • Impala

In Memory Database

  • Redis

Analytics Engine

  • Spark

Data Queue

  • Kafka
  • RabbitMQ

Scheduler

  • Airflow

Comments