임시테이블 (raw data 저장)테이블 생성
CREATE EXTERNAL TABLE test.eaxmple_table
(date string, data string)
ROW FORMAT DELIMITED
FIELDS TERMINATED BY ','
LINES TERMINATED BY '\n'
LOCATION '/test/db/eaxmple_table'
TBLPROPERTIES ('skip.header.line.count'='1');
Continue reading
구축한 hadoop ecosystem에 zeppelin을 추가해보자.
zeppelin은 hadoop에 밀어넣은 데이터를 spark로 분석하고 시각화해주는 역할을 할 것이다.
Continue reading
sqoop은 RDBMS to HADOOP 혹은 HADOOP to RDBMS를 쉽게 해주는 어플리케이션이다.
이러한 sqoop을 어떻게 설치하고 어떻게 실행하는지 알아보자.
Continue reading
hadoop에서 특정 datanode만 다운되는 경우가있다.
그럴때 특정 datanode만 start하려면 sbin폴더로 가서 아래 명령어를 사용한다.
Continue reading
하둡에서 자주 사용하는 명령어는 다음과 같다.
Continue reading
standalone으로 hadoop 설치시 설정값
서버 1대에 namenode, datanode 모두 한대씩만 standalone으로 hadoop 설치할때 config 모음
Continue reading
HDFS에서 Block이 어떻게 읽고 쓰여지고 이동하는지, Block의 상태변경에 대해 알아보자.
Continue reading
HDFS 의 구성요소를 알아보자
Continue reading
Hadoop & Spark 설치
Continue reading