install hadoop ecosystem on Mint or Ubuntu

1)각 네임노드에  sun java6 설치


     sudo add-apt-repository ppa:webupd8team/java
     sudo apt-get update
     sudo apt-get install oracle-java6-installer


간단하게
 http://www.oracle.com/technetwork/java/javase/downloads/jdk6downloads-1902814.html
여기서 다운로드하여 설치할것을 권장


2)각 네임노드에 ssh 서버 설치

     sudo apt-get install openssh-server

3)네임노드에서 ssh key 생성 및 배포

    ssh-keygen  -t rsa
    cp .ssh/id_rsa.pub .ssh/authorized_keys

.ssh/ 아래에 있는 모든 파일을 각 node 의 .ssh/로 복사 한다.

이제 ssh 접속을 진행 해보면 계정암호가 아닌 인증키 암호를 물어봄. 
만약 계정 암호를 물어본다면 원격 서버상의 ~/.ssh 디렉토리나 공개키 권한의 문제
  ==> 원격서버에 접속후 chmod 755 ~/.ssh 그리고 chmod 644 .ssh/authorized_keys

4)Hadoop 설치

http://apache.mirror.cdnetworks.com/hadoop/common/hadoop-1.0.4/hadoop-1.0.4.tar.gz  다운로드

# tar xvzf hadoop-1.0.4.tar.gz   압축 풀기

# ln -s hadoop-1.0.4 hadoop    soft symbolic link 걸기

(hadoop-env.sh 수정)

export JAVA_HOME=/usr/local/java
export HADOOP_CLASSPATH=/home/hadoop/hadoop

(hdfs-site.xml 수정)



dfs.replication


3


dfs.http.address

nn:50070


dfs.secondary.http.address

sn:50090














(core-site.xml 수정)




fs.default.name

hdfs://nn:9000


hadoop.tmp.dir

/home/hadoop/hadoop/hadoop-data






(mapred-site.xml 수정)




mapred.job.tracker

nn:9001







(masters 수정)  secondary namenode  이름 
sn


(slaves 수정)
sn
dn01
dn02

5)namenode 포맷
# hadoop namenode -format

6)hadoop 기동
# start-all.sh

댓글

이 블로그의 인기 게시물

ubuntu에서 samba로 파일 공유하기

화이트해커를 위한 암호와 해킹

Shell Program(1) 변수, 상수