install hadoop ecosystem on Mint or Ubuntu
1)각 네임노드에 sun java6 설치
sudo add-apt-repository ppa:webupd8team/java
sudo apt-get update
sudo apt-get install oracle-java6-installer
간단하게
http://www.oracle.com/technetwork/java/javase/downloads/jdk6downloads-1902814.html
여기서 다운로드하여 설치할것을 권장
2)각 네임노드에 ssh 서버 설치
sudo apt-get install openssh-server
3)네임노드에서 ssh key 생성 및 배포
ssh-keygen -t rsa
cp .ssh/id_rsa.pub .ssh/authorized_keys
.ssh/ 아래에 있는 모든 파일을 각 node 의 .ssh/로 복사 한다.
이제 ssh 접속을 진행 해보면 계정암호가 아닌 인증키 암호를 물어봄.
만약 계정 암호를 물어본다면 원격 서버상의 ~/.ssh 디렉토리나 공개키 권한의 문제
==> 원격서버에 접속후 chmod 755 ~/.ssh 그리고 chmod 644 .ssh/authorized_keys
4)Hadoop 설치
http://apache.mirror.cdnetworks.com/hadoop/common/hadoop-1.0.4/hadoop-1.0.4.tar.gz 다운로드
# tar xvzf hadoop-1.0.4.tar.gz 압축 풀기
# ln -s hadoop-1.0.4 hadoop soft symbolic link 걸기
(hadoop-env.sh 수정)
export JAVA_HOME=/usr/local/java
export HADOOP_CLASSPATH=/home/hadoop/hadoop
(hdfs-site.xml 수정)
3
dfs.http.address
nn:50070
dfs.secondary.http.address
sn:50090
hdfs://nn:9000
hadoop.tmp.dir
/home/hadoop/hadoop/hadoop-data
nn:9001
sudo add-apt-repository ppa:webupd8team/java
sudo apt-get update
sudo apt-get install oracle-java6-installer
간단하게
http://www.oracle.com/technetwork/java/javase/downloads/jdk6downloads-1902814.html
여기서 다운로드하여 설치할것을 권장
2)각 네임노드에 ssh 서버 설치
sudo apt-get install openssh-server
3)네임노드에서 ssh key 생성 및 배포
ssh-keygen -t rsa
cp .ssh/id_rsa.pub .ssh/authorized_keys
.ssh/ 아래에 있는 모든 파일을 각 node 의 .ssh/로 복사 한다.
이제 ssh 접속을 진행 해보면 계정암호가 아닌 인증키 암호를 물어봄.
만약 계정 암호를 물어본다면 원격 서버상의 ~/.ssh 디렉토리나 공개키 권한의 문제
==> 원격서버에 접속후 chmod 755 ~/.ssh 그리고 chmod 644 .ssh/authorized_keys
4)Hadoop 설치
http://apache.mirror.cdnetworks.com/hadoop/common/hadoop-1.0.4/hadoop-1.0.4.tar.gz 다운로드
# tar xvzf hadoop-1.0.4.tar.gz 압축 풀기
# ln -s hadoop-1.0.4 hadoop soft symbolic link 걸기
(hadoop-env.sh 수정)
export JAVA_HOME=/usr/local/java
export HADOOP_CLASSPATH=/home/hadoop/hadoop
(hdfs-site.xml 수정)
|
(core-site.xml 수정)
(mapred-site.xml 수정)
(masters 수정) secondary namenode 이름
sn
(slaves 수정)
sn
dn01
dn02
5)namenode 포맷
# hadoop namenode -format
6)hadoop 기동
# start-all.sh
댓글