博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
spark和zeppelin实践一:安装hadoop篇
阅读量:6157 次
发布时间:2019-06-21

本文共 3030 字,大约阅读时间需要 10 分钟。

一、安装JDK


1.7 JDK下载地址:

下载后安装


[plain]   

  1. rpm -ivh jdk-8u112-linux-x64.rpm  


设置JDK环境变量


[plain]   

  1. export JAVA_HOME=/usr/java/jdk1.8.0_112  

  2. export CLASSPATH=$JAVA_HOME/lib/tools.jar    

  3. export PATH=$JAVA_HOME/bin:$PATH    



二、安装

1、DNS绑定


vi /etc/hosts,增加一行内容,如下(这里我的Master节点IP设置的为192.168.80.100):

[plain]   

  1. 192.168.80.100 IMM-SJJ01-Server18  


2、SSH的免密码登录


[plain]   

  1. cd /home/data/.ssh  

  2. ssh-keygen -t rsa  

  3. cat id_rsa.pub >> authorized_keys  



3、安装Hadoop

[plain]   

  1. #http://hadoop.apache.org/releases.html  

  2. wget http://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-2.7.3/hadoop-2.7.3.tar.gz  

  3.   

  4. cd /home/game/soft  

  5. tar zxvf hadoop-2.7.3.tar.gz  

  6. ln -s /home/game/soft/hadoop-2.7.3 /home/game/soft/hadoop  


#4、配置

1) 设置Hadoop环境变量

[plain]   

  1. vim ~/.bash_profile 或 /etc/profile  

  2. export HADOOP_HOME=/home/game/soft/hadoop  

  3. export PATH=$HADOOP_HOME/bin:$PATH  

  4.   

  5. echo $HADOOP_HOME 

  6.  

2)修改hadoop-env.sh


[plain]   

  1. vim $HADOOP_HOME/etc/hadoop/hadoop-env.sh  

  2. export JAVA_HOME=${JAVA_HOME} 改为  

  3. export JAVA_HOME=/usr/java/jdk1.8.0_112  

3)修改/etc/hosts


4)修改core-site.xml


[plain]   

  1. cd $HADOOP_HOME  

  2. cp ./share/doc/hadoop/hadoop-project-dist/hadoop-common/core-default.xml ./etc/hadoop/core-site.xml  

  3. cp ./share/doc/hadoop/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml ./etc/hadoop/hdfs-site.xml  

  4. cp ./share/doc/hadoop/hadoop-yarn/hadoop-yarn-common/yarn-default.xml ./etc/hadoop/yarn-site.xml  

  5. cp ./share/doc/hadoop/hadoop-mapreduce-client/hadoop-mapreduce-client-core/mapred-default.xml ./etc/hadoop/mapred-site.xml  

  6.   

  7.   

  8. vim $HADOOP_HOME/etc/hadoop/core-site.xml  

  9. <property>  

  10.   <name>fs.default.name</name>  

  11.   <value>hdfs://192.168.80.100:19000</value>  

  12. </property>  

  13. <property>  

  14.   <name>hadoop.tmp.dir</name>  

  15.   <value>/home/game/hadoop/tmp</value>  

  16. </property>  

5)修改配置hdfs-site.xml

[plain]   

  1. <property>  

  2.   <name>dfs.namenode.rpc-address</name>  

  3.   <value>192.168.80.100:19001</value>  

  4. </property>  

  5.   

  6. <property>  

  7.   <name>dfs.namenode.http-address</name>  

  8.   <value>0.0.0.0:10070</value>  

  9. </property>  

6)修改mapred-site.xml

[plain]   

  1. cp mapred-site.xml.template mapred-site.xml  

  2. <property>  

  3.   <name>mapreduce.framework.name</name>  

  4.   <value>yarn</value>  

  5. </property>  


7)修改yarn-site.xml

[plain]   

  1. <property>  

  2.   <description>The http address of the RM web application.</description>  

  3.   <name>yarn.resourcemanager.webapp.address</name>  

  4.   <value>${yarn.resourcemanager.hostname}:18088</value>  

  5. </property>  


5、启动


1)格式化NameNode

cd $HADOOP_HOME/bin
./hdfs namenode -format

#2)启动hdfs
/home/game/soft/hadoop/sbin/start-dfs.sh


jps查看是否启动成功


16704 DataNode
16545 NameNode
16925 SecondaryNameNode

hdfs dfs -ls hdfs://192.168.80.100:19001/


#3) 启动yarn
/home/game/hadoop-2.7.3/sbin/start-yarn.sh


[game@IM-SJ01-Server18 sbin]$ jps


17427 NodeManager
19668 ResourceManager


yarn node -list


yarn node -status


#4)页面显示
192.168.80.100:10070


192.168.80.100:18088


#6、上传测试
hadoop fs -mkdir -p hdfs://192.168.80.100:19001/test/
hadoop fs -copyFromLocal ./test.txt hdfs://192.168.80.100:19001/test/
hadoop fs -ls hdfs://192.168.80.100:19001/


hadoop fs -put /opt/program/userall20140828 hdfs://localhost:9000/tmp/tvbox/

本文转自 chengxuyonghu 51CTO博客,原文链接:http://blog.51cto.com/6226001001/1894096,如需转载请自行联系原作者
你可能感兴趣的文章
jdk1.7和jdk1.8的String的getByte方法的差异
查看>>
java父子进程通信
查看>>
Android ADB server didn't ACK * failed to start daemon * 简单有效的解决方案
查看>>
Olap学习笔记
查看>>
Codeforces Round #431 (Div. 1)
查看>>
如何进行数组去重
查看>>
将标题空格替换为 '_' , 并自动复制到剪切板上
查看>>
List Collections sort
查看>>
Mysql -- You can't specify target table 'address' for update in FROM clause
查看>>
使用局部标准差实现图像的局部对比度增强算法。
查看>>
2017-2018-1 20165313 《信息安全系统设计基础》第八周学习总结
查看>>
《代码敲不队》第四次作业:项目需求调研与分析
查看>>
菜鸡互啄队—— 团队合作
查看>>
HttpWebRequest的GetResponse或GetRequestStream偶尔超时 + 总结各种超时死掉的可能和相应的解决办法...
查看>>
SparseArray
查看>>
第二章
查看>>
android背景选择器selector用法汇总
查看>>
[转]Paul Adams:为社交设计
查看>>
showdialog弹出窗口刷新问题
查看>>
java
查看>>