Hadoop伪分布式安装部署_上机操作

本文由用户“Tibers丶晓”分享发布 更新时间:2021-05-14 15:51:32 举报文档

以下为《Hadoop伪分布式安装部署_上机操作》的无排版文字预览,完整格式请下载

下载前请仔细阅读文字预览以及下方图片预览。图片预览是什么样的,下载的文档就是什么样的。

上机操作——Hadoop伪分布集群安装

实验目的

1、熟练掌握Hadoop伪分布模式安装流程

2、培养独立完成Hadoop伪分布安装的能力

实验内容

在只安装Linux系统的虚拟机上,安装Hadoop2.6.0伪分布模式。请按照实验步骤完成Hadoop的集群部署并根据实验步骤中的提示,按要求写出执行命令或者是给出运行效果截图。

实验步骤

1. 切换到root用户下来进行操作,给出执行命令:

su root

2.关闭防火墙,给出执行命令:

systemctl stop firewalld

3.禁止防火墙开机自启,给出执行命令:

systemctl disable firewalld

4.输入vi /etc/sysconfig/network,更改主机名为master

修改hosts文件,输入vi /etc/hosts

在文件最后行加上IP地址及对应的主机名,给出添加内容:

/

5.输入reboot,重启网络

6.配置SSH免***免密码登陆,给出需要执行的命令:

ssh-keygen -t rsa

ssh-copy-id master

测试ssh配置是否正确,给出测试的命令:

ssh master

7.关闭selinux,请给出需要打开的配置文件:

vi /etc/selinux/config

给出修改内容的截图:

/

8.配置HDFS

/usr/local/src目录用来存放安装的框架。

创建/opt/software目录,用来存放相关安装工具:jdk安装包jdk-7u75-linux-x64.tar.gz及hadoop安装包hadoop-2.6.0-cdh5.4.5.tar.gz。给出创建/opt/software目录的命令:

mkdir /opt/software

使用Xftp工具将jdk安装包jdk-8u112-linux-x64.tar.gz及hadoop安装包hadoop-2.6.0-cdh5.4.5.tar.gz上传到/opt/software目录

9.安装jdk,将/opt/software目录下jdk-8u112-linux-x64.tar.gz 解压缩到/usr/local/src目录下。给出执行的解压缩命令:

tar -zxvf /opt/software/ jdk-8u112-linux-x64.tar.gz -C /usr/local/src

切换到/usr/local/src目录下,将jdk1.8.0_112目录重命名为java,给出执行命令:

cd /usr/local/src

10.下面来修改环境变量:系统环境变量或用户环境变量。我们在这里修改系统环境变量。打开系统环境变量的文件,给出执行命令:

vi /etc/profile

配置java的环境变量到/etc/profile文件,给出配置的内容:

export JAVA_HOME=/usr/local/src/java

export PATH=$PATH:$JAVA_HOME/bin

输入Esc, 进入vi命令模式,输入 :wq 进行保存。

让环境变量生效,给出执行命令:

source /etc/profile

执行完毕后,可以输入java,来测试环境变量是否配置正确。请给出测试运行效果截图:

/

11.下面安装hadoop,切换到/opt/software目录下,将hadoop-2.6.0-cdh5.4.5.tar.gz解压缩到/usr/local/src目录下。给出执行的解压缩命令:

cd /opt/software

为了便于操作,将hadoop-2.6.0-cdh5.4.5重命名为hadoop。给出执行命令:

tar -zxvf hadoop-2.6.0-cdh5.4.5.tar.gz -C /usr/local/src

12.修改系统环境变量,将hadoop的路径添加到path中。先打开系统环境变量文件,给出执行命令:

vi /etc/profie

配置Hadoop的环境变量到/etc/profile文件,给出对应的配置内容 内容过长,仅展示头部和尾部部分文字预览,全文请查看图片预览。 s.replication

1

请给出创建/usr/local/src/hadoop/tmp目录、/usr/local/src/hadoop/dfs/name目录和/usr/local/src/hadoop/dfs/data目录的命令:

mkdir -p /usr/local/src/hadoop/tmp

mkdir -p /usr/local/src/hadoop/dfs/name

mkdir -p /usr/local/src/hadoop/dfs/data

17.输入vi /usr/local/src/hadoop/etc/hadoop/slaves,打开slaves配置文件。

目前只有一台节点,所以slaves文件添加的内容为:master

18.下面格式化元数据,给出执行命令:

su Hadoop

source etc/profile

hadoop namenode -format

注意:格式化正确时状态码为0

19.启动hadoop的hdfs相关进程,给出执行命令:

start-dfs.sh

注意:这里只会启动HDFS相关进程。

20.输入jps查看HDFS相关进程是否已经启动,如果正常启动会有3个进程:NameNode、DataNode、SecondaryNameNode。给出运行效果截图:

/

21.给出HDFS界面浏览器访问方式对应的url:

192.168.146.160:50070

给出运行效果截图:

/

22.下面来配置MapReduce相关配置。切换到hadoop配置文件目录/usr/local/src/hadoop/etc/hadoop,给出执行命令:

cd /usr/local/src/hadoop/etc/hadoop

23.下面将mapreduce的配置文件mapred-site.xml.template,重命名为mapred-site.xml,给出执行命令:

mv mapred-site.xml.template mapred-site.xml

24.输入vi mapred-site.xml,打开mapred-site.xml配置文件,将mapreduce相关配置添加到标签之间。给出配置内容的截图:

mapreduce.framework.name

yarn

mapreduce.jobhistory.address

master:10020

mapreduce.jobhistory.webapp.address

master:19888

25.输入vi yarn-site.xml,打开yarn-site.xml配置文件。添加到标签之间。给出配置内容的截图:

/ 26.启动yarn,给出执行命令:

start-yarn.sh

27.输入jps,查看当前运行的进程。如果正常启动,除了有之前启动的3个进程:NameNode、DataNode、SecondaryNameNode,还会增加2个进程:NodeManager、ResourceManager给出运行效果截图:

/

28.给出yarn界面浏览器访问方式对应的url:

192.168.146.160:8088

给出运行效果截图:

/

至此,Hadoop 伪分布模式已经安装完成!

[文章尾部最后300字内容到此结束,中间部分内容请查看底下的图片预览]

以上为《Hadoop伪分布式安装部署_上机操作》的无排版文字预览,完整格式请下载

下载前请仔细阅读上面文字预览以及下方图片预览。图片预览是什么样的,下载的文档就是什么样的。

图片预览