VMware虚拟机下hadoop1.x的安装方法

时间:2022-09-05 14:07:53

这是Hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在Linux下安装Hadoop1.x。

先说明一下我的开发环境:

虚拟机VMware8.0;

操作系统:CentOS6.4;

版本:jdk1.8;hadoop1.2.1

①下载hadoop1.2.1,网盘:链接: https://pan.baidu.com/s/1sl5DMIp 密码: 5p67

下载jdk1.8,网盘:链接: https://pan.baidu.com/s/1boN1gh5 密码: t36h

将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。

②配置jdk及hadoop环境变量:修改/etc/profile文件

?
1
2
vim /etc/profile
//输入I,进入编辑模式
?
1
2
3
4
export JAVA_HOME=/home/wyt/jdk8
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib
export HADOOP_HOME=/home/wyt/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$JAVA_HOME/bin
?
1
2
//按Esc,按Shift,输入:wq
source /etc/profile //保存并退出

③测试

?
1
2
java,javac,java -version
hadoop

④修改hadoop配置文件

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
<!-- hadoop-env.sh -->
 
export JAVA_HOME=/usr/java/jdk8
 
<!-- core-site.xml -->
 
 <property>
 <name>hadoop.tmp.dir</name>
 <value>/hadoop</value>
 </property>
 <property>
 <name>dfs.name.dir</name>
 <value>/hadoop/name</value>
 </property>
 <property>
 <name>fs.default.name</name>
 <value>hdfs://localhost:9000</value>
 </property>
 
<!-- hdfs-site.xml -->
 
<property>
<name>dfs.data.dir</name>
<value>/hadoop/data</value>
</property>
 
<!-- mapred-site.xml -->
 
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>

并在hadoop安装目录下新建data、name、tmp文件夹。

⑤名称节点格式化,并查看运行状态

?
1
2
3
4
5
6
7
8
9
10
11
hadoop namenode -format
//cd 命令切换至 hadoop/bin/文件夹下,输入 ls 命令查看
start-all.sh
jps //查看运行状态,运行正常的话需要多次输入密码
//最后结果为:
//  Jps
//  JobTracker
//  NameNode
//  DataNode
//  SecondaryNameNode
//  NodeManager

⑥测试hdfs

?
1
2
3
4
5
//常用hdfs命令:
hadoop fs -ls /查看目录
hadoop fs -put a.txt /user/hadoop/放入
hadoop fs -cat /user/hadoop/a.txt 查看内容
hadoop fs -rmr /output:删除文件/文件夹

附:linux常用命令:

?
1
2
3
4
5
6
7
cd ..  //返回上级目录
cd //返回Home目录
cd //返回根目录
cd var/ //进入var/文件夹下(使用tab)
 
su //超级管理员模式
ifconfig //查看ip

附:其他常用linux操作软件:

?
1
2
3
4
//windows与虚拟机centos文件传输:
filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能)
//脱离虚拟机centos输入命令行:
Xshell 5

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。

原文链接:http://www.cnblogs.com/W-Yentl/archive/2017/09/18/7545892.html