这是Hadoop学习全程记录第1篇,在这篇里我将介绍一下如何在Linux下安装Hadoop1.x。
先说明一下我的开发环境:
操作系统:CentOS6.4;
版本:jdk1.8;hadoop1.2.1
①下载hadoop1.2.1,网盘:链接: https://pan.baidu.com/s/1sl5DMIp 密码: 5p67
下载jdk1.8,网盘:链接: https://pan.baidu.com/s/1boN1gh5 密码: t36h
将 jdk-8u144-linux-x64.tar.gz 解压至 /home/wyt/jdk8 文件夹下,将 hadoop-1.2.1.tar.gz 解压至 /home/wyt/hadoop 文件夹下。
②配置jdk及hadoop环境变量:修改/etc/profile文件
1
2
|
vim /etc/profile
// 输入I,进入编辑模式
|
1
2
3
4
|
export JAVA_HOME= /home/wyt/jdk8
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME /lib
export HADOOP_HOME= /home/wyt/hadoop
export PATH=$PATH:$HADOOP_HOME /bin :$JAVA_HOME /bin
|
1
2
|
// 按Esc,按Shift,输入:wq
source /etc/profile // 保存并退出
|
③测试
1
2
|
java,javac,java -version
hadoop
|
④修改hadoop配置文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
|
<!-- hadoop- env .sh -->
export JAVA_HOME= /usr/java/jdk8
<!-- core-site.xml -->
<property>
<name>hadoop.tmp. dir < /name >
<value> /hadoop < /value >
< /property >
<property>
<name>dfs.name. dir < /name >
<value> /hadoop/name < /value >
< /property >
<property>
<name>fs.default.name< /name >
<value>hdfs: //localhost :9000< /value >
< /property >
<!-- hdfs-site.xml -->
<property>
<name>dfs.data. dir < /name >
<value> /hadoop/data < /value >
< /property >
<!-- mapred-site.xml -->
<property>
<name>mapred.job.tracker< /name >
<value>localhost:9001< /value >
< /property >
|
并在hadoop安装目录下新建data、name、tmp文件夹。
⑤名称节点格式化,并查看运行状态
1
2
3
4
5
6
7
8
9
10
11
|
hadoop namenode - format
//cd 命令切换至 hadoop /bin/ 文件夹下,输入 ls 命令查看
start-all.sh
jps // 查看运行状态,运行正常的话需要多次输入密码
// 最后结果为:
// Jps
// JobTracker
// NameNode
// DataNode
// SecondaryNameNode
// NodeManager
|
⑥测试hdfs
1
2
3
4
5
|
// 常用hdfs命令:
hadoop fs - ls /查看目录
hadoop fs -put a.txt /user/hadoop/ 放入
hadoop fs - cat /user/hadoop/a .txt 查看内容
hadoop fs -rmr /output :删除文件/文件夹
|
附:linux常用命令:
1
2
3
4
5
6
7
|
cd .. // 返回上级目录
cd ~ // 返回Home目录
cd / // 返回根目录
cd var/ // 进入var/文件夹下(使用tab)
su - // 超级管理员模式
ifconfig // 查看ip
|
附:其他常用linux操作软件:
1
2
3
4
|
//windows 与虚拟机centos文件传输:
filezilla;Xftp 5;或者安装VMware Tools(可便捷使用剪切板及文件复制功能)
// 脱离虚拟机centos输入命令行:
Xshell 5
|
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持服务器之家。
原文链接:http://www.cnblogs.com/W-Yentl/archive/2017/09/18/7545892.html