[Hadoop入门] - 2 ubuntu安装与配置 hadoop安装与配置

时间:2021-07-07 00:28:09

ubuntu安装(这里我就不一一捉图了,只引用一个网址, 相信大家能力)

ubuntu安装参考教程:  http://jingyan.baidu.com/article/14bd256e0ca52ebb6d26129c.html

注意下面几点:

1、设置虚拟机的IP, 点击虚拟机的右下角网络连接图标, 选择”桥接模式“, 这样才能分配到你的局域网IP, 这个很重要因为后面hadoop要用到局域网。

2、在ubuntu里面查看ip的命令:ifconfig可以显示出你的IP地址, 看一下IP是否为你的局域网IP地址。

3、ubuntu设置中文,在左侧工具栏上点击系统设置那个齿轮-->language support 在这个界面上可以选择add/del language进去找到中文的选项勾上, 点安装完成后在语言列表里就有汉语(中国),如果是灰色在最下面的选项,用鼠标按着这个项拖到最上面就是黑色的,选择应用到全局再重启。

4、ubuntu不像windows那样人性化, 啥安装的软件都在开始菜单里, 当然也可以安装这个插件, 但我认为不需要那么麻烦啦,因为在左侧工具栏最上面那个三点圈, 可以搜出你所有的已安装程序, 个人建议自己下载的软件就放到home下面的一个文件夹就好。

5、ubuntu按crtl+alt+t打开终端, 如果不是root账号系统除了home文件夹下其它地方很少权限的, 记得如果你的文件夹不在home下, 就要用终端chmod命令修改权限, 不然会出错。

Java安装

sudo apt-get install openjdk7 这样的命令安装最好, 当然也可以下载tar.gz包安装, 但需要自己配置java_home等工作, 请大家百度一下。 如果是sudo apt-get这种方式的, 一般会安装在/usr/lib/jvm/这个路径下, 通过终端, 你输入java -version, 如果能显示版本号, 说明安装成功了。

SSH安装

sudo apt-get install openssh-server, 至少配置产生密钥这些请大家百度一下。

mysql安装

sudo apt-get install mysql-server, 安装然后安装个mysql workbench这样的类似客户端的平台, 方便你可视化操作mysql

hadoop安装与配置

下载hadoop1.2.1的tar.gz包,解压后把文件夹改名为hadoop,  复制一份到/usr/local/下面, 如果你当前的账号操作不了local这文件夹, 记得用其它有权限的账号来操作, 最好还是建一个hadoop组再添加一个hadoop账号来操作, 怎添加用户组与用户, 还是通过命令add usergroup/add user这些。 复制完成后, 通过root账号把hadoop文件夹的权限chmod -R 777, 也就是这文件夹下面所有内容对所有人所有权限开放, 测试环境没啥太大关系。

hadoop有三种工作模式:单机,伪分布式, 完全分布式。

单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时,Hadoop无法了解硬件安装环境,便保守地选择了最小配置。在这种默认模式下所有3个XML文件均为空。当配置文件为空时,Hadoop会完全运行在本地。因为不需要与其他节点交互,单机模式就不使用HDFS,也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。

伪分布式模式就是一个机器又当主机又当重机, 所有的操作都在一个机器上实现, 这时已经存在HDFS,守护进程这些, 需要配置conf/core-site.xml, hdfs-site.xml, mapred-site.xml, hadoop-env.sh这几个文件。

core-site.xml配置内容如下:

<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://172.27.27.3:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/local/hadoop/tmp</value>
</property>
</configuration>

第一个节点内容解析就是hdfs就是这个hadoop hdfs系统服务器的地址和端口, 下面节点是hadoop tmp的路径

hdfs-site.xml

<configuration>
<property>
<name>dfs.replication</name>
<value></value>
</property>
<property>
<name>dfs.name.dir</name>
<value>/usr/local/hadoop/hdfs/name</value>
</property>
<property>
<name>dfs.data.dir</name>
<value>/usr/local/hadoop/hdfs/data</value>
</property>
</configuration>

第一个节点是工作模式的选择, 如果1就是我们测试用的伪分布模式

mapred-site.xml

<configuration>
<property>
<name>mapred.job.tracker</name>
<value>172.27.27.3:</value>
</property>
</configuration>

修改conf/hadooop-env.sh里面的java-home为你的java安装目录

配置好了这些内容后, 通过终端进到hadoop文件夹, cd /你的路径/ 就可以进到了, 通过bin/start-all.sh启动hadoop服务, bin/stop-all.sh来停止服务。

如果启动成功的,通过jps可以发现有6个进程, 如果启动失败, 请检查你的java JDK是否安装成功, hadoop目录权限, 上面几个文件的设置等。

[Hadoop入门] - 2 ubuntu安装与配置 hadoop安装与配置的更多相关文章

  1. Hadoop入门进阶课程1--Hadoop1&period;X伪分布式安装

    本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,博主为石山园,博客地址为 http://www.cnblogs.com/shishanyuan  ...

  2. &lbrack;Hadoop入门&rsqb; - 1 Ubuntu系统 Hadoop介绍 MapReduce编程思想

    Ubuntu系统 (我用到版本号是140.4) ubuntu系统是一个以桌面应用为主的Linux操作系统,Ubuntu基于Debian发行版和GNOME桌面环境.Ubuntu的目标在于为一般用户提供一 ...

  3. Hadoop入门到实战全套大数据Hadoop学习视频

    资料获取方式,关注公总号RaoRao1994,查看往期精彩-所有文章或者后台回复[Hadoop]获取,即可获取资源下载链接 更多资源获取,请关注公总号RaoRao1994

  4. 在Ubuntu系统上搭建Hadoop 2&period;x&lpar;2&period;6&period;2&rpar;

    官方的中文版的Hadoop快速入门教程已经是很老的版本了,新版的Hadoop目录结构发生了变化,因此一些配置文件的位置也略微调整了,例如新版的hadoop中找不到快速入门中提到的conf目录,另外,网 ...

  5. 在虚拟机VM中安装的Ubuntu上安装和配置Hadoop

    一.系统环境: 我使用的Ubuntu版本是:ubuntu-12.04-desktop-i386.iso jdk版本:jdk1.7.0_67 hadoop版本:hadoop-2.5.0 二.下载jdk和 ...

  6. 在Ubuntu 13&period;10 中安装配置 Hadoop 2&period;2&period;0

    预备条件: 1. 已安装JDK Add Hadoop Group and User $ sudo addgroup hadoop$ sudo adduser --ingroup hadoop hdus ...

  7. ubuntu环境下eclipse的安装以及hadoop插件的配置

    ubuntu环境下eclipse的安装以及hadoop插件的配置 一.eclipse的安装 在ubuntu桌面模式下,点击任务栏中的ubuntu软件中心,在搜索栏搜索eclipse 注意:安装过程需要 ...

  8. ubuntu在虚拟机下的安装 ~~~ Hadoop的安装及配置 ~~~ Hdfs中eclipse的安装

     前言 Hadoop是基于Java语言开发的,具有很好跨平台的特性.Hadoop的所要求系统环境适用于Windows,Linux,Mac系统,我们推荐选择使用Linux或Mac系统.而Linux系统则 ...

  9. 虚拟机Ubuntu&lpar;18&period;04&period;2&rpar;下安装配置Hadoop&lpar;2&period;9&period;2&rpar;&lpar;伪分布式&plus;Java8&rpar;

    [本文结构] [1]安装Hadoop前的准备工作 [1.1] 创建新用户 [1.2] 更新APT [1.3] 安装SSH [1.4] 安装Java环境 [2]安装和配置hadoop [2.1] Had ...

随机推荐

  1. 8&period;MVC框架开发(URL路由配置和URL路由传参空值处理)

    1.ASP.NET和MVC的路由请求处理 1)ASP.NET的处理 请求---------响应请求(HttpModule)--------处理请求(HttpHandler)--------把请求的资源 ...

  2. 目标管理剖析与实践&ndash&semi; 献给追梦的人 (转)

      好久没写日志了. 最近总算在忙碌的日子中小小的松了一口气, 过来补起这几个月的空缺. 上次写的Cover Letter & Resume 重点诠释 - 深度剖析没想到居然超过了一万的阅读量 ...

  3. java 完全二叉树的构建与四种遍历方法

    本来就是基础知识,不能丢的太干净,今天竟然花了那么长的时间才写出来,记一下. 有如下的一颗完全二叉树: 先序遍历结果应该为:1  2  4  5  3  6  7 中序遍历结果应该为:4  2  5 ...

  4. Tomcat会话保持之session server

    author:JevonWei 版权声明:原创作品 Tomcat会话保持之session server 拓扑图 环境 tomcatA 172.16.253.108 tomcatB 172.16.253 ...

  5. javascript对样式的操作

    js可实现用户对页面中的选择条件改变页面中的样式,页面样式可以通过style修饰,也可以通过css修饰,先来看一下js改变style样式,代码如下: 案例一: <!DOCTYPE html&gt ...

  6. sed 操作命令

    sed介绍 grep 只能过滤文件内容,sed既能过滤文件内容同时还能对文件内容进行修改.  sed 算是一种编程语言,它有自己的固定语法. sed是一种行编辑器,sed会在内存中开辟一块独立的空间( ...

  7. Eureka Client的使用

    1. 新建工程 下一步,名字叫client 选择Cloud Discovery->Eureka Discovery 下一步后,点击完成 2. 在ClientApplication文件中增加Ena ...

  8. Token机制,防止web页面重复提交

    1.业务要求:页面的数据只能被点击提交一次 2.发生原因: 由于重复点击或者网络重发,或者nginx重发等情况会导致数据被重复提交 3.解决办法: 集群环境:采用token加redis(redis单线 ...

  9. python中round(四舍五入)的坑

    python中的round函数不能直接拿来四舍五入,一种替代方式是使用Decimal.quantize()函数. 具体内容待补. >>> round(2.675, 2) 2.67 可 ...

  10. sql geography类型(地理坐标) 赋值

    sql 语句赋值 update [lishui].[dbo].[t_NearbyService] ,, ) ,[locationbaidu]=geography::Point(,, ) where [ ...