win10下Spark的环境搭建

时间:2024-08-28 08:34:02

win10下Spark的环境搭建

2018-08-19  18:36:45


一、jdk 1.8.0 安装与配置

二、scala 2.11.8 安装与配置http://www.scala-lang.org/download/2.11.8.html

上面两步见《win10下安装scala

三、spark 2.3.0 安装与配置

1、下载spark:官网地址:http://spark.apache.org/downloads.html

win10下Spark的环境搭建

2、下载完成后解压到D盘根目录下即可。D:\spark-2.3.0-bin-hadoop2.6。

3、配置Path:将D:\spark-2.3.0-bin-hadoop2.6\bin添加到Path中。

4、通过spark-shell进入到spark交互式命令行模式下

win10下Spark的环境搭建

上面可以看见安装的scala版本、jdk版本、spark版本。

注意:上面出现了异常信息,是由于hadoop导致的。所以还要下载安装hadoop进行相关配置。

四、hadoop 2.6.4 安装与配置

1、下载hadoop:官方地址:http://hadoop.apache.org/releases.html

2、解压到D盘根目录下。

3、配置环境变量:HADOOP_HOME 和 Path。

4、winutils下载:https://github.com/steveloughran/winutils

下载对应版本的bin目录将hadoop文件夹中的bin目录替换掉。

5、再次spark-shell,就不会出现异常信息了。

win10下Spark的环境搭建

6、访问webUI:

win10下Spark的环境搭建

这样win10环境下本地的spark环境就搭建完成了!!!


下面就可以编程学习了。。。。。

https://blog.****.net/u011513853/article/details/52896230 ( IDEA和maven)