Spark添加/更改集群节点需要修改的配置文件

时间:2021-05-20 16:55:59

笔记:在配置好了spark后,如果需要添加/删除一个结点需要修改如下配置文件

cd $HADOOP/etc/hadoop 进入hadoop配置文件夹下

修改 slaves,将对应的节点添加/删除

修改hdfs-site.xml , 修改hdfs副本的数量。

cd $SPARK_HOME/conf 进入spark配置文件夹下

修改slaves,将对应的节点添加/删除

修改spark-env.sh ,将SPARK_MASTER_IP=192.168.1.*** 这里的IP为主节点的IP。