文件名称:Spark 源码编译完整教程(maven编译+sbt编译+编译工具包+操作步骤笔记+依赖包下载镜像设置)
文件大小:9.33MB
文件格式:ZIP
更新时间:2021-03-28 11:17:40
Spark 源码编译 maven/sbt 依赖包 镜像
自己学习并应用Spark一段时间后,由于需要改源代码,就研究了下怎么编译源码,成功编译后,记录下了编译的步骤和遇到的问题,例如编译过程中,下载大量的依赖包,默认从国外下载,非常慢,可能要编译好几个小时,通过设置国内镜像,10分钟就能编译好了,资料里面包含详细的镜像设置方法以及注意事项等。另外编译使用的工具可以是maven,也可以是sbt,我都研究过了,两种编译方法都予以描述,可根据自身喜好选用。
【文件预览】:
编译spark
----sbt()
--------附件()
--------sbt编译SPARK.txt(3KB)
----mvn()
--------附件()
--------2.使用make-distribution.sh编译Spark得到部署包和jar包.txt(5KB)
--------1.修改spark编译时下载依赖包的镜像地址.txt(6KB)