Spark插件二次开发时在Eclipse的调试配置

时间:2023-02-07 08:55:03
网上有很多spark的eclipse环境下调试配置,但是笔者在开发spark插件的时候,发现spark目录下的bin目录各种拒绝访问。然后又是报错:Error unzipping plugin这种。无奈,网上资料又少的可怜。后来经过各种调试,发现了一种Eclipse下调试spark+插件的方法。现在分享如下: 
第一, 在Eclipse下建立一个新的Project。这个project可以就用之前写的那个插件目录。

第二, 此时,新的Project有很多红叉,没关系,我们加入它需要的jar包。右键这个Project->build path->Config build path。

Spark插件二次开发时在Eclipse的调试配置

第三, 使用Add External JARS添加之前用ant编译好的spark的target目录下的lib文件。具体位置应该在spark目录下的target\build\lib\下。
第四, 新建一个运行环境:

Spark插件二次开发时在Eclipse的调试配置

第五, 我这里改名为SparkWithCamacus。这里的Main class选择spark的那个Startup,然后勾选Stop in main。
第六, 在Arguments标签下添加VM arguments:-Djava.library.path="E:\lhb\spark_lvb\build\lib\dist\windows" 

Spark插件二次开发时在Eclipse的调试配置

这里这个path要设置正确,否则会抛一个C开头的什么异常,忘记了。
第七, Common标签和之前配置Spark一样。
第八, 使用ant编译目录下的build.xml文件,生成插件jar包。
第九, 使用Eclipse调试吧!