参考http://www.mamicode.com/info-detail-1523356.html
1.远端执行:vi /etc/profile
添加一行:
PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.9-src.zip
或者PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.8.2.1-src.zip
2.安装pip 和 py4j
下载pip-9.0.1.tar.gz和py4j-0.10.4.tar.gz
解压pip-9.0.1.tar.gz和py4j-0.10.4.tar.gz,cd到解压目录执行:sudo python setup.py install
3.本地Pycharm设置
File > Settings > Project Interpreter:
Tools > Dployment > Configuration:
4.运行代码中加入:
import os
import sys
os.environ['SPARK_HOME'] = "/opt/cloudera/parcels/CDH-5.9.1-1.cdh5.9.1.p0.4/lib/spark"
sys.path.append("/opt/cloudera/parcels/CDH-5.9.1-1.cdh5.9.1.p0.4/lib/spark/python")
相关文章
- windows下dapr的代码调试--非docker部署
- windows下的基于Eclipse的STM32开发调试环境搭建
- Openstack 远程调试 - pycharm
- Windows8.1系统下让VS2012编译运行IIS Express 64位 调试器
- Windows下fabric sdk连接Linux上fabric网络的调试过程
- windows下远程访问Redis,windows Redis绑定ip无效,Redis设置密码无效,Windows Redis 配置不生效,Windows Redis requirepass不生效,windows下远程访问redis的配置
- 看图说话,idea 远程调试 tomcat下项目
- 【笔记】【VSCode】Windows下VSCode编译调试c/c++
- xmanager 在 Windows 下远程桌面连接 麒麟
- 20180726 - Windows 10 Pro 下远程桌面连接提示“出现身份验证错误”