参考http://www.mamicode.com/info-detail-1523356.html
1.远端执行:vi /etc/profile
添加一行:
PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.9-src.zip
或者PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.8.2.1-src.zip
2.安装pip 和 py4j
下载pip-9.0.1.tar.gz和py4j-0.10.4.tar.gz
解压pip-9.0.1.tar.gz和py4j-0.10.4.tar.gz,cd到解压目录执行:sudo python setup.py install
3.本地Pycharm设置
File > Settings > Project Interpreter:
Tools > Dployment > Configuration:
4.运行代码中加入:
import os
import sys
os.environ['SPARK_HOME'] = "/opt/cloudera/parcels/CDH-5.9.1-1.cdh5.9.1.p0.4/lib/spark"
sys.path.append("/opt/cloudera/parcels/CDH-5.9.1-1.cdh5.9.1.p0.4/lib/spark/python")
相关文章
- 08-21windows下使用DBeaver远程连接WSO2 API manager 项目H2数据库
- 08-21在不安装Windows服务的情况下,如何进行调试或测试
- 08-21windows下pycharm pro 配置远程docker中的python解释器(看了可以避坑)
- 08-21VSCode在windows下使用MinGW-w64的gcc/g++编写调试程序
- 08-21解决windows 下使用 mingw编译器 调试时 无法跟进源码
- 08-21解决pycharm远程调试出现Couldn‘t obtain remote socket from output问题
- 08-21Windows下UAC音频设备调试
- 08-21windows下远程adb
- 08-21windows下安装pyspark及pycharm配置最完整详细教程
- 08-21windows下远程adb