推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
这是一个创建于 1782 天前的主题，其中的信息可能已经有所发展或是发生改变。
请教一下各位大佬，我现在使用 pysaprk 做 sparkstreaming 处理 kafka 的数据。程序单机跑的时候没有问题，连接集群的时候就会报错 no module named "xxxx"，连接方式是在程序是设置 setMaster(""spark://host:port)。是不是还要配置其他环境变量呢？麻烦大佬指点一下，有偿~
 |
1
besttime 2020-01-15 16:11:14 +08:00  1
pyspark 的 job 提交到 spark 后，会调用 spark 所在环境的 python 解释器，而这个报错的问题就是在于 spark 所在的环境的 python 解释器缺乏你使用的类库。
|
 |
2
fzy0728 2020-01-15 17:01:52 +08:00
|
 |
3
xiaoxuxu 2020-01-15 19:01:59 +08:00 1
可以用 pyenv 建个 Python 环境，然后打成压缩包。运行 spark-submit 的时候用--archives 传这个压缩包，并且设置 PYSPARK_DRIVER_PYTHON、PYSPARK_PYTHON 为压缩包内 Python 可执行文件的相对路径，大概是这样：
PYSPARK_PYTHON=./python-env/bin/python PYSPARK_DRIVER_PYTHON=./python-env/bin/python spark-submit --master yarn --deploy-mode cluster --archives python-env.zip#python-env |
Select Language