zeppelin 安装移植简述

栏目: 编程工具 · 发布时间: 6年前

下载解压 zeppelin

http://zeppelin.apache.org/download.html

zeppelin 安装移植简述

包含了所有的interpreter

tar -xvf zeppelin-0.8.0-bin-all.tgz

下载解压 spark

http://spark.apache.org/downloads.html

tar -xvf spark-2.3.2-bin-hadoop2.7.tgz

配置

设置hadoop

spark-2.3.2-bin-hadoop2.7/conf/hive-site.xml

spark-2.3.2-bin-hadoop2.7/conf/hdfs-site.xml

无此两文件,即在本地运行。若集群计算,除配置上述两文件,还需如下配置 IP 地址。

设置集群 IP 及访问权限

/etc/hosts

192.168.x.x bigdatamster

192.168.x.x bigdatanode0

192.168.x.x bigdatanode1

192.168.x.x bigdatanode5

192.168.x.x bigdatanode6

192.168.x.x bigdatanode7

192.168.x.x bigdatanode8

设置 java 和spark路径

~/.bashrc

export JAVA_HOME=/cnn/jdk/jdk1.8.0_171

export SPARK_HOME=/cnn/spark-2.3.2-bin-hadoop2.7

设置 zeppelin 登录账号

zeppelin-0.8.0-bin-all/conf/shiro.ini

user = password, admin

spark_submit 设置

zeppelin-0.8.0-bin-all/conf/zeppelin-env.sh

export SPARK_SUBMIT_OPTIONS="--packages org.apache.spark:spark-sql-kafka-0-10_2.11:2.3.0 --driver-class-path /cnn/jars/ojdbc7.jar:/cnn/jars/bijdbc.jar:/cnn/jars/postgresql-42.2.2.jar"

配置 解释器

在 web 访问的 Interpreter 中配置, 或修改 /cnn/zeppelin-0.8.0-bin-all/conf/interpreter.json

在 pyenv 中启动 zeppelin

export PYENV_ROOT="/cnn/.pyenv"

export PATH="$PYENV_ROOT/bin:$PATH"

eval "$(pyenv init -)"



pyenv activate env365

bin/zeppelin-daemon.sh start

web访问

http://ip:8080/#/

zeppelin 移植

/cnn/zeppelin-0.8.0-bin-all/

/cnn/spark-2.3.2-bin-hadoop2.7/

/cnn/jars/

/cnn/jdk/jdk1.8.0_171/

/cnn/.pyenv

/etc/hosts

~/.bashrc

hosts中 IP 设置跟 hadoop 集群有关,且有访问权限

.bashrc中有 pyenv 的路径设置

zeppelin 安装移植简述

本文由safa 创作,采用 知识共享署名-相同方式共享 3.0 中国大陆许可协议 进行许可。

转载、引用前需联系作者,并署名作者且注明文章出处。

本站文章版权归原作者及原出处所有 。内容为作者个人观点, 并不代表本站赞同其观点和对其真实性负责。本站是一个个人学习交流的平台,并不用于任何商业目的,如果有任何问题,请及时联系我们,我们将根据著作权人的要求,立即更正或者删除有关内容。本站拥有对此声明的最终解释权。


以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

论因特网

论因特网

[美] 休伯特·L.德雷福斯 / 喻向午、陈硕 / 河南大学出版社 / 2015-5 / 32.00

本书是与日俱增的关于因特网利弊之文献的重要补充。 ——《哲学评论》 关于因特网种种承诺的一次清晰辨析……以哲学家的眼光审视一个影响我们所有人的问题。 ——《普遍存在》杂志 ……一场精心设计的论战……我们需要更多德雷福斯这样的老师,将网络融入依 然具有深邃人性的课程。 ——亚当•莫顿(出自《泰晤士报文学增刊》) 在互联网世界,不管你是菜鸟,还是浸淫其中已久—......一起来看看 《论因特网》 这本书的介绍吧!

html转js在线工具
html转js在线工具

html转js在线工具

UNIX 时间戳转换
UNIX 时间戳转换

UNIX 时间戳转换

RGB CMYK 转换工具
RGB CMYK 转换工具

RGB CMYK 互转工具