博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
spark-2.1.0 集群安装
阅读量:5316 次
发布时间:2019-06-14

本文共 1484 字,大约阅读时间需要 4 分钟。

1、spark安装前提——必须安装好Hadoop(本人有三台机,已安装好Hadoop)

2、下载spark,解压至master机本地文件

3、修改/conf/spark-env.sh(原名spark-env.sh.template,把它改过来)

配置如下:

export HADOOP_HOME=/usr/local/hadoop/hadoop-2.6.5export HADOOP_CONF_DIR=/usr/local/hadoop/hadoop-2.6.5/etc/hadoopexport JAVA_HOME=/usr/local/jdk/jdk1.8.0_121export SCALA_HOME=/usr/local/scala/scala-2.12.1export SPARK_MASTER_IP=masterexport SPARK_WORKER_MEMORY=1Gexport SPARK_EXECUTOR_MEMORY=1Gexport SPARK_DRIVER_MEMORY=1Gexport SPARK_WORKER_CORES=6

4、修改/conf/spark-default.conf(原名spark-default.conf.template,把它改过来)

配置如下:

spark.eventLog.enabled           truespark.eventLog.dir               hdfs://master:9000/historyserverforSparkspark.executor.extraJavaOptions  -XX:+PrintGCDetails -Dkey=value -Dnumbers="one two three"spark.yarn.historyServer.address   master:18080spark.history.fs.logDirectory      hdfs://master:9000/historyserverforSpark

 

 5、修改/conf/slaves(我有两个节点)

配置如下:

slave1slave2

 

6、配置/etc/profile 

#SPARK_HOMEexport SPARK_HOME=/usr/local/spark/spark-2.1.0-bin-hadoop2.6export PATH=$PATH:$SPATK_HOME/bin:$SPARK_HOME/sbin

 

7、将master上的spark文件和/etc/profile文件传给slave机(以slave1为例)

scp /usr/local/spark root@slave1:/usr/local/spark

scp /etc/profile root@slave1:/etc/profile

7.2 创建 historyserverforSpark 文件夹

进入Hadoop/bin

hadoop dfs -mkdir /historyserverforSpark

8、启动Hadoop后,启动spark

/sbin/start-all.sh

之后启动历史记录

/sbin/start-history-server.sh

9、查看是否成功

网页登录 master:8080 和 master:18080

10、bin/spark-submit 运行实例

 

转载于:https://www.cnblogs.com/LazyJoJo/p/6436739.html

你可能感兴趣的文章
centos系统python2.7更新到3.5
查看>>
【Quartz】常用方法的使用方式(三)
查看>>
MVVM模式下关闭窗口的实现
查看>>
C#区域截图——调用API截图
查看>>
c#与java中byte字节的区别及转换方法
查看>>
A WebBrowser Toy
查看>>
用MyXls生成Excel报表(C#)
查看>>
了解WP的传感器
查看>>
阅读笔记 火球——UML大战需求分析 2
查看>>
acedEvaluateLisp函数的反汇编
查看>>
Linux无线工具详解(Wireless tools for Linux)
查看>>
ACM PKU 2328 http://acm.pku.cn/JudgeOnline/problem?id=2328
查看>>
VB.NET 制作DLL动态库文件
查看>>
RSS阅读器
查看>>
微信电脑版不断崩溃
查看>>
js链式调用
查看>>
数字统计
查看>>
20180620小测
查看>>
iptables设置规则
查看>>
聊聊setTimeout和setInterval线程
查看>>