1.环境介绍
（1）操作系统ubuntu16.4.0
（2）两个节点：spark1(192.168.232.147),spark2(192.168.232.152) (生产环境下一般配置3台)
（3）两个节点上都装好了Hadoop 2.2集群
2.安装Zookeeper3.4.5
（1）下载Zookeeper：http://apache.fayea.com/zookeeper
（2）解压到/root/install/目录下
（3）创建两个目录，一个是数据目录，一个日志目录

QQ截图20140726110322.png (16.42 KB)

下载附件  保存到相册

2014-7-26 11:05 上传

（4）配置：进到conf目录下，把zoo_sample.cfg修改成zoo.cfg（这一步是必须的，否则zookeeper不认识zoo_sample.cfg），并添加如下内容（各端口的意义可goole参看）

1. dataDir=/root/install/zookeeper-3.4.5/data
2. dataLogDir=/root/install/zookeeper-3.4.5/logs
3. server.1=spark1:2888:3888
4. server.2=spark2:2888:3888

注：zoo_sample.cfg中自带默认的dataDir，需屏蔽掉；

（5）在/root/install/zookeeper-3.4.5/data目录下创建myid文件，并在里面写1(1与server.1对应)

1. cd /root/install/zookeeper-3.4.5/data
2. echo 1>myid

（6）把/root/install/zookeeper-3.4.5整个目录复制到其他节点

1. scp -r /root/install/zookeeper-3.4.5 root@spark2:/root/install/

（7）登录到spark2节点，修改myid文件里的值，将其修改为2（2与server.2对应）

1. cd /root/install/zookeeper-3.4.5/data
2. echo 2>myid

（8）在spark1,spark2两个节点上分别启动zookeeper

1. cd /root/install/zookeeper-3.4.5
2. bin/zkServer.sh start

（9）查看进程进否成在

1. [root@spark2 zookeeper-3.4.5]# bin/zkServer.sh start
2. JMX enabled by default
3. Using config: /root/install/zookeeper-3.4.5/bin/../conf/zoo.cfg
4. Starting zookeeper ... STARTED
5. [root@spark2 zookeeper-3.4.5]# jps
6. 2490 Jps
7. 2479 QuorumPeerMain

3.配置Spark的HA
（1）进到spark的配置目录，在spark-env.sh修改如下

1. export SPARK_DAEMON_Java_OPTS="-Dspark.deploy.recoveryMode=ZOOKEEPER -Dspark.deploy.zookeeper.url=spark1:2181,spark2:2181 -Dspark.deploy.zookeeper.dir=/spark"
2. export JAVA_HOME=/root/install/jdk1.7.0_21
3. #export SPARK_MASTER_IP=spark1 #配置zk后此处不再需要配置
4. #export SPARK_MASTER_PORT=7077
5. export SPARK_WORKER_CORES=1
6. export SPARK_WORKER_INSTANCES=1
7. export SPARK_WORKER_MEMORY=1g

（2）把这个配置文件分发到各个节点上去

1. scp spark-env.sh root@spark2:/root/install/spark-1.0/conf/

（3）启动spark集群

1. [root@spark1 spark-1.0]# sbin/start-all.sh
2. starting org.apache.spark.deploy.master.Master, logging to /root/install/spark-1.0/sbin/../logs/spark-root-org.apache.spark.deploy.master.Master-1-spark1.out
3. spark1: starting org.apache.spark.deploy.worker.Worker, logging to /root/install/spark-1.0/sbin/../logs/spark-root-org.apache.spark.deploy.worker.Worker-1-spark1.out
4. spark2: starting org.apache.spark.deploy.worker.Worker, logging to /root/install/spark-1.0/sbin/../logs/spark-root-org.apache.spark.deploy.worker.Worker-1-spark2.out

（4）进到spark2(192.168.232.152)节点，把start-master.sh 启动，当spark1(192.168.232.147)挂掉时，spark2顶替当master

1. [root@spark2 spark-1.0]# sbin/start-master.sh
2. starting org.apache.spark.deploy.master.Master, logging to /root/install/spark-1.0/sbin/../logs/spark-root-org.apache.spark.deploy.master.Master-1-spark2.out

（5）查看spark1和spark2上运行的哪些进程

1. [root@spark1 spark-1.0]# jps
2. 5797 Worker
3. 5676 Master
4. 6287 Jps
5. 2602 QuorumPeerMain
6. [root@spark2 spark-1.0]# jps
7. 2479 QuorumPeerMain
8. 5750 Jps
9. 5534 Worker
10. 5635 Master

4.测试HA是否生效
（1）先查看一下两个节点的运行情况，现在spark1运行了master,spark2是待命状态

QQ截图20140726145034.png (84.3 KB)

下载附件  保存到相册

2014-7-26 14:52 上传

QQ截图20140726144738.png (76.19 KB)

下载附件  保存到相册

2014-7-26 14:52 上传

（2）在spark1上把master服务停掉

1. [root@spark1 spark-1.0]# sbin/stop-master.sh
2. stopping org.apache.spark.deploy.master.Master
3. [root@spark1 spark-1.0]# jps
4. 5797 Worker
5. 6373 Jps
6. 2602 QuorumPeerMain

（3）用浏览器访问master的8080端口，看是否还活着。以下可以看出，master已经挂掉

QQ截图20140726144115.png (55.24 KB)

下载附件  保存到相册

2014-7-26 14:43 上传

（4）再用浏览器访问查看spark2的状态，从下图看出，spark2已经被切换当master了

总结：zk在切换Master的过程中，不用提交spark任务，但此过程中Worker正常工作。这是因为sprak是粗粒度，作业提交时已经分配好资源。

QQ截图20140726145314.png (89.76 KB)

下载附件  保存到相册

2014-7-26 14:55 上传