集群批量管理工具parallel ssh的安装及使用

最近为了做实验,需要进行集群的配置,虽然十个节点的集群不算多,但是还是用它来减轻负担。但在使用的过程中,发现网上虽然有资料,但大多都没能很好的解决在使用过程中遇到的问题,在此做一记录,以备后续参考,也望众位高人指点~

首先说明,我们这里的节点组ip列表为:

1 172.31.42.68~172.31.42.77

第一步:前序

为了后面的操作更具连贯性,要在节点之间配置进行无密码,我们选择了 .68 的机器为master,其它的节点作为slave,后续没有特殊说明,操作都是在此节点上进行。

1. 产生公钥和私钥

1 ssh-keygen -t rsa

在这一过程中直接按回车键,将产生本机器的公私钥对,保存在~/.ssh下。

2. 分发master的公钥到各个slave节点

1 ip=172.31.47.
2 for i in $(seq 69 77)
3 do
4 ssh $ip$i -C mkdir /home/edmonds/.ssh
5 scp ~/.ssh/id_rsa.pub $ip$i:/home/edmonds/.ssh/authorized_keys
6 done

通过上述两步,应该已经能够从master无密码访问slave节点了,从slave节点无密码访问master节点,等并行ssh工具安装好后进行配置

第二步:安装parallel ssh,并进行简单的配置

1. 从参考2处下载,并安装:

1 git clone http://code.google.com/p/parallel-ssh/
2 cd parallel-ssh
3 python setup.py build
4 sudo python setup.py install

2. 简单配置

 1 touch ~/slaves_list.txt
 2 vim ~/slaves_list.txt
 3 #insert following content
 4 172.31.47.69
 5 172.31.47.70
 6 172.31.47.71
 7 172.31.47.72
 8 172.31.47.73
 9 172.31.47.74
10 172.31.47.75
11 172.31.47.76
12 172.31.47.77

 第三步:使用

1.  远程安装软件包

在集群管理过程中,往往会遇到需要安装软件包的情况。这里以ubuntu系统为例,我们知道在 sudo apt-get install 的过程中,需要输入Y来确认安装,在pssh环境下,需要如下处理:

1 pssh -h slaves_list.txt -P "sudo apt-get install -y g++"

这时,可能由于你的slave机器的网络或者其他原因,可能会导致超时,这时候pssh客户端会结束掉进程,所以如果你不能保证很快完成的命令,则指定超时时间,如下

1 pssh -h slaves_list.txt -t 1200 -P "sudo apt-get install -y libboost-dev"

这里的1200是以秒为单位计算的,至于其他的参数直接pssh --help吧~

2.远程多命令执行

有时需要进行多个命令的操作,为了更加明晰,可以如下:

1 pssh -h slaves_list.txt -t 12000 -P "cd ~/soft/tbb43_20141204oss/build;chmod +x *.sh;sh generate_tbbvars.sh;sh tbbvars.sh"

在使用过程中主要就遇到上述两个问题,一是在节点机器上需要输入操作怎么办,用-xxx来指定,一是多命令如何一次性指派完成。

至于其他的常用工具如pscp,psync,pslurp,pnuke都很类似,这里不再举例,有需要的看看帮助就搞定啦~

Reference:

http://www.forzw.com/archives/671

https://code.google.com/p/parallel-ssh/

posted on 2014-12-17 18:56 物感世界 阅读(...) 评论(...) 编辑 收藏

转载于:https://www.cnblogs.com/edmonds/p/4170040.html

集群批量管理工具parallel ssh的安装及使用相关推荐

  1. Elasticsearch04:ES集群监控管理工具-cerebro

    一.ES集群监控管理工具-cerebro 为了便于我们管理监控ES集群,推荐使用cerebro这个工具. 二.下载 1.github下载 1:首先到github上下载cerebro的安装包. http ...

  2. Kubernetes之多集群统一管理工具 360-wayne

    Kubernetes之多集群统一管理工具 360-wayne 一.wayne安装 1.克隆代码仓库 1.1 代码克隆 1.2 git命令安装 1.3 go命令安装 1.4 代码克隆 2.MySQL服务 ...

  3. KubeOperator总体介绍(K8S集群部署管理工具)

    总体介绍⚓︎ KubeOperator 是一个开源的轻量级 Kubernetes 发行版,专注于帮助企业规划.部署和运营生产级别的 Kubernetes 集群. KubeOperator 提供可视化的 ...

  4. ES集群可视化管理工具-Cerebro

    文章目录 1. Cerebro简介 2. 环境要求 3. Cerebro安装 4. 访问Cerebro 5. 面板介绍 6. LDAP集成 7. Docker方式安装 1. Cerebro简介 Cer ...

  5. es集群web管理工具cerebro

    cerebo是kopf在es5上的替代者 安装 es虽然不能再root下运行,但是cerebro 可以 run as root is ok wget https://github.com/lmenez ...

  6. 一个redis集群的管理工具

    分享一下: 1.源代码: 请查看附件redis-manager-src.zip 2.linux安装包: 请查看附件redis-manager-1.1-linux-chinese-new.zip 以上程 ...

  7. Ansiable批量管理工具

    1.ansible 3W1H 1.1 ansible介绍 ssh秘钥认证+脚本批量管理,特点:简单.实用 但是看起来比较low,需要人工写脚本,类似实时复制的inotify工具. 2013以前这种方式 ...

  8. 在Google使用Borg进行大规模集群的管理

    pdf:  http://vdisk.weibo.com/s/z2pdgMOY-UA4C/1445988517 ----- 在Google使用Borg进行大规模集群的管理 <Large-scal ...

  9. Docker集群部署管理

    1.什么是Kubernetes? Kubernetes是Google开源的容器集群管理系统,是目前比较火的集群式部署管理系统:Kubernetes(简称k8s),它是基于Docker技术的nat网络模 ...

最新文章

  1. 图神经网络(GNN)的简介
  2. Java转型(向上或向下转型)
  3. 数据结构之单链表——C++模板类实现
  4. mpvue 从零开始 女友拉黑了我 5 不在以下request 合法域名列表中,请参考文档
  5. ospf 默认路由综合配置
  6. win10计算机扫描,Win10系统下如何使用扫描仪
  7. jmeter访问网址
  8. elasticsearch中forcemerge清除文件占用的磁盘空间
  9. python邮箱格式验证_学会使用正则表达式——验证邮箱地址格式
  10. pdf转换成word后有文字叠加_Pdf转换成word文字的好方法
  11. 如何在Mac上清理垃圾文件?
  12. 人类基因编辑国际峰会周琪院士谈基因编辑的未来
  13. 发现薪资被倒挂!跳槽还是等待?
  14. 数字化助力能源高效利用
  15. 使用二进制包在生产环境部署 Kubernetes v1.13.2 集群
  16. 基于Opencv-python人脸口罩检测(附完整代码)
  17. Fiddler抓包工具使用——学习笔记(一)
  18. XMOS 开发探索0- 新建工程,刷入程序
  19. php展厅播控系统,展厅智能中控系统解决方案
  20. 当爬虫工程师需要学习什么

热门文章

  1. 《闪耀暖暖》可增加“心之门”爆闪耀的方法?网友:巧合罢了
  2. Oracle任务调度的高级选项
  3. 远程桌面无法复制文本时解决办法
  4. SP2-0618: Cannot find the Session Identifier. Check PLUSTRACE role is enable
  5. 提高SQL查询效率(SQL优化)
  6. bootstrap禁用点击空白处关闭模态框
  7. 转:【图文教程】创建Xcode自定义模板
  8. java web中验证码的实现
  9. oracle中的cursor属性有哪些,Cursor语法及理解
  10. opencv计算物体姿态旋转_OpenCV轮廓检测,计算物体旋转角度