超时用集群脚本ync.sh、xcall.sh
# 节点分发脚本,将某一台节点上的数据,分发到集群中每一个节点中的同样的路径
# 节点分发脚本,将某一台节点上的数据,分发到集群中每一个节点中的同样的路径
#!/bin/bash
# 1 get the number of input parameters, if there i no parameter, quit directlypcount=$#
if((pcount==0)); then
echo no args;
exit;
fi# 2 get the file namep1=$1
fname=`basename $p1`
echo fname=$fname# 3 get the upper directory to the absolute pathpdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir# 4 get the current user nameuser=`whoami`# 5 cycle
for((host=1; host<4; host++)); do#echo $pdir/$fname $user@hadoop$host:$pdirecho ---------- spark$host -----------rsync -rvl $pdir/$fname $user@spark$host:$pdir
done
脚本使用示例:/root/ync.sh /usr/local/users.txt
可能会报错:./ync.sh: line 29: rsync: command not found
报错解决:需要要集群中的每一台节点上都安装rsync,安装指令yum install rsync -y
# 节点调用脚本,即每个节点都执行同样的指令
# 节点调用脚本,即每个节点都执行同样的指令
#!/bin/bash
pcount=$#
if((pcount==0));thentput setaf 1tput boldecho no args;tput setaf 7exit;
fiparams=$@for ((host=1; host<=3; host++)); dotput setaf 2echo =========================== spark$host ====================tput setaf 7ssh spark$host $@
# ssh -4 spark$host "source /etc/profile; $params"
done
使用示例:/root/xcall.sh ls /usr/local/
以上就是两个超级实用的脚本工具,供大家参考!
文章最后,给大家推荐一些受欢迎的技术博客链接:
- Hadoop相关技术博客链接
- Spark 核心技术链接
- JAVA相关的深度技术博客链接
- 超全干货--Flink思维导图,花了3周左右编写、校对
- 深入JAVA 的JVM核心原理解决线上各种故障【附案例】
- 请谈谈你对volatile的理解?--最近小李子与面试官的一场“硬核较量”
- 聊聊RPC通信,经常被问到的一道面试题。源码+笔记,包懂
欢迎扫描下方的二维码或 搜索 公众号“10点进修”,我们会有更多、且及时的资料推送给您,欢迎多多交流!
超时用集群脚本ync.sh、xcall.sh相关推荐
- redis伪集群脚本
1 #安装redis伪集群脚本,先把redis-4.0.9.tar.gz redis-3.2.2.gem及启动脚本放在/data1/redis-cluster目录下,然后执行该脚本即可 2 #!/bi ...
- 用集群脚本功能安装大象医生优化你的大数据作业
dr-elephant是linkedin开源的大数据作业诊断优化工具,可以读取作业的日志信息,给出可视化的问题诊断和优化建议. 本文介绍如何在emr集群上安装大象医生,并提供一个优化hive参数的完整 ...
- rancher 一键安装集群脚本
rancher 一键安装集群脚本 注意:操作系统任意如果是centos8需要更换yum源 cd /etc/yum.repos.d/sed -i 's/mirrorlist/#mirrorlist/g' ...
- kafka集群脚本启动失败,在kafkaServer.out中提示nohup: failed to run command `java’: No such file or directory
问题描述: 今天在使用shell脚本启动集群时,发现无法启动集群,在logs目录下只有一个kafkaServer.out文件,其中内容为:nohup: failed to run command `j ...
- 一键部署ETCD集群脚本
#!/bin/bash set -x set -e#更改这里的IP, 只支持部署3个节点etcd集群 declare -A NODE_MAP=(["etcd0"]="19 ...
- greenplum查询超时_greenplum 集群故障(Sorry,too many clients already )排查:
1:所有业务调度任务执行失败: 2:手动测试无法连接数据库: 3:并没有收到集群的异常告警: 处理步骤: 1:首先登陆 gpcc 查看集群状态: 发现所有greenplum 节点及服务都正常,但是屏幕 ...
- inux下服务器心跳集群脚本
linux的优势我想大家都知道,就是作为服务器,它非常高效稳定.然后对于一些24*7的服务器系统来说,即使系统非常稳定,也不能保证服务器时时刻刻都在运行,比如断电,服务进程异常停止,受到攻击崩溃点情况 ...
- 基于容器的ETCD集群脚本
其实是从上一篇的脚本里剥离出来的. 加深一下印象吧. docker run \-d \-p ${ETCD_CLI_PORT}:${ETCD_CLI_PORT} \-p ${ETCD_CLU_PORT} ...
- kubeconfig配置多集群并切换集群 脚本示例
#!/bin/bashecho " 参考blog https://blog.csdn.net/u013360850/article/details/83315188 https://www. ...
最新文章
- 你的登录接口真的安全吗?快看看你有没有中招!
- Angular之组件的创建
- Java多线程实现异步调用
- 创造性模式——原型模式
- 苏宁大数据怎么运营_18个“硬核”数据告诉你,苏宁大数据如何火力全开护航618!...
- boost学习之命令行参数解析库program_options
- Java NPOIFSFileSystem.getRoot方法代碼示例
- 在线英文字符串大写转小写,小写转大写工具
- 关于I/O的一些脚本
- linux bash 逻辑,Bash 中的逻辑和() | Linux 中国
- 2013年c语言课后作业答案,大一C语言课后习题答案.doc
- 密度聚类DBSCAN的matlab代码
- jquery版本过低安全漏洞问题
- 清理电脑里的流氓软件/插件/弹窗
- 论文阅读220403_Autonomous Driving on Curvy Roads Without Reliance on Frenet Frame: A Cartesian-Based
- ipad下载python_ipad python
- python xlwt库的详细函数介绍,xlwt
- NorthWind基本数据库添加问题
- 自然辩证法小论文选题_★自然辩证法论文题目_自然辩证法毕业论文题目大全_自然辩证法论文选题参考...
- 华为21级程序员月薪27万,你怎么看?