Rsync下行同步+inotify实时同步介绍和部署
Rsync下行同步+inotify实时同步介绍和部署
- 一、Rsync
- 1、Rsync同步源
- 2、Rsync服务器
- 3、同步方式
- 二、配置rsync源
- 三、rsync命令
- 四、配置源的两种表示方法
- 1、免交互格式
- 五、inotify简介
- 1、调整inotify内核参数(优化)
- 2、使用inotify-tools辅助工具
- 3、编写同步脚本
- 六、配置rsync下行同步
- 1、配置rsync源服务器
- 2、发起端配置
- 七、rsync+inotify实时同步
- 1、rsync源服务器
- 2、==发起端(192.168.172.20)==
- 3、验证
一、Rsync
- 支持本地复制,或者与其他SSH,rsync主机同步
1、Rsync同步源
- 指备份操作的远程服务器,也称为备份源
例:
A服务器同步B服务器的数据,B服务器就是备份源
反过来,B服务器同步A服务器的数据,那么A服务器就是备份源
2、Rsync服务器
- 1.Rsync是一款开源的、快速的、多功能的、可实现全量及增量的本地或远程数据同步备份的优秀工具。并且可以不进行改变原有数据的属性信息,实现数据的备份迁移特性。
- 2.Rsync软件适用于unix/linux/windows等多种操作系统平台。
- 3.Rsync是一个快速和非常通用的文件复制工具。它能本地复制,远程复制,或者远程守护进程方式复制。
它提供了大量的参数来
控制其行为的各个方面,并且允许非常灵活的方式来实现文件的传输复制。 - 4.以其delta-transfer算法闻名。rsync监听端口:873 rsync运行模式:c/s
3、同步方式
- 全量备份
所有数据全部传送
把原来的文件和新的文件一起统一传送全量复制,效率低 - 增量备份
在传输数据之前通过一些算法通过你有的数据和我有的数据进行对比,把不一样的数据通过网络传输增量复制,效率较高
二、配置rsync源
1、基本思路
- 建立rsyncd.conf配置文件、独立的账号文件
- 启用rsync的 --daemon模式
2、配置文件rsyncd.conf
- 认证配置auth users、secrets file,不加则为匿名
3、独立的账号文件
- 用户名:密码
- 每行一个用户记录
- 独立的账号数据,不依赖系统账号
4、启用rsync服务
- 通过 --daemon独自提供服务,rsync – daemon
- 执行kill $(cat /var/run/rsyncd.pid)关闭服务
三、rsync命令
#命令的用法
rsync [选项] 原始位置 目标位置#----------常用选项--------------------------
-r:递归模式,包含目录及子目录中的所有文件。
-l:对于符号链接文件仍然复制为符号链接文件。
-v:显示同步过程的详细(verbose)信息。
-z:在传输文件时进行压缩(compress)。
-a:归档模式,保留文件的权限、属性等信息,等同于组合选项“-rlptgoD”。
-p:保留文件的权限标记。
-t:保留文件的时间标记。
-g:保留文件的属组标记(仅超级用户使用)。
-o:保留文件的属主标记(仅超级用户使用)。
-H:保留硬连接文件。
-A:保留 ACL 属性信息。
-D:保留设备文件及其他特殊文件。
--delete:删除目标位置有而原始位置没有的文件,即删除差异文件,保留一致性。
--checksum:根据校验和(而不是文件大小、修改时间)来决定是否跳过文件。
--password-file=file:从file中得到密码,用于免交互处理,file文件的权限要是600
四、配置源的两种表示方法
格式一:
用户名@主机地址::共享模块名
格式二:
rsync://用户名@主机地址/共享模块名
1、免交互格式
echo "密码" > /etc/密码文件
chmod 600 /etc/密码文件#设置周期性任务
crontab -e
30 22 * * * /usr/bin/rsync -az --delete --password-file=/etc/密码文件 backuper@192.168.172.10::wwwroot /optsystemctl restart crond
systemctl enable crond
五、inotify简介
- 使用inotify通知接口,可以用来监控文件系统的各种变化情况,如文件存取、删除、移动、修改等。利用这一机制,可以非常方便地实现文件异动告警、增量备份,并针对目录或文件的变化及时作出响应。
- 将inotify机制与rsync工具相结合,可以实现触发式备份(实时同步),即只要原始位置的文档发生变化操作;否则处于静默等待状态。
- 因为inotify 通知机制由 Linux 内核提供,因此主要做本机监控,在触发式备份中应用时更适合上行同步。
1、调整inotify内核参数(优化)
- /etc/sysctl.conf(内核参数配置文件),需要配置
- max_queue_events :监控事件队列大小
- max_user_instances :最多监控实例
- max_user_watches :每个实例最多监控文件数
- 配置的监控数量应该大于监控目标的总文件数
2、使用inotify-tools辅助工具
- inotifywait:用于持续监控,实时输出结果
- 可监控modify(修改)、create(创建)、move(移动)、delete(删除)、attrib(属性更改)等各种事件,一有变动立即输出结果。
- inotifywatch:用于短期监控,任务完成后再输出结果
- 可用来收集文件系统变动情况,并在运行结束后输出汇总的变化情况。
例:
inotifywait -mrq -e modify,create,attrib,move,delete 文件或目录#---------参数解释------------
-m 持续进行监控
-r 递归监控所有子对象
-q 简化输出信息
-e 指定要监控哪些事件类型
modify 修改
create 创建
attrib 属性更改
move 移动
deletc 删除
3、编写同步脚本
编写思路:
(1)先设置两个变量:监控和执行备份
(2)使用while 、read持续获取监控结果
(3)根据结果判断,执行不同的操作
vim /opt/inotify_rsynx.sh
#!/bin/bash
#定义两个变量:监控文件,执行备份
INOTIFY_CMD="inotifywait -mrq -e modify,create,attrib,move,delete 需要监控的目录或文件"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/密码文件 刚才监控的目录或文件 用户名@主机地址::共享模块名"#while read获取监控结果
$INOTIFY_CMD | while read DIRECTORY EVENT FILE
do #如果rsync没有运行,执行rsync进行备份操作if [ $(pgrep rsync | wc -l) -eq 0 ] ; then$RSYNC_CMDfi
done
六、配置rsync下行同步
下行同步:将master服务器数据备份到slave服务器
inotify-tools-3.14.tar.gz
环境配置
主机 | 操作系统 | IP地址 | 安装包 |
---|---|---|---|
源端 | CentOS7 | 192.168.172.10 | rsync |
发送端 | CentOS7 | 192.168.172.20 | rsync / inotify-tools-3.14.tar.gz |
1、配置rsync源服务器
192.168.172.10
(1)关防火墙、安装相应的软件
systemctl stop firewalld.service
setenforce 0
#检查是否安装,一般系统已默认安装rsync
rpm -q rsync
yum -y install rsync
(2)建立/etc/rsyncd.conf 配置文件
vim /etc/rsyncd.conf
uid = root
gid = root
use chroot = yes
address = 192.168.172.10
port 873
log file = /var/log/rsyncd.log
pid file = /var/run/rsyncd.pid
hosts allow = 192.168.172.0/24
[wwwroot]
path = /var/www/html
comment = Document Root of www.test.com
read only = yes
dont comperss = *.gz *.bz2 *.tgz *.zip *.rar *.z
auth users = backuper
secrets file = /etc/rsyncd_users.db
#---------配置解释----------------------------------------------
uid = root
gid = root
use chroot = yes #禁锢在源目录
address = 192.168.172.10 #监听地址,监听本机地址
port 873 #监听端口 tcp/udp 873,可通过cat /etc/services | grep rsync查看
log file = /var/log/rsyncd.log #日志文件位置
pid file = /var/run/rsyncd.pid #存放进程 ID 的文件位置
hosts allow = 192.168.172.0/24 #允许同步的客户机网段
[wwwroot] #共享模块名称
path = /var/www/html #源目录的实际路径(同步的目录)
comment = Document Root of www.test.com
read only = yes #是否为只读
dont compress = *.gz *.bz2 *.tgz *.zip *.rar *.z #同步时不再压缩的文件类型
auth users = backuper #授权账户,多个账号以空格分隔
secrets file = /etc/rsyncd_users.db #存放账户信息的数据文件
vim /etc/rsyncd_users.db
backuper:35123512chmod 600 /etc/rsyncd_users.dbmkdir -p /var/www/html
chmod +r /var/www/html/rsync --daemon
netstat -natp | grep rsynccd /var/www/html
touch 1.html 2.html
ls
2、发起端配置
192.168.172.20
systemctl stop firewalld.service
setenforce 0yum -y install rsynccd /opt
mkdir abc
chmod 777 abc
vim /etc/server.pass
35123512chmod 600 /etc/server.pass rsync -az --delete --password-file=/etc/server.pass backuper@192.168.172.10::wwwroot /opt/abcls abc
- 企业中不可能手动执行,一般都要使用周期性任务
#设置周期性任务
crontab -e
0 2 * * * /usr/bin/rsync -az --delete --password-file=/etc/server.pass backuper@192.168.172.10::wwwroot /opt/abcsystemctl restart crond
systemctl enable crond
七、rsync+inotify实时同步
1、rsync源服务器
192.168.172.10
- 修改rsync源服务器配置文件
vim /etc/rsyncd.conf
read only = nokill `cat /var/run/rsyncd.pid`
netstat -natp | grep rsyncrsync --daemon
netstat -natp | grep rsyncchmod 777 /var/www/html
2、发起端(192.168.172.20)
(1)调整 inotify 内核参数
- max_queue_events(监控事件队列,默认值为16384)
- max_user_instances(最多监控实例数,默认值为128)
- max_user_watches(每个实例最多监控文件数,默认值为8192)
- 当要监控的目录、文件数量较多或者变化较频繁时,建议加大这三个参数的值。
cat /proc/sys/fs/inotify/max_queued_events
cat /proc/sys/fs/inotify/max_user_instances
cat /proc/sys/fs/inotify/max_user_watchesvim /etc/sysctl.conf
fs.inotify.max_queued_events = 17000
fs.inotify.max_user_instances = 1024
fs.inotify.max_user_watches = 1048576sysctl -p
(2)安装 inotify-tools
yum -y install gcc gcc-c++ make#放入安装包
tar zxvf inotify-tools-3.14.tar.gz -C /optcd /opt/inotify-tools-3.14/
./configure && make && make install
(3)编写触发式同步脚本
vim /opt/inotify_rsync.sh
#!/bin/bash
INOTIFY_CMD="inotifywait -mrq -e create,delete,move,modify,attrib /opt/abc/"
RSYNC_CMD="rsync -azH --delete --password-file=/etc/server.pass /opt/abc/ backuper@192.168.172.10::wwwroot"$INOTIFY_CMD | while read DIRECTORY EVENT FILE
doif [ $(pgrep rsync | wc -l) -le 0 ] ; then$RSYNC_CMDfi
donecd /opt/
chmod +x inotify_rsync.sh
. /opt/inotify_rsync.sh &#加入开机自动执行
chmod +x /etc/rc.d/rc.local
echo '/opt/inotify_rsync.sh' >> /etc/rc.d/rc.local
3、验证
192.168.172.20
192.168.172.10
Rsync下行同步+inotify实时同步介绍和部署相关推荐
- rsync同步+inotify实时同步
rsync下行同步+inotify实时同步部署 一.rsync简介 二.rsync同步源 三.配置rsync源 1.基本思路 2.配置文件rsyncd.conf 3.独立的账号文件 4.启用rsync ...
- rsync数据同步+inotify实时同步
rsync数据同步+inotify实时同步 一.rsync 1.rsync概述 2.rsync优缺点 3.rsync同步源 4.rsync命令 5.配置rsync 二,inotify实时同步 1.调整 ...
- rsync下行同步+inotify实时同步部署
目录 rsync简介 rsync同步方式 rsync特性 rsync与cp.scp对比 rsync同类服务 rsync源服务器的关系 配置rsync源 rsync命令 rsync本地复制实例 配置源的 ...
- rsync同步+inotify实时同步部署
目录 一.rsync简介 二.rsync同步源 三.配置rsync源 1.基本思路 2.rsync命令 3.配置源的两种表达方式 4.免交互格式 四.配置rsync远程同步 1.关防火墙.安装相应的软 ...
- Rsync 下行同步 + Inotify 实时同步详解
文章目录 一.rsync 同步简介 1. 关于 rsync 2. rsync 同步源(备份源) 二.配置 rsync 备份源 1. 关闭防火墙 2. 查看 rsync 是否已安装 3. 建立 /etc ...
- rsync同步操作 、 发布rsync共享 、 inotify实时同步 、 Split分离解析
虚拟机A 1. 将防火墙状态设置为trusted 2.SELinux当前修改为permissive 3.SELinux永久状态修改为permissive 4.清空Yum缓存,检 ...
- rsync同步操作 inotify实时同步 cobbler装机平台 DNS主从结构
目录 rsync同步操作 rsync基本使用 rsync+ssh同步:远程同步 实时同步 inotify实时同步 inotifywait监控 cobbler装机平台 cobbler简介 基本概念: 装 ...
- rsync下行同步与inotify实时同步
rsync下行同步与inotify实时同步 一.rsync工具 二.定时同步与实时同步 三.配置rsync源 四.rsync命令 五.配置源的两种表示方法 六.inotify 七.配置rsync下行同 ...
- rsync下行同步和inotify实时同步部署
rsync下行同步和inotify实时同步部署 一.rsync概述:一款快速增量备份工具 1.Remote Sync,远程同步 2.rsync同步源 二.配置rsync源 1.基本思路 2.配置文件r ...
最新文章
- 空空排错日志:OCS错误日志14501等解决办法
- 重磅!Nature子刊发布稳定学习观点论文:建立因果推理和机器学习的共识基础...
- 如何下载python软件-python如何下载
- Android——TabLayout 默认某个选项卡选中
- exe一机一码加密工具_文件夹加密软件有哪些作用?
- oracle 存储过程和包的权限
- centos7 网卡配置vlan_CentOS7网卡创建vlan步骤
- 疑似禁令影响开始显现:华为Mate 40量产或被迫推迟
- 现在实体店的生意越来越不好干
- Python数据结构与算法笔记(八):数据结构——树,二叉树和AVL树
- fpga多摩川编码器开源代码_F28379D之CLB解码多摩川编码器1——入手小知识(原创)...
- java jvm内存模型_Java(JVM)内存模型– Java中的内存管理
- thinkphp框架复习知识点
- 人啊,就要对自己狠一点!
- 像素px跟点pt大不同
- 适用于大规模数据排序(归并排序、快速排序)
- antd Card组件默认选中
- java模糊查询、自动补全的实现
- 语法糖(Syntax Sugar)Python
- 免费开源的建站程序大全,不会编程也可以自助搭建网站了哦
热门文章
- MySQL高级之explain详解
- 【专场福利Part2】从多维度出发 保障提升实时音视频质量
- 送技术、链资源、配资金……腾讯技术公益创投计划正式启动
- nginx-rtmp源码概述
- 分支管理---创建与合并分支
- 谷歌发布全新TensorFlow库“tf.Transform” 简化机器学习数据预处理过程
- servlet的线程安全性问题
- 每日两SQL(7),欢迎交流~
- 集群搭建:CentOS 7 模板机封装、配置静态 IP、简单优化
- leetcode 75. Sort Colors | 75. 颜色分类(荷兰国旗问题,快速排序)