ShuiBo'blog

人生若只如初见

嗨,我是水波 (@saber).


君以国士待我,我必国士报之。

centos7.0搭建rsync

一、rsync 简介

  Rsync(remote synchronize)是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件,也可以使用 Rsync 同步本地硬盘中的不同目录。

  Rsync 是用于取代rcp的一个工具,Rsync使用所谓的 “Rsync 算法” 来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而不是每次都整份传送,因此速度相当快。您可以参考 How Rsync Works A Practical Overview 进一步了解 rsync 的运作机制。

  Rsync支持大多数的类Unix系统,无论是Linux、Solaris还是BSD上都经过了良好的测试。此外,它在windows平台下也有相应的版本,比较知名的有cwRsync和Sync2NAS。

  Rsync 的初始作者是 Andrew Tridgell 和 Paul Mackerras,它当前由 http://rsync.samba.org维护。

  Rsync的基本特点如下:

  1. 可以镜像保存整个目录树和文件系统;

  2. 可以很容易做到保持原来文件的权限、时间、软硬链接等;

  3. 无须特殊权限即可安装;

  4. 优化的流程,文件传输效率高;

  5. 可以使用rcp、ssh等方式来传输文件,当然也可以通过直接的socket连接;

  6. 支持匿名传输,以方便进行网站镜像。

  在使用 rsync 进行远程同步时,可以使用两种方式:远程 Shell 方式(建议使用 ssh,用户验证由 ssh 负责)和 C/S 方式(即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责)。

  无论本地同步目录还是远程同步数据,首次运行时将会把全部文件拷贝一次,以后再运行时将只拷贝有变化的文件(对于新文件)或文件的变化部分(对于原有文件)。

  rsync 在首次复制时没有速度优势,速度不如 tar,因此当数据量很大时您可以考虑先使用 tar 进行首次复制,然后再使用 rsync 进行数据同步。

centos7.0没有安装xinetd,安装:

yum install xinetd;

在test3上以守护进程方式来启动rsync服务器

[root@test3 rsync-3.0.9]# rsync –daemon

这是会显示没有配置文件,不要紧后面慢慢介绍

Failed to parse config file: /etc/rsyncd.conf

rsync默认服务端口为873,服务器在该端口接收客户的匿名或者认证方式的备份请求。

如果想开机启动

/usr/local/rsync/bin/rsync –daemon 加到文件/etc/rc.d/rc.local中就可以 了

如果你的系统之中安装了xinetd,那么还需要在xinetd中进行配置

配置rsync servervi /etc/xinetd.d/rsync

将disable=yes改为no
service rsync { disable = no socket_type = stream

   wait            = no        

   user            = root
   server          = /usr/bin/rsync        

   server_args     = --daemon        

   log_on_failure  += USERID  }

4.4. 配置文件 rsyncd.conf

两种 rsync 服务运行方式都需要配置 rsyncd.conf,其格式类似于 samba 的主配置文件。 配置文件 rsyncd.conf 默认在 /etc 目录下。为了将所有与 rsync 服务相关的文件放在单独的目录下,可以执行如下命令:

mkdir /etc/rsyncd

touch /etc/rsyncd/rsyncd.conf

ln -s /etc/rsyncd/rsyncd.conf /etc/rsyncd.conf

配置文件 rsyncd.conf 由全局配置和若干模块配置组成。配置文件的语法为:

模块以 [模块名] 开始 参数配置行的格式是 name = value ,其中 value 可以有两种数据类型: 字符串(可以不用引号定界字符串) 布尔值(1/0 或 yes/no 或 true/false) 以 # 或 ; 开始的行为注释 \ 为续行符 全局参数

在文件中 [module] 之外的所有配置行都是全局参数。当然也可以在全局参数部分定义模块参数,这时该参数的值就是所有模块的默认值。

参数 说明 默认值 address 在独立运行时,用于指定的服务器运行的 IP 地址。由 xinetd 运行时将忽略此参数,使用命令行上的 –address 选项替代。 本地所有IP port 指定 rsync 守护进程监听的端口号。 由 xinetd 运行时将忽略此参数,使用命令行上的–port 选项替代。 873 motd file 指定一个消息文件,当客户连接服务器时该文件的内容显示给客户。 无 pid file rsync 的守护进程将其 PID 写入指定的文件。 无 log file 指定 rsync 守护进程的日志文件,而不将日志发送给 syslog。 无 syslog facility 指定 rsync 发送日志消息给 syslog 时的消息级别。 daemon socket options 指定自定义 TCP 选项。 无 模块参数

模块参数主要用于定义 rsync 服务器哪个目录要被同步。模块声明的格式必须为 [module] 形式,这个名字就是在 rsync 客户端看到的名字,类似于 Samba 服务器提供的共享名。而服务器真正同步的数据是通过 path 来指定的。可以根据自己的需要,来指定多个模块,模块中可以定义以下参数:

a. 基本模块参数

参数 说明 默认值 path 指定当前模块在 rsync 服务器上的同步路径,该参数是必须指定的。 无 comment 给模块指定一个描述,该描述连同模块名在客户连接得到模块列表时显示给客户。 无 b. 模块控制参数

参数 说明 默认值 use chroot 若为 true,则 rsync 在传输文件之前首先 chroot 到 path 参数所指定的目录下。这样做的原因是实现额外的安全防护,但是缺点是需要 root 权限,并且不能备份指向 path 外部的符号连接所指向的目录文件。 true uid 指定该模块以指定的 UID 传输文件。 nobody gid 指定该模块以指定的 GID 传输文件。 nobody max connections 指定该模块的最大并发连接数量以保护服务器,超过限制的连接请求将被告知随后再试。 0(没有限制) lock file 指定支持 max connections 参数的锁文件。 /var/run/rsyncd.lock list 指定当客户请求列出可以使用的模块列表时,该模块是否应该被列出。如果设置该选项为 false,可以创建隐藏的模块。 true read only 指定是否允许客户上传文件。若为 true 则不允许上传;若为 false 并且服务器目录也具有读写权限则允许上传。 true write only 指定是否允许客户下载文件。若为 true 则不允许下载;若为 false 并且服务器目录也具有读权限则允许下载。 false ignore errors 指定在 rsync 服务器上运行 delete 操作时是否忽略 I/O 错误。一般来说 rsync 在出现 I/O 错误时将将跳过 –delete 操作,以防止因为暂时的资源不足或其它 I/O 错误导致的严重问题。 true ignore nonreadable 指定 rysnc 服务器完全忽略那些用户没有访问权限的文件。这对于在需要备份的目录中有些不应该被备份者获得的文件时是有意义的。 false timeout 该选项可以覆盖客户指定的 IP 超时时间。从而确保 rsync 服务器不会永远等待一个崩溃的客户端。对于匿名 rsync 服务器来说,理想的数字是 600(单位为秒)。 0 (未限制) dont compress 用来指定那些在传输之前不进行压缩处理的文件。该选项可以定义一些不允许客户对该模块使用的命令选项列表。必须使用选项全名,而不能是简称。当发生拒绝某个选项的情况时,服务器将报告错误信息然后退出。例如,要防止使用压缩,应该是:”dont compress = *”。 *.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz c. 模块文件筛选参数

参数 说明 默认值 exclude 指定多个由空格隔开的多个文件或目录(相对路径),并将其添加到 exclude 列表中。这等同于在客户端命令中使用 –exclude 来指定模式。 空 exclude from 指定一个包含 exclude 规则定义的文件名,服务器从该文件中读取 exclude 列表定义。 空 include 指定多个由空格隔开的多个文件或目录(相对路径),并将其添加到 include 列表中。这等同于在客户端命令中使用 –include 来指定模式 。 空 include from 指定一个包含 include 规则定义的文件名,服务器从该文件中读取 include 列表定义。 空 一个模块只能指定一个exclude 参数、一个include 参数。 结合 include 和 exclude 可以定义复杂的exclude/include 规则 。 这几个参数分别与相应的rsync 客户命令选项等价,唯一不同的是它们作用在服务器端。 关于如何书写规则文件的内容请参考http://www.howtocn.org/rsync:use_rsync。 d. 模块用户认证参数

参数 说明 默认值 auth users 指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。这里的用户和系统用户没有任何关系。用户名和口令以明文方式存放在 secrets file 参数指定的文件中。 (匿名方式) secrets file 指定一个 rsync 认证口令文件。只有在 auth users 被定义时,该文件才起作用。 空 strict modes 指定是否监测口令文件的权限。若为 true 则口令文件只能被 rsync 服务器运行身份的用户访问,其他任何用户不可以访问该文件。 true rsync 认证口令文件的权限一定是 600,否则客户端将不能连接服务器。 rsync 认证口令文件中每一行指定一个 用户名:口令 对,格式为:     username:passwd

一般来说口令最好不要超过8个字符。若您只配置匿名访问的 rsync 服务器,则无需设置上述参数。 e. 模块访问控制参数

参数 说明 默认值 hosts allow 用一个主机列表指定哪些主机客户允许连接该模块。不匹配主机列表的主机将被拒绝。 * hosts deny 用一个主机列表指定哪些主机客户不允许连接该模块。 空 客户主机列表定义可以是以下形式:

单个IP地址。例如:192.168.0.1 整个网段。例如:192.168.0.0/24,192.168.0.0/255.255.255.0 可解析的单个主机名。例如:centos,centos.bsmart.cn 域内的所有主机。例如:.bsmart.cn “”则表示所有。 多个列表项要用空格间隔。 f. 模块日志参数

参数 说明 默认值 transfer logging 使 rsync 服务器将传输操作记录到传输日志文件。 false log format 指定传输日志文件的字段。 ”%o %h [%a] %m (%u) %f %l” 设置了”log file”参数时,在日志每行的开始会添加”%t [%p]“。

可以使用的日志格式定义符如下所示: %a - 远程IP地址 %h - 远程主机名 %l - 文件长度字符数 %p - 该次 rsync 会话的 PID %o - 操作类型:”send” 或 “recv” %f - 文件名 %P - 模块路径 %m - 模块名 %t - 当前时间 %u - 认证的用户名(匿名时是 null) %b - 实际传输的字节数 %c - 当发送文件时,记录该文件的校验码 五、rsync 服务器应用案例

5.1. 在服务器端TS-DEV上配置rsync 服务

a. 编辑配置文件

vi /etc/rsyncd/rsyncd.conf

复制代码

Minimal configuration file for rsync daemon

See rsync(1) and rsyncd.conf(5) man pages for help

This line is required by the /etc/init.d/rsyncd script

GLOBAL OPTIONS

uid = root
gid = root

use chroot = no

read only = yes

#limit access to private LANs hosts allow=172.16.0.0/255.255.0.0 192.168.1.0/255.255.255.0 10.0.1.0/255.255.255.0 hosts deny=*
max connections = 5

pid file = /var/run/rsyncd.pid

secrets file = /etc/rsyncd/rsyncd.secrets
#lock file = /var/run/rsync.lock

motd file = /etc/rsyncd/rsyncd.motd

#This will give you a separate log file log file = /var/log/rsync.log

#This will log every file transferred - up to 85,000+ per user, per sync transfer logging = yes

log format = %t %a %m %f %b syslog facility = local3 timeout = 300

MODULE OPTIONS

[davidhome]
path = /home/david/
list=yes
ignore errors
auth users = david
comment = David home
exclude = important/

[chinatmp] path = /tmp/china/ list=no ignore errors auth users = china comment = tmp_china 复制代码 b. 建立/etc/rsyncd/rsyncd.secrets文件

vim /etc/rsyncd/rsyncd.secrets

david:asdf #格式 用户名:口令 china:jk #该用户不要求是系统用户

c. 为了密码的安全性,我们把权限设为600

chown root:root /etc/rsyncd/rsyncd.secrets

chmod 600 /etc/rsyncd/rsyncd.secrets

d. 建立连接到服务器的客户端看到的欢迎信息文件/etc/rsyncd/rsyncd.motd

vim /etc/rsyncd/rsyncd.motd

+++++++++++++++++++++++++++

  • David Camp + +++++++++++++++++++++++++++

e. 启动rsync

/etc/init.d/xinetd restart

f. 查看873端口是否起来

netstat -an | grep 873

如果rsync启动成功的话可以看到873端口已经在监听了。

http://pic002.cnblogs.com/images/2012/370046/2012121215562198.jpg 5.2. 客户端配置

a. 客户端安装rsync

yum -y install rsync

b. 通过rsync客户端来同步数据

场景一:

rsync -avzP david@172.16.1.135::davidhome /tmp/david/

http://pic002.cnblogs.com/images/2012/370046/2012121216381143.jpg

Password: 这里要输入david的密码,是服务器端提供的,在前面的例子中,我们用的是 asdf,输入的密码并不显示出来;输好后就回车; 注: 这个命令的意思就是说,用david 用户登录到服务器上,把davidhome数据,同步到本地目录/tmp/david/上。当然本地的目录是可以你自己定义的,比如 dave也是可以的;当你在客户端上,当前操作的目录下没有davidhome这个目录时,系统会自动为你创建一个;当存在davidhome这个目录中,你要注意它的写权限。

说明: -a 参数,相当于-rlptgoD,-r 是递归 -l 是链接文件,意思是拷贝链接文件;-p 表示保持文件原有权限;-t 保持文件原有时间;-g 保持文件原有用户组;-o 保持文件原有属主;-D 相当于块设备文件; -z 传输时压缩; -P 传输进度; -v 传输时的进度等信息,和-P有点关系,自己试试。可以看文档;

场景二:

rsync -avzP –delete david@172.16.1.135::davidhome /tmp/david/

http://pic002.cnblogs.com/images/2012/370046/2012121216402248.jpg

这回我们引入一个 –delete 选项,表示客户端上的数据要与服务器端完全一致,如果 /tmp/david/目录中有服务器上不存在的文件,则删除。最终目的是让/tmp/david/目录上的数据完全与服务器上保持一致;用的时候要小心点,最好不要把已经有重要数所据的目录,当做本地更新目录,否则会把你的数据全部删除;

场景三:

rsync -avzP –delete –password-file=/tmp/rsync.password david@172.16.1.135::davidhome /tmp/david/

http://pic002.cnblogs.com/images/2012/370046/2012121216505679.jpg

这次我们加了一个选项 –password-file=rsync.password ,这时当我们以david用户登录rsync服务器同步数据时,密码将读取 /tmp/rsync.password 这个文件。这个文件内容只是david用户的密码。我们要如下做;

touch /tmp/rsync.password

chmod 600 /tmp/rsync.password

echo “asdf”> /tmp/rsync.password

rsync -avzP –delete –password-file=/tmp/rsync.password david@172.16.1.135::davidhome /tmp/david/

注: 这样就不需要密码了;其实这是比较重要的,因为服务器通过crond 计划任务还是有必要的; rsync: read error: Connection reset by peer解决办法:

ln -s /etc/rsyncd/rsyncd.conf /etc/rsyncd.conf

没加 5.3. rsync 客户端自动与服务器同步数据

编辑crontab

crontab -e

加入如下代码:

10 0 * * * rsync -avzP –delete –password-file=/tmp/rsync.password david@172.16.1.135::davidhome /tmp/david/ 表示每天0点10分执行后面的命令。

最近的文章

linux命令

今天发现服务器上Tomcat 8080端口起不来,老提示端口已经被占用。使用命令: ps -aux grep tomcat 发现并没有8080端口的Tomcat进程。使用命令:netstat –apn方法二:直接使用 netstat -anp | grep portno即:netstat –apn | grep 8080查看所有的进程和端口使用情况。发现下面的进程列表,其中最后一栏是PID/Program name ps 命令用于查...…

继续阅读
更早的文章

linux开机自启

一、/etc/rc.local这是一个最简单的方法,编辑“/etc/rc.local”,把启动程序的shell命令输入进去即可(要输入命令的全路径),类似于windows下的“启动”。使用命令 vi /etc/rc.local然后在文件最后一行添加要执行程序的全路径。例如,每次开机时要执行一个haha.sh,这个脚本放在/opt下面,那就可以在“/etc/rc.local”中加一行“/opt/./haha.sh”,或者两行“cd /opt”和“./haha.sh”。二、crontab(类...…

继续阅读