轻量级持久存储系统 MemcacheDB
轻量级持久存储系统 MemcacheDB(转载)
(2010-10-18 13:18:07)
![](http://simg.sinajs.cn/blog7style/images/common/sg_trans.gif)
标签:
代码复制默认守护进程主从it |
注:memcached可能简称mc,memcachedb可能简称mcdb
一、memcachedb是什么
mcdb是一款分布式键值持久存储系统,由新浪开源。mcdb基于mc协议,所以可以使用mc客户端直接使用,存储引擎方面使用BerkeleyDB,支持主从复制模式。
二、memcachedb的应用场景
首先,我们从基本的数据存储的角度看mysql、memcached、memcachedb的区别和特点,当然它们肯定不只这点区别。
mc因为是非持久存储的,所以它的定位就是缓存。
而mcdb不是用来做缓存的,它是和mysql同个层次的东西。不一样的是,mcdb性能要比mysql高,而mysql检索功能比mcdb强。如果非要从缓存的角度看的话,那mc就是缓解mysql读压力,而mcdb则是缓解mysql写压力。
mcdb适合应用的场景:
1.浏览/点击/等统计,也可以局部代替mysql的count函数
2.标志,例如,JE的“我在干什么”功能
3.频繁写的地方,访客列表、评论之类的
之前,我写过的feed设计最大特点是使用mcdb来分散写压力,对sns来说动态产生太频繁了,全部写进mysql压力太大了,毕竟读/写1K和100K性能不是一样的,一台mcdb和一台mysql的成本不一样啊。。
虽然mcdb的方式比较简单,但是应用场合还是很丰富的,使用新产品要发散思维,充分发挥想象力~
不过重要的数据还是不建议使用,感觉还不是很放心。
三、安装
安装MemcacheDB之前需要安装Libevent和Berkeley Db
1.先安装libevent
下载地址: http://www.monkey.org/~provos/libevent/
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- tar zxvf libevent-1.4.9-stable.tar.gz
- cd libevent-1.4.9-stable
- ./configure
- make
- make install
tar zxvf libevent-1.4.9-stable.tar.gz cd libevent-1.4.9-stable ./configure make make install
2.安装Berkeley Db
下载地址:http://www.oracle.com/technology/software/products/berkeley-db/index.html
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- tar xvzf db-4.7.25.tar.gz
- cd db-4.7.25/
- cd build_unix/
- ../dist/configure
- make
- make install
tar xvzf db-4.7.25.tar.gz cd db-4.7.25/ cd build_unix/ ../dist/configure make make install
安装完后,编辑/etc/ld.so.conf把
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- usr/local/lib
- /usr/local/BerkeleyDB.4.7/lib
usr/local/lib /usr/local/BerkeleyDB.4.7/lib
3.安装memcachedb
下载地址:http://code.google.com/p/memcachedb/downloads/list
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- tar xvzf memcachedb-1.2.0.tar.gz
- cd memcachedb-X.Y.Z
- ./configure --enable-threads
- make
- make install
tar xvzf memcachedb-1.2.0.tar.gz cd memcachedb-X.Y.Z ./configure --enable-threads make make install
4.创建数据保存点
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- mkdir /data/21201 -p
- chown -R willko:wheel
mkdir /data/21201 -p chown -R willko:wheel
四、使用
1.单机模式
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- memcachedb -u willko -p 21201 -d -r -H /data/21201/ -v >/data/21201.log 2>&1
memcachedb -u willko -p 21201 -d -r -H /data/21201/ -v >/data/21201.log 2>&1
2.主从模式
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- memcachedb -p 21210 -d -r -u willko -H /data/21210_m -N -R 127.0.0.1:31210 -M
- 主服务器,用31210来同步数据
- memcachedb -p 21211 -d -r -u willko -H /data/21211_from_local_21210 -N -R 127.0.0.1:31211 -O 127.0.0.1:31210 -S
- 从服务器,主从模式-R是必须设置的。
memcachedb -p 21210 -d -r -u willko -H /data/21210_m -N -R 127.0.0.1:31210 -M 主服务器,用31210来同步数据 memcachedb -p 21211 -d -r -u willko -H /data/21211_from_local_21210 -N -R 127.0.0.1:31211 -O 127.0.0.1:31210 -S 从服务器,主从模式-R是必须设置的。
测试是否同步
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- [root@srv willko]# telnet 127.0.0.1 21210
- Trying 127.0.0.1...
- Connected to 127.0.0.1.
- Escape character is '^]'.
- set yy 0 0 4
- yyyy
- STORED
- get yy
- VALUE yy 0 4
- yyyy
- END
[root@srv willko]# telnet 127.0.0.1 21210 Trying 127.0.0.1... Connected to 127.0.0.1. Escape character is '^]'. set yy 0 0 4 yyyy STORED get yy VALUE yy 0 4 yyyy END
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- [root@srv willko]# telnet 127.0.0.1 21211
- Trying 127.0.0.1...
- Connected to 127.0.0.1.
- Escape character is '^]'.
- get yy
- VALUE yy 0 4
- yyyy
- END
[root@srv willko]# telnet 127.0.0.1 21211 Trying 127.0.0.1... Connected to 127.0.0.1. Escape character is '^]'. get yy VALUE yy 0 4 yyyy END
3.FYI:参数说明
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- memcachedb 1.2.0
- -p <num> TCP监听端口,默认是 21201
- -U <num> UDP监听端口,默认是 0,也就是关闭。
- -s <file> 使用socket通讯,参数是设置unix socket的路径,此通讯方式只能本地使用
- -a <mask> unix socket文件的权限,默认是 0700
- -l <ip_addr> 监听地址,默认是 INDRR_ANY
- -d 以守护进程方式运行
- -r maximize core file limit
- -u <username> 以<username>启动,只有root才能使用,因为memcachedb不允许以root启动
- -c <num> max simultaneous connections, default is 1024
- -b <num> item size smaller than <num> will use fast memory alloc, default is 512B
- -v 打印错误和警告信息
- -vv 打印整个交互过程
- -h print this help and exit
- -i print license info
- -P <file> 进程PID保存路径,只能在守护进程方式下使用
- -t <num> 线程数,默认是4
- --------------------BerkeleyDB Options-------------------------------
- -m <num> in-memmory cache size of BerkeleyDB in megabytes, default is 64MB
- -A <num> underlying page size in bytes, default is 4096, (512B ~ 64KB, power-of-two)
- -f <file> 数据文件名, 默认是 'data.db'
- -H <dir> 数据保存目录,默认是 '/data1/memcachedb'
- -B <db_type> 数据结构类型,有 'btree' 和 'hash'两种. 默认是 'btree'
- -L <num> log buffer size in kbytes, default is 32KB
- -C <num> 每隔多少秒checkpoint, 设置为0将实时写入硬盘, 默认是5分钟
- -T <num> do memp_trickle every <num> seconds, 0 for disable, default is 30 seconds
- -e <num> percent of the pages in the cache that should be clean, default is 60%
- -D <num> do deadlock detecting every <num> millisecond, 0 for disable, default is 100ms
- -N 设置 DB_TXN_NOSYNC 标志来改善性能,但是牺牲事务的持久性。默认为 关闭
- --------------------Replication Options-------------------------------
- -R 主服务器提供同步数据的地址和端口,主从模式必须设置
- -O 从服务器同步源地址和端口
- -M/-S 以主或从服务器启动
- -n 允许从服务器数量, 默认是2台
- -----------------------------------------------------------------------
memcachedb 1.2.0 -p <num> TCP监听端口,默认是 21201 -U <num> UDP监听端口,默认是 0,也就是关闭。 -s <file> 使用socket通讯,参数是设置unix socket的路径,此通讯方式只能本地使用 -a <mask> unix socket文件的权限,默认是 0700 -l <ip_addr> 监听地址,默认是 INDRR_ANY -d 以守护进程方式运行 -r maximize core file limit -u <username> 以<username>启动,只有root才能使用,因为memcachedb不允许以root启动 -c <num> max simultaneous connections, default is 1024 -b <num> item size smaller than <num> will use fast memory alloc, default is 512B -v 打印错误和警告信息 -vv 打印整个交互过程 -h print this help and exit -i print license info -P <file> 进程PID保存路径,只能在守护进程方式下使用 -t <num> 线程数,默认是4 --------------------BerkeleyDB Options------------------------------- -m <num> in-memmory cache size of BerkeleyDB in megabytes, default is 64MB -A <num> underlying page size in bytes, default is 4096, (512B ~ 64KB, power-of-two) -f <file> 数据文件名, 默认是 'data.db' -H <dir> 数据保存目录,默认是 '/data1/memcachedb' -B <db_type> 数据结构类型,有 'btree' 和 'hash'两种. 默认是 'btree' -L <num> log buffer size in kbytes, default is 32KB -C <num> 每隔多少秒checkpoint, 设置为0将实时写入硬盘, 默认是5分钟 -T <num> do memp_trickle every <num> seconds, 0 for disable, default is 30 seconds -e <num> percent of the pages in the cache that should be clean, default is 60% -D <num> do deadlock detecting every <num> millisecond, 0 for disable, default is 100ms -N 设置 DB_TXN_NOSYNC 标志来改善性能,但是牺牲事务的持久性。默认为 关闭 --------------------Replication Options------------------------------- -R 主服务器提供同步数据的地址和端口,主从模式必须设置 -O 从服务器同步源地址和端口 -M/-S 以主或从服务器启动 -n 允许从服务器数量, 默认是2台 -----------------------------------------------------------------------
关于-C和-N选项涉及到数据完整性,会在下面会说明一下
五、备份和恢复
1.热备份
因为memcachedb是基于bdb的,所以可以用bdb自带的热备份工具备份
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- [root@srv willko]# /usr/local/BerkeleyDB.4.7/bin/db_hotbackup -h /data/21201/ -b ./bak/
- -h是数据的目录
- -b是备份的目录
[root@srv willko]# /usr/local/BerkeleyDB.4.7/bin/db_hotbackup -h /data/21201/ -b ./bak/ -h是数据的目录 -b是备份的目录
恢复的话,启动memcacedb的数据目录设置成备份目录就可以了
2.单机模式crash恢复
bdb的事务处理和很多事物引擎相似,都是先写日志,数据先保存在内存。所以crash以后,可以通过日志来恢复。启动memcachedb的时候,可以使用-C选项来设置checkpoint的间隔时间,如果设置得太长,恢复时间越长。
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- /usr/local/BerkeleyDB.4.7/bin/db_recover -cf -h /data/21201/
- -h是你的数据目录
/usr/local/BerkeleyDB.4.7/bin/db_recover -cf -h /data/21201/ -h是你的数据目录
模拟crash
![](http://image9.360doc.com/DownloadImg/2010/04/1910/2916194_2.gif)
- [root@srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/21201/ -v >/data/21201.log 2>&1 -P /data/21201/21201.pid
- [root@srv willko]# telnet localhost 21201
- Trying 127.0.0.1...
- Connected to localhost.
- Escape character is '^]'.
- set t 0 0 4
- hhhh #设置键为t,值为hhhh的
- STORED
- get t
- VALUE t 0 4
- hhhh
- END
- quit
- Connection closed by foreign host.
- [root@srv willko]# kill -9 `cat /data/21201/21201.pid ` #用-9来模拟crash
- [root@srv willko]# /usr/local/BerkeleyDB.4.7/bin/db_recover -cf -h /data/21201/
- recovery 100% complete
- [root@srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/21201/ -v >/data/21201.log 2>&1 -P /data/21201/21201.pid
- [root@srv willko]# telnet localhost 21201
- Trying 127.0.0.1...
- Connected to localhost.
- Escape character is '^]'.
- get t
- VALUE t 0 4
- hhhh #还可以获得crash前设置的值
- END
- quit
- Connection closed by foreign host.
- [root@srv willko]#
[root@srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/21201/ -v >/data/21201.log 2>&1 -P /data/21201/21201.pid [root@srv willko]# telnet localhost 21201 Trying 127.0.0.1... Connected to localhost. Escape character is '^]'. set t 0 0 4 hhhh #设置键为t,值为hhhh的 STORED get t VALUE t 0 4 hhhh END quit Connection closed by foreign host. [root@srv willko]# kill -9 `cat /data/21201/21201.pid ` #用-9来模拟crash [root@srv willko]# /usr/local/BerkeleyDB.4.7/bin/db_recover -cf -h /data/21201/ recovery 100% complete [root@srv willko]# memcachedb -u willko -p 21201 -d -r -H /data/21201/ -v >/data/21201.log 2>&1 -P /data/21201/21201.pid [root@srv willko]# telnet localhost 21201 Trying 127.0.0.1... Connected to localhost. Escape character is '^]'. get t VALUE t 0 4 hhhh #还可以获得crash前设置的值 END quit Connection closed by foreign host. [root@srv willko]#
3.主从模式的crash恢复
主从模式下可以考虑启用-N选项来提高性能,如果不是用-N,日志是实时写到硬盘,这也是为什么crash以后可以通过日志恢复的原因。
但是如果使用-N来提高性能是有代价的,也就是日志不实时写硬盘,那crash以后无法保证完全恢复,没写入硬盘的数据无法通过日志恢复。但是如果你做了主从模式,那就无需担心,因为当事务提交以后,会马上同步到slave。
也就是说使用-N选项后,crash后通过slave来恢复。
转载于:https://www.cnblogs.com/java20130722/p/3207047.html
轻量级持久存储系统 MemcacheDB相关推荐
- 轻量级持久层V2版本代码与模板
首页列表上好像不能下载,要下载文件请进来下. 上篇帖<轻量级持久层的讨论>中大家踊跃的提出各种意见,让我得到不少灵感,这些新的想法将会应用到下一个版本的开发中,我先得试试可 ...
- 补充轻量级持久层V2版本的测试页面模板与实体类模板
前天做完忘记备份,所以昨天没有发上来,文件下载请到<轻量级持久层框架V2版本代码与模板> 需要说明下,测试页面的代码模板不是直接生成就可以用的,需要在我注释掉代码的部分添加自己的测试数据, ...
- Memcache持久性分布式数据MemcacheDB
转载自:http://blog.csdn.net/zhu_tianwei/article/details/44860129 Memcachedb 是新浪网基于Memcached(源代码是基于Memca ...
- 轻量级J2EE持久层解决方案,MiniDao-PE版 1.5.4【版本发布】
MiniDao-PE精简版(轻量级持久层) MiniDao-PE是一种轻量级J2EE持久层解决方案,类似mybatis持久层的SQL方式,可以轻松集成Hibernate项目,事务统一管理,解决了Hib ...
- MiniDao (轻量级JAVA持久层,Hibernate完美助手)
MiniDao (轻量级JAVA持久层,Hibernate完美助手) 当前最新版本: 1.6.4 (发布日期:20180604) MiniDao产生的初衷? 采用Hibernate的J2EE项目都有一 ...
- 支撑微博千亿调用的轻量级RPC框架:Motan
随着微博容器化部署以及混合云平台的高速发展,RPC 在微服务化的进程中越来越重要,对 RPC 的需求也产生了一些变化.今天主要介绍一下微博 RPC 框架 Motan,以及为了更好的适应混合云部署所做的 ...
- MiniDao_1.6.4 版本发布,轻量级Java持久化框架,Hibernate项目辅助利器
MiniDao 简介及特征 MiniDao 是一款超轻量的JAVA持久层框架,具备Mybatis一样的SQL能力: 支持SQL分离.支持标签.支持注解.MiniDao产生的初衷是为了解决Hiberna ...
- 轻量级Java持久化框架,Hibernate完美助手,Minidao 1.6.2版本发布
Minidao 1.6.2 版本发布,轻量级Java持久化框架(Hibernate完美助手) Minidao产生初衷? 采用Hibernate的J2EE项目都有一个痛病,针对复杂业务SQL,hiber ...
- 虚拟文件系统(无持久存储的文件系统),以proc和sysfs为例
对于现代操作系统,虚拟文件系统是一个几乎无处不见的功能,因此,要探究现代操作系统的运行机制,对其进行讨论是必然的. 本文使用的是Linux 2.6.x.x,这是一个变革性的版本,无论是内存管理,进程管 ...
最新文章
- 重装win8系统后变成C盘了别的分区的资料怎样恢复
- [导入]深入了解OpenOffice.org(二){作者:路广}
- 4.API的调用过程(系统服务表)
- OpenVMS用户手册目录翻译
- python中dict的fromkeys用法
- 移动端web自适应适配布局解决方案
- PHP中文URL编解码(urlencode()rawurlencode()
- spring 文件变化监听_Spring新变化
- Java对象都是在堆上分配空间吗?答案竟然是...
- 安装eclipse的JRebel6.4.3的插件
- 不要打我,不要打我,不要打我啊啊
- 未来的信息化,就是挖掘企业数据、提升战略决策
- Java 的三种 Base64
- PHP文件处理--打开文件
- 教育部要求“强保障、上水平”,课后服务该如何提质增效?
- 基于FBX SDK的FBX模型解析与加载 -(四)
- JVM - 工欲善其事必先利其器之虚拟机工具(上)
- python实验总结与分析_Python实验报告七
- 8. python str( )函数
- 布隆过滤器的浅入浅出
热门文章
- avs3 ts格式封装 标准_超能课堂(204):多媒体容器格式变迁录
- [译] 如何学习 CSS
- Selenium 对元素element的操作举例
- Android Studio打开React Native创建的项目
- 惠普在安全领域发力 收购大数据加密企业
- 前端程序员总结的工作中常用的十大浏览器兼容性问题,初学者瑰宝!
- JUnit测试框架使用介绍
- 052、JVM实战总结:从测试到上线:如何分析JVM运行状况及合理优化?
- spring配置mysql事务管理_Spring 数据库事务管理机制
- gradle打包web jar_Gradle构建SpringBoot并打包可运行的jar配置