使用CacheFS + TmpFS加速NFS读取速度

  • CacheFS 文件系统
    • CacheFS 文件系统简介
    • 使用CacheFS
  • TmpFS文件系统
  • 同时使用CacheFS和TmpFS
  • 参考资料

CacheFS 文件系统

CacheFS 文件系统简介

CacheFSTM 文件系统可以用于提高远程文件系统或慢速设备(如 CD-ROM 驱动器)的性能。高速缓存文件系统时,会将从远程文件系统或 CD-ROM 中读取的数据存储在本地系统上的高速缓存中。

如果要提高 NFS 或 CD-ROM 文件系统的性能和可伸缩性,应该使用 CacheFS 文件系统。CacheFS 软件是一种通用的文件系统高速缓存机制,该软件通过减少服务器和网络的负载来提高 NFS 服务器的性能和可伸缩性。

由于 CacheFS 软件设计为分层文件系统,因此该软件可将一个文件系统高速缓存到另一个文件系统上。在 NFS 环境中,CacheFS 软件可增加客户机与服务器数目的比例,减少服务器和网络负载,并提高客户机在点对点协议 (Point-to-Point Protocol, PPP) 等慢速链路上的性能。另外,也可以将 CacheFS 文件系统与 AutoFS 服务结合使用,以帮助提高性能和可伸缩性。

有关 CacheFS 文件系统的详细信息,请参见第 20 章,使用 CacheFS 文件系统(任务)。

使用CacheFS

sudo apt-get install cachefilesd
sudo sed -i 's/nfs rw/nfs fsc,rw/' /etc/fstab
service restart cachefilesd

TmpFS文件系统

临时文件系统 (temporary file system, TMPFS) 使用本地内存进行文件系统的读取和写入。通常,使用内存进行文件系统的读取和写入比使用 UFS 文件系统要快得多。使用 TMPFS 文件系统可以节省利用本地磁盘或网络读取和写入临时文件的成本,从而提高系统性能。 例如,在编译程序时即会创建临时文件。OS 在处理这些文件的同时会产生大量的磁盘活动或网络活动。使用 TMPFS 保存这些临时文件可以显著加快对其进行创建、处理和删除的速度。

TMPFS 文件系统中的文件不是永久性的。在取消挂载文件系统以及关闭或重新引导系统时,将删除这些文件。

同时使用CacheFS和TmpFS

To use tmpfs instead of disk cache use this after making sure the runner has atleast 12G of memory。

mount | grep fscache || mount -t tmpfs -o size=8192m tmpfs /fscache
ls /fscache/disk0 || dd if=/dev/zero of=/fscache/disk0 bs=1M count=8191
sleep 15
ls /fscache/disk0 && echo 'y' | mkfs.ext4 /fscache/disk0
mount /fscache/disk0 /var/cache/fscache -t ext4
service cachefilesd restart

参考资料

【1】http://ideazbrainz.blogspot.com/2014/05/to-speed-up-accessing-files-on-nfs.html
【2】https://docs.oracle.com/cd/E19253-01/819-7062/fsoverview-20860/index.html
【3】http://www.indimon.co.uk/2016/cachefilesd-on-tmpfs/
【4】https://www.cnblogs.com/xuyaowen/p/fs-cache.html

使用CacheFS+TmpFS加速NFS读取速度相关推荐

  1. python 加速csv读取速度_csv读慢python的速度

    我想找出CSV阅读速度慢的原因.在 我尝试了多种方法,我有8GB的csv文件,处理后它是大约6GB的10列.在 我想的是,用一个线程读取文件,然后在另一个线程中处理它,所以我不使用任何bandwith ...

  2. linux开发板加快开机速度,readahead加速Linux开机速度

    在一两年前,Linux核心尚缺乏一个好的的硬碟预读机制时,桌面系统的使用者若要加速开机的速度,通常得先解决开机的瓶颈问题.于是得依赖如readahead这样的工具来预先载入想读入的档案,以便提高系统载 ...

  3. tmpfs加速并降低squid负载(一)

    原因: 原squid速度慢,uptime看平均负载很高! 概念:一般负载峰值设为cpu个数的5倍.Load avarage/cpu数目 <3 系统良好,3到5之间可以接受,大于5 则可能有严重的 ...

  4. 数据读取速度达1.5G/s,UFS 2.1存储技术曝光

    目前最快的是苹果NVME,当然UFS2.1也不差 iPhone6s与iPhone6s Plus在硬件的规格上有了很大的提升,但是它们身上的变化远没有苹果在发布会上所提到的A9处理器.1200万摄像头以 ...

  5. 优化OpenCV视频的读取速度

    我们使用Opencv读取视频时,常规的做法是使用read()函数逐帧读取,如 import cv2cap = cv2.VideoCapture("./test.mp4") whil ...

  6. mysql数据库加载太慢_mysql千万级数据库插入速度和读取速度的调整记录

    一般情况下mysql上百万数据读取和插入更新是没什么问题了,但到了上千万级就会出现很慢,下面我们来看mysql千万级数据库插入速度和读取速度的调整记录吧. (1)提高数据库插入性能中心思想:尽量将数据 ...

  7. 使用多线程会加快文件读取速度吗?

    使用多线程去读取文件的话会加快读取速度吗? 同样如果在面试中问你这个问题该怎么回答呢?假设有一个文件大小为10G,我们需要将其读取到内存中(假设内存能容纳下该文件),那么使用多个线程分块去读取的话会加 ...

  8. 读取速度贼快的省市区地址库

    AddressData 读取速度贼快的地址库,包含省市区及身份证号前缀 地址库大小 54.14746KB 读取耗时 14~25ms (MacBook Pro LQ2 i7-4770HQ) {北京市={ ...

  9. names文件和data文件_data.table让你的读取速度提升百倍

    不知道大家有没有用read.table和read.csv读取过文件,当文件不大的时候你可能还感觉不出读取速度,但是当文件比较大的时候,比如有上万行的时候,你就会感觉到等待时间明显变长,甚至无法忍受. ...

最新文章

  1. java 二维数组作为参数传递_java JNI 二维数组作为方法参数传递给本地
  2. Verilog中的UDP
  3. Js组件layer的使用
  4. Delphi iOS 开启文件共享 UIFileSharingEnabled
  5. Java中Web程序修改配置文件不重启服务器的方法
  6. 20145223 杨梦云 《网络对抗》shellcode实验+return-to-libc实验
  7. 大数据分析的技巧有哪些
  8. python实现可视化数独求解器(附代码链接及点点讲解)
  9. 深度学习visio作图技巧
  10. 场景法设计测试用例ATM机取款问题
  11. python怎么安装re模块_python模块模块re
  12. 网咖服务器cpu占用率高,CPU温度过高为什么会卡?
  13. TP5整合阿里云OSS上传文件第二节,异步上传头像实现,
  14. 解决nginx error!The page is temporarily unavailable.
  15. 浅谈 Nyquist–Shannon(奈奎斯特-香农)采样定理
  16. thinksnsv4.6运行php,SNS开源社交系统ThinkSNS V4.6.0
  17. 微信隐藏功能系列:微信定时提醒,2个步骤,让忙碌中的自己松口气
  18. LTE学习笔记--LTE无线连接过程--网络接入过程
  19. 基于Python量化策略牛市行情下的盈利与风险策略管理
  20. 华为云 · 云桌面 Workspace(介绍)

热门文章

  1. 用JAVA写一个画图程序(课程设计)
  2. 豆瓣上征婚交友的小姐姐们
  3. EasyExcel动态导出-动态头
  4. 微信小程序+云开发+数据库使用
  5. 看脸的时代,AI医美为什么没有成为风口?
  6. Git + Github初入门
  7. HTML中gt的含义
  8. 叠片过滤器:叠片过滤器使用注意事项
  9. 从零开始系统化学Android,手慢无
  10. 螃蟹WiFi驱动中的Band Steering功能