作者:阿里云MVP 铭毅

往期内容:
死磕 Elasticsearch 方法论:普通程序员高效精进的 10 大狠招!
Elasticsearch学习,请先看这一篇!(Elasticsearch教程01)
Elasticsearch增、删、改、查操作深入详解(Elasticsearch教程02)

1、关于ES index存储在内存的问题?
(1)早期ES1.X版本对ES索引存储介绍:
原文地址:
https://www.elastic.co/guide/en/elasticsearch/reference/1.4/index-modules-store.html
ES1.X存储模块可以控制索引数据的存储方式,索引可以存储在内存和磁盘上。使用内存方式可以得到更好的性能,但受限于实际的可用的物理内存大小。
早期ES1.X版本有选项将索引存储到内存中,但是相比基于mmap的存储方式,这种方式并没有改善性能,所以在ES2.X版本中Memory存储类型已经被删除。

(2)最新的ES2.X版本(截止:2016-08-08)索引存储介绍:
原文地址:
https://www.elastic.co/guide/en/elasticsearch/reference/current/index-modules-store.html
ES2.X版本中该Memeory选项已经被删除。
现在ES2.X中在内存中映射索引使用mmap 系统调用。
并且ES的大牛也都推荐就索引存储而言,使用缺省默认值default_fs。

2、ES2.X文件系统存储类型
基于文件系统的存储是默认索引存储方式。有不同的实现或存储类型。最好的一个操作系统的自动选择是:mmapfs使用在Windows的64bit系统上,simplefs使用在windows的32bit系统上,除此之外默认是用(hybrid niofs 和 mmapfs)。

可以通过修改配置文件elasticsearch.yml来指定存储类型:
index.store.type: niofs

当然也可以在创建索引的时候指定:

下面是所有支持的不同存储类型:

(1) Simple FS(简单文件系统)
Simplefs类型是一个简单的实现随机访问文件的文件存储系统(映射到Lucene SimpleFsDirectory的)。该实现的并发性能较差(多线程是个瓶颈)。当你需要将索引持久化,最好使用niofs。

(2) NIO FS(NIO文件系统)
niofs类型是通过NIO将分片索引文件写到文件系统上(映射到Lucene NIOFSDirectory)。它允许多线程同时读取文件。不建议在Windows系统上使用,由于SUN JAVA实现上的一个错误。

(3) MMap FS(内存映射文件系统)
mmapfs类型存储分片索引到文件系统上(映射到Lucene MMapDirectory)通过映射文件到内存中(MMAP)。
内存映射的过程中将划分出与被映射文件大小一样的虚拟内存空间。使用这个类之前,请确保您有足够的虚拟地址空间。

Linux下虚拟内存设置:

永久生效:

(4)Hybrid MMap / NIO FS(缺省值, default_fs)
default_fs默认的类型是NIO FS和MMapFS,它将为每个类型的文件选择最好的文件系统。 目前,只有Lucene的term 路径和DOC值的文件被存储器映射,以降低运行系统的影响。所有其他文件都使用Lucene NIOFSDirectory打开。如果你的term字典很大,地址空间设置(部分叫做“虚拟内存编辑“)也可能适用,。

3、ES索引存储小结
一句话总结:
在2.X版本,用户无需关注索引存储在内存中还是存储在硬盘中。使用默认的存储设置default_fs,以达到最优性能
在Windows的64bit系统上使用 mmapfs ;
在windows的32bit系统上使用 simplefs ;
除此之外默认使用 default_fs (hybrid niofs 和 mmapfs),如Linux系统。

4、细节讨论
https://discuss.elastic.co/t/how-to-set-elasticsearch-index-store/57556/2

更多ES相关实战干货经验分享,请关注【铭毅天下】微信公众号

elasticsearch 索引存储深入详解(Elasticsearch教程03)|MVP讲堂相关推荐

  1. elasticsearch 索引存储深入详解

    1.关于ES index存储在内存的问题? (1)早期ES1.X版本对ES索引存储介绍: 原文地址:  https://www.elastic.co/guide/en/elasticsearch/re ...

  2. ElasticSearch预警服务-Watcher详解-Schedule配置

    介绍 Watcher服务详解-定时器的设定 关于Schedule配置选择,Watcher提供了丰富的时间语法支持,采用UTC时间,来我们一起看下如何设置: 支持的设置方式: hourly:按小时周期设 ...

  3. elasticsearch Analyzer 进行分词详解

    文章目录 1. Anaiysis 与 Analyzer 2. Analyzer 的组成 3. Elastocsearch 的内置分词器 3.1 使用 _analyzer Api 3.1.1 直接指定 ...

  4. Elasticsearch实战——function_score 查询详解

    Elasticsearch实战--function_score 查询详解 文章目录 Elasticsearch实战--function_score 查询详解 1. function_score简介 2 ...

  5. mysql数据库存储引擎和索引的描述_Mysql InnoDB引擎的索引与存储结构详解

    前言 在Oracle 和SQL Server等数据库中只有一种存储引擎,所有数据存储管理机制都是一样的. 而MySql数据库提供了多种存储引擎.用户可以根据不同的需求为数据表选择不同的存储引擎,用户也 ...

  6. Spring和Elasticsearch全文搜索整合详解

    Spring和Elasticsearch全文搜索整合详解 一.概述 ElasticSearch是一个基于Lucene的搜索服务器.它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web ...

  7. html5离线存储图片,HTML5教程 离线存储技术详解

    本篇教程探讨了HTML5教程 离线存储技术详解,希望阅读本篇文章以后大家有所收获,帮助大家HTML5+CSS3从入门到精通 . < 随着Web App的发展,越来越多的移动端App使用HTML5 ...

  8. Mysql存储引擎详解(MyISAM与InnoDB的区别)

    Mysql存储引擎详解(MyISAM与InnoDB的区别) 存储引擎     MySQL中的数据用各种不同的技术存储在文件(或者内存)中.这些技术中的每一种技术都使用不同的存储机制.索引技巧.锁定水平 ...

  9. MySQL常用存储引擎详解

    MySQL常用存储引擎详解 一.什么是存储引擎 二.掌握存储引擎的重要性 三.MySQL常用的存储引擎有哪些 四.存储引擎的特性 1.InnoDB 2.MyISAM 3.MEMORY 4.ARCHIV ...

最新文章

  1. linux 可执行文件权限不够,root执行/media可执行文件权限不够,chmod修改权限无效...
  2. 基于 abp vNext 和 .NET Core 开发博客项目 - 数据访问和代码优先
  3. 谈及未来的 AI, 也许你已身处其中 —— 记 InfoQ 对青云QingCloud 联合创始人林源的采访...
  4. 孙叫兽进阶之路之Gitlab的使用(图文教程)
  5. 35修改tomcat端口
  6. 【Java从0到架构师】会话跟踪 Cookie_Session
  7. yum 安装rabbitMQ
  8. 获取应用程序根目录物理路径(Web and Windows)
  9. 关于阿里巴巴发布普惠体的一些思考
  10. 20191115英文每日一句
  11. Spring Cloud Zuul路由网关(学习总结)
  12. 《Java开发实战经典》习题第4章第10题:在排序好的数组中添加一个数字,将添加后的数字插入到数组合适的位置
  13. 通信原理;利用MATLAB实现AMI/HDB3编译码
  14. iPad所有平板型号屏幕尺寸
  15. URLOS安装、升级、卸载
  16. java实现生命游戏(2维元胞自动机)
  17. 陌上红尘,可有摆渡人?
  18. [技术文档] 航顺芯片HK32F030MSO8N-J4M6开发板评测。航顺MCU
  19. Linux快捷键汇总(持续更新)
  20. ASID 与 MIPS 中 TLB相关寄存器

热门文章

  1. 设计模式之禅读书笔记
  2. 【原创】shadowebdict开发日记:基于linux的简明英汉字典(三)
  3. [转帖]ISE与Modelsim联合观察中间信号
  4. 今天上网感觉有点儿卡,上了路由器一看,数据包狂跳
  5. JAVA刷题方法整理
  6. WeChatTweak-微信小助手安装教程
  7. c语言如何控制电脑串口,C语言直接驱动硬件实现PC机的串口操作
  8. 2021届安徽高考成绩查询,安徽2021年高考成绩什么时候公布
  9. javascript中parseFloat(x)、parseInt(num,radix)、Promise、ReferenceError、Reflect、get和set
  10. Zabbix 3.0 部署监控 [二]