Elasticsearch索引定时清理
问题
近期,kibana页面上出现Elasticsearch plugin is red错误信息,重启elasticsearch后又频繁出现该问题,观察elasticsearch发现各节点之间出现连接超时的现象.
解决方法
怀疑是索引条目太多,导致Elasticsearch性能下降造成的,通过查询api发现大量索引是yellow状态:
curl -XGET 'http://127.0.0.1:9200/_cat/indices/?v'
yellow open user_audit-2018-08-08 Lx5YlsSxSDW7Z6dKwHLy4Q 5 1 159 0 265.5kb 265.5kb
yellow open user_audit-2018-04-18 Rz7opEo7Tn-mfBsc0SyrDg 5 1 619 0 614.6kb 614.6kb
yellow open net_switch-2017-11-18 7RZBwJGES1Ck2SI6Zsc_mA 5 1 16504 0 3.7mb 3.7mb
yellow open user_audit-2018-06-07 _mapb6GpRkKP4bNqxI0tkg 5 1 130 0 212.4kb 212.4kb
yellow open net_switch-2018-02-02 HL-saNdaSiuvDBfLyGNgrg 5 1 190 0 246.1kb 246.1kb
yellow open user_audit-2018-01-05 BXO_atQmTl-ud_KCiHnSvw 5 1 288 0 309.1kb 309.1kb
yellow open user_audit-2018-04-11 lDn7O9ZcRoKO4NwPArPcWg 5 1 166 0 243kb 243kb
yellow open net_switch-2018-03-29 F7UeMBvZTou1n0OeZJjbyg 5 1 191 0 334.2kb 334.2kb
yellow open domain_log-2018-07-07 b2hg9sIFSE-Pm6DHom7Q6Q 5 1 11742465 0 5.3gb 5.3gb
yellow open user_audit-2018-05-12 g1q6jrWtQYaagoUbSigRsw 5 1 23 0 185.4kb 185.4kb
yellow open net_switch-2018-05-16 yQL5rwlvQD2whqASws1Yaw 5 1 182 0 311.2kb 311.2kb
yellow open domain_log-2018-08-27 7kM3sl0nTNOPN0XbwmYULw 5 1 13788549 0 6.7gb 6.7gb
yellow open domain_log-2018-07-06 hb5ZL-Z1Rk6DyhYXTBGnrw 5 1 10434848 0 4.8gb 4.8gb
yellow open domain_log-2018-05-12 0Q8uLeSVTtW7GyGJNdd5FA 5 1 10753882 0 5.6gb 5.6gb
yellow open user_audit-2018-05-22 ryLHjAhNS2-5kjqRjccH_A 5 1 653 0 680kb 680kb
yellow open user_audit-2018-07-23 DSGn1gXTQaub35FS34z28g 5 1 36 0 235.1kb 235.1kb
yellow open domain_log-2018-03-02 H54jaFt2Rgq-ktC81tROJw 5 1 17530752 0 9gb 9gb
一、api删除
curl -XDELETE 'http://127.0.0.1:9200/domain_log-2018-*'
清理掉了所有 2018年domain的索引文件
二、脚本加api删除(推荐)
cat ES-index-clear.sh
#/bin/bash
#指定日期(7天前)
DATA=`date -d "1 week ago" +%Y-%m-%d`#当前日期
time=`date`#删除7天前的日志
curl -XGET "http://127.0.0.1:9200/_cat/indices/?v"|grep $DATA
if [ $? == 0 ];thencurl -XDELETE "http://127.0.0.1:9200/*-${DATA}"echo "于 $time 清理 $DATA 索引!"
fi
三、添加到任务计划
#每天定时清理索引
0 1 * * * /bin/sh /root/shscript/ES-index-clear.sh >> /root/shscript/log/es-index-clear.log
转载于:https://blog.51cto.com/fengjicheng/2310777
Elasticsearch索引定时清理相关推荐
- elasticsearch索引自动清理
查看所有的索引文件: curl -XGET http://localhost:9200/_cat/indices?v 删除索引文件以释放空间: curl -XDELETE http://localho ...
- Elasticsearch索引备份与清理
一.背景 1.我们ES节点个数有限,而环境中日志量又非常庞大,久而久之ES的性能便会下降,所以要对以前的索引做定时清理. 2.ES副本提供了高可靠性,它们让你可以容忍零星的节点丢失而不会中断服务.但是 ...
- sql server cdc 清理_基于CDC技术的ElasticSearch索引同步机制
概述 ElasticSearch作为一个基于Lucene的搜索引擎被广泛应用于各种应用系统,比如电商.新闻类.咨询类网站.在使用ElasticSearch开发应用的过程中,一个非常重要的过程是将数据导 ...
- ElasticSearch 索引设计指南
作者介绍 许睿哲 2020年12月加入去哪儿网-数据平台团队,目前主要负责公司的 esaas 云服务与实时日志 ELK 平台的开发.维护与优化.主导参与了公司的 ES 架构升级迁移与 ES 平台 SL ...
- Elasticsearch索引生命周期管理方案
点击上方蓝色"方志朋",选择"设为星标" 回复"666"获取独家整理的学习资料! 一.前言 在 Elasticsearch 的日常中,有很多 ...
- elasticsearch 索引_Elasticsearch系列---索引管理
概要 Elasticsearch让索引创建变得非常简单,只要索引一条新的数据,索引会自动创建出来,但随着数据量的增加,我们开始有了索引优化和搜索优化的需求之后,就会发现自动创建的索引在某些方面不能非常 ...
- elk日志系统中elasticsearch 索引read only 解决
废话:最近开发的系统使用elasticsearch来存储日志,今早发现elasticsearch中存放日志的索引入库不了新产生的日志,也不能清空索引日志.在官网找了半天才发现问题所在. 原因:当存储空 ...
- 干货 | Elasticsearch 索引设计实战指南
题记 随着 Elastic 的上市,ELK Stack 不仅在 BAT 的大公司得到长足的发展,而且在各个中小公司都得到非常广泛的应用,甚至连"婚庆网站"都开始使用 Elastic ...
- 看完这篇文章,再也不怕 Elasticsearch 索引设计
题记 随着 Elastic 的上市,ELK Stack 不仅在 BAT 的大公司得到长足的发展,而且在各个中小公司都得到非常广泛的应用,甚至连"婚庆网站"都开始使用 Elastic ...
最新文章
- 百度燎原计划2018强势回归 开放深度学习工程师评价标准
- 如何安装rpm包?掌握rpm包管理工具就够了
- 给出一个包含n个整数的数列,问整数a在数列中的第一次出现是第几个。
- Failed to start SYSV: HA-Proxy is a TCP/HTTP reverse proxy which is particularl
- pip install scrpy 报错: command 'gcc' failed with exit status 1
- 教程 | Hadoop集群搭建和简单应用
- 神经网络造“汉字”新技能全开,biangbiang面自愧不如
- 洛谷P3812 【模板】线性基
- Ext.data-DataProxy/ HttpProxy/ MemoryProxy/ ScriptTagProxy
- 深度学习花书-3.8 期望、方差与协方差
- 公共代码参考(PackageManager)
- 串流类(istrstream)输入行为的探讨
- Android11(RK3568)自定义服务制作(3)-Hardware制作和权限管理
- android音乐播放器歌词解析,iOS 音乐播放器歌词解析
- 简单的网页制作期末作业——html css javascript小礼品购物商城网站
- 一键收藏网页上的文章,浏览器书签方便日常查找和管理
- 计算机cpu的功能和作用是什么意思,cpu的功能有哪些
- 基于 HTML5 WebGL 的高炉炼铁厂可视化系统
- 核心期刊《中国兽医学报》
- PIR热释电传感器使用笔记
热门文章
- SQL server与Oracle触发器的创建与使用
- iOS夯实:RunLoop
- 打算把我的视频工具整合一下
- 《C++编程风格(修订版)》——1.1 抽象
- fir.im Weekly - 让 iOS 应用更加安全
- UITableView中selectRowAtIndexPath: animated:scrollPosition滚动到指定Row
- [转]程序员趣味读物:谈谈Unicode编码
- Spring IoC — 基于注解的配置
- iOS学习笔记16-SQLite应用
- 注意服务器系统日期对防病毒软件的影响