问题

近期,kibana页面上出现Elasticsearch plugin is red错误信息,重启elasticsearch后又频繁出现该问题,观察elasticsearch发现各节点之间出现连接超时的现象.

解决方法

怀疑是索引条目太多,导致Elasticsearch性能下降造成的,通过查询api发现大量索引是yellow状态:
curl -XGET 'http://127.0.0.1:9200/_cat/indices/?v'

yellow open   user_audit-2018-08-08 Lx5YlsSxSDW7Z6dKwHLy4Q   5   1        159            0    265.5kb        265.5kb
yellow open   user_audit-2018-04-18 Rz7opEo7Tn-mfBsc0SyrDg   5   1        619            0    614.6kb        614.6kb
yellow open   net_switch-2017-11-18 7RZBwJGES1Ck2SI6Zsc_mA   5   1      16504            0      3.7mb          3.7mb
yellow open   user_audit-2018-06-07 _mapb6GpRkKP4bNqxI0tkg   5   1        130            0    212.4kb        212.4kb
yellow open   net_switch-2018-02-02 HL-saNdaSiuvDBfLyGNgrg   5   1        190            0    246.1kb        246.1kb
yellow open   user_audit-2018-01-05 BXO_atQmTl-ud_KCiHnSvw   5   1        288            0    309.1kb        309.1kb
yellow open   user_audit-2018-04-11 lDn7O9ZcRoKO4NwPArPcWg   5   1        166            0      243kb          243kb
yellow open   net_switch-2018-03-29 F7UeMBvZTou1n0OeZJjbyg   5   1        191            0    334.2kb        334.2kb
yellow open   domain_log-2018-07-07 b2hg9sIFSE-Pm6DHom7Q6Q   5   1   11742465            0      5.3gb          5.3gb
yellow open   user_audit-2018-05-12 g1q6jrWtQYaagoUbSigRsw   5   1         23            0    185.4kb        185.4kb
yellow open   net_switch-2018-05-16 yQL5rwlvQD2whqASws1Yaw   5   1        182            0    311.2kb        311.2kb
yellow open   domain_log-2018-08-27 7kM3sl0nTNOPN0XbwmYULw   5   1   13788549            0      6.7gb          6.7gb
yellow open   domain_log-2018-07-06 hb5ZL-Z1Rk6DyhYXTBGnrw   5   1   10434848            0      4.8gb          4.8gb
yellow open   domain_log-2018-05-12 0Q8uLeSVTtW7GyGJNdd5FA   5   1   10753882            0      5.6gb          5.6gb
yellow open   user_audit-2018-05-22 ryLHjAhNS2-5kjqRjccH_A   5   1        653            0      680kb          680kb
yellow open   user_audit-2018-07-23 DSGn1gXTQaub35FS34z28g   5   1         36            0    235.1kb        235.1kb
yellow open   domain_log-2018-03-02 H54jaFt2Rgq-ktC81tROJw   5   1   17530752            0        9gb            9gb

一、api删除

curl -XDELETE 'http://127.0.0.1:9200/domain_log-2018-*'
清理掉了所有 2018年domain的索引文件

二、脚本加api删除(推荐)

cat ES-index-clear.sh

#/bin/bash
#指定日期(7天前)
DATA=`date -d "1 week ago" +%Y-%m-%d`#当前日期
time=`date`#删除7天前的日志
curl -XGET "http://127.0.0.1:9200/_cat/indices/?v"|grep $DATA
if [ $? == 0 ];thencurl -XDELETE "http://127.0.0.1:9200/*-${DATA}"echo "于 $time 清理 $DATA 索引!"
fi

三、添加到任务计划

#每天定时清理索引
0 1 * * * /bin/sh /root/shscript/ES-index-clear.sh >> /root/shscript/log/es-index-clear.log

转载于:https://blog.51cto.com/fengjicheng/2310777

Elasticsearch索引定时清理相关推荐

  1. elasticsearch索引自动清理

    查看所有的索引文件: curl -XGET http://localhost:9200/_cat/indices?v 删除索引文件以释放空间: curl -XDELETE http://localho ...

  2. Elasticsearch索引备份与清理

    一.背景 1.我们ES节点个数有限,而环境中日志量又非常庞大,久而久之ES的性能便会下降,所以要对以前的索引做定时清理. 2.ES副本提供了高可靠性,它们让你可以容忍零星的节点丢失而不会中断服务.但是 ...

  3. sql server cdc 清理_基于CDC技术的ElasticSearch索引同步机制

    概述 ElasticSearch作为一个基于Lucene的搜索引擎被广泛应用于各种应用系统,比如电商.新闻类.咨询类网站.在使用ElasticSearch开发应用的过程中,一个非常重要的过程是将数据导 ...

  4. ElasticSearch 索引设计指南

    作者介绍 许睿哲 2020年12月加入去哪儿网-数据平台团队,目前主要负责公司的 esaas 云服务与实时日志 ELK 平台的开发.维护与优化.主导参与了公司的 ES 架构升级迁移与 ES 平台 SL ...

  5. Elasticsearch索引生命周期管理方案

    点击上方蓝色"方志朋",选择"设为星标" 回复"666"获取独家整理的学习资料! 一.前言 在 Elasticsearch 的日常中,有很多 ...

  6. elasticsearch 索引_Elasticsearch系列---索引管理

    概要 Elasticsearch让索引创建变得非常简单,只要索引一条新的数据,索引会自动创建出来,但随着数据量的增加,我们开始有了索引优化和搜索优化的需求之后,就会发现自动创建的索引在某些方面不能非常 ...

  7. elk日志系统中elasticsearch 索引read only 解决

    废话:最近开发的系统使用elasticsearch来存储日志,今早发现elasticsearch中存放日志的索引入库不了新产生的日志,也不能清空索引日志.在官网找了半天才发现问题所在. 原因:当存储空 ...

  8. 干货 | Elasticsearch 索引设计实战指南

    题记 随着 Elastic 的上市,ELK Stack 不仅在 BAT 的大公司得到长足的发展,而且在各个中小公司都得到非常广泛的应用,甚至连"婚庆网站"都开始使用 Elastic ...

  9. 看完这篇文章,再也不怕 Elasticsearch 索引设计

    题记 随着 Elastic 的上市,ELK Stack 不仅在 BAT 的大公司得到长足的发展,而且在各个中小公司都得到非常广泛的应用,甚至连"婚庆网站"都开始使用 Elastic ...

最新文章

  1. 百度燎原计划2018强势回归 开放深度学习工程师评价标准
  2. 如何安装rpm包?掌握rpm包管理工具就够了
  3. 给出一个包含n个整数的数列,问整数a在数列中的第一次出现是第几个。
  4. Failed to start SYSV: HA-Proxy is a TCP/HTTP reverse proxy which is particularl
  5. pip install scrpy 报错: command 'gcc' failed with exit status 1
  6. 教程 | Hadoop集群搭建和简单应用
  7. 神经网络造“汉字”新技能全开,biangbiang面自愧不如
  8. 洛谷P3812 【模板】线性基
  9. Ext.data-DataProxy/ HttpProxy/ MemoryProxy/ ScriptTagProxy
  10. 深度学习花书-3.8 期望、方差与协方差
  11. 公共代码参考(PackageManager)
  12. 串流类(istrstream)输入行为的探讨
  13. Android11(RK3568)自定义服务制作(3)-Hardware制作和权限管理
  14. android音乐播放器歌词解析,iOS 音乐播放器歌词解析
  15. 简单的网页制作期末作业——html css javascript小礼品购物商城网站
  16. 一键收藏网页上的文章,浏览器书签方便日常查找和管理
  17. 计算机cpu的功能和作用是什么意思,cpu的功能有哪些
  18. 基于 HTML5 WebGL 的高炉炼铁厂可视化系统
  19. 核心期刊《中国兽医学报》
  20. PIR热释电传感器使用笔记

热门文章

  1. SQL server与Oracle触发器的创建与使用
  2. iOS夯实:RunLoop
  3. 打算把我的视频工具整合一下
  4. 《C++编程风格(修订版)》——1.1 抽象
  5. fir.im Weekly - 让 iOS 应用更加安全
  6. UITableView中selectRowAtIndexPath: animated:scrollPosition滚动到指定Row
  7. [转]程序员趣味读物:谈谈Unicode编码
  8. Spring IoC — 基于注解的配置
  9. iOS学习笔记16-SQLite应用
  10. 注意服务器系统日期对防病毒软件的影响