Esrally性能测试步骤与调优
esrally一个对ElasticSearch做基准性能测试的工具,是 elastic 官方开源的一款基于 python3 实现的针对ES 的压测工具,ES官方也是基于 esrally 进行 es 的性能测试。
安装部署
python3.8安装
使用root用户操作:
yum install libffi-devel
tar zxvf Python-3.8.0.tgz
cd Python-3.8.0
./configure --prefix=/usr/local/python3
make -j120
make install
rm -rf /usr/bin/python3
ln -s /usr/local/python3/bin/python3 /usr/bin/python3
ln -s /usr/local/python3/bin/pip3 /usr/bin/pip3
可以自行查阅python官网:https://www.python.org/
或者直接执行下载命令:
wget https://www.python.org/ftp/python/3.8.0/Python-3.8.0.tgz
git安装
本环境已安装git version 2.23.0,如果git不满足要求,参考以下内容:
git 源码可以通过下面的链接获取,有各种版本:
https://mirrors.edge.kernel.org/pub/software/scm/git/
卸载旧版本
yum remove git
编译安装
tar -xzvf git-2.23.0.tar.gz
cd git-2.23.0
./configure --prefix=/usr/local/git --with-openssl=/usr/local/openssl
sudo make && make install
配置GIT的环境变量去修改 /etc/profile
export GIT_HOME=/usr/local/git-2.23.0
export PATH=\$PATH:\$GIT_HOME
保存后执行source /etc/pfofile
使用 git version
查看GIT版本。
在线安装esrally
pip3 install esrally==2.0.2 -i https://pypi.tuna.tsinghua.edu.cn/simple --trusted-host pypi.tuna.tsinghua.edu.cn
错误1
ERROR: botocore 1.13.50 has requirement urllib3<1.26,>=1.20; python_version >= “3.4”, but you’ll have urllib3 1.26.9 which is incompatible.
解决办法:
pip3 install urllib3==1.25
重新执行安装命令,显示所有依赖均满足条件。
错误2
[root@worker1 opt]# esrally configure
-bash: esrally:未找到命令
不是安装失败,是因为esrally命令不会自动加入了环境变量!
cd /usr/local/python3/bin
./esrally configure
错误3
最后一行报错ImportError: cannot import name ‘soft_unicode‘ from ‘markupsafe‘……
查到弃用警告:“soft_unicode”已重命名为“soft_str”.旧名称将在 MarkupSafe 2.1 中删除,刚好这里已经是2.1.1版本了,看来需要回退低版本。
解决办法:
pip3 install markupsafe==2.0.1
再次执行./esrally configure
成功安装了!
测试命令
数据集下载
这部分测试所需要的数据集可以在测试中下载,但数据集大且网络不稳定,因此预下载。
如下操作:
# downloads the script from Github
curl -O https://raw.githubusercontent.com/elastic/rally-tracks/master/download.sh
chmod u+x download.sh
chown elasticsearch download.sh
# download all data for the geonames track
su elasticsearch
cd /usr/local/python3/bin/
./esrally configure
cd ~
./download.sh geonames
测试命令
geonames测试实例:
./esrally --pipeline=benchmark-only --target-hosts=192.168.1.104:9200,192.168.1.106:9200,192.168.1.108:9200 --track=geonames --offline --track-params="number_of_shards:32,bulk_indexing_clients:128" --report-file=/opt/report_geonames_32_128-numa.csv --report-format=csv
性能调优
ES参数
- ES的内存(heap size)
堆内存配置文件 jvm.options设置(相同大小,不超过32g情况下尽可能大):
-Xms16g
-Xmx16g
- ES的thread_pool
主要是不超过物理机的cpu核心数,一般越大越好。
注意!这类参数现在不能动态设置了,必须直接修改es的配置文件保存然后重启ES集群。 - 关闭ES的监控(xpack),设置xpack.monitoring.collection.enabled 为false,提高稳定性。
- 调整ES的数据盘为多目录
对ES读性能影响不大,可能略微对写ES性能有影响。
esrally参数
主要是分片数(shards)和客户端并发数需要调整!
客户端并发数非常重要!客户端并发数非常重要!客户端并发数非常重要!
如果不调大这个clients
数其他参数基本白搭。
踩坑2天……
参考文档
01:Elasticsearch压测之Esrally压测标准 - 腾讯云开发者社区-腾讯云
02:esrally:Elasticsearch 官方压测工具及运用详解-阿里云开发者社区
03:es7.3的性能参数调优_thread_pool.write.size
Esrally性能测试步骤与调优相关推荐
- 软件性能测试分析与调优实践之路-Java应用程序的性能分析与调优-手稿节选
Java编程语言自从诞生起,就成为了一门非常流行的编程语言,覆盖了互联网.安卓应用.后端应用.大数据等很多技术领域,因此Java应用程序的性能分析和调优也是一门非常重要的课题.Java应用程序的性能直 ...
- 【转载】软件性能测试分析与调优实践之路-Web中间件的性能分析与调优总结
本文主要阐述软件性能测试中的一些调优思想和技术,节选自作者新书<软件性能测试分析与调优实践之路>部分章节归纳. 在国内互联网公司中,Web中间件用的最多的就是Apache和Nginx这两款 ...
- 【转载】软件性能测试分析与调优实践之路-性能分析调优思想与调优技术总结
本文主要阐述软件性能测试中的一些调优思想和技术,节选自作者新书<软件性能测试分析与调优实践之路>部分章节归纳. 一. 性能分析与调优思想 1.性能分析调优模型 性能测试除了为获取性能指标 ...
- 软件性能测试分析与调优实践之路-性能分析调优思想与调优技术总结
来源:https://www.cnblogs.com/laoqing/p/13660768.html 本文主要阐述软件性能测试中的一些调优思想和技术,节选自作者新书<软件性能测试分析与调优实践之 ...
- 软件性能测试分析与调优实践之路-JMeter对RPC服务的性能压测分析与调优-手稿节选
一.JMeter 如何通过自定义Sample来压测RPC服务 RPC(Remote Procedure Call)俗称远程过程调用,是常用的一种高效的服务调用方式,也是性能压测时经常遇到的一种服务调用 ...
- 性能测试分析与调优原理
最近一直纠结性能分析与调优如何下手,先从硬件开始,还是先从代码或数据库.从操作系统(CPU调度,内存管理,进程调度,磁盘I/O).网络.协议(HTTP, TCP/IP ),还是从应用程序代码,数据库调 ...
- 软件性能测试分析与调优实践之路---性能测试和性能分析的基础概念
1.1. 性能测试的基础概念 性能可以理解为一个系统实现其功能的能力,从宏观上可以描述为系统能够稳定运行,高并发访问时系统不会出现宕机,系统处理完成用户请求需要的时间,系统能够同时支撑的并发访问量 ...
- 软件性能测试分析与调优实践之路---性能测试系列-java gc调优
性能测试中除了需要做好性能测试外,我们还需要做性能测试后的,性能调优,需要发现性能问题,也需要做性能调优,在做性能调优中,jvm的性能调优是经常遇到的一个. 随着jdk版本的迅速变化,jdk里面的GC ...
- ESRally性能测试步骤
ES7.4.1搭建 ES统一采用7.4.1版本 ES的Docker镜像部署 Docker的安装这里不再赘述 单节点部署 vi docker-compose-es-single-node.yml ver ...
最新文章
- 在同一台电脑上同时安装Python2和Python3
- 三面蚂蚁金服(交叉面)定级阿里P6
- ResultSet用法集锦 (转)
- 架构师的能力模型(图)
- Java发邮件-QQ服务器认证
- Lackey:一个示例工具
- SQL数据库不用SQL语句能显示全表的内容_2020别再说你了解数据库了,你搞清楚这些问题了吗?...
- “拼木头”算法挑战赛:禁忌搜索算法,用Javascript 跑
- 传真故障排除示例--网络环境存在丢包导致传真失败
- 系统简单的UIImagePickerController
- Win10安装python扩展的几种方式
- 一个简单的文本编译器
- Mysql数据库和表的操作
- 02-微信小程序商城 顶部广告图片(微信小程序商城开发、小程序毕业设计、小程序源代码)(黄菊华-微信小程序开发教程)
- [4G5G专题-81]:流程 - 4G LTE 小区切换流程大全
- 对傅里叶变换FFT性质的理解 平移 旋转 缩放
- 吹气球--记忆化搜索
- flutter自定义渐变背景按钮
- discuz自定义接口开发——一键发帖,自动发帖,站外发帖(主题)
- c语言中应用程序错误,大师搞定win7系统提示应用程序错误0xc0000409的解决方案
热门文章
- 【迁移学习】深度域自适应网络DANN模型
- jotform 设计器_使用JotForm 4.0减轻表单构建的痛苦
- CommandName属性和CommandArgument属性[转]
- 【重点】React.Component用法
- Y Combinator Is Boot Camp for Startups
- 潮汕地区1-潮州观感
- Maximal Information Coefficient (MIC)最大互信息系数
- 食物链(带权并查集)
- OpenJudge NOI 1.13 07:玛雅历
- java系统高并发的解决方案