健康检查简介

健康检查的目的是动态地将上游服务器标记为健康或不健康的状态。开启健康检查功能后,当后端某台上游服务器健康检查出现异常时,负载均衡会自动将新的请求分发到其它健康检查正常的上游服务器上;而当该上游服务器恢复正常运行时,负载均衡会将其自动恢复到负载均衡服务中。
如果业务对负载敏感性高,高频率的健康检查探测可能会对正常业务访问造成影响。可以结合业务情况,通过降低健康检查频率、增大健康检查间隔、七层检查修改为四层检查等方式,来降低对业务的影响。但为了保障业务的持续可用,不建议关闭健康检查。(http健康检查是一种比较精确地检查服务是否正常的情况,因为只是做端口探测的话,如果服务僵死了,端口还是探测得通的)

nginx的健康检查

nginx是没有针对负载均衡后端节点的健康检查的,但是可以通过默认自带的ngx_http_proxy_module和ngx_http_upstream_module模块中的相关指令来完成:当后端节点出现故障时,自动切换到健康节点来提供访问。
nginx自带健康检查的缺陷:
1、nginx只有当有访问时后,才发起对后端节点探测。
2、如果本次请求中,节点正好出现故障,Nginx依然将请求转交给故障的节点,然后再转交给健康的节点处理。所以不会影响到这次请求的正常进行。但是会影响效率,因为多了一次转发
3、自带模块无法做到预警
4、被动健康检查

nginx’自带’的check模块相对来说比较"粗糙",推荐使用’淘宝技术团队’开发的nginx_upstream_check_module
特点:
1、‘主动’地健康检查,nignx’定时’主动地去ping后端的服务列表;
2、当发现某’服务出现异常’时,把该服务从健康列表中’移除’;
3、当发现某服务’恢复’时,又能够将该服务’加回’健康列表中;

nginx_upstream_check_module指令

Syntax: check interval=milliseconds [fall=count] [rise=count] [timeout=milliseconds] [default_down=true|false] [type=tcp|http|ssl_hello|mysql|ajp] [port=check_port]

Default: 如果没有配置参数,默认值是:interval=30000 fall=5 rise=2 timeout=1000 default_down=true type=tcp

Context: upstream

该指令可以打开后端服务器的健康检查功能。指令后面的参数意义是:
interval:向后端发送的健康检查包的间隔。
fall(fall_count): 如果连续失败次数达到fall_count,服务器就被认为是down。
rise(rise_count): 如果连续成功次数达到rise_count,服务器就被认为是up。
timeout: 后端健康请求的超时时间。
default_down: 设定初始时服务器的状态,如果是true,就说明默认是down的,如果是false,就是up的。默认值是true,也就是一开始服务器认为是不可用,要等健康检查包达到一定成功次数以后才会被认为是健康的。
type:健康检查包的类型,现在支持以下多种类型
tcp:简单的tcp连接,如果连接成功,就说明后端正常。
ssl_hello:发送一个初始的SSL hello包并接受服务器的SSL hello包。
http:发送HTTP请求,通过后端的回复包的状态来判断后端是否存活。
mysql: 向mysql服务器连接,通过接收服务器的greeting包来判断后端是否存活。
ajp:向后端发送AJP协议的Cping包,通过接收Cpong包来判断后端是否存活。
port: 指定后端服务器的检查端口。你可以指定不同于真实服务的后端服务器的端口,比如后端提供的是443端口的应用,你可以去检查80端口的状态来判断后端健康状况。默认是0,表示跟后端server提供真实服务的端口一样。该选项出现于Tengine-1.4.0。

Syntax: check_keepalive_requests request_num
Default: 1
Context: upstream

该指令可以配置一个连接发送的请求数,其默认值为1,表示Tengine完成1次请求后即关闭连接。

Syntax: check_http_send http_packet
Default: "GET / HTTP/1.0\r\n\r\n"
Context: upstream

该指令可以配置http健康检查包发送的请求内容。为了减少传输数据量,推荐采用"HEAD"方法。
当采用长连接进行健康检查时,需在该指令中添加keep-alive请求头,如:“HEAD / HTTP/1.1\r\nConnection: keep-alive\r\n\r\n”。
同时,在采用"GET"方法的情况下,请求uri的size不宜过大,确保可以在1个interval内传输完成,否则会被健康检查模块视为后端服务器或网络异常。

Syntax: check_http_expect_alive [ http_2xx | http_3xx | http_4xx | http_5xx ]
Default: http_2xx | http_3xx
Context: upstream

该指令指定HTTP回复的成功状态,默认认为2XX和3XX的状态是健康的。

Syntax: check_shm_size size
Default: 1M
Context: http

所有的后端服务器健康检查状态都存于共享内存中,该指令可以设置共享内存的大小。默认是1M,如果你有1千台以上的服务器并在配置的时候出现了错误,就可能需要扩大该内存的大小。

Syntax: check_status [html|csv|json]
Default: check_status html
Context: location

显示服务器的健康状态页面。该指令需要在http块中配置。
在Tengine-1.4.0以后,你可以配置显示页面的格式。支持的格式有: html、csv、 json。默认类型是html。

apisix健康检查

apisix健康检查说明

主动健康检查或者被动健康检查都会生成用于确定上游节点健康与否的数据,请求可能会导致 TCP 错误、超时或者生成一个 http 状态码,基于这些数据,健康检查器会更新一系列内部计数器:

  1. 如果返回的状态码配置为健康,那么它会累加 成功 计数器,并清空其他所有计数器;
  2. 如果TCP连接失败,那么它会累加 TCP 失败 计数器,并清空所有 成功 计数器 ;
  3. 如果超时,那么它会累加 超时 计数器,并清空所有 成功 计数器;
  4. 如果返回的状态码配置为不健康,那么它会累加 HTTP 失败 计数器,并清空所有 成功 计数器;
  5. 如果TCP 失败、超时或HTTP 失败计数器中的任何一个达到它们配置的阈值,节点 就会标记为不健 康;如果成功计数器达到它配置的阈值,节点 就会标记为健康;

apisix其他健康检查逻辑:

1、路由重新发布,健康检查计数器会重新计数(也就是说修改的配置会重新生效);
2、主动健康检查和被动健康检查共用相同的计数器;
3、健康检查计数的函数(例如report_http_status最后一个入参默认是passive)默认计数的是被动健康检查,主动健康检查是定时器定时触发主动探测的(使用主动健康检查的参数进行判断);

主动健康检查:

  1. 在节点首次被请求时才会开始健康检查,如果节点被配置但没有被请求,不会触发启动健康检查。
  2. 如果没有健康的节点,那么请求会继续发送给上游。
  3. 如果上游只有一个节点,就不会触发启动健康检查,该唯一节点无论是否健康,请求都将被转发到上游。
  4. 配置了http健康检查,也会先建立tcp连接,如果tcp连接失败,默认是不健康的,就不会发起http探测了。
  5. 首次请求发出之后触发定时器进行健康检查,定时器会根据间隔时间触发探测请求。1、只有收到checker:stop之后才停止定时器,下次请求来了会重新开启定时器;2、如果一直没收到checker:stop,定时器会一直在探测;3、定时器运行的过程中,其他请求不会再触发定时器,只需要判断定时器执行结果,对健康状态进行赋值。

被动健康检查:

  1. 不会主动请求,会根据每次路由的结果,判断上游节点是否为健康状态。

apisix健康检查配置项


apisix健康检查测试

配置环境

节点 描述
192.168.131.115:8081 服务可以拦截/hello和/mock/aqapi/test的请求;
192.168.131.189:8081 服务不通,上游没有开启8081端口
192.168.131.189:8082 可以拦截/mock/aqapi/test的请求

拓扑信息

apisix路由基本信息

测试场景1

基本信息

开启主动健康检查,不开启被动健康检查,使用带权轮询请求;
节点1的路由和主动健康检查接口均可以正常访问;
节点2不可用;
节点3主动健康检查接口正常,路由不通;

配置信息

请求路径

http://www.tiger.com:9180/hello(我本地hosts文件将www.tiger.com映射到apisix上了

测试结果

6次请求会有5次请求会到节点1上,有1次请求会到节点3上,节点3收到/hello请求返回404

测试说明

主动健康检查在收到请求之后,会去探测三个节点。
1、节点2的tcp不通,设置为不健康节点,请求会跳过此节点;
2、节点1和节点3经过2次http探测(upstream.checks.active.healthy.successes = 2),状态都是success,故两个节点均设置为健康节点;
3、apisix收到访问请求,根据负载均衡算法,对可用节点进行访问;(即便节点3并没有提供/hello的服务)

测试场景2

基本信息

同时开启主动健康检查和被动健康检查,使用带权轮询请求;
节点1的路由和主动健康检查接口均可以正常访问;
节点2不可用;
节点3主动健康检查接口正常,路由不通;

配置信息

在场景1主动健康检查的基础上增加被动健康检查的配置,配置信息如下:

请求路径

http://www.tiger.com:9180/hello

测试结果

和主动健康检查结果一样;
每6次请求会有5次请求会到节点1上,有1次请求会到节点3上,节点3收到/hello请求返回404

测试说明

主动健康检查在收到请求之后,会去探测三个节点。
1、节点2的tcp不通,设置为不健康节点,请求会跳过此节点;
2、节点1和节点3经过2次http探测(upstream.checks.active.healthy.successes = 2),状态都是success,故两个节点均设置为健康节点;
3、apisix收到访问请求,根据负载均衡算法,对可用节点进行访问;(即便节点3并没有提供url为/hello的服务)
4、节点3被动健康检查虽然不通,但是主动健康检查成功,会将其他计数器清空,故请求还是会到这个节点;

测试场景3

基本信息

只开启主动健康检查;
节点1的路由和主动健康检查接口均可以正常访问;
节点2不可用;
节点3路由接口正常,主动健康检查接口不通;

配置信息

在场景1的基础上,将"http_path"改成"/hello",路由的"uri"改成"/mock/aqapi/test";

请求url

http://www.tiger.com:9180/mock/aqapi/test

测试结果

6次请求均到节点1上(主动健康检查http失败5次,才将节点设置成不健康(间隔1s,总共5次,总用时超过5s);故如果请求过快,可能还是有请求到节点3上面

测试说明

主动健康检查在收到请求之后,会去探测三个节点。
1、节点2的tcp不通,设置为不健康节点,请求会跳过此节点;
2、节点1经过2次http探测(upstream.checks.active.healthy.successes = 2),状态都是健康的,故节点1设置为健康节点;
3、节点3经过5次http探测(upstream.checks.active.unhealthy.http_failures = 5),状态均是不健康的,故节点3设置为不健康节点;
4、apisix收到访问请求,根据负载均衡算法,对可用节点进行访问;

测试场景4

基本信息

同时开启主动健康检查和被动健康检查;
节点1的路由和主动健康检查接口均可以正常访问;
节点2不可用;
节点3路由接口正常,主动健康检查接口不通;

配置信息

在场景3的基础上,增加被动健康检查信息:

请求url:

http://www.tiger.com:9180/mock/aqapi/test

测试结果:

6次请求均到节点1上(和测试场景3结果一样,主动健康检查将节点状态设置成不健康了,就不会触发被动健康检查的计数器了

总结

  1. 被动健康检查不会对目标产生额外的流量,主动进行健康检查会产生额外流量。
  2. 主动健康检查需要在target中配置要探测URL(可以简单配置为“ /”)和判定健康或不健康的状态码,而被动运行状况检查不需要这种配置。
  3. 在实际使用中,使用被动健康检查可能会误杀一些还处于正常状态的target可以承接的流量,所以应该谨慎使用被动模式;
  4. 对target进行探活探死的时候,不能进行有冲突的配置,比如HTTP 403在主动探测模式下认为是健康的返回码,而在被动模式下却认为是不健康的返回码;
  5. 在使用HTTP类型探测的时候,可以同时配置TCP错误的探测,但是如果仅仅使用TCP类型进行探测,则最好禁用HTTP类型的探测,在实际测试中发现只使用TCP探测,也会根据HTTP响应码进行健康状态的判断。
  6. 要完全禁用主动健康游的健康状况检查,可以把healthchecks.active.healthy.interval和healthchecks.active.unhealthy.interval都设置为0。
  7. 要完全禁用被动健康检查,需要将healthchecks.passive下所有计数器的阈值设置为零
  8. 主动健康检查超时时间+超时次数,就是实际上节点不可用的时间;
  9. 就算服务实际返回404,但是主动探测是成功的,也会将此节点当成健康节点,继续请求此节点。

参考

ngx_http_proxy_module
ngx_http_upstream_check_module
nginx(三十六)健康检查
OpenResty中的upstream healthcheck功能沉思录
健康检查
Kong健康检查&熔断器向导
apisix-健康检查
验证Kong的健康检查机制
Kong05- Kong 的健康检查和监控
Health Checks and Circuit Breakers Reference

apisix健康检查测试相关推荐

  1. Nginx的UDP健康检查

    Nginx的UDP健康检查 本章介绍如何为负载平衡的上游服务器组中的UDP服务器配置不同类型的运行状况检查. 先决条件 被动UDP健康检查 主动UDP运行状况检查 微调UDP运行状况检查 " ...

  2. nginx patch补丁方式添加 nginx_upstream_check_module 模块,并测试健康检查

    原创博客地址:陈帅同学-nginx patch补丁方式添加 nginx_upstream_check_module 模块,并测试健康检查 我的测试环境 contos:6.7nginx:1.63 che ...

  3. 体检系统前端源码_给您的前端进行健康检查

    体检系统前端源码 by Ewa Mitulska-Wójcik 伊娃·米图尔斯卡(EwaMitulska-Wójcik) 给您的前端进行健康检查 (Give your Front End a Heal ...

  4. 运维企业专题(8)LVS高可用与负载均衡后篇——LVS健康检查与高可用详解

    实验准备 1.下面的实验使用的是rhel6系列(rhel6.5)的虚拟机,因此你需要有对应的镜像和yum源 2.准备三台虚拟机,为了区分主机名与IP分别为 server1 172.25.6.1 ser ...

  5. linux网络健康度检测,linux运维、架构之路-K8s健康检查Health Check

    一.Health Check介绍 强大的自愈能力是k8s容器编排引擎一个重要特性,自愈能力的默认实现方式为自动重启发生故障的容器,另外还可以利用Liveness和Readiness探测机制设置更精细的 ...

  6. 服务注册与发现用mysql_yeasul: 轻量级服务注册与发现中心,具有健康检查功能。...

    yeasul 亿联定制版服务注册与发现中心,具备心跳检测功能,由于接口参考了consul,所以取名为yeasul. 项目架构 使用Java语言开发,依赖于MySQL 8.0数据库,基于Spring B ...

  7. nginx限流健康检查

    Nginx原生限流模块: ngx_http_limit_conn_module模块 根据前端请求域名或ip生成一个key,对于每个key对应的网络连接数进行限制. 配置如下: http模块 serve ...

  8. .Net Core实现健康检查

    ASP.NET Core 提供运行状况检查中间件和库,以用于报告应用基础结构组件的运行状况. 运行状况探测可以由容器业务流程协调程和负载均衡器用于检查应用的状态.例如,容器业务流程协调程序可以通过停止 ...

  9. .net core i上 K8S(四).netcore程序的pod管理,重启策略与健康检查

    目录 1.pod管理 2.重启策略 3.健康检查 4.进入容器 正文 上一章我们已经通过yaml文件将.netcore程序跑起来了,但还有一下细节问题可以分享给大家. 1.pod管理 1.1创建pod ...

最新文章

  1. asp.net断点续传技术
  2. 如何让人工智能更智能?你需要一个开源平台
  3. java的classpath是什么_JAVA初学者classpath设置情况是什么?
  4. MHA选择主库源码解析
  5. n个点组成多少个三角形Java,农田开发 NOJ (已知N个点选取3个求最大三角形面积问题)...
  6. CPU卡发卡总结(三)——充值和消费
  7. java cryptojs_使用cryptojs的Java到JS和JS到Java的加密
  8. python控制电机正反转_连接电动机正反转控制电路,要求具备电气互锁功能,拍照上传...
  9. python实现根据前序序列和中序序列求二叉树的后序序列
  10. Fortran 读取gps广播星历和精密星历
  11. 那些著名的黑客事件 六
  12. DRM系列(3)之DRM_IOCTL_MODE_MAP_DUMB
  13. C语言:初学者2--求π的值(3种方法)
  14. OBS录屏低音过重/背景嗡嗡声的解决方法
  15. 腾讯云上申请免费的安全证书--【域名身份验证】
  16. gpgpu学习推荐书籍
  17. 华科提出首个用于伪装实例分割的一阶段框架OSFormer
  18. jetty服务器无响应,【在服务器启动jetty后无法启动_jetty/tomcat】 | IT修真院·坑乎...
  19. JavaSE学习路程
  20. 计算机考研408每日一题 day90

热门文章

  1. 怎么修改iis服务器的密码,服务器的iis在哪里设置密码
  2. 亚信实习——初来乍到
  3. 管理学定律十:罗森塔尔效应与虚假同感偏差
  4. 大根堆和小根堆的区别
  5. 前22年的Loser,后4年和自己赛跑的人 | 最惨前端面经
  6. 1968. 奶牛赛跑
  7. 火车头采集图文教程-火车头采集各种数据规则教程
  8. 学习C++的参考书目
  9. 戴尔电脑的计算机管理在哪里,戴尔电脑的设备管理器的打开方法
  10. 移动web微金所实战项目——js