java返回fail,clickhouse分析:jdbc返回failed-to-respond问题排查
原因
使用clickhouse jdbc时,经常返回failed to respond,首先判断该错误是clickhouse返回的还是jdbc的错误。
jdbc库分析
jdbc异常抛出的情况:
public class ClickHouseException extends SQLException {
public ClickHouseException(int code, Throwable cause, String host, int port) {
super("ClickHouse exception, code: " + code + ", host: " + host + ", port: " + port + "; "
+ (cause == null ? "" : cause.getMessage()), null, code, cause);
}
public ClickHouseException(int code, String message, Throwable cause, String host, int port) {
super("ClickHouse exception, message: " + message + ", host: " + host + ", port: " + port + "; "
+ (cause == null ? "" : cause.getMessage()), null, code, cause);
}
}
1
2
3
4
5
6
7
8
9
10
出现异常时抛出的情况:
ClickHouse exception, code: 1002, host: 127.0.0.1, port: 8123; 127.0.0.1:8123 failed to respond
通过抛出异常的提示定位到jdbc抛出异常的部分ClickHouseStatementImpl中:
HttpEntity entity = null;
try {
uri = followRedirects(uri);
HttpPost post = new HttpPost(uri);
post.setEntity(requestEntity);
HttpResponse response = client.execute(post);
entity = response.getEntity();
//此处抛出错误
checkForErrorAndThrow(entity, response);
InputStream is;
if (entity.isStreaming()) {
is = entity.getContent();
} else {
FastByteArrayOutputStream baos = new FastByteArrayOutputStream();
entity.writeTo(baos);
is = baos.convertToInputStream();
}
return is;
} catch (ClickHouseException e) {
//错误为此处抛出
throw e;
} catch (Exception e) {
log.info("Error during connection to {}, reporting failure to data source, message: {}", properties, e.getMessage());
EntityUtils.consumeQuietly(entity);
log.info("Error sql: {}", sql);
throw ClickHouseExceptionSpecifier.specify(e, properties.getHost(), properties.getPort());
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
checkForErrorAndThrow方法
private void checkForErrorAndThrow(HttpEntity entity, HttpResponse response) throws IOException, ClickHouseException {
if (response.getStatusLine().getStatusCode() != HttpURLConnection.HTTP_OK) {
InputStream messageStream = entity.getContent();
byte[] bytes = StreamUtils.toByteArray(messageStream);
if (properties.isCompress()) {
try {
messageStream = new ClickHouseLZ4Stream(new ByteArrayInputStream(bytes));
bytes = StreamUtils.toByteArray(messageStream);
} catch (IOException e) {
log.warn("error while read compressed stream {}", e.getMessage());
}
}
EntityUtils.consumeQuietly(entity);
String chMessage = new String(bytes, StreamUtils.UTF_8);
throw ClickHouseExceptionSpecifier.specify(chMessage, properties.getHost(), properties.getPort());
}
}
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
jdbc的实现使用了httpclient的库,可以猜测到这个错误可能是httpclient的报错。服务器的keep-alive时间已知为3s,客户端与服务端进行通信,httpclient会复用已创建的连接,若服务端已关闭连接,客户端在沿用这个连接就会出现 failed to respond的错误。
那我们就尝试一下,看能不能复现这个错误的瞬间。
失败复现
失败测试
我们将使用一个connect完成3个请求,每个请求sleep 3s,进行测试。
三次握手:
在这里插入图片描述
发现在其中一个报错了,错误跟我们预想的一样,仔细看发现有趣的现象,出错的时间戳:42.428675,45.327281,45.431927。我们从参考文章中得知,client会判断当前连接是否存活,如果存活则直接使用。从上述时间节点发现,可能判断存活时临界取值刚好导致了认为可用,但实际使用的时候却断开了。
在这里插入图片描述
程序报错:
在这里插入图片描述
复现不是每次都会出现问题,而且sleep的时间应该设为刚好alive的时间才有大可能捕获到该报错。
解决方案
禁用HttpClient的连接复用
重试方案:http请求使用重发机制,捕获NohttpResponseException的异常,重新发送请求,重发3次后还是失败才停止
根据keep Alive时间,调整validateAfterInactivity小于keepAlive Time,但这种方法依旧不能避免同时关闭
系统主动检查每个连接的空闲时间,并提前自动关闭连接,避免服务端主动断开
对于clickhouse的jdbc来说,如果要提供方案,就要在源码层面更改:
方案1 :修改为短连接,当然这种方式看你接不接受了,ClickHousePreparedStatementImpl中设置:
post.setHeader("Connection", "close");
1
方案2:引入重试机制,当出现这种错误的时候,莫急莫慌,再试一次
参考
文章1较详细的介绍了httpclient的机制,再将源码改为短连接,及不复用http连接,可以短暂解决这个问题,但应该有更好的方法,或者官方提供部分解决方案。
参考3为我们在clickhouse官方jdbc的留言,使用这种方法并没有生效,ClickHouseStatementImpl-> sendStream 需要同样添加短连接语句,如果有更好的解决方案或分析也可以留言讨论。
[1] : HttpClient偶尔报NoHttpResponseException: xxx failed to respond 问题分析
[2] :httpClient: fail to respond
[3] :clickhouse jdbc: fail to respond
java返回fail,clickhouse分析:jdbc返回failed-to-respond问题排查相关推荐
- clickhouse分析:clickhouse jdbc返回failed to respond问题排查
原因 使用clickhouse jdbc时,经常返回failed to respond,首先判断该错误是clickhouse返回的还是jdbc的错误. jdbc库分析 jdbc异常抛出的情况: pub ...
- 学习大数据的第13天——Java面向对象(接口、分析参数返回值的类型不同时如何解决、包以及访问权限修饰符(public、protected、默认、private))
学习大数据的第13天--Java面向对象(接口.分析参数返回值的类型不同时如何解决.包以及访问权限修饰符(public.protected.默认.private)) 接口 接口的基本定义: 1.1.语 ...
- java mysql 源码分析_JAVA JDBC(MySQL)驱动源码分析
JAVA连接数据库是其众多功能中的一部分,主要有两种方式连接DataBase: 一种是采用JDBC-ODBC桥,另一种则是称之为纯驱动连接DataBase,第一种方式在大型项目中基本上不再使用,本系列 ...
- java 存储过程 数组_Java调用存储过程返回数组
Java调用存储过程: 结合SQL操作与存储过程 create procedure set_death_age(poet VARCHAR2, poet_age NUMBER) poet_id NUMB ...
- Ping命令的幕后过程及其返回信息的分析
Ping命令的幕后过程及其返回信息的分析 http://network.ccidnet.com/art/1084/20070615/1113987_1.html "Ping"命令是 ...
- mysql影响行数解析_对PHP函数mysqli_affected_rows的作用行数返回值的分析
这篇文章主要介绍了PHP中mysqli_affected_rows作用行数返回值,实例分析了普通模式与oop模式的用法,具有一定的参考借鉴价值,需要的朋友可以参考下 本文实例分析了PHP中mysqli ...
- Java报异常时getMessage()方法返回null
Java报异常时getMessage()方法返回null 参考文章: (1)Java报异常时getMessage()方法返回null (2)https://www.cnblogs.com/runnin ...
- java exe 返回值_java调用exe返回值
{// getAccount 方法,使用 get 方法; return accounts.get(index); } } Bank .java: package com.mybank.domain; ...
- Java线程详解(12)-有返回值的线程
在Java5之前,线程是没有返回值的,常常为了"有"返回值,破费周折,而且代码很不好写.或者干脆绕过这道坎,走别的路了.现在Java终于有可返回值的任务(也可以叫做线程)了. 可返 ...
最新文章
- 给Fedora 15的gnome3增加自定义程序快捷方式
- Idea使用Lombok简化实体类代码
- Python 【大风号】短视频的自动上传与发布实例演示,同时支持抖音、快手、哔哩哔哩、小红书、微视、西瓜视频、微信视频号等平台的视频自动化同步发布
- 为什么我们喜欢用 sigmoid 这类 S 型非线性变换?
- Bresenham 生成直线
- Java自定义Exception
- IIS 7.5绑定中文域名转码启动站点报“值不在预期的范围内”
- Qt文档阅读笔记-Fortune Client Example实例解析
- java并发包(JUC)
- vue 常用框架【饿了么框架】
- 校园学生疫情防范监控小程序 毕业设计-附源码281444
- 外联css不生效,css外联样式不起作用的解决方法
- Unity 生成随机房间、洞穴(2D、3D地图)总结
- 图标.svg html怎么换颜色,如何改变SVG图像的颜色使用CSS(jQuery SVG图像替换)?
- Nature综述:未培养微生物的新兴培养技术
- EXCEL动态数据透视表
- 《Operating System Concepts(操作系统概念)》课程学习(1)——Chapter 1 Introduction(第1章 绪论)
- 什么是深拷贝和浅拷贝,如何进行浅拷贝?
- ListView单行选中变色
- 用一部极客电影让你感受互联网科技的潜力
热门文章
- 计算两个日期之间的天数,你知道哪些函数能够计算呢?
- 计算机二级可报多科,【通知提醒】计算机二级又要报名啦!
- 微信小程序订阅消息失败
- 华南x79主板u盘装系统教程_华南x79主板怎么装win7系统|华南x79主板装win7及BIOS设置...
- 比上清华更难的,是加入这支中国顶级黑客战队
- 旅游景区|“沉浸式夜游”如何玩?深圳光语数字
- Legacy与UEFI
- 爱我,是不是因为怜悯
- 如何申请建立邮箱?收费邮箱申请流程有哪些
- 数据库管理 │ 浅谈从集中式到分布式数据库的转型要点