TCP通信转HTTP桥接器(转发zabbix数据为例)
需求场景
由于项目需要我们有大量服务器部署在互联网上,需要zabbix_agent监控服务器数据,但是用于接收监控数据的zabbix_server对访问安全要求较为严格。zabbix_server部署在专网内,仅接收来自CDN的HTTP请求,同时对Host访问地址有大量限制。
zabbix默认的通信协议为基于TCP协议的自定义通信协议详见:zabbix sender协议的研究,因此必然无法通过CDN,防火墙最终到达zabbix_server。因此我们需要将zabbix_agent与server之间的通信通过HTTP桥接起来。
将原TCP通信的C/S结构软件的数据经由HTTP转发。即:
SERVER <-TCP-> CLIENT
转为:
SERVER <-TCP-> BRIDGE <- HTTP -> BRIDGE <- TCP -> CLIENT
由此实现了C/S间穿过CDN,防火墙等复杂网络设备下的通信。
需要注意的是,由于客户端服务器无固定IP,这里的zabbix_agent使用active模式主动往server汇报数据,并接受server的响应。
当然,本文程序由于不涉及处理TCP数据,因此只要是基于TCP的C/S结构软件,均可以使用本文的方法实现HTTP桥接。
流程与程序设计
数据传输流程
分别在客户端与服务端开启桥接器服务,在客户端桥接器启用TCP监听,在服务端桥接器启用HTTP监听。
- 1、zabbix_agent 启动,通过TCP发起check active查询,被客户端桥接器监听到。
- 2、客户端桥接器将TCP数据(byte[])经过Base64编码,通过HTTP方式发送到服务端桥接器。(此时TCP与HTTP连接均未断开)
- 3、服务端桥接器接收到HTTP请求,解析Base64编码的数据后将其恢复成原始byte[],通过TCP方式发送到zabbix_server,并接受响应。将响应数据经过Base64编码后通过HTTP返回给客户端。
- 4、客户端获得HTTP 200响应后,从中解析响应字符串,通过Base64恢复为原zabbix_server响应的byte[],并通过TCP发送给zabbix_agent,断开socket。(zabbix_agent 规定一次TCP通信只允许发送一条数据,所以此处断开SOCKET是正确的)
- 一次桥接通信完成。
程序设计
支持两种启动模式
桥接器功能简单,无需分别实现TCP,HTTP两套程序。只要封装在一个程序里,支持两种启动模式即可。
// 启动服务端HTTP服务
java -jar tcp2httpbridge.jar HTTP
// 启动客户端TCP服务
java -jar tcp2httpbridge.jar TCP
主程序入口如下
public static void main(String[] args) {if(args.length<1){// 没有指定启动方式System.out.println("USAGE : java -jar tcp2httpbridge.jar [HTTP/TCP]");} else if(args[0].toUpperCase().equals(StaticValue.APPTYPE.HTTP)){// 以HTTP方式启动HTTPServer.start();} else if(args[0].toUpperCase().equals(StaticValue.APPTYPE.TCP)){// 以TCP方式启动TCPServer.startServer(Integer.parseInt(ConfigLoader.getInstance().getValue("local.tcp.port")), TCPServer.class);} else {//参数不合法System.out.println("USAGE : java -jar tcp2httpbridge.jar [HTTP/TCP]");}}
程序参数支持配置
将程序常用参数写入app.properties文件中,实现程序的灵活配置。
本示例提取的参数有:
# 应用HTTP项目名称
app.project=tcp2httpbridge
# 最大TCP/HTTP读取缓冲大小
app.maxbuffer=20480
# 最大HTTP监听数量
app.maxhttphandler=100# TCP模式时,本地TCP监听端口(zabbix_agent配置中将ServerActive端口改为此即可被监听)
local.tcp.port=1234
# HTTP模式时,本地HTTP监听端口
local.http.port=8888# 转发HTTP服务器地址(此处指部署有zabbix_server的服务器地址)
remote.http.server=http://xxx.xxx.xxx.xxx
# 转发HTTP服务端口
remote.http.port=8888
# 发送TCP目的地址(IP或域名均可)
remote.tcp.server=localhost
# 发送TCP目的端口(10051对应zabbix_server监听agent数据的端口)
remote.tcp.port=10051# HTTP请求API地址
api.zabbix=zabbix
关键步骤
多线程监听TCP请求
由于一次TCP通信桥接可能较为耗时,若有多个zabbix_agent客户端同时经过此桥接器转接,可能出现多个TCP请求并发的情况,因此不能仅靠一个TCP线程监听,这样会阻塞后续的TCP请求。
因此应该在接到TCP请求后,马上将其交给一个线程单独处理,主线程马上恢复监听。
参考来源:java tcp 端口监听,代码如下
public class TCPServer extends Thread{protected Socket socket;private static final Logger logger = LoggerFactory.getLogger(TCPServer.class);public void run() {try {InputStream is = socket.getInputStream();byte[] buf = new byte[Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxbuffer"))]; int length = is.read(buf);byte[] data = new byte[length];for(int i=0;i<length;i++){data[i] = buf[i];}logger.info("TCP server 接收到数据: " + new String(data));socket.shutdownInput();ResultInfo result = HttpSender.send(ConfigLoader.getInstance().getValue("remote.http.server")+":"+ConfigLoader.getInstance().getValue("remote.http.port")+"/"+ConfigLoader.getInstance().getValue("app.project")+"/"+ConfigLoader.getInstance().getValue("api.zabbix"), data);if(result.getStateId()<0){logger.error("状态码不为0,"+result.getErrorMsg());} else {logger.info("HTTP返回:"+result);byte[] en = result.getContent().getBytes();byte[] de = Base64Util.decryBytes(en);logger.info("TCP 写入:"+new String(de));OutputStream os = socket.getOutputStream();os.write(de);os.flush();socket.shutdownOutput();}logger.info("完成TCP交互,退出socket");socket.close();} catch (Exception e) {logger.error("接收TCP数据出现错误", e);}}public static void startServer(int port, Class obj){ServerSocket serverSocket;try {serverSocket = new ServerSocket(port);logger.info("TCP server 监听 : " + port);while(true){Socket e =null;try {// 在这里一直等待链接e = serverSocket.accept();// 一旦链接,将socket转入新进程进行处理,主进程重新监听新请求logger.info("建立新连接...");TCPServer server = (TCPServer) obj.newInstance();server.socket = e;server.start();} catch (InstantiationException e1) {logger.error("建立TCP连接错误",e1);e.close();} catch (IllegalAccessException e1) {logger.error("建立TCP连接错误",e1);e.close();} }} catch (IOException e) {logger.error("启动TCP监听错误",e);}}}
多线程监听HTTP请求
通过Jersey和sun httpserver建立一个简单的HTTP服务即可。代码如下:
public class HTTPServer {private static final Logger logger = LoggerFactory.getLogger(HTTPServer.class);public static void start() {try {ContextLoader.load(); HttpServerProvider provider = HttpServerProvider.provider(); HttpServer httpserver =provider.createHttpServer(new InetSocketAddress(Integer.parseInt(ConfigLoader.getInstance().getValue("local.http.port"))), Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxhttphandler")));httpserver.createContext(ContextLoader.contextPath, new CoreHandler()); httpserver.setExecutor(null); httpserver.start(); logger.info("HTTP 服务开启成功 :" + Integer.parseInt(ConfigLoader.getInstance().getValue("local.http.port")));} catch (NumberFormatException e) {logger.error("HTTP 服务开启失败",e);} catch (IOException e) {logger.error("HTTP 服务开启失败",e);}}}
Socket的处理
socket处理简单的接受inputstrea和输出outputstream就不细说了,这里说明我遇到的问题:
1、不管是zabbix_agent或是zabbix_server均没有输出结束标志,因此简单的通过DataoutputStream或者BufferedStreamReader的readLine()方式均会遇到程序不知道TCP数据合适传输结束,连接一直保持等待输入直到超时断开为止。
这种处理是不可行的,此处应该直接处理inputstream,将TCP数据一次性读到byte[]中,有多少读多少,然后直接开始处理。
byte[] responseData = new byte[Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxbuffer"))];int readCount = 0;while (true) {int read = is.read(responseData, 0, responseData.length - readCount);if (read <= 0) {break;}readCount += read;}byte[] r = new byte[readCount];for(int i = 0 ; i < readCount; i ++){r[i] = responseData[i];}
// responseData缓冲预留太长,r是最终的byte[]
2、遇到与server交互,既需要TCP输入也需要TCP输出的交互情景,inputstream和outputstream一定要同时获取到
outputstream要flush后才能获得服务器响应。
Socket socket = new Socket(ip, port);OutputStream os = socket.getOutputStream();InputStream is = socket.getInputStream();logger.info("开始输出socket...");os.write(content);os.flush();logger.info("开始读入socket...");byte[] responseData = new byte[Integer.parseInt(ConfigLoader.getInstance().getValue("app.maxbuffer"))];int readCount = 0;while (true) {int read = is.read(responseData, 0, responseData.length - readCount);if (read <= 0) {break;}readCount += read;}byte[] r = new byte[readCount];for(int i = 0 ; i < readCount; i ++){r[i] = responseData[i];}logger.info("关闭socket...");os.close();is.close();socket.close();logger.info("读入socket结束,接收返回:"+new String(r));return r;
HTTP数据封装
如果需要传递byte[],一定要经过Base64编码,同时,如果包装过返回数据结构,并通过fastJson或者其他序列化工具处理的话,目前由于为止原因,fastJson无法处理HashMap<String, byte[]>
这种类型,所以本文程序我只通过HTTP传输Base64处理后的String。
效果
客户端
zabbix_agent请求被桥接器监听到->通过HTTP发送->接收到HTTP返回->将返回数据通过TCP发送回zabbix_agent
服务端
桥接器接到HTTP请求->转为TCP数据发送给zabbix_server->接收到zabbix_server响应->通过HTTP发回响应
zabbix_server监控页面效果
成功在server端注册agent,并上传了一个监控数据。
TCP通信转HTTP桥接器(转发zabbix数据为例)相关推荐
- Java21-day12【网络编程(网络编程入门(ip地址、端口、协议、InetAddress)、UDP通信程序、TCP通信程序)】
视频+资料[链接:https://pan.baidu.com/s/1MdFNUADVSFf-lVw3SJRvtg 提取码:zjxs] Java基础--学习笔记(零起点打开java世界的大门)--博 ...
- 计算机网络不同层中用于将网络互连的中间设备——转发器、网桥(桥接器)、路由器、网关
计算机网络不同层中用于将网络互连的中间设备--转发器.网桥(桥接器).路由器.网关 转发器--物理层 网桥(桥接器)--数据链路层 路由器--网络层 网关--网络层以上 转发器--物理层 网桥(桥接器 ...
- 桥接器(network Bridging)
橋接器 橋接器(英語:),又称网桥,一種網路裝置,負責網路橋接(network bridging).橋接器将网络的多个网段在数据链路层(OSI模型第2层)连接起来(即桥接). 概要图 橋接器有別於路由 ...
- micropython中文社区 socket通讯_基于MicroPython结合ESP8266模块实现TCP通信(AT指令版)...
转载请注明文章来源,更多教程可自助参考docs.tpyboard.com,QQ技术交流群:157816561,公众号:MicroPython玩家汇 实验目的 - 学习ESP8266模块(ESP-01) ...
- JAVA学习-JAVA实现客户端与服务器端的TCP通信
JAVA实现客户端与服务器端的TCP通信 (JAVA 工程训练阶段一.训练任务三基本通信能力.基本任务3.2javaTCP 通信) 编写两个java application 应用程序,完成以下功能: ...
- 【技术备忘录】广和通ADP-L610-Arduino模块实现基于内网穿透的TCP通信
前言 在使用ADP-L610开发板进行开发过程中,如果需要使用TCP通信,那么往往需要本地机器具有公网IP或者是准备一台具有公网IP的云服务器(或者VPS),这往往是需要成本的.现在公网IPv4地 ...
- JAVA SE学习day_08:TCP通信、多线程(并联)
为了解决在程序中不同客户端在同一服务端中都可以进行数据发送的情况,要使用多线程将其进行并联操作 一.多线程 线程可以并发执行多个代码片段,使得这些代码片段直接运行是互不干涉的: 创建线程有两种方式, ...
- python实现端口转发_Python TCP/IP协议下实现端口转发及重定向菜鸟教程
对python这个高级语言感兴趣的小伙伴,下面一起跟随编程之家 jb51.cc的小编两巴掌来看看吧! 首先,我们用webpy写一个简单的网站,监听8080端口,返回"Hello,EverET ...
- python端口转发_Python实现TCP/IP协议下的端口转发及重定向示例
首先,我们用webpy写一个简单的网站,监听8080端口,返回"Hello, EverET.org"的页面. 然后我们使用我们的forwarding.py,在80端口和8080端口 ...
最新文章
- lua 访问oracle,lua链接oracle解决方法与步骤
- LuoguP3183 [HAOI2016]食物链 记忆化搜索
- Hash索引和BTree索引
- SQL Server外连接、内连接、交叉连接
- python_IDE开发环境使用_建立Python源文件---python工作笔记011
- 使用yum安装Apache+PHP+MySQL
- kali linux查看局域网的电脑,kali linux 如何查找局域网ip
- 基于javaweb+jsp的房屋租赁管理系统(java+SSM+Layui+Maven+Mysql+Jsp)
- MES工程师新手,该怎么学习?学习哪些技术?
- 利用云效度量功能进行质量运营和效率驱动提升
- windows 7 官方旗舰版
- ORACLE按照拼音,部首,笔画排序
- Windows安装Redis5.x
- 安装bcftools
- Github复现之D-LinkNet(补全了验证部分代码,效果还行)
- Adobe Acrobat Pro DC 2019 软件下载安装详细教程
- java基础13—方法
- android连接ios热点超时,Android19连接iOS13个人热点失败
- Ubuntu 安装matplotlib
- 用python读取股票价格_我用Python分析股票价格走势,学以致用获取第一桶金!