sflow_traffic

python解析sflow或TCP报文(多种格式)并存储到mysql,可多个机器部署

说明

sflowtool version: 5.02

Python version 2.7.5

抓包程序获取的数据,根据ip+port获取服务之间的调用关系,并存储到mysql

可以抓取两种报文

sflow报文 调用start.sh的sflowactive ,同时需要下载sflowtool

sflowtool将sflow报文转为netsFlow报文并发到本机指定端口(udp)

getTraffic文件getIp函数里调用parseSflow函数

经过GRE封装过的报文 调用start.sh的trafficActive函数即可

getTraffic文件getIp函数里调用parseTCP函数

补充

关于两种GRE格式解析,我遇到的问题

如果遇到类似dpkt解析不了的GRE报文(不限于GRE),可以按照以下方式进行扩展:

ETH_TYPE_ERSPAN1 = 0x88be # 指的是protocol Type的值

...

Ethernet.set_type(ETH_TYPE_ERSPAN1, Ethernet)

启动

sh start.sh

定时设定

格式:'HH:mm:ss',例'1:20:00'表示凌晨1点20,

如果设定时间的小时数大于当前时间的小时数则,会在当天执行一次,例当前时间'10:20:00',设定时间11:00:00,则会在40分钟后第一次执行。如果设定时间为10:59:00,则会在第二天开始的10:59:00第一次执行

tip: 每天都会在指定时间执行

目录结构

├── addpath.py //环境变量配置

├── conf.py //配置文件

├── dao.py //数据库操作

├── formart_server

│ ├── __init__.py

│ └── f_s.py //对数据格式化以便存储到对应表里

├── getDefaultIp

│ ├── __init__.py

│ ├── getDefaultIp.py //获取抓包网卡ip

├── getTraffic.py //主程序

├── get_service

│ ├── __init__.py

│ └── get_data.py //根据ip+port获取对应服务

├── log.py //日志配置

├── log_history //日志文件存储目录

├── intervalTime.py //自定义定时器,每天指定时间执行任务

├── requirements.txt

├── start.sh //启动文件

mysql报文格式_GitHub - YMBo/sflow_traffic: python解析报文(支持格式sflow、gre等)并存储到mysql...相关推荐

  1. ISO8583报文工具类(组装和解析报文)

    很久没来csdn了.现在的工作地点在银行,妈的,不让上网啊. 写写博客其实是对自己知识的总结,这么长时间了,也该写点东西了.接触银行的项目,避免不了 遇上8583报文.具体介绍就不细讲了,这个网上一大 ...

  2. java 8583报文解析_ISO8583报文工具类(组装和解析报文) | 学步园

    很久没来csdn了.现在的工作地点在银行,妈的,不让上网啊. 写写博客其实是对自己知识的总结,这么长时间了,也该写点东西了.接触银行的项目,避免不了 遇上8583报文.具体介绍就不细讲了,这个网上一大 ...

  3. java发送iso8583报文接口框架,ISO8583报文工具类(组装和解析报文)

    package com.lsy.common.util; import java.io.FileInputStream; import java.io.UnsupportedEncodingExcep ...

  4. 猫眼电影票房爬取到MySQL中_猫眼电影爬取(一):requests+正则,并将数据存储到mysql数据库...

    前面讲了如何通过pymysql操作数据库,这次写一个爬虫来提取信息,并将数据存储到mysql数据库 1.爬取目标 爬取猫眼电影TOP100榜单 要提取的信息包括:电影排名.电影名称.上映时间.分数 2 ...

  5. python批量音频转格式_GitHub - shede333/SWConvertVideoToAudio: Python批量转换 视频 为 音频MP3(即提取音频文件)...

    Python批量转换 视频 为 音频MP3(即提取音频文件) 输入文件格式:ffmpeg支持的视频文件 输出格式格式:mp3文件 使用方法: 注意:使用前需要先安装 ffmpeg 才行(Python最 ...

  6. python项目方案书模板格式_GitHub - petterobam/python_tpl: Python项目规范模板

    Python项目规范模板 快速开始 方法一: git clone https://github.com/petterobam/python_tpl.git cd python_tpl/bin # 运行 ...

  7. python解析log文件_python解析基于xml格式的日志文件

    大家中午好,由于过年一直还没回到状态,好久没分享一波小知识了,今天,继续给大家分享一波Python解析日志的小脚本. 首先,同样的先看看日志是个啥样. 都是xml格式的,是不是看着就头晕了??没事,我 ...

  8. Python解析CANoe录制的blf文件asc文件通用方法

    Python解析CANoe录制的blf文件&asc文件通用方法 一.背景     由于很多时候我们在录制日志文件的时候更愿意选择BLF文件,至少目前我见到的很多公司都是使用的BLF文件来作为最 ...

  9. Python解析CANoe录制的asc文件

    Python解析CANoe录制的asc文件 一.背景     由于很多时候我们需要单纯分析一些报文数据,筛选或者一些故障报文,这个时候,用CANoe打开太占用设备了,而且只能过滤到某一帧报文,当我们能 ...

最新文章

  1. 关于Java中next() nextLine()的区别
  2. C语言 指针在函数传参中的使用
  3. 【转】VC窗口刷新InvalidateRect和UpdateWindow RedrawWindow
  4. Intel大玩CPU款式牌
  5. 增值税发票的种类_以及税率---财务知识工作笔记001
  6. 华为电脑linux怎么切换输入法,华为平板键盘怎么切换中文输入法
  7. web前端编程实战实例:制作静态京东首页
  8. 【Cocos2dx】利用导演类、场景类完成重新开始游戏、暂停游戏、关闭游戏功能
  9. 电子邮箱是什么,电子邮箱注册值得入手的邮箱都在这!
  10. Jmeter javax.swing.text.BadLocationException: Position not represented by view 解决方法
  11. mysql limit 0_MySQL 8.0 关于LIMIT的知识点理解
  12. Postgresql默认用户名与密码
  13. 获取时间戳,以秒,毫秒,微妙为单位
  14. nn.KLDivLoss
  15. JAVA-SUST实验二 JavaBean组件程序设计
  16. Java学籍管理系统
  17. 目标人脸检测与识别(计算机视觉)
  18. MOOG D634-319C
  19. 中级工程师职称评定条件及申报资料,伴德诚
  20. GoF设计模式学习笔记 第一回 Mediator

热门文章

  1. Oracle GoldenGate(OGG)- 超级详细
  2. ogg实现Oracle库到Oracle库的数据实时同步
  3. 福建省烟草专卖准运证网络管理系统
  4. 计算机代码设计-基于ssm的员工工资管理系统-人事工资管理系统设计-企业工资管理系统代码
  5. STM32F103输出PWM
  6. 使用javascript-obfuscator进行JS的(批量)最小化和混淆
  7. 曙光服务器bios开启虚拟化支持,中科曙光虚拟化培训教程汇总:3.1 使用针对ESXi的常见LSI 命令行管理工具 v1.0.pdf...
  8. iwebshop index.php,iwebshop源码剖析记录点滴
  9. 个人管理|曾航:给年轻人的写作课(下)
  10. android 仿来电画面,仿WhatsApp社交聊天原生android应用APP源码/带Firebase实时聊天和来电显示...