实战技巧:Python爬取OEM 12C上的告警信息并推送至微信企业号
关注我们获得更多精彩
作者 | 徐美兰 ,邮政软件开发工程师,广东、湖南邮政金融数据中心任职多年,擅长Oracle数据库性能诊断与调优,对基于Python的数据分析与挖掘开发具有浓厚兴趣。
编者说明:Python 作为流行的开发语言,在 DBA 的日常工作中,发挥着日益重要的作用,本文作者通过 Python 实现了将 OEM 告警采集分发到微信的功能,可以对我们的工作起到借鉴和启发之处,特整理供读者参考。
本文主要介绍通过 Python 爬虫脚本,将所有目标的告警信息爬下来,并推送到微信企业号应用实现单点对多目标的巡检。籍此以减少 DBA 的工作量。
如有不了解 Oracle Enterprise Manager Cloud Control 12c 的,可搜索信息自行了解。
一、设置 Incident Manager: All open incidents 为管理器打开的主页面
如下图所示:
二、利用 Python 编写爬虫
利用 python+selenium+geckodriver 爬取一中告警信息推送到企业号。
注意:需要安装 firefox 浏览器(linux 默认自带的 firefox 版本较低的请自行升级到最新版),同时是用 python2.7 写的。代码可以通过本文的『原文链接』下载。
以下是实现代码示范:
# -*- coding:utf-8 -*-
import sys
import urllib2
import json
import cx_Oracle
import os
from selenium import webdriver
from requests import Session
from selenium.webdriver.firefox.options import Options as FirefoxOptions
from selenium.webdriver.chrome.options import Options as ChromeOptions
from time import sleep
default_encoding = 'utf-8'
if sys.getdefaultencoding() != default_encoding:
reload(sys)
sys.setdefaultencoding(default_encoding)
os.environ['NLS_LANG'] = 'SIMPLIFIED CHINESE_CHINA.UTF8'
class Token(object):
def __init__(self, corp_id, corp_secret):
self.corp_id = corp_id
self.corp_secret = corp_secret
self.baseurl = 'https://qyapi.weixin.qq.com/cgi-bin/gettoken?corpid={0}&corpsecret={1}'.format(self.corp_id, self.corp_secret)
self.send_values = {}
# Get AccessToken
def get_token(self):
conn = cx_Oracle.connect('FI_SAL/FI_SAL@*.*.*.*:1521/orcl')#本人企业号token定时爬取存在数据库里
cur = conn.cursor()
sql = "select * from WX_ACCESS_TOKEN"
cur.execute(sql)
result = cur.fetchall()
for row in result:
self.access_token = row[0]
cur.close()
conn.close()
return self.access_token
# Send Message
def send_data(self, userid, message):
self.message = message
self.send_url = 'https://qyapi.weixin.qq.com/cgi-bin/message/send?access_token=' + self.access_token
self.send_values = {
"touser": userid,#接收人
"msgtype": "text",
"agentid": "55",#企业号对应的应用ID
"text": {
"content": message
},
"safe": "0"
}
send_data = json.dumps(self.send_values, ensure_ascii=False)
send_request = urllib2.Request(self.send_url, send_data)
response = urllib2.urlopen(send_request)
# Get Response Message
msg = response.read()
print userid + ':' + msg
return msg
corpid = '*****************************'
corpsecret = '**********************************'
#接收人 DBA加部门领导
toUser = '******|******'
req = Session()
req.headers.clear()
options = FirefoxOptions()
options.add_argument("--headless")
wd = webdriver.Firefox(firefox_options=options)
#wd = webdriver.Firefox()
logInUrl = 'https://登录页面的IP:登录页面的端口/em/faces/logon/core-uifwk-console-login'
wd.get(logInUrl)
wd.find_element_by_xpath('//*[@id="j_username::content"]').send_keys('***填写登录账号**')
wd.find_element_by_xpath('//*[@id="j_password::content"]').send_keys('***填写登录密码**')
sleep(2)
wd.find_element_by_xpath('//*[@id="login"]').click()
sleep(2)
wd.find_element_by_xpath('//*[@id="emT:lrmd1:iCustVw:4:custViewLink"]').click()
sleep(2)
i = 1
wxPostList = []
# start with 0 column
while i < 100 :
j = 1
while j < 100 :
xPathColumn1 = '//*[@id="emT:lrmd1:tbmd1:pc2:t2::db"]/table[' + str(i) + ']/tbody/tr[' + str(j) + ']/td[2]/div/table/tbody/tr/td[1]'
xPathColumn2 = '//*[@id="emT:lrmd1:tbmd1:pc2:t2::db"]/table[' + str(i) + ']/tbody/tr[' + str(j) + ']/td[2]/div/table/tbody/tr/td[2]'
xPathColumn3 = '//*[@id="emT:lrmd1:tbmd1:pc2:t2::db"]/table[' + str(i) + ']/tbody/tr[' + str(j) + ']/td[2]/div/table/tbody/tr/td[3]'
xPathColumn6 = '//*[@id="emT:lrmd1:tbmd1:pc2:t2::db"]/table[' + str(i) + ']/tbody/tr[' + str(j) + ']/td[2]/div/table/tbody/tr/td[6]'
try :
tableElementColumn1 = wd.find_element_by_xpath(xPathColumn1)
tableElementColumn2 = wd.find_element_by_xpath(xPathColumn2)
tableElementColumn3 = wd.find_element_by_xpath(xPathColumn3)
tableElementColumn6 = wd.find_element_by_xpath(xPathColumn6)
tableElementColumn1ImgTag = tableElementColumn1.find_element_by_tag_name("img")
tableElementColumn1Content = tableElementColumn1ImgTag.get_attribute("title")
tableElementColumn2Content = tableElementColumn2.get_attribute('textContent')
tableElementColumn3Content = tableElementColumn3.get_attribute('textContent')
tableElementColumn6Content = tableElementColumn6.get_attribute('textContent')
tempMsg = \
"Target: " + tableElementColumn3Content + "\n" \
+ "Severity: " + tableElementColumn1Content + "\n" \
+ "Last Updated: \n" + tableElementColumn6Content[0:24] + "\n" \
+ "Summary: " + tableElementColumn2Content + "\n\n"
wxPostList.append(tempMsg)
j = j + 1
except :
break
#sleep(1)
i = i + 1
wd.quit()
i = 0
j = 0
wxMsg = '信息技术局技术开发部\n数据库巡检结果:\n\n'
if len(wxPostList) > 0 :
for i in range(len(wxPostList)) :
wxMsg = wxMsg + wxPostList[i]
if j == 9 or i == (len(wxPostList) - 1):
wxMsg = wxMsg.encode('utf-8')
get_test = Token(corpid, corpsecret)
get_test.get_token()
msg = get_test.send_data(toUser, wxMsg)
wxMsg = ''
j = 0
j = j + 1
else:
wxMsg = wxMsg + '所有鸿翔数据库无任何告警信息!'
get_test = Token(corpid, corpsecret)
get_test.get_token()
msg = get_test.send_data(toUser, wxMsg)
三、以下是推送结果
通过这样的监控设置,将信息及时送达,即起到通知的及时性,又实现了自动化流程,一定的减少了DBA的工作量。
作者:徐美兰
投稿:有投稿、寻求报道意向技术人请在公众号对话框留言。
更多精彩请关注 “数据和云” 公众号
资源下载
关注公众号:数据和云(OraNews)回复关键字获取
2018DTCC , 数据库大会PPT
2017DTC,2017 DTC 大会 PPT
DBALIFE ,“DBA 的一天”海报
DBA04 ,DBA 手记4 电子书
122ARCH ,Oracle 12.2体系结构图
2017OOW ,Oracle OpenWorld 资料
PRELECTION ,大讲堂讲师课程资料
近期文章
仅仅使用AWR做报告? 性能优化还未入门
实战课堂:一则CPU 100%的故障分析
杨廷琨:如何编写高效SQL(含PPT)
一份高达555页的技术PPT会是什么样子?
大象起舞:用PostgreSQL解海盗分金问题
ProxySQL!像C罗一样的强大
高手过招:用SQL解决环环相扣的刑侦推理
实战技巧:Python爬取OEM 12C上的告警信息并推送至微信企业号相关推荐
- Python 爬取百度 搜索风云榜 新闻并 自动推送 到邮箱
本文将使用Python爬取百度新闻搜索指数排名前50的新闻,并通过服务器运行,每天定时发送到指定邮箱. 先上代码: # -*- coding:utf-8 -*- import requests,os, ...
- 《python爬虫实战》:爬取贴吧上的帖子
<python爬虫实战>:爬取贴吧上的帖子 经过前面两篇例子的练习,自己也对爬虫有了一定的经验. 由于目前还没有利用BeautifulSoup库,因此关于爬虫的难点还是正则表达式的书写. ...
- python实战|python爬取58同城租房数据并以Excel文件格式保存到本地
python实战|python爬取58同城租房数据并以Excel文件格式保存到本地 一.分析目标网站url 目标网站:https://cq.58.com/minsuduanzu/ 让我们看看网站长啥样 ...
- 利用python爬取丁香医生上新型肺炎数据,并下载到本地,附带经纬度信息
新增:国外疫情网站介绍 已更新:爬取国外疫情数据 已更新:新型肺炎历史数据下载 2020年3月27日补充: 制作了一个全球肺炎数据查询下载网站,效果如下: 访问地址:http://119.3.227. ...
- python爬取电脑本地数据_利用python爬取丁香医生上新型肺炎数据,并下载到本地,附带经纬度信息...
原标题:利用python爬取丁香医生上新型肺炎数据,并下载到本地,附带经纬度信息 新型肺炎肆虐全国,可以预知,最近一两年地理学中会有一部分论文研究新型肺炎的空间分布及与其他指标的关联分析.获取其患病人 ...
- 用python爬取动态网页上的图片(百度图片)
用python爬取动态网页上的图片(百度图片) 参考B站一个视频,视频链接: https://www.bilibili.com/video/BV1Va4y1Y7fK?share_source=copy ...
- python爬房源信息_用python爬取链家网的二手房信息
题外话:这几天用python做题,算是有头有尾地完成了.这两天会抽空把我的思路和方法,还有代码贴出来,供python的初学者参考.我python的实战经历不多,所以代码也是简单易懂的那种.当然过程中还 ...
- python爬取boss直聘招聘信息_年底啦,利用Python爬取Boss直聘的招聘信息,为明年跳槽做准备...
原标题:年底啦,利用Python爬取Boss直聘的招聘信息,为明年跳槽做准备 前言 为什么都说程序员的薪资高,但是刚开始入职的你,薪资并不是自己想象中的那样,首先是你的工作经验不足,其次就是需要不断的 ...
- python 爬取链家数据_用python爬取链家网的二手房信息
题外话:这几天用python做题,算是有头有尾地完成了.这两天会抽空把我的思路和方法,还有代码贴出来,供python的初学者参考.我python的实战经历不多,所以代码也是简单易懂的那种.当然过程中还 ...
最新文章
- Git 设置 SOCKS 代理
- 多生产者_多线程必考的「生产者 - 消费者」模型,看齐姐这篇文章就够了
- 通用PE工具箱安装图解
- 用双网卡做代理服务器设置具体步骤
- 印尼发生洪灾和山体滑坡 致多人死亡数千人撤离
- 前端学习(1815):前端调试之css flex 练习1
- php页面文件后缀名,PHP中获取文件扩展名的N种方法
- Windows server 2012 安装exchange 2013
- C# 各版本新增功能
- Spring Boot 2.x :通过 spring-boot-starter-hbase 集成 HBase
- 计算机二进制和太极,八卦与二进制
- arcgis栅格邻域统计_运用ArcGIS进行影像分类
- 抓住“智慧城市”的机遇
- 公司mysql数据库设计与优化培训ppt
- cad完全卸载教程_完全卸载CAD2012的步骤教程--系统之家
- 学校计算机学院教学管理ER图,学校课程管理ER图
- html如何在手机打开,HTML怎么在手机打开
- 华为 OSPF特殊区域
- 计算机表示图形的几种方法。
- 遥感测深方法综述(一)遥感测深方兴未艾
热门文章
- oxp开放型可变长协议_培养开放型领导者
- 重量级 | 重量级!Maven史上最全教程,看了必懂
- CSS Word的文档结构视图设计
- 计算机病毒主要以存储介质和计算机网络为媒介进行传播,计算机病毒主要以存储介质和计算机网络为媒介进行传播。...
- 拔刀剑服务器r87修复版,我的世界拔刀剑mod刀剑修复教程
- 遇见好链接(我还并没有看)
- 方法覆盖(重写)和方法重载
- OpenStack基础知识
- transactionManager 以及datasource type解析
- 使用 CodeIgniter 框架快速开发 PHP 应用(一)