Python 抓取微信公众号账号信息
搜狗微信搜索提供两种类型的关键词搜索,一种是搜索公众号文章内容,另一种是直接搜索微信公众号。通过微信公众号搜索可以获取公众号的基本信息及最近发布的10条文章,今天来抓取一下微信公众号的账号信息
爬虫
首先通过首页进入,可以按照类别抓取,通过“查看更多”可以找出页面链接规则:
import requests as req import rereTypes = r'id="pc_\d*" uigs="(pc_\d*)">([\s\S]*?)</a>' Entry = "http://weixin.sogou.com/" entryPage = req.get(Entry) allTypes = re.findall(reTypes, getUTF8(entryPage))for (pcid, category) in allTypes:for page in range(1, 100):url = 'http://weixin.sogou.com/pcindex/pc/{}/{}.html'.format(pcid, page)print(url)categoryList = req.get(url)if categoryList.status_code != 200:break
上面代码通过加载更多页面获取加载列表,进而从其中抓取微信公众号详情页面:
reProfile = r'<li id[\s\S]*?<a href="([\s\S]*?)"' allProfiles = re.findall(reOAProfile, getUTF8(categoryList)) for profile in allProfiles:profilePage = req.get(profile)if profilePage.status_code != 200:continue
进入详情页面可以获取公众号的 名称/ID/功能介绍/账号主体/头像/二维码/最近10篇文章
等信息:
大家在学python的时候肯定会遇到很多难题,以及对于新技术的追求,这里推荐一下我们的Python学习扣qun:784758214,这里是python学习者聚集地!!同时,自己是一名高级python开发工程师,从基础的python脚本到web开发、爬虫、django、数据挖掘等,零基础到项目实战的资料都有整理。送给每一位python的小伙伴!每日分享一些学习的方法和需要注意的小细节
点击:python技术分享
注意事项
详情页面链接: http://mp.weixin.qq.com/profile?src=3×tamp=1477208282&ver=1&signature=8rYJ4QV2w5FXSOy6vGn37sUdcSLa8uoyHv3Ft7CrhZhB4wO-bbWG94aUCNexyB7lqRNSazua-2MROwkV835ilg==
1. 验证码
访问详情页面时有可能需要验证码,自动识别验证码还是很有难度的,因此要做好爬虫的伪装工作。
2. 未保存详情页面链接
详情页面的链接中有两个重要参数: timestamp & signature
,这说明页面链接是有时效性的,所以保存下来应该也没用;
3. 二维码
二维码图片链接同样具有时效性,因此如需要最好将图片下载下来。
用 Flask 展示结果
最近 Python 社区出现了一款异步增强版的 Flask 框架: Sanic ,基于 uvloop 和 httptools ,可以达到异步、更快的效果,但保持了与 Flask 一致的简洁语法。虽然项目刚起步,还有很多基本功能为实现,但已经获得了很多关注( 2,222 Star )。这次本打算用抓取的微信公众号信息基于 Sanic 做一个简单的交互应用,但无奈目前还没有加入模板功能,异步的 redis 驱动也还有 BUG 没解决,所以简单尝试了一下之后还是切换回 Flask + SQLite,先把抓取结果呈现出来,后续有机会再做更新。
安装 Sanic
Debug Sanic
Flask + SQLite App
from flask import g, Flask, render_template import sqlite3app = Flask(__name__) DATABASE = "./db/wx.db"def get_db():db = getattr(g, '_database', None)if db is None:db = g._database = sqlite3.connect(DATABASE)return db @app.teardown_appcontext def close_connection(exception):db = getattr(g, '_database', None)if db is not None:db.close()@app.route("/<int:page>") @app.route("/") def hello(page=0):cur = get_db().cursor()cur.execute("SELECT * FROM wxoa LIMIT 30 OFFSET ?", (page*30, ))rows = []for row in cur.fetchall():rows.append(row)return render_template("app.html", wx=rows, cp=page)if __name__ == "__main__":app.run(debug=True, port=8000)
Python 抓取微信公众号账号信息相关推荐
- python简答题及答案查询公众号和软件_Python 抓取微信公众号账号信息的方法
搜狗微信搜索提供两种类型的关键词搜索,一种是搜索公众号文章内容,另一种是直接搜索微信公众号.通过微信公众号搜索可以获取公众号的基本信息及最近发布的10条文章,今天来抓取一下微信公众号的账号信息 爬虫 ...
- Python项目实战:抓取微信公众号账号信息
搜狗微信搜索提供两种类型的关键词搜索,一种是搜索公众号文章内容,另一种是直接搜索微信公众号.通过微信公众号搜索可以获取公众号的基本信息及最近发布的10条文章,今天来抓取一下微信公众号的账号信息( 爬虫 ...
- python抓取微信文件_fiddle python抓取微信公众号文章
分析 1,先进行准备工作:使用fiddle抓包(大家可以自行百度怎么使用哦) 2,打开电脑端微信,找到需要爬取的公众号 点击进入公众号,再打开fiddle,微信停留在这一步 打开fiddle后再点击微 ...
- python抓取微信公众号文章及评论(附过程)
需求:抓取人民网微信公众号的文章和评论 使用工具: fiddler python3 微信pc客户端 破解过程: 首先 使用fiddler对微信pc端抓包,需要配置https证书,另外最好加个filte ...
- python抓取微信公众号文章【基于Fiddler抓包】
本篇文章介绍一种通过抓包的形式来获取公众号文章,主要是抓包PC端的微信公众号文章,比较容易上手,只要用过抓包软件一般都不难的.这里使用Fiddler 4抓包软件,很常用的一款软件,也满足我们的要求了. ...
- python抓取微信公众号新闻文章图片
在看公众号新闻的时候,总会有一些有用的PPT图片啥的想保存下来. 那么用python如何抓取来,简单介绍一下. 比如这个网址,https://mp.weixin.qq.com/s/-rj91sCpea ...
- python爬取微信公众号文章信息
就我了解的爬取方法,主要有三种爬取方法,通过搜狗微信,微信订阅号后台和手机端. 我采取了前两种方法.但是搜狗微信爬取的url是有时间限制的,会失效,之后要用别的方法转永久链接,微信订阅号并不会,但是一 ...
- python公众号文章_Python 抓取微信公众号文章
起因是刷微信的时候看到一篇文章,Python 抓取微信公众号文章保存成pdf,很容易搜到,就不贴出来了 先用chrome登陆微信公众号后台,先获取一下自己的cookie,复制下来就行,解析一下转换成 ...
- Python实现抓取微信公众号文章
本文首发于微信公众号:"算法与编程之美",欢迎关注,及时了解更多此系列文章. 前言 对于抓取微信公众号文章主要通过代理ip抓包进行的操作,总会出现一些问题,以下问题导致无法抓包. ...
最新文章
- android-sqlite小实例
- 数据预处理:读取文件数据,并存为python数组
- java程序员面试经历(不忘初心,永不放弃,放得始终)。
- POJ 1936 All in All
- docker搜索镜像
- pthread_cond_signal函数《代码》--生产者与消费者
- 大幅广告显示隐藏效果
- 详解Python中函数和模块的特殊属性__annotations__
- mysql数据库需求分析工具_一份全面的“数据库设计需求分析”是怎样的?
- 鸿蒙os开机时间,再见了安卓!华为鸿蒙OS 2.0正式登场,开机只需19秒
- 一文详解光场在三维人脸建模中的应用
- Lintcode 算法
- 网卡在linux系统下的驱动怎么安装,RedHat Linux系统如何安装无线网卡驱动
- DAY9:尚学堂高琪JAVA(98)
- PYTHON处理年月日的英文转换
- 人工智能驱动的智能制造(人工智能系列)
- linux安装界面键盘失灵,安装win7鼠标键盘失灵怎么办_win7安装界面鼠标键盘失灵解决方法【147下载站】...
- 洛谷 P1551 亲戚
- 网购使用的计算机网络技术,浅议计算机网络技术的应用与发展
- MOOC《基础和声》笔记
热门文章
- MATLAB代码实现三次样条插值
- 记将title(复杂字符串)放入URL时遇到的一些问题(`Model has no value for key ‘[‘`;重定向;中文乱码;URLEncoder;正则替换)
- Linux内存之Slab与slabtop命令
- nginx配置域名访问/禁止ip访问
- Linux内核及其发行版本
- 网络安全保障之“三同步”
- Error evaluating expression ‘xxxxx != null and xxxxxx!= ’
- at91sam9260ek的板级、irq初始化-小试牛刀
- 怎么用cmd强制修改密码
- Google Gson 格式化日期时间