本文给大家分享的是使用python通过搜狗入口,爬取微信文章的小程序,非常的简单实用,有需要的小伙伴可以参考下

本人想搞个采集微信文章的网站,无奈实在从微信本生无法找到入口链接,网上翻看了大量的资料,发现大家的做法总体来说大同小异,都是以搜狗为入口。下文是笔者整理的一份python爬取微信文章的代码,有兴趣的欢迎阅读

#coding:utf-8

author = 'haoning'

**#!/usr/bin/env python

import time

import datetime

import requests**

import json

import sys

reload(sys)

sys.setdefaultencoding( "utf-8" )

import re

import xml.etree.ElementTree as ET

import os

#OPENID = 'oIWsFtyel13ZMva1qltQ3pfejlwU'

OPENID = 'oIWsFtw_-W2DaHwRz1oGWzL-wF9M&ext'

XML_LIST = []

# get current time in milliseconds

current_milli_time = lambda: int(round(time.time() * 1000))

def get_json(pageIndex):

global OPENID

the_headers = {

'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_5) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.95 Safari/537.36',

'Referer': 'http://weixin.sogou.com/gzh?openid={0}'.format(OPENID),

'Host': 'weixin.sogou.com'

}

url = 'http://weixin.sogou.com/gzhjs?cb=sogou.weixin.gzhcb&openid={0}&page={1}&t={2}'.format(OPENID, pageIndex, current_milli_time()) #url

print(url)

response = requests.get(url, headers = the_headers)

# TO-DO; check if match the reg

response_text = response.text

print response_text

json_start = response_text.index('sogou.weixin.gzhcb(') + 19

json_end = response_text.index(')') - 2

json_str = response_text[json_start : json_end] #get json

#print(json_str)

# convert json_str to json object

json_obj = json.loads(json_str) #get json obj

# print json_obj['totalPages']

return json_obj

def add_xml(jsonObj):

global XML_LIST

xmls = jsonObj['items'] #get item

#print type(xmls)

XML_LIST.extend(xmls) #用新列表扩展原来的列表

**[#www.oksousou.com][2]**

# ------------ Main ----------------

print 'play it :) '

# get total pages

default_json_obj = get_json(1)

total_pages = 0

total_items = 0

if(default_json_obj):

# add the default xmls

add_xml(default_json_obj)

# get the rest items

total_pages = default_json_obj['totalPages']

total_items = default_json_obj['totalItems']

print total_pages

# iterate all pages

if(total_pages >= 2):

for pageIndex in range(2, total_pages + 1):

add_xml(get_json(pageIndex)) #extend

print 'load page ' + str(pageIndex)

print len(XML_LIST)

python微信爬取教程_python爬取微信文章方法相关推荐

  1. python微信爬取教程_python爬虫_微信公众号推送信息爬取的实例

    问题描述 利用搜狗的微信搜索抓取指定公众号的最新一条推送,并保存相应的网页至本地. 注意点 搜狗微信获取的地址为临时链接,具有时效性. 公众号为动态网页(JavaScript渲染),使用request ...

  2. python网页爬虫菜鸟教程_Python 爬取菜鸟教程(www.runoob.com)内容。并保在本地(html格式/pdf格式)...

    最近在开始学Python 也想着做个爬虫玩玩 之前学习(php,jquery...)的时候,经常去菜鸟教程看.索性就将其教程爬下来(打印出来)翻阅起来更有感觉. 好了废话不多说先讲讲我的思路: 首先先 ...

  3. python爬图片教程_python爬去妹子网整个图片资源教程(最详细版)

    爬取妹子网的低级教程连接如下:[爬妹子网](https://blog.csdn.net/baidu_35085676/article/details/68958267) ps:只支持单个套图下载,不支 ...

  4. python爬虫爬图片教程_python爬去妹子网整个图片资源教程(最详细版)

    爬取妹子网的低级教程连接如下:[爬妹子网](https://blog.csdn.net/baidu_35085676/article/details/68958267) ps:只支持单个套图下载,不支 ...

  5. python闭包函数使用教程_Python闭包装饰器使用方法汇总

    闭包内容: 匿名函数:能够完成简单的功能,传递这个函数的引用,只有功能 普通函数:能够完成复杂的功能,传递这个函数的引用,只有功能 闭包:能够完成较为复杂的功能,传递这个闭包中的函数以及数据,因此传递 ...

  6. python中os模块教程_python os模块功能和方法总结

    os.sep     可以取代操作系统特定的路径分割符 os.linesep  字符串给出当前平台使用的行终止符.例如,Windows使用' ',Linux使用' ' 而Mac使用''. os.nam ...

  7. python微信爬取教程_PYTHON爬虫之旅系列教程之【利用Python开发微信公众平台一】...

    感谢大家的等待,好啦,都准备好瓜子.板凳,老司机要发车啦-- 本系列课程讲述"PYTHON爬虫之旅",具体大纲可参考:[PYTHON爬虫之旅]概要目录. 本节课讲述如何利用Pyth ...

  8. python房价数据分析统计服_Python 爬取分析全国 12 个城市 4 万条房价信息,告诉你该怎样买房?...

    原标题:Python 爬取分析全国 12 个城市 4 万条房价信息,告诉你该怎样买房? 作者 | 月小水长 责编 | 伍杏玲通过分页.线程池.代理池等技术,快速爬取链家网近4万条在售二手房信息,速度可 ...

  9. python三国演义人物出场统计_python爬取三国演义文本

    1.目标 python爬取三国演义,生成词云.图表 2.码前须知 项目目标:三国人物名称及出现次数-----数据统计分析 提出问题:哪个人物在三国演义中出现的次数最多?,我们希望通过数据分析来获得答案 ...

最新文章

  1. Linux的IPC机制(三):Binder
  2. Linux安全漏洞审计工具Lynis
  3. linux内核源码剖析 博客,【Linux内存源码分析】页面迁移
  4. Linux下实现自动设置SSH代理
  5. Vue-watch侦听器和计算属性
  6. 深度揭秘:诺基亚的百年沧桑
  7. 小红帽免费酒店管理系统PMS
  8. 【数学建模】2017年B题
  9. 什么是软件架构?常用的软件架构
  10. Android 视频和图片轮播控件,仿淘宝商品详情页
  11. 城市数据大脑:小汽车儿堵成翔?NONONO!
  12. 相机意外断电导致视频保存成DAT文件,无法播放,如何修复视频文件?
  13. dubbo之@Adaptive注解分析
  14. spring boot layui table.render 加载不了cols
  15. 超全总结!一文囊括李航《统计学习方法》几乎所有的知识点!
  16. 3GPP TS 23501-g51 中英文对照 | 4.2.3 Non-roaming reference architecture
  17. python(第八天)
  18. strlen函数的用法和细节
  19. python客户端开发自行车租赁系统_Python实战—自行车租赁数据分析
  20. mysql模糊查询是否区分大小写?

热门文章

  1. asp创建mysql表_asp创建数据库
  2. 【DirectX11】【学习笔记(4)】顶点索引
  3. 录屏储存失败因为5823_屏幕录制存储失败因为5823
  4. Spring注解驱动开发第26讲——总有人让我给他讲讲@EnableAspectJAutoProxy注解
  5. docker-compose 部署mysql一直重启
  6. DOM对象,控制HTML元素
  7. Python处理PDF——PyMuPDF的安装与使用
  8. AutoCAD Civil 3D-曲面-1、曲面创建
  9. 计算机设计大赛应用软件组,组一览表(计算机设计大赛).pdf
  10. 【集创赛】arm杯一等奖作品:智能BLDC驱动系统