才接触爬虫的时候,我们通常使用的是浏览器的开发者工具-F12里的NetWork对网页进行抓包,但是这有一个缺点,就是如果网页加载了很多乱七八糟的东西,比如广告啊,各种各样的js之类的时候,NewWork就显得有点吃力了,我们就需要使用更强大的工具来进行抓包,我个人比较喜欢使用Fiddler,毕竟免费的好用,另外有喜欢的朋友也可以使用Charles,它只能免费使用一段时间。
这里贴出下载地址:
fiddler官网下载
charles官网下载

这里对fiddler进行测试。
安装好之后,我们打开fiddler,然后打开浏览器,就可以看到,现在fiddler代替了我们的开发者工具,对http请求进行了抓取,这时候我们还需要进行一些设置,让它可以抓取https请求。

注意

如果是要对app进行抓包,请将 from browser only 改为 from all processes.

下面是对app抓包的配置。

下面就需要使用真机,或者模拟器了,这里推荐一款模拟器,逍遥安卓模拟器。
传送门 --> 逍遥安卓模拟器官网

下载好之后打开如下图。

这时候需要对模拟器进行配置,真机也是同样步骤~!

代理服务器主机名可以打开cmd输入ipconfig进行查看,代理服务器端口号是根据你的fiddler的代理端口号对应的。完成这一项步骤后点击保存即可。

但是现在还无法对手机app进行抓包,需要安装证书,这时候打开手机自带的浏览器,在地址栏输入你的代理服务器名+端口号 ,如下图

点击 FiddlerRoot certificate 下载安装证书即可。

大功告成

现在我们就可以对app进行抓包操作了,以酷航app为例:

可以看到 我们已经将酷航app的查询请求抓取下来了,可以对它进行重发以及各种花里胡哨的操作了~

但是如果还需要进一步的了解的话,比如酷航app会产生一个wtoken参数,这个就例如网页中的js加密一般,是在apk底层生成的,需要我们去捕获进行模拟生成,因为这个会在服务器上进行验证,网页端的js加密token也是如出一辙,这就需要涉及到安卓的逆向工程以及反编译了,有兴趣的童鞋也可以去了解一下,需要一定的java基础哦!

有需要帮助的童鞋可以进行留言一起探讨,一起学习进步 ~!

网络爬虫-神器fiddler抓取app数据相关推荐

  1. 利用Fiddler抓取APP数据

    利用Fiddler抓取APP数据 简杨君 关注 2016.11.03 18:51* 字数 368 阅读 762评论 0喜欢 2 软件:Fiddler 系统:Windows10 手机:MX4 PRO F ...

  2. 网络爬虫中Fiddler抓取PC端网页数据包与手机端APP数据包

    1 引言 在编写网络爬虫时,第一步(也是极为关键一步)就是对网络的请求(request)和回复(response)进行分析,寻找其中的规律,然后才能通过网络爬虫进行模拟.浏览器大多也自带有调试工具可以 ...

  3. Python3.x+Fiddler抓取APP数据

    随着移动互联网的市场份额逐步扩大,手机APP已经占据我们的生活,以往的数据分析都借助于爬虫爬取网页数据进行分析,但是新兴的产品有的只有APP,并没有网页端这对于想要提取数据的我们就遇到了些问题,本章以 ...

  4. fiddler设置中文版本_Python3.x+Fiddler 抓取 APP 数据

    随着移动互联网的市场份额逐步扩大,手机 APP 已经占据我们的生活,以往的数据分析都借助于爬虫爬取网页数据进行分析,但是新兴的产品有的只有 APP,并没有网页端这对于想要提取数据的我们就遇到了些问题, ...

  5. Fiddler抓取APP数据包实践教程

    本章节教程,主要介绍一下如何,抓取手机上的app数据. 为了详细介绍整个配置过程,本文使用MuMu模拟器来演示整个过程. 目录 一.安装模拟器软件 二.安装APP软件 三.Fiddler设置远程抓包步 ...

  6. 自动抓取app数据技术方案总结

    在app运营过程中,有时候我们需要了解app中的一些数据,比如:我们自己开的网店,有时候app官方提供的数据并不能满足我们的实际需求,这时就需要使用工具来自动抓取我们自己店铺中有用的数据.一般有两种实 ...

  7. 抓取app数据教程–fiddler抓包数据截取-薄荷app为例

    转载请注明出处:抓取app数据教程–fiddler抓包数据截取-薄荷app为例 准备工具 1.手机(安装有想要抓取数据app的iphone或者android) 2.fiddler抓包工具 安装fidd ...

  8. python123 app下载_Python 逆向抓取 APP 数据

    今天继续给大伙分享一下 Python 爬虫的教程,这次主要涉及到的是关于某 APP 的逆向分析并抓取数据,关于 APP 的反爬会麻烦一些,比如 Android 端的代码写完一般会进行打包并混淆加密加固 ...

  9. Python 逆向抓取 APP 数据

    今天继续给大伙分享一下 Python 爬虫的教程,这次主要涉及到的是关于某 APP 的逆向分析并抓取数据,关于 APP 的反爬会麻烦一些,比如 Android 端的代码写完一般会进行打包并混淆加密加固 ...

最新文章

  1. 线程中的yield()
  2. 视觉slam发展史--从开始到未来
  3. dreamweaver 8的替换功能
  4. 关于本地缓存localstorage与sessionStorage 数组 (array)字符串(string) 对象(object)的存储技巧和注意事项...
  5. android崩解日志,android – 使用rxJava2和改造的UndeliverableException
  6. 单片机学习 8-LED点阵实验
  7. 转:饭后九不要包你保健康
  8. 如何判断两条直线是否相交
  9. 汇编 二进制拆炸弹 r -t 3 -x 124
  10. 《基于Vue实战打造抖音WebApp》
  11. vue2-element,vue3-element-plus 的列表翻页的序号
  12. LINUX系统的特点
  13. chinaren同学录的字数倒记数
  14. JS遍历对象,获取key、value的几种方法
  15. 微擎支付返回商户单号_微信小程序支付流程
  16. Deepin 15.11下载安装新版 QQ Linux
  17. 台阶--Nim游戏(博弈论)
  18. linux centos 7安装极点五笔输入法
  19. C语言,常用的系统函数
  20. 设计模式系列-调停者模式-Mediator

热门文章

  1. Android 9.0系统源码_SystemUI(二)StatusBar系统状态栏的创建流程
  2. pregnant用法
  3. 正态分布某一点的概率怎么算_统计基础篇之十三:怎么理解正态分布(二)
  4. 最好的编程语言是怎样的?
  5. matlab 狄利克雷函数代码,狄利克雷函数
  6. 愿为你倾尽一世,守侯一生
  7. 信息安全的 CIA 三要素
  8. Eclipse中调试Python代码--调试FWTools2.4.7中的gdal_retile.py
  9. QGIS算法列表 (py console输出)
  10. 图解图论介绍及应用(1):哥尼斯堡七桥