网络爬虫比较适合搜集web页面数据,但在app当道的时代,很多app根本就没有对应的web网站,所以使用传统的网络爬虫抓取数据已不再适用。最近研究了一下解决方案,发现目前市面上的解决方案要么是java要么是python,门槛有点高,开发和维护成本比较高。最近一直都在研究的冰狐智能辅助号称可以不用编程就可以实现app自动化,今天我们就用它来试下在不编程的前提下如何轻松实现自动抓取app 数据,下面以拼多多为例进行讲解。

准备工作

  1. 注册冰狐智能辅助账号
  2. 准备android手机一台
  3. 在android手机中安装并登录冰狐智能辅助app

详细准备过程请查看这里https://aznfz.com/document/prepare一定要严格按照文档提示完成所有步骤,否则可能无法正常工作。

业务逻辑

目标:获取拼多多中价格小于1.6的商品

  1. 启动拼多多
  2. 循环浏览商品列表
  3. 挑选价格小于1.6的商品

具体实现

创建自动构建

在网页端「移动端」/「自动构建脚本」中创建一个名为“test”的自动构建,然后点击“配置构建”。所有的业务相关模块都放在main模块中,点击main模块的“编辑”按钮,如下图所示:

选择模块和配置参数

直接根据上面的业务逻辑来选择对应的业务模块,并配置相关参数

1.启动拼多多,选择“启动App”模块,并配置包名和tag名

2.循环浏览商品列表,循环滚动页面,选择“循环处理”模块,类型选择永久循环类型

3.遍历当前的商品列表,选择“遍历容器”模块

4.挑选价格小于1.6的商品,选择“获取控件文本”模块提取价格

自动构建模块和参数配置

完整的自动构建模块和配置参数如下,可以直接在自动构建处,点击“test”右边的“配置源码”按钮,把如下配置数据粘贴进去即可自动生成自动构建。

{"type": "root","children": [{"type": "declareVar","var": [{"name": "temp","type": "normal","initType": "null","initValue": "null"}, {"name": "ret","type": "normal","initType": "null","initValue": "null"}, {"name": "view","type": "normal","initType": "null","initValue": "null"}, {"name": "viewContainer","type": "normal","initType": "null","initValue": "null"}, {"name": "tag","type": "normal","initType": "null","initValue": "null"}, {"name": "item","type": "normal","initType": "null","initValue": "null"}, {"name": "index","type": "normal","initType": "null","initValue": "null"}, {"name": "data","type": "normal","initType": "string","initValue": ""}, {"name": "text","type": "normal","initType": "string","initValue": ""}]}, {"type": "main","desc": "业务逻辑入口","debug": false,"params": [],"children": [{"type": "launchApp","desc": "启动APP","debug": false,"packageName": "com.xunmeng.pinduoduo","tag": "txt:推荐|txt:首页#","maxStep": "30","children": [{"type": "loop","desc": "循环处理","class": "4","debug": false,"children": [{"type": "scroll","desc": "滚动处理","class": 1,"debug": false,"direction": "up","tag": "","family": [],"descendant": [],"widgetIndex": "0","minDistance": "0.98","maxDistance": "0.98","minScrollCount": "1","maxScrollCount": "1","minDuration": "500","maxDuration": "500","beforeWait": "1000","afterWait": "1000"}, {"type": "traverse","desc": "遍历当前商品列表容器","class": 1,"debug": false,"tag": "cn:android.support.v7.widget.RecyclerView#","family": [],"descendant": [],"failed": "","traverseSelf": false,"retryCount": "0","startIndex": "0","lastIndex": "0","randomPickCount": "0","clickable": false,"className": "","children": [{"type": "searchView","desc": "搜索价格","debug": false,"tag": "txt:¥#","root": "item","family": [],"failed": "","duration": "500","maxStep": "5","beforeWait": "0","afterWait": "0","fetchResultIndex": "0","returnVarIsLocal": false,"children": [{"type": "dataDeal","desc": "数据价格控件","debug": false,"data": "view","operate": ["0:nextSibling"],"returnVarName": "view"}, {"type": "getText","desc": "获取商品价格","class": "2","debug": false,"family": [],"descendant": [],"returnType": "float","returnVarName": "text","returnVarIsLocal": true,"target": "view"}, {"type": "if","desc": "判断价格是否满足要求","class": "2","debug": false,"family": [],"descendant": [],"expr": "(typeof text == 'number') && (text<=1.6)","children": [{"type": "toast","desc": "弹出框","debug": false,"textList": ["string-找到价格小于规定的商品了"],"x": "-1","y": "-1","duration": "1000","beforeWait": "0","afterWait": "0"}]}],"false": {}}]}]}],"false": {}}]}],"desc": "根模块","debug": false
}

运行测试

请按如下步骤运行测试

  1. 开启冰狐智能辅助app调试模式
  2. 把自动构建编译成js脚本,在网页端「移动端」/「自动构建脚本」找到“test”,然后点击右边的“编译”按钮,即可自动生成名 test 的js脚本。
  3. 运行js脚本,在网页端「移动端」/「移动端脚本」找到到“test”,然后点击右边的“运行”按钮,选择设备,开始执行脚本。

一分钟学会如何自动抓取app数据相关推荐

  1. 自动抓取app数据技术方案总结

    在app运营过程中,有时候我们需要了解app中的一些数据,比如:我们自己开的网店,有时候app官方提供的数据并不能满足我们的实际需求,这时就需要使用工具来自动抓取我们自己店铺中有用的数据.一般有两种实 ...

  2. 自动抓取app数据的攻与防

    当我们发布了一款app后,一般我们并不想让别人获取我们的app数据,更不希望别人调用我们的app后端服务api.一些抢购场景尤其重要,比如:在线预约医院专家号(知名专家的号往往一票难求),在线抢购商品 ...

  3. python123 app下载_Python 逆向抓取 APP 数据

    今天继续给大伙分享一下 Python 爬虫的教程,这次主要涉及到的是关于某 APP 的逆向分析并抓取数据,关于 APP 的反爬会麻烦一些,比如 Android 端的代码写完一般会进行打包并混淆加密加固 ...

  4. Python 逆向抓取 APP 数据

    今天继续给大伙分享一下 Python 爬虫的教程,这次主要涉及到的是关于某 APP 的逆向分析并抓取数据,关于 APP 的反爬会麻烦一些,比如 Android 端的代码写完一般会进行打包并混淆加密加固 ...

  5. python爬取app、返回的是加密数据_Python 逆向抓取 APP 数据

    今天继续给大伙分享一下 Python 爬虫的教程,这次主要涉及到的是关于某 APP 的逆向分析并抓取数据,关于 APP 的反爬会麻烦一些,比如 Android 端的代码写完一般会进行打包并混淆加密加固 ...

  6. 抓取app数据教程–fiddler抓包数据截取-薄荷app为例

    转载请注明出处:抓取app数据教程–fiddler抓包数据截取-薄荷app为例 准备工具 1.手机(安装有想要抓取数据app的iphone或者android) 2.fiddler抓包工具 安装fidd ...

  7. 利用Fiddler抓取APP数据

    利用Fiddler抓取APP数据 简杨君 关注 2016.11.03 18:51* 字数 368 阅读 762评论 0喜欢 2 软件:Fiddler 系统:Windows10 手机:MX4 PRO F ...

  8. excel数据自动录入网页_Excel自动抓取网页数据,数据抓取一键搞定

    网站上的数据源是我们进行统计分析的重要信息源.我们在生活中常常听到一个词叫"爬虫",能够快速抓取网页上的数据,这对于数据分析相关工作来说极其重要,也是必备的技能之一.但是爬虫大多需 ...

  9. okhttp post json 数据_使用python抓取App数据

    App中的数据可以用网络爬虫抓取么 答案是完全肯定的:凡是可以看到的APP数据都可以抓取. 下面我就介绍下自己的学习经验和一些方法吧 本篇适合有过web爬虫基础的程序猿看 没有的的话学的可能会吃力一些 ...

最新文章

  1. DllRegisterServer的调用失败
  2. MooseFS学习-概述
  3. 【kafka】kafka RecordAccumulator封装消息流程
  4. 计算机组成原理实验内存读数,计算机组成原理实验
  5. ISTQB 软件测试资质认证
  6. 使用 Commander 写自己的 Nodejs 命令
  7. 突破asp过滤系统入侵网站
  8. 【声源定位】基于matlab不同空间谱估计的声源定位算法比较【含Matlab源码 545期】
  9. 10 个 Python 项目简单又超有趣
  10. 软件测试行业前景,人才稀缺
  11. java班级学生列表_java学生班级管理系统+源代码+截图.doc
  12. html周志模板,校友邦周志范文16篇
  13. 给大家分享一下我的数字化转型研究资料
  14. 新技能get,支付宝赚钱红包一天收入过百
  15. LZO--实时数据压缩库
  16. k8s集群reset恢复重置
  17. [足式机器人]Part3机构运动微分几何学分析与综合Ch01-3 平面运动微分几何学——【读书笔记】
  18. 碎片化时代,有哪些高效的学习方法?
  19. 微型计算机原理期末知识,微机原理期末复习解答题
  20. 【洛谷】P2356 弹珠游戏 c++

热门文章

  1. 基于Springboot社区疫苗接种管理系统 毕业设计-附源码281442
  2. 通过PS1设置命令行提示符
  3. 《一出好戏》讲述人性,使用Python抓取猫眼近10万条评论并分析,一起揭秘“这出好戏”到底如何?...
  4. NR 通信中的相干时间Tc和相干带宽Wc
  5. 欧拉-拉格朗日方程【转】
  6. cximage库实现图片重叠效果
  7. LVPECL转LVDS端接优化的经历
  8. 硬盘出现问题后会对计算机造成哪些影响,浅析win7系统电脑造成硬盘坏道的原因以及影响...
  9. 数据结构与算法知识总结(一)
  10. HALCON 20.11:深度学习笔记(1)