获取微信html代码,微信小程序云开发js抓取网页内容
最近在研究微信小程序的云开发功能。云开发最大的好处就是不需要前端搭建服务器,可以使用云端能力,从零开始写出来一个能上线的微信小程序,避免了买服务器的开销,对于个人来尝试练手微信小程序从前端到后台的开发,还是一个不错的选择。可以做到一天就能上线一个微信小程序。
云开发的优点
云开发为开发者提供完整的云端支持,弱化后端和运维概念,无需搭建服务器,使用平台提供的 API 进行核心业务开发,即可实现快速上线和迭代,同时这一能力,同开发者已经使用的云服务相互兼容,并不互斥。
云开发目前提供三大基础能力支持:
云函数:在云端运行的代码,微信私有协议天然鉴权,开发者只需编写自身业务逻辑代码数据库:一个既可在小程序前端操作,也能在云函数中读写的 JSON 数据库存储:在小程序前端直接上传/下载云端文件,在云开发控制台可视化管理
好了,介绍了这么多关于云开发的知识,感性的同学可以去研究研究。官方文档地址:https://developers.weixin.qq....
网页内容抓取
小程序是关于答题的,所以题目的来源是一个问题。上网搜,一个题目一个题目粘贴是一种方法,但是这样的重复工作,估计粘个10左右就想放弃了。所以想到了网页抓取。正好把之前学的node捡起来。
必备工具:Cheerio。一个类似于服务器端JQuery的包。主要用它来分析和过滤抓取来的内容。node的fs模块。这个是node自带的模块,用来读写文件的。此处用来将解析好的数据写入json文件。Axios(非必须)。用来抓取网站的HTML网页。因为我要的数据是从网页上点击一个button后获取渲染的,所以直接访问这个网址是抓取不到的。无奈只能将想要的内容复制出来,存成字符串,去解析这个字符串。
接下来就可以用npm init来初始化一个node项目,一路回车后,即可生成一个package.json文件。
然后npm install --save axios cheerio安装cheerio和axios包。
关键的是用cheerio来实现一个类似jquery的功能。只需将抓取到的内容cheerio.load(quesitons)一下即可,之后就可以按照jquery的操作取dom,组装你想要的数据了。
最后用fs.writeFile将数据保存到json文件中,大功告成。
具体代码如下:
let axios = require(axios);
let cheerio = require(cheerio);
let fs = require(fs);
// 我的html结构大致如下,有很多条数据
const questions = ``;
const $ = cheerio.load(quesitons);
var arr = [];
for (var i = 0; i < 300; i++) {
var obj = {};
obj.quesitons = $(#q + i).find(.question).text();
obj.A = $($(#q + i).find(.answer)[0]).text();
obj.B = $($(#q + i).find(.answer)[1]).text();
obj.C = $($(#q + i).find(.answer)[2]).text();
obj.D = $($(#q + i).find(.answer)[3]).text();
obj.index = i + 1;
obj.answer =
$($(#q + i).find(.answer)[0]).attr(value) == 1
? A
: $($(#q + i).find(.answer)[1]).attr(value) == 1
? B
: $($(#q + i).find(.answer)[2]).attr(value) == 1
? C
: D;
arr.push(obj);
}
fs.writeFile(poem.json, JSON.stringify(arr), err => {
if (err) throw err;
console.log(json文件已成功保存!);
});
保存到json后的文件格式如下,这样就可以通过json文件上传到云端服务器了。
注意事项
微信小程序云开发的数据库,上传json文件的数据格式需要注意一下,之前一直提示格式错误,后来才发现,JSON 数据不是数组,而是类似 JSON Lines,即各个记录对象之间使用 n 分隔,而非逗号。所以还需要对node写出来的json文件做一个小处理之后才能上传成功。
获取微信html代码,微信小程序云开发js抓取网页内容相关推荐
- 小程序云开发搜索功能的实现正则_几行代码实现小程序云开发提现功能
先看效果: 纯云开发实现,下面说使用步骤:一:开通商户的企业付款到领取功能说明地址: https://pay.weixin.qq.com/wiki/doc/api/tools/mch_pay.php? ...
- 微信原生小程序+云开发(serverless)
什么是云开发? serverless = server + less (无服务器或者少服务器) 云开发为什么会出现(因为钱) 之前想要让一个项目上线,需要很多事项 https:// 需要购买证书,正经 ...
- 微信小程序云开发用户身份登录_个人如何使用微信小程序云开发功能
微信推出了一个小程序云开发工具,开发人员可用云开发和开发微信小程序和小游戏,而且无需设置服务器,云开发为开发人员提供了完整的云支持,削弱了后端和操作维护概念,不需要设置服务器,使用平台提供的API进行 ...
- php访问微信云数据库,第三方服务器php获取微信小程序云开发access_token和云数据库...
微信小程序云开发开放了http api,可以从第三方访问云服务了.方便很多.云服务的后台,可以用PC端写了. 流程大概就是通过appid,appkey获得access_token,这个access_t ...
- 微信小程序云开发入门-快速获取手机号
一.前言 很多时候,我们需要获取用户的手机号码,一般是由用户自己输入,然后我们需要保证手机号的准确性比较高的话,可能还需要搭配一个验证码的功能来确保一定的准确性.这样实现起来的开发成本以及用户体验感都 ...
- uniapp实现微信小程序云开发数据库访问,并解决云开发数据库获取不到数据问题
uniapp实现微信小程序云开发数据库访问,并解决云开发数据库获取不到数据问题 使用工具是HBuilder X 1.配置好AppID(小程序ID) 在HBuilder X工具的manifest.js文 ...
- 【微信小程序】如何获取微信小程序云开发数据库的数据并渲染到页面?
前言 上一篇博客我把微信小程序云开发数据库操作(增删改查)的实现方法都已经分享出来啦,可以戳链接进去阅读哦 [微信小程序]小程序云开发实现数据库增删改查(小白速度Get起来!!一步步教你如何实现) 基 ...
- 微信小程序--云开发之获取多条数据(大于限制20条)
前言 微信小程序云开发中的获取数据API一次最多获取20条记录,那么怎么获取全部记录呢? 方法一 利用上拉刷新,每上拉一次(触碰底部时触发function)便获取20条记录,然后与原来记录合并. js ...
- 10行代码实现微信小程序支付功能,使用小程序云开发实现小程序支付功能(含源码
前面给大家讲过一个借助小程序云开发实现微信支付的,但是那个操作稍微有点繁琐,并且还会经常出现问题,今天就给大家讲一个简单的,并且借助官方支付api实现小程序支付功能. 传送门 借助小程序云开发实现小程 ...
最新文章
- 大学生拍照搜题_大学生心理健康教育知识,请问:这个考试有没有找答案软件?...
- OSChina 周日乱弹 —— 我叫张一条
- 注解代替枚举_精选枚举代替开关
- 基于HTML5的Web SCADA工控移动应用
- [转载]与索引相关的概念---聚簇因子
- 理解MapReduce计算构架
- 陪孩子一起学习python
- 安卓没有删除谷歌服务框架
- 宁皓网 react native 视频教程 ECMAScript6
- 几种能让Mac“飞”起来的系统空间清理方法
- 职场管理(3)——提取公积金需要满足哪些条件?你还不知道吧
- 使用@JsonFormat注解 后端往前端页面展示日期为英文问题 (例如:Thu Dec 09 00:00:00 CST 2021)
- 导入另一个 Git库到现有的Git库并保留提交记录
- 数字射线检测图像质量
- 安卓笔记之ViewPager页卡
- 一架退役的波音747飞机被运抵科伦敦村庄酒店
- 机器人3D视觉引导技术,助力“中国制造2025”
- 给出一百分制成绩,要求输出成绩等级
- 题解-今日头条2018校招后端方向(第二批)
- 关于进程杀不掉的问题:Waiting for process with pid xxxxx to finish
热门文章
- 再次整理了一下主流 Blog 程序
- 十月二十五日西施沟溯溪
- Python - Pandas
- [4G5G专题-126]:5G培训部署篇-3-5G网络优化
- 图像处理软件开发记录(六) 图像特效(浮雕、怀旧)
- 从零开始的腾讯云使用体验-3-修改pip源、虚拟环境配置与使用、pycharm同步linux环境和文件
- wirehark数据分析与取证logs.pcapng
- 正确解决:FTP文件夹错误,将文件复制到FTP服务器时发生错误。请检查是否有权限将文件放到该服务器上。
- Java中的字节输入出流和字符输入输出流
- 黑马程序员—时间一点一点的过去+技术一点一点的增长=成功就业