Node——request使用代理
本文知识点
- Node环境搭建
- 使用代理
- 进阶学习
环境配置
- Node
- 安装request
安装request
npm install request
确认环境安装无误
node -v
代码样例
使用代理
let request = require('request'); // 引入第三方request库
let util = require('util');
let zlib = require('zlib');// 要访问的目标地址
let page_url = 'http://dev.kdlapi.com/testproxy'// 代理服务器ip和端口,由快代理提供
let proxy_ip = '47.115.36.94';
let proxy_port = 16816;// 完整代理服务器url
let proxy = util.format('http://%s:%d', proxy_ip, proxy_port); // 发起请求
request({url: page_url,method: 'GET',proxy: proxy,headers: {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3100.0 Safari/537.36","Accept-Encoding": "gzip" // 使用gzip压缩让数据传输更快},encoding: null, // 方便解压缩返回的数据
}, function(error, res, body) {if (!error && res.statusCode == 200) {// 输出返回内容(使用了gzip压缩)if (res.headers['content-encoding'] && res.headers['content-encoding'].indexOf('gzip') != -1) {zlib.gunzip(body, function(err, dezipped) {console.log(dezipped.toString()); });} else {// 输出返回内容(没有使用gzip压缩)console.log(body);}} else {console.log(error);}
});
运行下
进阶学习
- request官方文档
- 代理IP
Node——request使用代理相关推荐
- node+express+http-proxy-middleware代理转发
node+express+http-proxy-middleware代理转发 @(node代理转发)[http-proxy|node实现前后端分离|] 文章,欢迎进入我的博客:www.jaxqin.c ...
- node.js服务器代理
一.node.js服务器代理 1.使用nodejs实现代理,解决前端浏览器的同源策略导致的跨域问题 2.跨域只存在于浏览器端,服务器端是不存在同源策略 3.利用第三方模块http-proxy-midd ...
- python爬虫小知识: 通过 request库 代理proxies来设置,无法访问问题
通过 request库 代理proxies来设置 防止封ip后无法访问问题 1.为什么使用代理 2.request 如何设置代理 需要替换里面的代理池 3.设置需要身份认证的代理 4.request ...
- 【python】request HTTPS代理
之前版本的代理中,可以使用fiddler进行HTTP包的代理,但是代理HTTPS包时,执行错误 self._sslobj.do_handshake() ssl.SSLError: [SSL: CERT ...
- python爬虫request设置代理IP原理
在我们书写爬虫程序的时候,可能都多多少少会遇到ip被封的问题,或者说ip被限制的问题,那么就需要用到ip代理了,那么ip代理在request里面的原理究竟是怎么实现的呢?下面来了解一下. 单个ip设置 ...
- urllib.request 设置代理进行爬取,防止被封IP,各种hander高级用法
import urllib.request proxy_handler = urllib.request.ProxyHandler({ 'http': 'http://127.0.0.1:9743', ...
- python request 不走代理proxy
一般情况下,如果系统没有配置网络代理的话,python的request包请求url地址时,是不会走代理的: 举例:如果在linux系统中配置了代理,则request请求会通过代理进行访问: 如果用py ...
- Python 多线程、利用request使用代理、利用递归深度抓取电影网页的内容并将电影的介绍和下载链接保存到mysql中
本文仅为学习python过程的一个笔记,其中还有一些bug! 还请各位大佬赐教 有些专业的说法还不是很熟悉,欢迎各位大佬帮忙指出 本人时一个新晋奶爸,而立之年突然想转业,想学习python 先介绍一个 ...
- node 爬虫处理cookie,代理
存储cookie 将服务器传过来的cookie存储在内存中 let parseCookie=function (cookie) {let cookies={};if (!cookie) {return ...
- android studio使用nodejs本地服务器json数据_使用Node.js的Alexa技巧
可以使用AlexaLambda函数或RESTAPI端点开发Alexa技能.Lambda函数是Amazon实现AWS中提供的无服务器功能.Amazon建议使用Lambda函数,尽管它们不容易调试.虽然您 ...
最新文章
- $portfolio.isotope is not a function
- LinkedHashSet集合
- 根据不同地区的名称显示不同的页面
- 鸿蒙开源源码,基于鸿蒙系统开源项目OpenHarmony源码静态分析
- 创建 SSH Keys
- Js toString()方法笔记
- H3C交换机配置远程管理配置
- 记录几个贴代码比较美观的网站
- 软考高项论文怎么写?——软考高项笔记9
- 文件流转换为base64码 和 base64码转换为文件流
- vue和风天气,天气预报
- 2-软件生命周期模型
- 5分钟搞定各类USB转serial串口驱动,最简单的方法
- VC++实现会议中阻止屏保、阻止系统自动关闭屏幕、阻止系统待机(附源码)
- 第二集:你真的会吸气吗 ?科学呼吸法(汇播课程演说笔记)
- 2007山东公务员面试真题汇总
- SpringBoot banner图样
- BDB (Berkeley DB)数据库简介(转载)
- python中将数据写入excel
- 如何固定wifi direct的信道进行测试
热门文章
- 手动安装ojdbc6
- 2022 MathorCup 数学建模B题思路解析
- fortran语言能用matlab,fortran语言与matlab
- 【MATLAB深度学习工具箱】 训练时Data no longer exists on the device错误
- cad的font文件夹有字体但是标注显示问号的问题
- 软件推荐——Modbus调试工具Modbus Poll与Modbus Slave
- [Gdiplus]_[初级]_[使用插值模式控制图片的缩放质量]
- 云小课|3种常用Git工作流推荐
- windows无法安装软件
- jsp购物车简单实现思想(一)