ProxyPool 使用简介
ProxyPool
跨语言高性能IP代理池,Python实现。
注意:请运行程序前先更新一下抓取代理的爬虫。
运行环境
Python 3.6
(请务必保证Python的版本在3.6以上,否则异步检验无法使用。)
Redis
Redis官网并没有提供Windows的安装版,Windows用户可以点击此处下载一个我自己编译的二进制版本(3.2版本2.7MB,VS 2015编译)。
安装
① 直接使用
安装依赖
$ pip install -r requirements.txt
Windows用户如果无法安装lxml库请点击这里。
打开代理池和API
$ cd proxypool
$ python3 run.py
② 安装使用
安装
$ cd proxypool
$ python setup.py install
打开代理池和API
$ proxypool_run
使用API获取代理
访问http://127.0.0.1:5000/
进入主页,如果显示'Welcome',证明成功启动。
访问http://127.0.0.1:5000/get
可以获取一个可用代理。
访问http://127.0.0.1:5000/count
可以获取代理池中可用代理的数量。
也可以在程序代码中用相应的语言获取,例如:
import requests
from bs4 import BeautifulSoup
import lxmldef get_proxy():r = requests.get('http://127.0.0.1:5000/get')proxy = BeautifulSoup(r.text, "lxml").get_text()return proxy
https://github.com/WiseDoge/ProxyPool
ProxyPool 使用简介相关推荐
- etcd 笔记(01)— etcd 简介、特点、应用场景、常用术语、分布式 CAP 理论、分布式原理
1. etcd 简介 etcd 官网定义: A highly-available key value store for shared configuration and service discov ...
- Docker学习(一)-----Docker简介与安装
一.Docker介绍 1.1什么是docker Docker是一个开源的应用容器引擎,基于Go语言并遵从Apache2.0协议开源 Docker可以让开发者打包他们的应用以及依赖包到一个轻量级,可移植 ...
- 【Spring】框架简介
[Spring]框架简介 Spring是什么 Spring是分层的Java SE/EE应用full-stack轻量级开源框架,以IOC(Inverse Of Control:反转控制)和AOP(Asp ...
- TensorRT简介
TensorRT 介绍 引用:https://arleyzhang.github.io/articles/7f4b25ce/ 1 简介 TensorRT是一个高性能的深度学习推理(Inference) ...
- 谷粒商城学习笔记——第一期:项目简介
一.项目简介 1. 项目背景 市面上有5种常见的电商模式 B2B.B2C.C2B.C2C.O2O B2B 模式(Business to Business),是指商家和商家建立的商业关系.如阿里巴巴 B ...
- 通俗易懂的Go协程的引入及GMP模型简介
本文根据Golang深入理解GPM模型加之自己的理解整理而来 Go协程的引入及GMP模型 一.协程的由来 1. 单进程操作系统 2. 多线程/多进程操作系统 3. 引入协程 二.golang对协程的处 ...
- Linux 交叉编译简介
Linux 交叉编译简介 主机,目标,交叉编译器 主机与目标 编译器是将源代码转换为可执行代码的程序.像所有程序一样,编译器运行在特定类型的计算机上,输出的新程序也运行在特定类型的计算机上. 运行编译 ...
- TVM Operator Inventory (TOPI)简介
TOPI简介 这是 TVM Operator Inventory (TOPI) 的介绍.TOPI 提供了比 TVM 具有更高抽象的 numpy 风格的,通用操作和调度.TOPI 如何在 TVM 中,编 ...
- 计算机视觉系列最新论文(附简介)
计算机视觉系列最新论文(附简介) 目标检测 1. 综述:深度域适应目标检测标题:Deep Domain Adaptive Object Detection: a Survey作者:Wanyi Li, ...
最新文章
- 【转载】C#扫盲之:==/Equals /ReferenceEquals 异同的总结,相等性你真的知道吗?
- 约瑟夫环双向链表c语言实,双向链表与约瑟夫环代码
- 介绍linux下Source Insight强大代码编辑器sublime_text_3
- 如何提取D-Link解密密钥
- matlab硬接触,abaqus中的关于硬接触(Hard contact)、及其他接触
- ionic实现下载文件并打开功能(file-transfer和file-opener2插件)
- 你的灯亮着吗?阅读笔记之一
- 数据库-优化-子查询优化
- notes系统服务器地址,notes怎么连接服务器地址
- delphi edit里面的文字如何添加下划线_标题设计如何处理更吸引人?来看设计高手的实用技巧...
- 第五节: Quartz.Net五大构件之Trigger的四大触发类
- 创业失败三年后,这个曾经的富二代变得一无所有
- Outlook简单配置
- 蓝桥杯2017年第八届C/C++省赛C组第三题-算式900
- 使用 PDO 方式将 Session 保存到 MySQL 数据中
- linux下执行efi文件,在Linux下创建EFI BIOS Grub加载分区
- mysql blob类型图片输出到前端
- Arcgis for JS实现台风运动路径与影像范围的显示
- 【批量识别图片内容改名】如何批量识别图片中的文字并自动改名,如何根据图片上的文字内容重命名图片,批量的识别区域内容如何重命名改名,全部告诉你
- Chrome 屏蔽https中访问http(不安全内容)
热门文章
- 计算机java毕业设计 SSM的共享充电宝管理系统(源码+论文)
- 010 MATLAB奇淫技巧之实现图片扫描
- 文件生成html清单,将Windows目录转换为HTML清单 | MOS86
- python中int input_两分钟了解python中的input函数
- 想靠创业赚钱,这4个冷门生意不错,竞争不大,很多人都没听说过
- React jsx语法学习
- FreeNAS Windows SMB文件共享及用户权限使用配置
- Xcode清理缓存-2021年07月更新
- 锤爆王思聪:网红孙一宁一场直播吸金百万
- 【错误解决】Intellj(IDEA) warning no artifacts configured