centos7 搭建tinyproxy代理服务器
今日,发现平时能正常爬虫数据的网站,突然无法爬取了,怀疑是ip被封,于是使用别的阿里云公网ip进行访问,发现同样访问不了,于是初步怀疑是由于是爬虫放在阿里云服务器上,而阿里云服务器的公网ip都是有标识的,此网站可能会对ip进行解析,如果ip为阿里云公网ip则拒绝。由于访问一直是超时,并不是拒绝访问等,所以只是初步怀疑,或者阿里云ip对此网站访问时会有点问题等。也排除了dns的问题。
于是,便打算在本地服务器上设置代理服务器,让阿里云服务器的爬虫使用本地的代理服务器,进行代理访问网站。进行数据爬取。
代理服务器选择使用tinyproxy开源工具,轻量级,简单好用。下面是搭建步骤:
环境:
centos7
tinyproxy
1. 下载tinyproxy
yum install tinyproxy -y
2. 修改配置
vim /etc/tinyproxy/tinyproxy.conf# 端口
Port 8888
# 允许访问的ip,后面接允许的ip,比如我只需要我阿里云的公网ip能访问就行,于是用阿里云公网ip替换127.0.0.1。如果要所有ip均可访问就注释掉此配置
Allow 127.0.0.1
# 性能配置,一般不需要修改,根据需要进行调整。(这里我没有修改)
MaxClients 100
MinSpareServers 5
MaxSpareServers 20
StartServers 10
MaxRequestsPerChild 0
MaxRequestsPerChild 0
3. 启动服务
systemctl start tinyproxy
4. 开放端口
firewall-cmd --add-port=8888/tcp --permanent # 开发的端口为你上面配置的端口
firewall-cmd --reload
5. 使用浏览器测试代理是否能正常使用
以chrome为例,点击设置 --> 高级 --> 打开代理设置。 进入如下配置,将代理服务器的ip和port填写进去即可。
。
然后测试一些能否正常上网,能即正常代理
OK。到此便完成了代理服务器的搭建。
centos7 搭建tinyproxy代理服务器相关推荐
- Centos7搭建Squid代理服务器
Centos7搭建Squid代理服务器 sumu's home 1.无需验证版----http 1.1 安装 yum install squid 1.2 修改配置文件 打开文件: vim /etc/s ...
- centos7安装tinyproxy代理服务器
安装: # centos yum install tinyproxy 编辑配置文件 vim /etc/tinyproxy/tinyproxy.conf vim /etc/tinyproxy/tinyp ...
- centos7搭建socket5代理服务器
什么是socket5(ss5,同下文)? 网络上的两个程序通过一个双向的通信连接实现数据的交换,这个连接的一端称为一个socket. 如图所示: 建立网络通信连接至少要一对端口号(socket).so ...
- Idea设置代理解决SpringInitlizer无法连上Spring.io以及插件市场无法连接等问题---tinyproxy代理服务器搭建和使用
首先,需要在阿里云上购买一台云服务器:云翼计划(24岁以下免费获得学生认证,24岁以后有一次购买学生云服务器的机会)很便宜大概9.5/月链接:https://promotion.aliyun.com/ ...
- Centos7安装socks5代理服务器和http代理服务器
参考文章: Centos7安装socks5代理服务器 - gongniue - 博客园 记一次tinyproxy代理 socks5代理 - 可惜啊. - 博客园 CentOS搭建代理服务器 - 抽象工 ...
- CentOS 7 安装 TinyProxy 代理服务器
米扑科技,是一家专注互联网金融和大数据挖掘的初创互联网公司,正式注册成立于2016年9月,总部位于北京市海淀区中关村核心功能区. 米扑团队,成员来自百度.小米.阿里.创新工场等一线互联网公司,核心技术 ...
- 搭建Socks5代理服务器
搭建Socks5代理服务器 本篇介绍在centos7上搭建一个socks5的代理服务器. 1.安装依赖软件包 [root@sg ~]# yum install gcc gcc-c++ pam-deve ...
- CentOS7搭建Git服务器
CentOS7搭建Git服务器 文章目录 CentOS7搭建Git服务器 前言 搭建步骤 参考链接 前言 现有一台操作系统为CentOS 7的服务器,要将其作为代码库服务器使用,要求使用Git进行代码 ...
- linux下本地的源的格式,[Linux]CentOS7搭建/配置:YUM仓库/源[本地源/HTTP源/自建源仓库...
[Linux]CentOS7搭建/配置:YUM仓库/源[本地源/HTTP源/自建源仓库 1 本地YUM源 1.1 [YUM仓库/服务端] 获取:软件包资源 1.2 [YUM仓库/服务端] 挂载/搭建: ...
最新文章
- puppet aix之自动化用户管理
- python CST中国标准时间格式转换
- 数据库系统概论:第九章 关系查询和关系优化
- python数据动画_[转载]Maya使用Python获取动画每帧的rotation数据
- H5前期知识点总结 9月12日
- iap如何初始化_IAP在线升级模块详细设计说明
- [ES6] 细化ES6之 -- 字符串的扩展
- (转)淘淘商城系列——dubbo监控中心
- mysql数据库腾讯云添加用户,解决腾讯云cdb的基础版mysql不支持新建账号
- mysql国外专业网站
- Android图形系统之Surface、SurfaceView、SurfaceHolder及SurfaceHolder.Callback之间的联系
- 行业案例 | 悬镜DevSecOps智适应威胁管理解决方案获评信通院“2021云安全守卫者计划优秀案例”
- 储氢合金/金属氢化物吸放氢动力学模型——Chou模型
- 快速上手LaTex,书写美观学术论文
- (转载)如何跟踪一个报错消息
- Unity实现人物移动和镜头跟随
- 基于钱搜索算法的BCH译码
- linux如何查看哪个串口是真实串口,哪个串口
- 同事推荐的GIS书籍
- 路由器和交换的区别解析
热门文章
- 全国计算机等级考试报名照片存储要求怎么弄
- 201508-04 开讲啦 张信哲:我不愿做唱歌的机器
- 强劲推力配上刚猛转速,真是个运动护理好手,OPOVE APEX筋膜枪体验
- gui-gio:tabswitch的demo5
- 曲阜师范大学18年计算机招生分数,曲阜师范大学2018年艺术类录取分数线
- win10 linux双系统切换不了,Ubuntu20和windows10 双系统 切换 时间会变不同步的问题...
- Flutter Widgets: Container
- Spark RDD Persistence
- 第13届蓝桥杯 Web应用开发赛道题解
- sql 临时表代替left join提高性能