关于Connection aborted等问题的解决
错误类型
在爬虫中报如下的错误:
requests.exceptions.ConnectionError: (‘Connection aborted.’, RemoteDisconnected(‘Remote end closed connection without response’,))
解决方法
(1)随机切换User-Agent:
user_agent_list = ["Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36","Mozilla/5.0 (Windows NT 10.0; …) Gecko/20100101 Firefox/61.0","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.186 Safari/537.36","Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.62 Safari/537.36","Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36","Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)","Mozilla/5.0 (Macintosh; U; PPC Mac OS X 10.5; en-US; rv:1.9.2.15) Gecko/20110303 Firefox/3.6.15",]headers['User-Agent'] = random.choice(user_agent_list)
(2)访问频率的设置:
time.sleep(6) #测试一下,如果是与访问频率有关可设置时间长一点
(3)使用代理ip:
self.proxies = {"http": ip,"https":ip,}
关于Connection aborted等问题的解决相关推荐
- python requests 报错 Connection aborted ConnectionResetError RemoteDisconnected 解决方法
错误:requests.exceptions.ConnectionError: ('Connection aborted.', RemoteDisconnected('Remote end close ...
- requests.exceptions.ConnectionError: ('Connection aborted.', BadStatusLine('',))
这几天python脚本中使用requests模块发现如下错误: File "/usr/local/python2710/lib/python2.7/site-packages/request ...
- ssh_exchange_identification: Connection closed by remote host 解决方法
ssh_exchange_identification: Connection closed by remote host 解决方法 参考文章: (1)ssh_exchange_identificat ...
- python3 Connection aborted.', RemoteDisconnected('Remote end closed connection without response'
在写爬虫的时候遇到了问题,网站是asp.net写的 requests.exceptions.ConnectionError: ('Connection aborted.', RemoteDisconn ...
- python requests.exceptions.ConnectionError: ('Connection aborted.', BadStatusLine('HTTP/1.1 000\r\n'
requests.exceptions.ConnectionError: ('Connection aborted.', BadStatusLine('HTTP/1.1 000\r\n')) 原因: ...
- 'Connection aborted.', BadStatusLine('\x15\x03\x01\x00\x02\x02\x16',)
通过代理来requests网页的时候,我在日志中发现这个错误 'Connection aborted.', BadStatusLine('\x15\x03\x01\x00\x02\x02\x16',) ...
- Connection reset原因分析及解决思路
Connection reset原因分析及解决思路 - lwli - 博客园 我们在开发过程中经常会出现Connection reset问题,包括http调用,数据库连接等场景.出现Connectio ...
- 绝地求生国际服请求超时服务器未响应,绝地求生connection timeout 3.6.7解决方法/游戏连接超时怎么办...
绝地求生游戏中有很多的玩家遇到了connection timeout 3.6.7,这是怎么回事呢?下面游戏吧小编为大家带来绝地求生connection timeout 3.6.7解决方法,感兴趣的小伙 ...
- ab apr_socket_recv: Connection reset by peer 错误解决
来源:http://blog.csdn.net/largetalk/article/details/7337102 在ubuntu 11.04上的ab(apache-utils)有些问题, 在并发数稍 ...
最新文章
- 10JavaScript中的预解析
- ASP.NET Session详解
- Loopback測试软件AX1用户手冊 V3.1
- 升级版授权系统+盗版追踪+域名IP双授权+在线加密系统
- ondestroy什么时候调用_程序员最害怕的是什么—函数
- python定时启动任务_python--实现定时任务
- 废旧安卓手机利用(一)安装linux系统(Centos、Debian)
- 写论文需要使用一个Github上的模型取数据,具体要求在代码里
- 阿里云MVP精选2018年终盘点:大咖专访+最佳实践,丰富干货等你来!
- Python快速上手攻略
- 步进电机加速的c语言编程,关于步进电机S型加速程序编写
- 程序安装--Outlook2016Professional+OraclePlsql
- 如何在keil中将文件封装为lib库文件
- 16、持续集成流水线实践:流水线上的AI单元测试(MAVEN)
- 标准化,归一化,二值化,One-Hot,卡方检验选取重要特征,主成分分析,缺失值和异常值处理
- addEventListener的常用事件
- MLPlatform---------网站使用说明书
- 微信昵称保存不了mysql_微信昵称存储mysql失败解决办法
- “金融上链”正当时,百度智能云推出“链上可信金融”解决方案
- 射频芯片layout实战注意