解决scrapy不执行Request回调函数callback
情况1:未完成函数/测试函数
那个函数没有任何结果返回,可能这就是一个测试函数或是没写完的函数,因此只需要在这个函数结尾加一个yield就可以了,回调另一个空的函数就不会有任何影响:
# -*- coding: gbk -*-def parse(self, response):# balabalayield scrapy.Request(movie_url, callback=self.test_page, dont_filter=False, meta={'url': movie_url,})def test_page(self, response): # 不会执行!!!print('lalala')
变为:
def parse(self, response):# balabalayield scrapy.Request(movie_url, callback=self.test_page, dont_filter=False, meta={'url': movie_url,})def test_page(self, response): # 可以执行....print('lalala')yield scrapy.Request(movie_url, callback=self.blank, dont_filter=False)def blank(self,response):pass
情况2:allowed_domains配置了错误
可能是allowed_domains里配置了如:www.baidu.com,但百度的其他页面是 baidu.com/xxxxx,这个就会跳过这个页面。参考:http://www.scrapyd.cn/error/2018/0209/173.html
情况3:dont_filter=True
改成 dont_filter=False
情况4:403/404/500等错误
(感谢vxhorse
小伙伴~)
解决scrapy不执行Request回调函数callback相关推荐
- 服务器响应回调函数,解决有关flask-socketio中服务端和客户端回调函数callback参数的问题(全网最全)...
由于工作当中需要用的flask_socketio,所以自己学习了一下如何使用,查阅了有关文档,当看到回调函数callback的时候,发现文档里都描述的不太清楚,最后终于琢磨出来了,分享给有需要的朋友 ...
- 理解javascript中的回调函数(callback)【转】
在JavaScrip中,function是内置的类对象,也就是说它是一种类型的对象,可以和其它String.Array.Number.Object类的对象一样用于内置对象的管理.因为function实 ...
- 理解javascript中的回调函数(callback)
理解javascript中的回调函数(callback) 在JavaScrip中,function是内置的类对象,也就是说它是一种类型的对象,可以和其它String.Array.Number.Obje ...
- alert 回调_JavaScript中到底什么时候回调函数Callback
什么是回调函数Callback 简单的理解:回调函数是在另一个函数执行完毕后执行的函数 - 因此名称为'call back'. 复杂的理解:在JavaScript中,函数是对象.因此,函数可以将函数作 ...
- C++回调函数(callback)的使用
什么是回调函数(callback) 模块A有一个函数foo,它向模块B传递foo的地址,然后在B里面发生某种事件(event)时,通过从A里面传递过来的foo的地址调用foo,通知A发生了什 ...
- C语言 回调函数 callback - C语言零基础入门教程
目录 一.回调函数原理 二.回调函数简介 1.函数指针 2.指针函数 3.回调函数解释 三.回调函数实战 四.回调函数使用总结 五.猜你喜欢 零基础 C/C++ 学习路线推荐 : C/C++ 学习目录 ...
- mysql.js回调函数_js回调函数(callback)
Mark! js学习 不喜欢js,但是喜欢jquery,不解释. 自学jquery的时候,看到一英文词(Callback),顿时背部隐隐冒冷汗.迅速google之,发现原来中文翻译成回调.也就是回调函 ...
- jQuery 来了--动画,停止动画,回调函数Callback,链
动画 animate()方法 作用:用于创建自定义动画 语法:$("selector").animate({params},speed,callback); 参数 params:必 ...
- 上传数据时 ajax请求成功 上传完成,ajaxSubmit请求返回数据成功,但是不执行success回调函数...
this.pluploader = new plupload.Uploader({ runtimes: 'html5,flash,silverlight,html4', //上传方式 headers: ...
最新文章
- 死磕Java多线程(五)---理解CPU高速缓存的工作原理 《JAVA性能优化权威指南》 提到过CPU高速缓存未命中率影响线程切换频率
- mysql为查询结果字段赋默认值
- STC89C52单片机 使用定时器使LED灯闪烁
- C#开源类库推荐:拼多多开放平台SDK,开源免费,支持.NET Core!
- 【LCT】旅游(P1505)
- VBA学习_5:流程控制
- Linux as 5 下部署oracle 10.2.0.1(2)
- OGNL在Struts2中的应用
- CentOS 7.x 安装教程、硬盘分区、LVM、网络配置、软件源配置、制作USB Disk、U盘安装、网络安装...
- Activiti教程(一)activiti工作流简介
- 系统软件内部测试报告模板,软件系统测试报告模板-20210316091936.pdf-原创力文档...
- JS 平方 开方 笔记
- 统计java代码行数_统计项目代码行数
- 2020搞一个副业项目需要什么技能?
- 爱莫科技升级KISS人工智能算法平台,更好赋能实体零售
- c++自定义弹窗_性价比APS-C相机购机建议 尼康Z 50真实感受
- 白杨SEO:SEO转型难吗?SEO如何转型ASO(应用商店搜索优化)?
- php die 跳转,php里or die的常见用法
- linux系统下查看服务器的型号等信息
- centos7如何安装chrome浏览器?
热门文章
- matlab机械臂工作空间代码_轻型协作机械臂运动学及工作空间分析
- apache tomcat (catalina)查版本(solaris/unix)
- vim的一些基本应用
- 无法将 lambda 表达式 转换为类型“System.Delegate”,因为它不是委托类型
- XTU 1252 Defense Tower
- js一些平时会用到的
- SWF反编译软件Action Script Viewer ASV2011/06发布
- 数据中心如何选择机柜
- 中国的城市看多了,贴贴美国的城市,肯定对你的视觉产生冲击
- oracle关键字 bulk,oracle和sqlserver的一些保留关键字