使用scrapy框架出现callback指定的函数不被调用的情况
问题:在学习scrapy框架时,写了一个爬虫,在parse函数里使用yield语句重新请求该网页结果中包含的链接,但是试了好几次parse_info函数都不会被调用
原因:因为自己写了allowed_domains,忘记改随手一写,所以导致这些请求不会执行
解决方法:删掉allowed_domains属性,或者把域名写正确
修改完毕后,parse2函数就会被回调了。
2023-11-29 23:18:22
问题:在学习scrapy框架时,写了一个爬虫,在parse函数里使用yield语句重新请求该网页结果中包含的链接,但是试了好几次parse_info函数都不会被调用
原因:因为自己写了allowed_domains,忘记改随手一写,所以导致这些请求不会执行
解决方法:删掉allowed_domains属性,或者把域名写正确
修改完毕后,parse2函数就会被回调了。
下一篇:Scrapy入门探索盗墓笔记