Scrapy框架扩展

在指定信号上注册操作

 

Scrapy框架扩展
from scrapy import signals
class MyExtend:

    def __init__(self,crawler):
        self.crawler = crawler
        # 钩子上挂障碍物
        # 在指定信号上注册操作
        crawler.signals.connect(self.start, signals.engine_started)
        crawler.signals.connect(self.close, signals.spider_closed)

    @classmethod
    def from_crawler(cls, crawler):
        return cls(crawler)

    def start(self):
        print('signals.engine_started.start')

    def close(self):
        print('signals.spider_closed.close')
extensions.py

 

 Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展Scrapy框架扩展

上一篇:编解码-java序列化


下一篇:大佬开发爬虫项目,实现公众号文章的抓取和统计分析