scrapyd部署步骤
1、安装scrapyd
pip install scrapyd 安装命令
pip install scrapyd-client
scrapyd 启动命令
浏览器输入http://loaclhost:6800
1)'job'是上传过的爬虫项目
2)'log'是运行日志窗口
3)'Documentation'是文件资料
在使用scrapyd部署查看job时出现可能出现以下错误:
解决办法:
方法1:
尝试将Twisted 版本重新安装成 18.9.0
①卸载Twisted命令:
pip uninstall Twisted
②安装指定版本Twisted
pip install Twisted==18.9
方法2:
在http_headers.py中的第40行中修改源码:
修改后的源码:
2、 改scrapy.cfg配置文件
[settings]
default = meinv.settings
[deploy:800] #在[deploy]后指定版本号
url = http://localhost:6800/
project = meinv
3、终端输入命令
scrapyd-deploy <target> -p <project_name> target是版本号 project_name是项目名
4、scrapyd部署爬虫项目之后的远程操作增删改查(API调用)