转：Scrapy安装、爬虫入门教程、爬虫实例（豆瓣电影爬虫）

2023-08-20 08:21:22

Scrapy在window上的安装教程见下面的链接：Scrapy安装教程

上述安装教程已实践，可行。（本来打算在ubuntu上安装Scrapy的，但是Ubuntu 磁盘空间太少了，还没扩展磁盘空间，所以没有在Ubuntu上装，至于如何在Ubuntu上安装Scrapy，网上有挺多教程的)

Scrapy的入门教程见下面链接：Scrapy入门教程

上面的入门教程是很基础的，先跟着作者走一遍，要动起来哟，不要只是阅读上面的那篇入门教程。

下面我简单总结一下Scrapy爬虫过程：

1、在Item中定义自己要抓取的数据：

movie_name就像是字典中的“键”，爬到的数据就像似字典中的“值”。在继承了BaseSpider的类中会用到：

第一行就是上面那个图中的TutorialItem这个类，红框圈出来的就是上图中的movie_name这个变量

2、然后在spiders目录下编辑Spider.py那个文件

按上面【入门教程】来写就行了，我这边给个例子，跟我上面的item是匹配的：

【入门教程】你没有给出start_requests这个方法，稍后我会讲到这个方法。另外这里的代码我都是截图，后面我会用代码面板显示我的代码，有需要的人可以复制下来玩玩。

3、编辑pipelines.py文件，可以通过它将保存在TutorialItem中的内容写入到数据库或者文件中

下面的代码示例是写到文件（如果要写到数据库中去，这里有个示例代码）中去：

对json模块的方法的注释：dump和dumps（从Python生成 JSON），load和loads（解析JSON成Python的数据类型）；dump和dumps的唯一区别是dump会生成一个类文件对象，dumps会生成字符串，同理load和loads分别解析类文件对象和字符串格式的JSON。（注释来于http://www.jb51.net/article/52224.htm ）

4、爬虫开始

上述三个过程后就可以爬虫了，仅需上述三个过程哟，然后在dos中将目录切换到tutorial下输入scrapy crawl douban就可以爬啦：

上面几个过程只是先理清楚用Scrapy爬虫的思路，下面的重点戏是第二个过程，我会对这个过程进行较详细的解释，并提供代码。

douban_spider.py这个文件的代码如下：

 douban_spider.py

代码有了，我来一步步讲解哈。

前言：我要爬的是豆瓣的数据，我有了很多电影的名字，但是我需要电影的详情，我用了一下豆瓣电影的网站，发现当我在搜索框里输入“Last Days in Vietnam”时url会变成http://movie.douban.com/subject_search?search_text=Last+Days+in+Vietnam&cat=1002 然后我就试着直接输入http://movie.douban.com/subject_search?search_text=Last+Days+in+Vietnam这个url，搜索结果是一样的，很显然这就是get方式，这样我们就找到了规律：http://movie.douban.com/subject_search?search_text=后面加上我们的电影名字并用加号分割就行了。

我们的电影名字（大量的电影名字）是存在movie_name.txt这个文件中里面的（一行一个电影名字）：

我们可以先用python脚本（shell脚本也行）将电影名之间的空格处理为+，也可以在爬虫中读取电影名后进行一次replace处理（我是先处理成+的）。爬虫读取电影名字文件，然后构建url，然后就根据得到的网页找到搜索到的第一个电影的url（其实第一个电影未必一定是我们要的，但是这种情况是少数，我们暂时不理会它），得到第一个电影的url后，再继续爬，这次爬到的页面就含有我们想要的电影信息，需要使用XPath来获得html文件中元素节点，最后将获得的信息存到TutorialItem中，通过pipelines写入到data.dat文件中。

XPath的教程在这里：w3school的基础教程和scrapy官网上的Xpath 这些东西【入门教程】中都有说。

1、start_requests方法：

在【入门教程】那篇文章中没有用到这个方法，而是直接在start_urls中存入我们要爬虫的网页链接，但是如果我们要爬虫的链接很多，而且是有一定规律的，我们就需要重写这个方法了，首先我们看看start_requests这个方法是干嘛的：

可见它就是从start_urls中读取链接，然后使用make_requests_from_url生成Request，