爬虫--Scrapy

Scrapy

Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。 其可以应用在数据挖掘,信息处理或存储历史数据等一系列的程序中。其最初是为了页面抓取 (更确切来说, 网络抓取 )所设计的, 也可以应用在获取API所返回的数据(例如 Amazon Associates Web Services ) 或者通用的网络爬虫。Scrapy用途广泛,可以用于数据挖掘、监测和自动化测试。

Scrapy框架

Scrapy 使用了 Twisted异步网络库来处理网络通讯。
爬虫--Scrapy


上一篇:就是这么简单!使用Rest-assured 测试Restful Web Services


下一篇:使用 Spring 3 来创建 RESTful Web Services(转)