python爬虫——写出最简单的网页爬虫

在我们日常上网浏览网页的时候,经常会看到一些好看的图片,我们就希望把这些图片保存下载,或者用户用来做桌面壁纸,或者用来做设计的素材。我们可以通过python 来实现这样一个简单的爬虫功能,把我们想要的代码爬取到本地。下面就看看如何使用python来实现这样一个功能。

一、开发工具

笔者使用的工具是sublimetext3,它的短小精悍(可能男人们都不喜欢这个词)使我十分着迷。推荐大家使用,当然如果你的电脑配置不错,pycharm可能更加适合你。

sublime text3搭建python开发环境推荐查看此博客:

[sublime搭建python开发环境][http://www.cnblogs.com/codefish/p/4806849.

二、爬虫介绍

爬虫顾名思义,就是像虫子一样,爬在Internet这张大网上。如此,我们便可以获取自己想要的东西。

既然要爬在Internet上,那么我们就需要了解URL,法号“统一资源定位器”,小名“链接”。其结构主要由三部分组成:

(1)协议:如我们在网址中常见的HTTP协议。

(2)域名或者IP地址:域名,如:www.baidu.com,IP地址,即将域名解析后对应的IP。

(3)路径:即目录或者文件等。

三、urllib开发最简单的爬虫

(1)urllib简介

python爬虫——写出最简单的网页爬虫

2)开发最简单的爬虫

百度首页简洁大方,很适合我们爬虫。

爬虫代码如下:

python爬虫——写出最简单的网页爬虫

结果如图

python爬虫——写出最简单的网页爬虫

我们可以通过在百度首页空白处右击,查看审查元素来和我们的运行结果对比。

当然,request也可以生成一个request对象,这个对象可以用urlopen方法打开。

代码如下:

python爬虫——写出最简单的网页爬虫

运行结果和刚才相同。

(3)错误处理

错误处理通过urllib模块来处理,主要有URLError和HTTPError错误,其中HTTPError错误是URLError错误的子类,即HTTRPError也可以通过URLError捕获。HTTPError可以通过其code属性来捕获。

处理HTTPError的代码如下:

python爬虫——写出最简单的网页爬虫

运行结果如图:

python爬虫——写出最简单的网页爬虫

404为打印出的错误代码,关于此详细信息大家可以自行百度。

URLError可以通过其reason属性来捕获。

chuliHTTPError的代码如下:

python爬虫——写出最简单的网页爬虫

运行结果如图:

python爬虫——写出最简单的网页爬虫

既然为了处理错误,那么最好两个错误都写入代码中,毕竟越细致越清晰。须注意的是,HTTPError是URLError的子类,所以一定要将HTTPError放在URLError的前面,否则都会输出URLError的,如将404输出为Not Found。

代码如下:

python爬虫——写出最简单的网页爬虫

文章来源:https://segmentfault.com/a/1190000010567472

作者:xiaomi

交流QQ群:238757010

上一篇:leetcode 47全排列


下一篇:信息系统项目管理师10大管理47个过程域输入输出工具(项目范围管理)