beautiful soup 入门
Beautiful Soup 是 python 的一个库，最主要的功能是从网页抓取数据。
Beautiful Soup 自动将输入文档转换为 Unicode 编码，输出文档转换为 utf-8 编码。你不需要考虑编码方式，除非文档没有指定一个编码方式，这时，Beautiful Soup 就不能自动识别编码方式了。然后，你仅仅需要说明一下原始编码方式就可以了。
创建 Beautiful Soup 对象
首先必须要导入 bs4 库
from bs4 import BeautifulSoup
创建 beautifulsoup 对象
soup = BeautifulSoup(html)
print soup.prettify()
这个方法格式化输出html格式
Beautiful Soup将复杂HTML文档转换成一个复杂的树形结构,每个节点都是Python对象,所有对象可以归纳为4种:
- Tag
- NavigableString
- BeautifulSoup
- Comment
（1）Tag
标签
标签加上里面包括的内容就是 Tag
soup加标签名轻松地获取这些标签的内容 例如：soup.标签名 就可以找到第一个标签名匹配的标签里的所有内容
Tag有两个重要属性 name和 attrs
soup 对象本身比较特殊，它的 name 即为 [document]，对于其他内部标签，输出的值便为标签本身的名称。
soup.标签名.attrs 得到的是一个字典，[属性名:values,...]
当然可以通过索引的方式去查询 soup.标签名.[属性名]
可以对它进行修改
（2）NavigableString
soup.tag_name.string即可得到标签里的文字
它的类型是一个 NavigableString （可遍历的字符串）
（3）BeautifulSoup
BeautifulSoup 对象表示的是一个文档的全部内容.大部分时候,可以把它当作 Tag 对象，是一个特殊的 Tag
（4）Comment
Comment 对象是一个特殊类型的 NavigableString 对象，其实输出的内容仍然不包括注释符号
.contents
tag 的 .contents 属性可以将tag的子节点以列表的方式输出，可索引
.descendants 属性可以对所有tag的子孙节点进行递归循环，和 children类似，我们也需要遍历获取其中的内容。
for x in soup.tag.descendants
如果一个标签里面没有标签了，那么 .string 就会返回标签里面的内容。如果标签里面只有唯一的一个标签了，那么 .string 也会返回最里面的内容。
如果tag包含了多个子节点,tag就无法确定，string 方法应该调用哪个子节点的内容, .string 的输出结果是 None
.strings
获取多个内容，不过需要遍历获取
.stripped_strings
输出的字符串中可能包含了很多空格或空行,使用 .stripped_strings 可以去除多余空白内容
搜索文档树
（1）find_all( name , attrs , recursive , text , **kwargs )
find_all() 方法搜索当前tag的所有tag子节点,并判断是否符合过滤器的条件
1）name 参数
name 参数可以查找所有名字为 name 的tag,字符串对象会被自动忽略掉
可以穿字符串，正则表达式，列表（与列表任意元素匹配的都会返回在列表里），True（返回所有），传方法（返回True表示找到，参数是Tag）
2）keyword 参数
通过参数去筛选标签，可以同时有多个参数
可以通过 find_all() 方法的 attrs 参数定义一个字典参数来搜索包含特殊属性的tag
3）text 参数
通过 text 参数可以搜搜文档中的字符串内容.与 name 参数的可选值一样, text 参数接受 字符串 , 正则表达式 , 列表, True
4）limit 参数
find_all() 方法返回全部的搜索结构,如果文档树很大那么搜索会很慢.如果我们不需要全部结果,可以使用 limit 参数限制返回结果的数量.效果与SQL中的limit关键字类似,当搜索到的结果数量达到 limit 的限制时,就停止搜索返回结果.
5）recursive 参数 （这个词的意思是递归）
调用tag的 find_all() 方法时,Beautiful Soup会检索当前tag的所有子孙节点,如果只想搜索tag的直接子节点,可以使用参数 recursive=False .
（2）find( name , attrs , recursive , text , **kwargs )
它与 find_all() 方法唯一的区别是 find_all() 方法的返回结果是值包含一个元素的列表,而 find() 方法直接返回结果
（3）find_parents() find_parent()
find_all() 和 find() 只搜索当前节点的所有子节点,孙子节点等. find_parents() 和 find_parent() 用来搜索当前节点的父辈节点,搜索方法与普通tag的搜索方法相同,搜索文档搜索文档包含的内容