一.主要思路:
(1).从对应网页中找到"所有的图片标签",
通过url得到对应的html内容。之后通过
BeautifulSoup将其解析成一棵html元素树。
查找所有的"图片标签"
(2).下载图片
通过得到的标签提取出SRC,得到图片地址,下载图片。
(3).提取元信息exif
将图片通过相应的库实现exif信息的提取,对exif进行遍历,存储到字典变量中。
其中要判断是否存在exif信息(有些不能提取),是否存在GPSInfo信息(有些压缩时
该信息失去,或本来就没有),若是不符合的,删除该图片。
(4).删除图片
利用os的remove功能。只要有对应目录。就可以实现删除。
事实上可以利用os模块实现windows和linux的许多自动化工作。
3.使用模块和方法汇总
urlparse模块
该模块定义了一个标准接口,用于在组件中解析统一资源定位符(URL)字符串(寻址方案,网络位置,路径等),将组件组合回URL字符串,并将“相对URL”转换为 绝对URL给出“基本URL”。
urlsplit函数类似于urlparse
将URL解析为六个组件,返回一个6元组。 这对应于URL的一般结构:scheme:// netloc / path; parameters?query#fragment。 每个元组项都是一个字符串,可能是空的。 组件不会以较小的部分分解(例如,网络位置是单个字符串),并且不会展开%escapes。 如上所示的分隔符不是结果的一部分,除了路径组件中的前导斜杠,如果存在则保留。
os.path.basename(path)
Return the base name of pathname path. where basename for '/foo/bar/' returns 'bar', the basename() function returns an empty string ('').
Beautiful Soup
是一个可以从HTML或XML文件中提取数据的Python库.它能够通过你喜欢的转换器实现惯用的文档导航,查找,修改文档的方式.Beautiful Soup会帮你节省数小时甚至数天的工作时间.
官方文档:https://www.crummy.com/software/BeautifulSoup/bs4/doc/index.zh.html
PIL库官方文档,通常用作图片处理,本程序中用到Image_getexif()方法提取exif,但仅能对jpg和jpeg图片作处理
且不能识别大小写后缀
http://effbot.org/imagingbook/
ExifTags.TAGS(TagName = TAGS.get(tag,tag))
is a dictionary. As such, you can get the value for a given key by using TAGS.get(key). If that key does not exist, you can have it return to you a default value by passing in a second argument TAGS.get(key, val)
Source: http://www.tutorialspoint.com/python/dictionary_get.htm
pip install exifread,本程序中处理png图片的exif信息,利用了
exifread.process_file(imageFile) 方法
通过tags = exifread.process_file(fd) 这个函数读取了图片的exif信息,其下为exif格式
{'Image ImageLength': (0x0101) Short=3024 @ 42,
......
'Image GPSInfo': (0x8825) Long=792 @ 114,
'Thumbnail JPEGInterchangeFormat': (0x0201) Long=928 @ 808,
......
}
4.错误与解决方案
'str' object has no attribute 'read'
事实上是参数本身为一字符串,而参数要求是一个二进制文件,
这是传参是仅仅传了一个文件名字(通过名字打开文件),而非一个文件
'PngImageFile' object has no attribute '_getexif'
该错误是因为_getexif不能提取.png文件
解决方法:
可以使用exifread模块读取,但该模块仅仅可以读取.png文件
依旧有其他BUG存在,尚未解决,但不影响基本使用,不得不说,
原作者写的该部分代码实在是烂,对于现今的网站根本无法使用
5.总结与思考
(1).最终结果依旧没有跑出exif信息,可能是有的加密,或者
部分图片本身未存储exif信息。
(2).有的图片本身格式有gif,JPG,svg等,并没有对此进行严格的过滤。
(3).有的网站本身有反爬机制,不能进行图片的爬取,你如www.qq.com
二.代码
#!/usr/bin/python
# coding: utf-8
import os
import exifread
import urllib2
import optparse
from urlparse import urlsplit
from os.path import basename
from bs4 import BeautifulSoup
from PIL import Image
from PIL.ExifTags import TAGS
def findImages(url): #找到该网页的所有图片标签
print '[+] Finding images of '+str(urlsplit(url)[1])
resp = urllib2.urlopen(url).read()
soup = BeautifulSoup(resp,"lxml")
imgTags = soup.findAll('img')
return imgTags
def downloadImage(imgTag): #根据标签从该网页下载图片
try:
print '[+] Downloading image...'
imgSrc = imgTag['src']
imgContent = urllib2.urlopen(imgSrc).read()
imgName = basename(urlsplit(imgSrc)[2])
f = open(imgName,'wb')
f.write(imgContent)
f.close()
return imgName
except:
return ''
def delFile(imgName): #删除该目录下下载的文件
os.remove('/mnt/hgfs/temp/temp/python/exercise/'+str(imgName))
print "[+] Del File"
def exifImage(imageName): #提取exif信息,若无则删除
if imageName.split('.')[-1] == 'png':
imageFile = open(imageName,'rb')
Info = exifread.process_file(imageFile)
elif imageName.split('.')[-1] == 'jpg' or imageName.split('.')[-1] == 'jpeg':
imageFile = Image.open(imageName)
Info = imageFile._getexif()
else:
pass
try:
exifData = {}
if Info:
for (tag,value) in Info:
TagName = TAGS.get(tag,tag)
exifData[TagName] = value
exifGPS = exifData['GPSInfo']
if exifGPS:
print '[+] GPS: '+str(exifGPS)
else:
print '[-] No GPS information'
delFile(imageName)
else:
print '[-] Can\'t detecated exif'
delFile(imageName)
except Exception, e:
print e
delFile(imageName)
pass
def main():
parser = optparse.OptionParser('-u <target url>')
parser.add_option('-u',dest='url',type='string',help='specify the target url')
(options,args) = parser.parse_args()
url = options.url
if url == None:
print parser.usage
exit(0)
imgTags = findImages(url)
for imgTag in imgTags:
imgFile = downloadImage(imgTag)
exifImage(imgFile)
if __name__ == '__main__':
main()