今天我们要爬取的是动漫壁纸图片,来看今天的主角:
在浏览的时候,当滑到底部时,壁纸会刷新加载,所以我们可以知道,壁纸是动态加载的。
打开开发者模式,观察HTML的动态变化。
点击NetWork,XHR,我们就可以发现,
图片地址是通过JSON数据传输过来的,所以,我们不就知道了每张壁纸对应的url了吗O(∩_∩)O
找到对应数据接口,开始代码的干活!
通过输入指定页数,遍历循环:
import requests
import jsonpath
import json
import os
page = input("请输入需要下载的页数:")
if not os.path.exists('img'):
os.mkdir('img')
for i in range(int(page)):
num = 1
url = f'https://rt.huashi6.com/front/index/load_pc_data?_ts_=1634131862878&cursor=' + str(i) + '-1634130800452'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:92.0) Gecko/20100101 Firefox/92.0'
}
path = f'img\\第{i+1}页'
if not os.path.exists(path):
os.mkdir(path)
else:
print(path + '已存在')
continue
html = requests.get(url, headers=headers).content.decode("utf-8")
data = json.loads(html)
img = jsonpath.jsonpath(data, '$..path')
print(f"开始下载第{i+1}页...")
for j in img:
with open(path+ '\\' + str(num) + os.path.splitext(j)[1], 'wb') as f:
print(f"第{i+1}页 正在下载第{num}张...")
f.write(requests.get('https://img2.huashi6.com/' + j, headers=headers).content)
num += 1
三十行代码不到,就可以搞定啦
代码运行:
结果:
额,突然发现,第一页和第二页是一样的, ̄□ ̄||
不慌,我们可以选择过滤掉第一页
把代码for i in range(int(page))
改成for i in range(1,int(page)+1)
再把后面三个地方的 i+1
改成 i
即可(〃'▽'〃)
注:如果有对Json和JsonPath模块不懂的,可以点击下面链接查看:
Python | JSON 数据解析(Json & JsonPath)