wget下载指定网站目录下的所有内容

笔者爬行一个网站,最初命令如下:

wget --no-host-directories -c -r -np -k -L -p --tries=5 --show-progress https://ht.transparency.tools/git/

 

只能下载部分目录,3级目录下载不了,命令改成以下

@echo off
for /f "delims=" %%f in (‘dir /a /b git‘) do ( start wget --no-host-directories -c -r -np -k -L -p --tries=5 --show-progress https://ht.transparency.tools/git/%%f/)

然后就可以成功下载目录比较深的丢失没下载的内容

wget下载指定网站目录下的所有内容

 

wget下载指定网站目录下的所有内容

上一篇:json的基本用法


下一篇:js处理精度问题(+-*/)