笔者爬行一个网站,最初命令如下:
wget --no-host-directories -c -r -np -k -L -p --tries=5 --show-progress https://ht.transparency.tools/git/
只能下载部分目录,3级目录下载不了,命令改成以下
@echo off for /f "delims=" %%f in (‘dir /a /b git‘) do ( start wget --no-host-directories -c -r -np -k -L -p --tries=5 --show-progress https://ht.transparency.tools/git/%%f/)
然后就可以成功下载目录比较深的丢失没下载的内容