抓取有道翻译(爬虫)

利用有道翻译输入英文返回汉译
关键词:js逆向,http请求,断点调试
1.找到有道翻译网站:https://fanyi.youdao.com/
2.输入英文处罚网站翻译功能,浏览器自带抓包工具里搜索关键词,找到返回的json结构数据和url请求头和请求体
抓取有道翻译(爬虫)
3.用现有url,请求头,请求体requests一下,经过多次尝试和经验过滤,关键参数如下

	url = 'https://fanyi.youdao.com/translate_o'
    head = {
        'Referer': 'https://fanyi.youdao.com/',
        'Cookie': 'OUTFOX_SEARCH_USER_ID=-941278419@10.169.0.102',
    }
    data = {
        'i': 'hello',
        'smartresult': 'dict',
        'client': 'fanyideskweb',
        'salt': '16181030495042',
        'sign': '2aef9c43178f2a224e8f757731d11669',
        'version': '2.1',
        'keyfrom': 'fanyi.web',
    }

4.寻找变化参数来源
(1)一眼就看出来salt是时间戳
(2)改变翻译内容,对比参数,锁定重点sign
抓取有道翻译(爬虫)
(3)查看调用堆栈信息,进入fanyi.min.js,发现请求体团伙据点,用reres谷歌插件搞抓取有道翻译(爬虫)
抓取有道翻译(爬虫)
将这个js地址改为跳转到本地服务器js文件的地址(搭网站服务器基操)
抓取有道翻译(爬虫)
放到本地console.log()把参数都亮出来,放编辑器有新发现,sign参数是MD5了串+e+时间戳+串得来,重点是e
加行代码console.log(e);
抓取有道翻译(爬虫)
抓取有道翻译(爬虫)
emmmmmm
抓取有道翻译(爬虫)
(4)cookies,在响应头里,基操获取,参数获取结束
抓取有道翻译(爬虫)
5.完整代码

# @Time : 2021/4/11 11:38 
# @Author : zhangmuxu
# @File : youdao.py 
# @Software: PyCharm
import re
import time
import hashlib
import requests_html

session = requests_html.HTMLSession()

class Youdao(object):
    def __init__(self, word):
        self.url = 'https://fanyi.youdao.com/translate_o'
        self.Set_Cookie_url = 'https://fanyi.youdao.com/'
        self.head = {
            'Referer': 'https://fanyi.youdao.com/',
            'Cookie': 'OUTFOX_SEARCH_USER_ID=' + self.getSet_Cookie(),
        }
        self.now_tamp = int(time.time()*1000)
        self.data = {
            'i': word,
            'smartresult': 'dict',
            'client': 'fanyideskweb',
            'salt': self.now_tamp,
            'sign': self.getsign(),
            'version': '2.1',
            'keyfrom': 'fanyi.web',
        }
    def getdata(self):
        rous = session.post(self.url, headers=self.head, data=self.data)
        print(rous.text)

    def getsign(self):
        md5_text = "fanyideskweb" + word + str(self.now_tamp) + "Tbh5E8=q6U3EXe+&L[4c@"
        md5_data = hashlib.md5(md5_text.encode()).hexdigest().lower()
        return md5_data

    def getSet_Cookie(self):
        rous = session.get(self.Set_Cookie_url)
        Set_Cookie = rous.headers['Set-Cookie']
        OUTFOX_SEARCH_USER_ID = re.findall(r'OUTFOX_SEARCH_USER_ID=(.*?); ', Set_Cookie)[0]
        return OUTFOX_SEARCH_USER_ID

if __name__ == "__main__":
    word = "hello"
    Youdao(word).getdata()
上一篇:EXCEL--中英文互译


下一篇:基于深度学习的目标检测算法综述(一)