HtmlAgilityPack 抓取页面的乱码处理

2022-01-16 08:36:30

利用HtmlAgilityPack抓取页面很方便，但是当页面是gb2312编码时候就会出现乱码，上网查了一下说是默认的获取页面方法不够成熟，具体什么的我也不知道，姑且就认为是不够成熟吧。

HtmlWeb htmlWeb = new HtmlWeb();
HtmlDocument htmlDocument = htmlWeb.Load(@url);

解决方法如下：

新建一个方法来获取 HtmlDocument，传进来的是抓取页面的地址

       private static HtmlDocument GetHtmlDocument(string url)
        {
            HttpWebRequest httpWebRequest = WebRequest.Create(new Uri(@url)) as HttpWebRequest;
            httpWebRequest.Method = "GET";
            WebResponse webResponse = httpWebRequest.GetResponse();
            Stream stream = webResponse.GetResponseStream();
            HtmlDocument htmlDocument = new HtmlDocument();
            htmlDocument.Load(stream);

            return htmlDocument;
        }

根据@无机の剑的评论，用这个属性就解决了（O(∩_∩)O~）：

HtmlWeb htmlWeb = new HtmlWeb(); 
htmlWeb.OverrideEncoding = Encoding.GetEncoding("gb2312");

这样就可以啦！至于后面的使用方法都一样，具体可以参考这个博客，讲的很详细哈 http://www.cnblogs.com/linfei721/archive/2013/05/08/3066697.html

码农公寓

相关文章