ASP.NET抓取網頁內容的實現方法

2024-07-10 13:28:52

字體：大中小

來源：轉載

供稿：網友

這篇文章主要介紹了ASP.NET抓取網頁內容的實現方法,涉及使用HttpWebRequest及WebResponse抓取網頁內容的技巧,需要的朋友可以參考下

本文實例講述了ASP.NET抓取網頁內容的實現方法。分享給大家供大家參考。具體實現方法如下：

一、ASP.NET 使用HttpWebRequest抓取網頁內容

復制代碼代碼如下:

		/// <summary>方法一：比較推薦  
		/// 用HttpWebRequest取得網頁源碼  
		/// 對于帶BOM的網頁很有效，不管是什么編碼都能正確識別  
		/// </summary>  
		/// <param name="url">網頁地址" </param>  
		/// <returns>返回網頁源文件</returns>  
		public static string GetHtmlSource2(string url)  
		{  
		    //處理內容  
		    string html = "";  
		    HttpWebRequest request = (HttpWebRequest)WebRequest.Create(url);  
		    request.Accept = "*/*"; //接受任意文件  
		    request.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; .NET CLR 1.1.4322)"; //   
		    request.AllowAutoRedirect = true;//是否允許302  
		    //request.CookieContainer = new CookieContainer();//cookie容器，  
		    request.Referer = url; //當前頁面的引用  
		    HttpWebResponse response = (HttpWebResponse)request.GetResponse();  
		    Stream stream = response.GetResponseStream();  
		    StreamReader reader = new StreamReader(stream, Encoding.Default);  
		    html = reader.ReadToEnd();  
		    stream.Close();  
		    return html;  
		}

二、ASP.NET 使用 WebResponse 抓取網頁內容

復制代碼代碼如下:

		public static string GetHttpData2(string Url)  
		{  
		    string sException = null;  
		    string sRslt = null;  
		    WebResponse oWebRps = null;  
		    WebRequest oWebRqst = WebRequest.Create(Url);  
		    oWebRqst.Timeout = 50000;  
		    try  
		    {  
		        oWebRps = oWebRqst.GetResponse();  
		    }  
		    catch (WebException e)  
		    {  
		        sException = e.Message.ToString();  
		    }  
		    catch (Exception e)  
		    {  
		        sException = e.ToString();  
		    }  
		    finally  
		    {  
		        if (oWebRps != null)  
		        {  
		            StreamReader oStreamRd = new StreamReader(oWebRps.GetResponseStream(), Encoding.GetEncoding("utf-8"));  
		            sRslt = oStreamRd.ReadToEnd();  
		            oStreamRd.Close();  
		            oWebRps.Close();  
		        }  
		    }  
		    return sRslt;  
		}