亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 學院 > 開發設計 > 正文

通過線程,HttpWebResponse,正則獲取句子迷中的句子

2019-11-10 19:24:49
字體:
來源:轉載
供稿:網友

之前一直在關注句子迷這個網站,在里面可以找到自己喜歡的名人的金典語錄。 這里寫圖片描述 每一次都去打開,再去翻頁查看太煩,有沒有什么方法可以把網站中的句子直接抓出來,保存到本地txt文件中? 然后在網上查看了一些資料,自己動手寫了一個控制臺應用程序。

注:代碼存在點問題,多次發起請求,線程會被占用,目前沒有解決;求救中

具體實現方式:

步驟1:通過HttpWebResponse發送一個請求,將整個HTML頁面請求過來,將全部數據讀入StreamReader中,下圖html代碼 這里寫圖片描述 步驟2:將讀入流中的數據進行處理,只取包含句子的文本,這里面需要查詢頁面的中html。 這里寫圖片描述 在取文本的過程中,使用正則表達式,取出想要的數據

///正則表達式 Regex regText = new Regex(@"<div/s+class/=/""views-field-phpcode-1/"">([/S/s]*?)</div>", RegexOptions.IgnoreCase);

步驟3:對上面的標簽,在進一步進行提取

Regex objRegExp = new Regex("<(.|/n)+?>");

具體代碼如下:

class PRogram { static ReaderWriterLock writeLock = new ReaderWriterLock(); const int LOCK = 1000; //申請讀寫時間 const int SLEEP = 100; //線程掛起時間 static void Main(string[] args) { Console.WriteLine("-------------------句子迷文檔下載----------"); Console.WriteLine("操作API:"); Console.WriteLine("注釋1:查詢的的作者名,以逗號(英文)隔開,例子如下:"); Console.WriteLine(" 魯迅,胡適,顧城"); Console.WriteLine("注釋2:保存的盤符,例子如下:"); Console.WriteLine(" X:////句子迷 "); Console.WriteLine("-------------------文檔結束----------"); Console.WriteLine("請輸入需要保存的盤:"); directoryName1 = Console.ReadLine(); Console.WriteLine("請輸入作者姓名:"); string writers = Console.ReadLine(); string[] strWriter = writers.Split(','); //string[] strWriter = { "魯迅", "胡適", "belle", "stars" }; for (int i = 0; i < strWriter.Length; i++) { Thread thread = new Thread(DownLoad1); thread.Name = strWriter[i]; thread.Start(); } Console.ReadKey(); } #region 通過網頁獲取句子迷中的名言名句 /// <summary> /// 通過網頁獲取句子迷中的名言名句 /// </summary> /// <param name="category"></param> public static void DownLoad1() { string url = string.Empty; bool flag = true;//遇到取文件異常就直接跳出 for (int pageSize = 0; pageSize < 10; pageSize++) { try { string writerName = Thread.CurrentThread.Name; ; //查詢作者列子 //if (pageSize == 0) // url = "http://www.juzimi.com/writer/徐志摩"; //else // url = "http://www.juzimi.com/writer/徐志摩?page=" + pageSize; //第一版查詢功能 //if (pageSize == 0) // url = "http://www.juzimi.com/writer/"+writerName; //else // url = "http://www.juzimi.com/writer/" + writerName + "?page=" + pageSize; if (pageSize == 0) url = "http://www.juzimi.com/search/node/" + writerName + "%20type:sentence"; else url = "http://www.juzimi.com/search/node/" + writerName + "%20type%3Asentence?page=" + pageSize; //創建http鏈接 var request = (HttpWebRequest)WebRequest.Create(url); //request.Timeout = 1000 * 10; //5s過期 var response = (HttpWebResponse)request.GetResponse(); Stream stream = response.GetResponseStream(); StreamReader sr = new StreamReader(stream); string content = sr.ReadToEnd(); var list = GetHtmlTextList(content); if (list.Count == 0) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + ":未找到相關信息;" + "當前線程:" + Thread.CurrentThread.ManagedThreadId); flag = false; break; } try { //文件保存文件夾 string directoryName = string.IsNullOrEmpty(directoryName1) ? "X://句子迷" : directoryName1; //文件名 string fileName = writerName; Write(directoryName, fileName, list); Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + "句子信息下載完成!" + "當前線程:" + Thread.CurrentThread.ManagedThreadId); } catch (Exception e) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + e.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); continue; } } catch (Exception ex) { if (ex.ToString().Contains("404")) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + ex.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); flag = false; break; } else { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + ex.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); } } if (!flag) { break; } } } /// <summary> /// 保存句子迷中的句子 /// </summary> /// <param name="path">保存路勁地址</param> /// /// <param name="path">句子迷中的句子</param> public static void Write(string path, string fileName, List<string> strBook) { writeLock.AcquireWriterLock(LOCK); FileStream fs = null; //判斷文件夾是否存在 if (!Directory.Exists(path)) Directory.CreateDirectory(path); //判斷集體文件保存路徑是否存在 string filePalce = path + "http://" + fileName + ".txt"; if (!File.Exists(filePalce)) { File.Create(filePalce); fs = new FileStream(filePalce, FileMode.Create); } else { fs = new FileStream(filePalce, FileMode.Append); } StreamWriter sw = new StreamWriter(fs); foreach (var item in strBook) { //開始寫入 sw.Write(item + "/r/n/r/n"); } Thread.Sleep(SLEEP); //清空緩沖區 sw.Flush(); //關閉流 sw.Close(); fs.Close(); writeLock.ReleaseWriterLock(); } /// <summary> /// 取得HTML中所有圖片的 URL。 /// </summary> /// <param name="sHtmlText">HTML代碼</param> /// <returns>圖片的URL列表</returns> public static List<string> GetHtmlTextList(string sHtmlText) { // 定義正則表達式用來匹配 text 標簽 Regex regText = new Regex(@"<div/s+class/=/""views-field-phpcode-1/"">([/S/s]*?)</div>", RegexOptions.IgnoreCase); // 搜索匹配的字符串 MatchCollection matches = regText.Matches(sHtmlText); List<string> sUrlList = new List<string>(); // 取得匹配項列表 foreach (Match match in matches) { sUrlList.Add(replceHtml(match.Value)); } return sUrlList; } /// <summary> /// 將取出來的含有html的標簽替換掉,只留下里面的值 /// </summary> /// <param name="strHtml"></param> /// <returns></returns> public static string replceHtml(string strHtml) { Regex objRegExp = new Regex("<(.|/n)+?>"); return objRegExp.Replace(strHtml, ""); } #endregion

運行結果:

這里寫圖片描述

本地保存路徑,及打開文件效果:

這里寫圖片描述


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
亚洲最大中文字幕| 国产亚洲精品久久久久动| 国产亚洲一区精品| 91在线直播亚洲| 国产一区视频在线| 欧美日韩国产影院| 日韩精品中文字幕在线观看| 91久久国产精品| 亚洲第一二三四五区| 国产日韩中文字幕在线| 精品久久久久久中文字幕| 亚洲成人免费在线视频| 亚洲人成在线免费观看| 欧美精品久久久久a| 在线视频欧美日韩精品| 九色精品美女在线| 精品视频在线播放色网色视频| 尤物yw午夜国产精品视频| 日韩中文字幕精品视频| 日本成人免费在线| 国产精品日韩欧美| 亚洲成人性视频| 国产精品91久久久久久| 亚洲美女性生活视频| 热久久视久久精品18亚洲精品| 欧美精品精品精品精品免费| 国产精品男女猛烈高潮激情| 另类天堂视频在线观看| 日韩欧美亚洲国产一区| 亚洲欧洲在线看| 国产深夜精品福利| 亚洲欧美日韩另类| 日韩在线观看高清| 欧美在线一区二区视频| 97久久精品在线| 国产一区红桃视频| 国产精品一区二区久久精品| 日韩福利在线播放| 日韩男女性生活视频| 国产在线a不卡| 国产精品偷伦一区二区| 国产午夜精品免费一区二区三区| 91九色在线视频| 国产91久久婷婷一区二区| 国产精品精品国产| 国产欧美一区二区三区久久人妖| 国产精品99久久久久久人| 亚洲激情电影中文字幕| 国产精品丝袜一区二区三区| 久久免费少妇高潮久久精品99| 国产成人精品在线播放| 久久精品亚洲94久久精品| 国产精品亚洲美女av网站| 欧美中文在线字幕| 国产欧美婷婷中文| 亚洲另类欧美自拍| 欧美天天综合色影久久精品| 欧美大尺度激情区在线播放| 国产免费一区二区三区在线观看| 欧美尤物巨大精品爽| 97视频人免费观看| 欧美成人免费全部观看天天性色| 日本sm极度另类视频| 久久中国妇女中文字幕| 在线观看国产精品日韩av| 欧美另类在线播放| 一个人www欧美| 日韩视频中文字幕| 色综合久久88色综合天天看泰| 欧美日韩亚洲一区二区| 日韩在线视频中文字幕| 亚洲成人亚洲激情| 亚洲乱码一区av黑人高潮| 日韩视频免费观看| 国产成人亚洲综合| 久久这里有精品视频| 91久久精品久久国产性色也91| 日本一区二区在线播放| 成人国产在线视频| 麻豆一区二区在线观看| 国产91对白在线播放| 久久国产精品久久国产精品| 欧美理论电影网| 国产精品无av码在线观看| 亚洲精品视频在线观看视频| 日韩中文字幕在线看| 国产精品第一视频| 96国产粉嫩美女| 欧美精品一区二区免费| 国产精品久久久av久久久| 国产精品久久久久久久av大片| 中文字幕av一区二区三区谷原希美| 91精品国产高清久久久久久91| 奇米影视亚洲狠狠色| 久久久久国产精品免费网站| 国产亚洲精品久久久久久| 欧美日韩国产精品一区二区三区四区| 欧美午夜片在线免费观看| 日韩在线免费视频观看| 亚洲精品动漫久久久久| 国产+成+人+亚洲欧洲| 国产啪精品视频| 九九视频直播综合网| 欧美国产极速在线| 亚洲一区中文字幕| 欧美日韩成人精品| 精品久久久久久中文字幕大豆网| 成人欧美一区二区三区在线湿哒哒| 中文字幕日韩精品在线观看| 欧美黑人性生活视频| 欧美高跟鞋交xxxxxhd| 国产精品网红福利| 亚洲字幕一区二区| 精品国内产的精品视频在线观看| 日韩国产激情在线| 欧美激情一区二区三级高清视频| 国产日韩欧美视频在线| 国产999在线观看| 久久这里只有精品99| 亚洲一区中文字幕在线观看| 欧美精品免费在线观看| 日韩欧美中文免费| 色综合久综合久久综合久鬼88| 91中文在线观看| 亚洲深夜福利在线| 午夜剧场成人观在线视频免费观看| 亚洲欧美制服丝袜| 日韩国产在线看| 日本最新高清不卡中文字幕| 亚洲天堂av网| 精品国产一区二区三区四区在线观看| 麻豆乱码国产一区二区三区| 国产一区二区日韩精品欧美精品| 国产一区视频在线播放| 26uuu另类亚洲欧美日本一| 国产视频精品自拍| 亚洲国产97在线精品一区| 亚洲美女激情视频| 国产中文欧美精品| 国产日韩精品电影| 亚洲国产精品va在线| 精品日本美女福利在线观看| 在线看欧美日韩| 久久天堂av综合合色| 久久久www成人免费精品| 国产一区二区视频在线观看| 国产精品99导航| 亚洲成人av在线播放| 亚洲精品国产精品久久清纯直播| 亚洲视频网站在线观看| 丰满岳妇乱一区二区三区| 国产精品久久久久久一区二区| 欧美国产亚洲精品久久久8v| 色综合久综合久久综合久鬼88| 亚洲香蕉成人av网站在线观看| 激情成人中文字幕| 成人做爰www免费看视频网站| 欧美有码在线视频| 国产成人精品日本亚洲专区61| 伊人伊成久久人综合网站| 欧美视频专区一二在线观看| 成人黄色在线免费| 日韩欧美国产激情| 国产精品美女午夜av|