亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 學院 > 開發設計 > 正文

通過線程,HttpWebResponse,正則獲取句子迷中的句子

2019-11-10 20:01:03
字體:
來源:轉載
供稿:網友

之前一直在關注句子迷這個網站,在里面可以找到自己喜歡的名人的金典語錄。 這里寫圖片描述 每一次都去打開,再去翻頁查看太煩有沒有什么方法可以把網站中的句子直接抓出來,保存到本地txt文件中? 然后在網上查看了一些資料,自己動手寫了一個控制臺應用程序。

注:代碼存在點問題,多次發起請求,線程會被占用,目前沒有解決;求救中

具體實現方式:

步驟1:通過HttpWebResponse發送一個請求,將整個HTML頁面請求過來,將全部數據讀入StreamReader中,下圖html代碼 這里寫圖片描述 步驟2:將讀入流中的數據進行處理,只取包含句子的文本,這里面需要查詢頁面的中html。 這里寫圖片描述 在取文本的過程中,使用正則表達式,取出想要的數據

///正則表達式 Regex regText = new Regex(@"<div/s+class/=/""views-field-phpcode-1/"">([/S/s]*?)</div>", RegexOptions.IgnoreCase);

步驟3:對上面的標簽,在進一步進行提取

Regex objRegExp = new Regex("<(.|/n)+?>");

具體代碼如下:

class PRogram { static ReaderWriterLock writeLock = new ReaderWriterLock(); const int LOCK = 1000; //申請讀寫時間 const int SLEEP = 100; //線程掛起時間 static void Main(string[] args) { Console.WriteLine("-------------------句子迷文檔下載----------"); Console.WriteLine("操作API:"); Console.WriteLine("注釋1:查詢的的作者名,以逗號(英文)隔開,例子如下:"); Console.WriteLine(" 魯迅,胡適,顧城"); Console.WriteLine("注釋2:保存的盤符,例子如下:"); Console.WriteLine(" X:////句子迷 "); Console.WriteLine("-------------------文檔結束----------"); Console.WriteLine("請輸入需要保存的盤:"); directoryName1 = Console.ReadLine(); Console.WriteLine("請輸入作者姓名:"); string writers = Console.ReadLine(); string[] strWriter = writers.Split(','); //string[] strWriter = { "魯迅", "胡適", "belle", "stars" }; for (int i = 0; i < strWriter.Length; i++) { Thread thread = new Thread(DownLoad1); thread.Name = strWriter[i]; thread.Start(); } Console.ReadKey(); } #region 通過網頁獲取句子迷中的名言名句 /// <summary> /// 通過網頁獲取句子迷中的名言名句 /// </summary> /// <param name="category"></param> public static void DownLoad1() { string url = string.Empty; bool flag = true;//遇到取文件異常就直接跳出 for (int pageSize = 0; pageSize < 10; pageSize++) { try { string writerName = Thread.CurrentThread.Name; ; //查詢作者列子 //if (pageSize == 0) // url = "http://www.juzimi.com/writer/徐志摩"; //else // url = "http://www.juzimi.com/writer/徐志摩?page=" + pageSize; //第一版查詢功能 //if (pageSize == 0) // url = "http://www.juzimi.com/writer/"+writerName; //else // url = "http://www.juzimi.com/writer/" + writerName + "?page=" + pageSize; if (pageSize == 0) url = "http://www.juzimi.com/search/node/" + writerName + "%20type:sentence"; else url = "http://www.juzimi.com/search/node/" + writerName + "%20type%3Asentence?page=" + pageSize; //創建http鏈接 var request = (HttpWebRequest)WebRequest.Create(url); //request.Timeout = 1000 * 10; //5s過期 var response = (HttpWebResponse)request.GetResponse(); Stream stream = response.GetResponseStream(); StreamReader sr = new StreamReader(stream); string content = sr.ReadToEnd(); var list = GetHtmlTextList(content); if (list.Count == 0) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + ":未找到相關信息;" + "當前線程:" + Thread.CurrentThread.ManagedThreadId); flag = false; break; } try { //文件保存文件夾 string directoryName = string.IsNullOrEmpty(directoryName1) ? "X://句子迷" : directoryName1; //文件名 string fileName = writerName; Write(directoryName, fileName, list); Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + "句子信息下載完成!" + "當前線程:" + Thread.CurrentThread.ManagedThreadId); } catch (Exception e) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + e.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); continue; } } catch (Exception ex) { if (ex.ToString().Contains("404")) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + ex.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); flag = false; break; } else { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + ex.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); } } if (!flag) { break; } } } /// <summary> /// 保存句子迷中的句子 /// </summary> /// <param name="path">保存路勁地址</param> /// /// <param name="path">句子迷中的句子</param> public static void Write(string path, string fileName, List<string> strBook) { writeLock.AcquireWriterLock(LOCK); FileStream fs = null; //判斷文件夾是否存在 if (!Directory.Exists(path)) Directory.CreateDirectory(path); //判斷集體文件保存路徑是否存在 string filePalce = path + "http://" + fileName + ".txt"; if (!File.Exists(filePalce)) { File.Create(filePalce); fs = new FileStream(filePalce, FileMode.Create); } else { fs = new FileStream(filePalce, FileMode.Append); } StreamWriter sw = new StreamWriter(fs); foreach (var item in strBook) { //開始寫入 sw.Write(item + "/r/n/r/n"); } Thread.Sleep(SLEEP); //清空緩沖區 sw.Flush(); //關閉流 sw.Close(); fs.Close(); writeLock.ReleaseWriterLock(); } /// <summary> /// 取得HTML中所有圖片的 URL。 /// </summary> /// <param name="sHtmlText">HTML代碼</param> /// <returns>圖片的URL列表</returns> public static List<string> GetHtmlTextList(string sHtmlText) { // 定義正則表達式用來匹配 text 標簽 Regex regText = new Regex(@"<div/s+class/=/""views-field-phpcode-1/"">([/S/s]*?)</div>", RegexOptions.IgnoreCase); // 搜索匹配的字符串 MatchCollection matches = regText.Matches(sHtmlText); List<string> sUrlList = new List<string>(); // 取得匹配項列表 foreach (Match match in matches) { sUrlList.Add(replceHtml(match.Value)); } return sUrlList; } /// <summary> /// 將取出來的含有html的標簽替換掉,只留下里面的值 /// </summary> /// <param name="strHtml"></param> /// <returns></returns> public static string replceHtml(string strHtml) { Regex objRegExp = new Regex("<(.|/n)+?>"); return objRegExp.Replace(strHtml, ""); } #endregion

運行結果:

這里寫圖片描述

本地保存路徑,及打開文件效果:

這里寫圖片描述


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
国产免费一区二区三区在线观看| 精品国产欧美一区二区三区成人| 亚洲精品一区二区久| 69国产精品成人在线播放| 国产成人精品一区| 国产一区二区三区在线观看网站| 97av视频在线| 国产精品高潮在线| 2024亚洲男人天堂| 久久欧美在线电影| 亚洲电影成人av99爱色| 亚洲国产日韩欧美在线99| 91国产美女视频| 亚洲免费电影一区| 欧美香蕉大胸在线视频观看| 综合久久五月天| 欧美最猛性xxxxx亚洲精品| 成人午夜黄色影院| 欧美日韩中文字幕在线| 亚洲电影中文字幕| 国产日韩欧美另类| 亚洲精品国偷自产在线99热| 8090成年在线看片午夜| 最新亚洲国产精品| 热久久免费国产视频| 欧美一区二区三区四区在线| 日韩中文字幕在线精品| 久久精品国产亚洲精品| 91牛牛免费视频| 国产精品久久一区主播| 亚洲精品ady| 国产精品久久久久久久美男| 精品国偷自产在线视频| 国产欧美日韩中文字幕在线| 亚洲欧美日韩久久久久久| 成人国产精品久久久久久亚洲| 中文字幕国产精品| 538国产精品一区二区免费视频| www国产精品com| 欧美日韩国产在线看| 亚州国产精品久久久| 美日韩丰满少妇在线观看| 国产日本欧美一区二区三区| 国产精品毛片a∨一区二区三区|国| 欧美激情一区二区三区在线视频观看| 亚洲人成网在线播放| 亚洲一区二区国产| 亚洲国产天堂久久综合| 亚洲欧美综合另类中字| 欧美成人黑人xx视频免费观看| 国产亚洲一区二区精品| 精品久久久久久久久中文字幕| 欧美专区中文字幕| 2025国产精品视频| 久久欧美在线电影| 欧美国产日本在线| 亚洲欧美日韩天堂一区二区| 国产精品久久久久免费a∨| 国产精品91一区| 色av中文字幕一区| 亚洲xxx视频| 黑人狂躁日本妞一区二区三区| 在线看片第一页欧美| 欧美男插女视频| 深夜福利亚洲导航| 亚洲欧美在线一区| 国产精品第1页| 欧美性极品xxxx娇小| 精品国产91久久久久久老师| 精品视频在线播放免| 久久免费观看视频| 精品色蜜蜜精品视频在线观看| 日韩专区中文字幕| 久久久久日韩精品久久久男男| 色噜噜国产精品视频一区二区| 中文字幕成人精品久久不卡| 欧美日韩视频在线| 91夜夜未满十八勿入爽爽影院| 久久69精品久久久久久国产越南| 国产成人精品日本亚洲| 国产精品一区二区三| 日韩欧美精品网站| 国产精品一区=区| 精品偷拍一区二区三区在线看| 欧美有码在线视频| 日韩电影中文字幕在线观看| 2019最新中文字幕| 国产精品色婷婷视频| 亚洲精品免费一区二区三区| 国产精品一区二区在线| 中文字幕亚洲综合| 大胆人体色综合| 精品偷拍各种wc美女嘘嘘| 国产日韩av在线| 日韩免费观看高清| 日韩美女福利视频| 日韩高清免费在线| 中文字幕亚洲一区二区三区五十路| 亚洲欧美激情精品一区二区| 中文字幕亚洲色图| www.日韩系列| 久久精品中文字幕一区| 岛国av一区二区在线在线观看| 91美女福利视频高清| 一区二区三区日韩在线| 日韩av片永久免费网站| 日韩av电影在线播放| 另类美女黄大片| 亚洲欧美制服另类日韩| 久久久噜噜噜久久中文字免| 国产精品视频成人| 最近日韩中文字幕中文| 国产精品对白刺激| 日韩激情在线视频| 97**国产露脸精品国产| 美女久久久久久久久久久| 欧美日韩中文字幕日韩欧美| 国产精品中文字幕在线观看| 中文字幕最新精品| 激情av一区二区| 欧美性xxxx极品高清hd直播| 亚洲大胆人体视频| 亚洲精品久久久久久下一站| 色av中文字幕一区| 久久九九免费视频| 亚洲国产中文字幕久久网| 日韩精品在线影院| 岛国av一区二区| 亚洲韩国青草视频| 国外成人免费在线播放| 欧美香蕉大胸在线视频观看| 久久综合88中文色鬼| 国产精品高清在线观看| 少妇高潮 亚洲精品| 欧美一乱一性一交一视频| 538国产精品一区二区免费视频| 亚洲午夜国产成人av电影男同| 另类图片亚洲另类| 国产精品视频免费在线观看| 亚洲免费精彩视频| 精品国产区一区二区三区在线观看| 日韩av在线影视| 国内外成人免费激情在线视频| 欧美成人午夜激情在线| 欧美激情精品久久久久久蜜臀| 欧美理论片在线观看| 久久偷看各类女兵18女厕嘘嘘| 日韩中文字幕网址| 久久久久久久影视| 国产精品91久久久久久| 亚洲精品国产精品国自产在线| 美女福利精品视频| 精品视频中文字幕| 亚洲18私人小影院| 亚洲色图35p| 欧美日韩另类视频| 不卡av在线网站| 亚洲偷熟乱区亚洲香蕉av| 久久久中精品2020中文| 久久精品视频免费播放| 久久国产精品久久久久久| 亚洲人成网站777色婷婷| 自拍偷拍免费精品| 国内精品久久久久久影视8|