亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 學院 > 開發設計 > 正文

通過線程,HttpWebResponse,正則獲取句子迷中的句子

2019-11-10 19:49:00
字體:
來源:轉載
供稿:網友

之前一直在關注句子迷這個網站,在里面可以找到自己喜歡的名人的金典語錄。 這里寫圖片描述 每一次都去打開,再去翻頁查看太煩,有沒有什么方法可以把網站中的句子直接抓出來,保存到本地txt文件中? 然后在網上查看了一些資料,自己動手寫了一個控制臺應用程序。

注:代碼存在點問題,多次發起請求,線程會被占用,目前沒有解決;求救中

具體實現方式:

步驟1:通過HttpWebResponse發送一個請求,將整個HTML頁面請求過來,將全部數據讀入StreamReader中,下圖html代碼 這里寫圖片描述 步驟2:將讀入流中的數據進行處理,只取包含句子的文本,這里面需要查詢頁面的中html。 這里寫圖片描述 在取文本的過程中,使用正則表達式,取出想要的數據

///正則表達式 Regex regText = new Regex(@"<div/s+class/=/""views-field-phpcode-1/"">([/S/s]*?)</div>", RegexOptions.IgnoreCase);

步驟3:對上面的標簽,在進一步進行提取

Regex objRegExp = new Regex("<(.|/n)+?>");

具體代碼如下:

class PRogram { static ReaderWriterLock writeLock = new ReaderWriterLock(); const int LOCK = 1000; //申請讀寫時間 const int SLEEP = 100; //線程掛起時間 static void Main(string[] args) { Console.WriteLine("-------------------句子迷文檔下載----------"); Console.WriteLine("操作API:"); Console.WriteLine("注釋1:查詢的的作者名,以逗號(英文)隔開,例子如下:"); Console.WriteLine(" 魯迅,胡適,顧城"); Console.WriteLine("注釋2:保存的盤符,例子如下:"); Console.WriteLine(" X:////句子迷 "); Console.WriteLine("-------------------文檔結束----------"); Console.WriteLine("請輸入需要保存的盤:"); directoryName1 = Console.ReadLine(); Console.WriteLine("請輸入作者姓名:"); string writers = Console.ReadLine(); string[] strWriter = writers.Split(','); //string[] strWriter = { "魯迅", "胡適", "belle", "stars" }; for (int i = 0; i < strWriter.Length; i++) { Thread thread = new Thread(DownLoad1); thread.Name = strWriter[i]; thread.Start(); } Console.ReadKey(); } #region 通過網頁獲取句子迷中的名言名句 /// <summary> /// 通過網頁獲取句子迷中的名言名句 /// </summary> /// <param name="category"></param> public static void DownLoad1() { string url = string.Empty; bool flag = true;//遇到取文件異常就直接跳出 for (int pageSize = 0; pageSize < 10; pageSize++) { try { string writerName = Thread.CurrentThread.Name; ; //查詢作者列子 //if (pageSize == 0) // url = "http://www.juzimi.com/writer/徐志摩"; //else // url = "http://www.juzimi.com/writer/徐志摩?page=" + pageSize; //第一版查詢功能 //if (pageSize == 0) // url = "http://www.juzimi.com/writer/"+writerName; //else // url = "http://www.juzimi.com/writer/" + writerName + "?page=" + pageSize; if (pageSize == 0) url = "http://www.juzimi.com/search/node/" + writerName + "%20type:sentence"; else url = "http://www.juzimi.com/search/node/" + writerName + "%20type%3Asentence?page=" + pageSize; //創建http鏈接 var request = (HttpWebRequest)WebRequest.Create(url); //request.Timeout = 1000 * 10; //5s過期 var response = (HttpWebResponse)request.GetResponse(); Stream stream = response.GetResponseStream(); StreamReader sr = new StreamReader(stream); string content = sr.ReadToEnd(); var list = GetHtmlTextList(content); if (list.Count == 0) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + ":未找到相關信息;" + "當前線程:" + Thread.CurrentThread.ManagedThreadId); flag = false; break; } try { //文件保存文件夾 string directoryName = string.IsNullOrEmpty(directoryName1) ? "X://句子迷" : directoryName1; //文件名 string fileName = writerName; Write(directoryName, fileName, list); Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + "句子信息下載完成!" + "當前線程:" + Thread.CurrentThread.ManagedThreadId); } catch (Exception e) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + e.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); continue; } } catch (Exception ex) { if (ex.ToString().Contains("404")) { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + ex.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); flag = false; break; } else { Console.WriteLine("時間:" + DateTime.Now + " 當前網址:" + url + " 錯誤信息:" + ex.Message + "當前線程:" + Thread.CurrentThread.ManagedThreadId); } } if (!flag) { break; } } } /// <summary> /// 保存句子迷中的句子 /// </summary> /// <param name="path">保存路勁地址</param> /// /// <param name="path">句子迷中的句子</param> public static void Write(string path, string fileName, List<string> strBook) { writeLock.AcquireWriterLock(LOCK); FileStream fs = null; //判斷文件夾是否存在 if (!Directory.Exists(path)) Directory.CreateDirectory(path); //判斷集體文件保存路徑是否存在 string filePalce = path + "http://" + fileName + ".txt"; if (!File.Exists(filePalce)) { File.Create(filePalce); fs = new FileStream(filePalce, FileMode.Create); } else { fs = new FileStream(filePalce, FileMode.Append); } StreamWriter sw = new StreamWriter(fs); foreach (var item in strBook) { //開始寫入 sw.Write(item + "/r/n/r/n"); } Thread.Sleep(SLEEP); //清空緩沖區 sw.Flush(); //關閉流 sw.Close(); fs.Close(); writeLock.ReleaseWriterLock(); } /// <summary> /// 取得HTML中所有圖片的 URL。 /// </summary> /// <param name="sHtmlText">HTML代碼</param> /// <returns>圖片的URL列表</returns> public static List<string> GetHtmlTextList(string sHtmlText) { // 定義正則表達式用來匹配 text 標簽 Regex regText = new Regex(@"<div/s+class/=/""views-field-phpcode-1/"">([/S/s]*?)</div>", RegexOptions.IgnoreCase); // 搜索匹配的字符串 MatchCollection matches = regText.Matches(sHtmlText); List<string> sUrlList = new List<string>(); // 取得匹配項列表 foreach (Match match in matches) { sUrlList.Add(replceHtml(match.Value)); } return sUrlList; } /// <summary> /// 將取出來的含有html的標簽替換掉,只留下里面的值 /// </summary> /// <param name="strHtml"></param> /// <returns></returns> public static string replceHtml(string strHtml) { Regex objRegExp = new Regex("<(.|/n)+?>"); return objRegExp.Replace(strHtml, ""); } #endregion

運行結果:

這里寫圖片描述

本地保存路徑,及打開文件效果:

這里寫圖片描述


發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
久久久久久久久国产精品| 精品电影在线观看| 在线播放国产一区二区三区| 精品香蕉在线观看视频一| 欧美午夜丰满在线18影院| 日韩av在线免播放器| 中文字幕精品在线视频| 久久国产精品视频| 国产精品一区二区女厕厕| 91九色视频导航| 久久久久久久国产精品| 国产在线拍揄自揄视频不卡99| 亚洲国语精品自产拍在线观看| 91超碰中文字幕久久精品| 疯狂欧美牲乱大交777| 久久免费视频观看| 精品亚洲一区二区三区在线播放| 日韩在线视频一区| 日韩中文字幕在线看| 欧美乱妇高清无乱码| 国产成人精品电影| 蜜臀久久99精品久久久无需会员| 欧美国产一区二区三区| 欧美影院成年免费版| 欧美成aaa人片免费看| 日韩精品在线看| 国产精品福利久久久| 毛片精品免费在线观看| 亚洲免费一级电影| 日本人成精品视频在线| 欧美午夜精品在线| 久久精品色欧美aⅴ一区二区| 91精品久久久久久久久久久久久久| 2019中文字幕在线免费观看| 成人精品一区二区三区电影免费| 亚洲欧美日韩精品| 久久人91精品久久久久久不卡| 中文在线不卡视频| 成人亲热视频网站| 欧美怡春院一区二区三区| 57pao成人国产永久免费| 亚洲欧美激情在线视频| 亚洲第一页自拍| 久久99国产精品自在自在app| 日韩在线观看高清| 国产成人精品久久亚洲高清不卡| 色妞欧美日韩在线| 亚洲桃花岛网站| 亚洲自拍中文字幕| 欧美成人免费va影院高清| 国模私拍一区二区三区| 亚洲精品视频中文字幕| 欧美夫妻性生活视频| 久久精品国产成人精品| 日韩成人激情影院| 欧美极度另类性三渗透| 欧美一级成年大片在线观看| 91欧美精品成人综合在线观看| 久久精品一区中文字幕| 国产成人高清激情视频在线观看| 欧美最猛性xxxxx(亚洲精品)| 成人福利在线视频| 日韩精品在线私人| 日本精品久久电影| 国产精品久久久久久久久免费看| 欧美日韩另类在线| 久久噜噜噜精品国产亚洲综合| 欧美激情高清视频| 成人久久久久久久| 欧美日韩免费网站| 亚洲成人网在线| 欧美丝袜一区二区| 成人av色在线观看| 中文字幕在线看视频国产欧美在线看完整| 国产精品99久久久久久www| 色妞一区二区三区| 久久久久久中文字幕| 国产精品久久久av久久久| 粉嫩av一区二区三区免费野| 在线看国产精品| 国产精品视频免费在线| 91亚洲精品久久久| 俺也去精品视频在线观看| 最好看的2019的中文字幕视频| 国产精品专区h在线观看| 亚洲丝袜一区在线| 久久精品影视伊人网| 久久久久久久久91| 色视频www在线播放国产成人| 国产91|九色| 亚洲在线免费观看| 亚洲一区二区免费| 精品色蜜蜜精品视频在线观看| 亚洲国产精品久久91精品| 中文字幕精品视频| 久久久久久久久久婷婷| 亚州国产精品久久久| 91精品国产综合久久香蕉最新版| 欧美成人中文字幕| 亚洲人成网7777777国产| 久久久久久久久久久久久久久久久久av| 日韩在线资源网| 国产精品久久久一区| 精品亚洲精品福利线在观看| 日韩欧美在线视频免费观看| 欧美成人精品在线视频| 亚洲国产精品嫩草影院久久| 亚洲午夜久久久久久久| 欧美老少做受xxxx高潮| 欧美激情视频在线观看| 日本精品免费观看| 日韩亚洲国产中文字幕| 日韩欧美一区二区三区| 亚洲高清一区二| 欧美插天视频在线播放| 欧美猛男性生活免费| 久久夜色精品国产欧美乱| 亚洲欧美日韩综合| 2023亚洲男人天堂| 欧美亚洲成人免费| 亚洲第一级黄色片| 亚洲影院高清在线| 日韩美女在线观看| 国模精品系列视频| 久久免费视频观看| 亚洲伦理中文字幕| 国产精品久久在线观看| 亚洲欧美日韩国产成人| 欧美激情喷水视频| 成人在线精品视频| 精品中文字幕久久久久久| 日韩欧美在线免费| 中文国产成人精品久久一| 成人综合网网址| 成人在线观看视频网站| 国产精品第二页| 日韩国产一区三区| 日韩专区中文字幕| 色偷偷88888欧美精品久久久| 日韩中文在线中文网在线观看| 日韩精品在线视频观看| 亚洲在线www| 亚洲女成人图区| 国a精品视频大全| 欧美激情精品久久久久| 国语自产在线不卡| 欧美日韩亚洲视频| 欧美专区在线观看| 中文字幕亚洲欧美日韩2019| 97超碰色婷婷| 国产成人一区三区| 欧美小视频在线| 日本亚洲欧美三级| 欧美极品美女视频网站在线观看免费| 亚洲精品美女视频| 欧美激情网站在线观看| 日韩精品免费视频| 国产精品久久一区| 久久久爽爽爽美女图片| 91视频88av| 一本色道久久88精品综合| 亚洲a中文字幕| 欧美日韩国产中字| 日韩黄色在线免费观看|