1、首先找到一個在線成語網站
2、查看網頁結構,定義正則式
看一下要抓的成語的標簽有什么特點,查看源碼,可以發現要抓的成語都在<a>標簽中,如:<a href="/cy0/93.html">安如磐石</a>,成語事實上就是一個瞄文本,不同成語指向的鏈接不同,其實也就"/cy0/93.html"中的數字不同,所以正則式里匹配兩次數字就行了,定義正則式 reg = "<a href=/"/cy(/d+)/(/d+).html/">(.*?)</a>"。
3、上代碼吧
代碼如下:
#anthor jiqunpeng
#time 20121124
import urllib
import re
def getHtml(url): #從URL中讀取html內容
page = urllib.urlopen(url)
html = page.read()
page.close()
return html
def getDictionary(html): #匹配成語
reg = "<a href=/"/cy(/d+)/(/d+).html/">(.*?)</a>"
dicList = re.compile(reg).findall(html)
return dicList
def getItemSite():#手工把每個字母開頭的頁面數統計下來
itemSite = {}#申明為空字典
itemSite["A"] = 3
itemSite["B"] = 21
itemSite["C"] = 19
itemSite["D"] = 18
itemSite["E"] = 2
itemSite["F"] = 14
itemSite["G"] = 13
itemSite["H"] = 15
itemSite["J"] = 23
itemSite["K"] = 6
itemSite["L"] = 15
itemSite["M"] = 12
itemSite["N"] = 5
itemSite["O"] = 1
itemSite["P"] = 6
itemSite["Q"] = 16
itemSite["R"] = 8
itemSite["S"] = 26
itemSite["T"] = 12
itemSite["W"] = 13
itemSite["X"] = 16
itemSite["Y"] = 35
itemSite["A"] = 21
return itemSite
if __name__== "__main__":
dicFile = open("dic.txt","w+")#保存成語的文件
domainsite = "http://chengyu.itlearner.com/list/"
itemSite = getItemSite()
for key,values in itemSite.items():
for index in range(1,values+1):
site = key +"_"+str(index)+".html"
dictionary = getDictionary(getHtml(domainsite+site))
for dic in dictionary:
dicFile.write(dic[2]+"@@CY/n")#標記為成語,分詞時使用
新聞熱點
疑難解答