亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb

首頁 > 編程 > PHP > 正文

PHP使用Curl實現模擬登錄及抓取數據功能示例php技巧

2020-03-22 18:21:36
字體:
來源:轉載
供稿:網友
這篇文章主要介紹了PHP使用Curl實現模擬登錄及抓取數據功能,結合實例形式分析了php使用curl進行登陸、驗證、cookie操作與數據抓取等相關實現技巧,需要的朋友可以參考下

本文實例講述了PHP使用Curl實現模擬登錄及抓取數據功能。分享給大家供大家參考,具體如下:

使用PHP的Curl擴展庫可以模擬實現登錄,并抓取一些需要用戶賬號登錄以后才能查看的數據。具體實現的流程如下(個人總結):

1. 首先需要對相應的登錄頁面的html源代碼進行分析,獲得一些必要的信息:

(1)登錄頁面的地址;

(2)驗證碼的地址;

(3)登錄表單需要提交的各個字段的名稱和提交方式;

(4)登錄表單提交的地址;

(5)另外要需要知道要抓取的數據所在的地址。

2. 獲取cookie并存儲(針對使用cookie文件的網站):

$login_url = http://www.xxxxx //登錄頁面地址$cookie_file = dirname(__FILE__). /pic.cookie //cookie文件存放位置(自定義)$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $login_url);curl_setopt($ch, CURLOPT_HEADER, 0);curl_setopt($ch, CURLOPT_RETURNTRANSFER,1);curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_file);curl_exec($ch);curl_close($ch);

3. 獲取驗證碼并存儲(針對使用驗證碼的網站):

$verify_url = http://www.xxxx //驗證碼地址$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $verify_url);curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);curl_setopt($ch, CURLOPT_HEADER, 0);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);$verify_img = curl_exec($ch);curl_close($ch);$fp = fopen( ./verify/verifyCode.png , w //把抓取到的圖片文件寫入本地圖片文件保存fwrite($fp, $verify_img);fclose($fp);

說明:

由于不能實現驗證碼的識別,所以我這里的做法是,把驗證碼圖片抓取下來存放到本地文件中,然后在自己項目中的html頁面中顯示,讓用戶去填寫,等用戶填寫完賬號、密碼和驗證碼,并點擊提交按鈕之后再去進行下一步的操作。

4. 模擬提交登錄表單:

$ post_url = http://www.xxxx //登錄表單提交地址$post = username=$account password=$password seccodeverify=$verifyCode //表單提交的數據(根據表單字段名和用戶輸入決定)$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $ post_url);curl_setopt($ch, CURLOPT_HEADER, false);curl_setopt($ch, CURLOPT_RETURNTRANSFER,1);curl_setopt($ch, CURLOPT_POSTFIELDS, $post); //提交方式為postcurl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);curl_exec($ch);curl_close($ch);

5. 抓取數據:

$data_url = http://www.xxxx //數據所在地址$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $data_url);curl_setopt($ch, CURLOPT_HEADER, false);curl_setopt($ch, CURLOPT_HEADER, 0);curl_setopt($ch, CURLOPT_RETURNTRANSFER,0);curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_file);$data = curl_exec($ch);curl_close($ch);

到目前為止,已經把數據所在地址的這個頁面都抓取下來存儲在字符串變量$data中了。

需要注意的是抓取下來的是一個網頁的html源代碼,也就是說這個字符串中不僅包含了你想要的數據,還包含了許多的html標簽等你不想要的東西。所以如果你想要從中提取出你需要的數據的話,你還要對存放數據的頁面的html代碼進行分析,然后結合字符串操作函數、正則匹配等方法從中提取出你想要的數據。

以上方法對使用http協議的一般網站是有效的。但是如果你要模擬登錄的是使用了https協議的網站的話還需要添加如下一些處理:

1. 跳過https驗證:

curl_setopt($curl, CURLOPT_SSL_VERIFYPEER, false);curl_setopt($curl, CURLOPT_SSL_VERIFYHOST, false);

2. 使用用戶代理:

$UserAgent = Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0; SLCC1; .NET CLR 2.0.50727; .NET CLR 3.0.04506; .NET CLR 3.5.21022; .NET CLR 1.0.3705; .NET CLR 1.1.4322) curl_setopt($curl, CURLOPT_USERAGENT, $UserAgent);

注意:如果不添加這些處理的話模擬登錄時是不能成功的。

使用以上程序模擬登錄網站一般都是能成功的,但是實際上還是需要針對模擬登錄的網站具體情況具體考慮。例如:有些網站編碼不同,所以你抓取下來的頁面是亂碼的,這時就要進行一下編碼轉換,如:$data = iconv( gb2312 , utf-8 ,$data);,把gbk編碼轉換為utf8編碼。還有一些對安全性要求比較高的網站,比如網銀,會把驗證碼放在一個內聯框架中,這時你就需要先抓取到內聯框架的頁面然后在從中提取出驗證碼的地址,再去抓取驗證碼。還有一些網站(比如網銀)是在js代碼中去提交表單的,提交表單之前還會去做一些處理,比如加密等,所以如果你是直接提交的話也是不能登錄成功的,你必須要去做類似的處理后再提交,但是這種情況如果你能知道js代碼中進行的具體操作,比如加密的話,加密算法是怎樣的,你就可以進行跟它一樣的處理,然后再去提交數據,這樣也是能成功的。但是,關鍵的地方來了,如果你根本不知道它進行的是什么操作,比如它進行了加密,但是你不知道加密的具體算法,那么你就無法進行相同的操作,也就不能成功地模擬登錄了。這方面典型的案例就是網銀,它在js代碼中提交表單之前使用網銀控件對用戶提交的密碼和驗證碼進行了一些處理,但是我們根本不知道它進行的是什么操作,所以無法模擬。所以如果你以為你看了本文之后就能模擬登錄網銀的話那么你就太天真了,人家銀行的網站能那么容易被你模擬登錄嗎?當然,如果你能破解網銀控件的話,那就另當別論了。話說回來,為什么我的感受如此深刻,因為我就遇到這個難題了,不說了,說多了都是淚啊。。。

您可能感興趣的文章:

360搜索引擎自動收錄php改寫方案php實例

詳解php與ethereum客戶端交互php實例

PHP cURL獲取微信公眾號access_token的實例php實例

以上就是PHP使用Curl實現模擬登錄及抓取數據功能示例php技巧的詳細內容,PHP教程

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播更多信息之目的,如作者信息標記有誤,請第一時間聯系我們修改或刪除,多謝。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
亚洲香蕉成人av网站在线观看_欧美精品成人91久久久久久久_久久久久久久久久久亚洲_热久久视久久精品18亚洲精品_国产精自产拍久久久久久_亚洲色图国产精品_91精品国产网站_中文字幕欧美日韩精品_国产精品久久久久久亚洲调教_国产精品久久一区_性夜试看影院91社区_97在线观看视频国产_68精品久久久久久欧美_欧美精品在线观看_国产精品一区二区久久精品_欧美老女人bb
欧美日产国产成人免费图片| 欧美日韩在线另类| 国产一区二区丝袜| 精品久久久久久国产| 欧美色xxxx| 中文字幕免费国产精品| 精品日本美女福利在线观看| 日韩美女视频中文字幕| 人体精品一二三区| 视频在线一区二区| 国产99视频在线观看| 97人人爽人人喊人人模波多| 欧美日韩另类在线| 欧美成人在线影院| 在线观看国产精品淫| 国产精品99久久久久久人| 中文字幕精品av| 亚洲日本中文字幕免费在线不卡| 亚洲人成电影在线播放| 日本午夜人人精品| 精品免费在线视频| 久久69精品久久久久久国产越南| 久久天天躁狠狠躁老女人| 久久久久久久国产| 欧美精品在线极品| 欧美激情三级免费| 国产精品视频一区二区三区四| 日韩电影在线观看永久视频免费网站| 中文字幕欧美国内| 国产精品久久久久久av下载红粉| 日韩激情av在线免费观看| 日韩在线观看网址| 日韩网站免费观看| 欧美激情xxxxx| 久久中文字幕在线| 一本色道久久综合狠狠躁篇的优点| 成人免费xxxxx在线观看| 欧美中文字幕在线播放| 欧美成人自拍视频| 久久天天躁夜夜躁狠狠躁2022| 91精品视频大全| 欧美精品电影在线| 国产精品欧美激情| 这里只有精品久久| 91福利视频在线观看| 国产精品青草久久久久福利99| 97视频在线观看亚洲| 日韩精品在线私人| 色老头一区二区三区在线观看| 日韩中文在线中文网三级| 久久久天堂国产精品女人| 日本高清+成人网在线观看| 亚洲白虎美女被爆操| 亚洲欧美日韩视频一区| 国产精品欧美一区二区三区奶水| 日韩精品久久久久久久玫瑰园| 麻豆国产精品va在线观看不卡| 日韩欧中文字幕| 久久久久久国产免费| 久久久精品网站| 岛国视频午夜一区免费在线观看| 久久人人爽国产| 成人a在线视频| 91产国在线观看动作片喷水| 日本高清视频精品| 中文字幕欧美专区| 国产精品网址在线| 国产日韩综合一区二区性色av| 亚洲老头同性xxxxx| 韩剧1988免费观看全集| 国产精品丝袜白浆摸在线| 国产在线久久久| 亚洲第一区在线观看| 国产精品自拍偷拍视频| 91精品国产综合久久男男| 91精品国产色综合| 日韩美女毛茸茸| 成人av电影天堂| 国产成人精品视频| 亚洲精品国产美女| 欧美性受xxxx白人性爽| 亚洲一区中文字幕在线观看| 精品在线欧美视频| 日韩va亚洲va欧洲va国产| 久久久久久久久久国产精品| 国产精品v日韩精品| 成人免费网站在线观看| 国产精品mp4| 久久久亚洲影院你懂的| 亚洲精品电影在线| 久久人人爽人人爽人人片av高清| 色天天综合狠狠色| 亚洲石原莉奈一区二区在线观看| 91精品国产色综合久久不卡98口| 国模极品一区二区三区| 国产精品免费一区| 精品久久久久久久久久久久久久| 成人淫片在线看| 欧美另类老女人| 国产欧美日韩中文字幕在线| 亚洲国产精品久久精品怡红院| 午夜精品久久久99热福利| 91在线|亚洲| 久久久这里只有精品视频| 91精品视频专区| 亚洲图片制服诱惑| 日韩欧美一区二区在线| 日本韩国欧美精品大片卡二| 18性欧美xxxⅹ性满足| 欧美裸体男粗大视频在线观看| 国精产品一区一区三区有限在线| 国产在线高清精品| 欧美裸体男粗大视频在线观看| 国产成人一区二区三区小说| 亚洲欧洲在线观看| 欧美日韩一区二区在线播放| 日本欧美中文字幕| 亚洲精品免费网站| 欧美日韩性视频| 91欧美激情另类亚洲| 亚洲男人天堂九九视频| 国内成人精品一区| 青青久久av北条麻妃黑人| 欧美极品欧美精品欧美视频| 国内伊人久久久久久网站视频| 国产精品久久久久久久天堂| 啊v视频在线一区二区三区| 亚洲精品国产精品自产a区红杏吧| 欧美国产日韩一区二区在线观看| 91在线精品播放| 久久久亚洲国产| 日韩中文字幕免费视频| 狠狠综合久久av一区二区小说| 日韩在线视频一区| 久久久久久久91| 亚洲美女久久久| 亚洲国产精品女人久久久| 国产视频观看一区| 色综合导航网站| 日韩av综合网| 欧美巨猛xxxx猛交黑人97人| 亚洲电影第1页| 久久久久久久久久久网站| 欧美乱妇高清无乱码| 日韩精品在线电影| 成人黄色片在线| 国产精品影片在线观看| 国产中文欧美精品| 日韩av免费一区| 成人精品福利视频| 亚洲欧美日韩精品久久奇米色影视| 亚洲欧美成人一区二区在线电影| 国产日本欧美一区二区三区| 美日韩丰满少妇在线观看| 亚洲精品免费一区二区三区| 色综合色综合久久综合频道88| 中文字幕亚洲欧美在线| 国产成人综合av| 亚洲第一精品夜夜躁人人躁| 一区二区三区国产在线观看| 伦理中文字幕亚洲| 热99久久精品| 一本一本久久a久久精品综合小说| 成人黄色片网站|