POST TIME:2021-05-24 02:39
前言:這篇文章主要是介紹如何使用采集功能去采集一個圖片類的網站。這次選取的目標站點為:站酷網的佳作欣賞欄目,其URL為:http://www.zcool.com.cn/shows/。本文將會涉及到如何處理被采集頁面含有分頁以及如何使用簡單的過濾規則。本文共分為三節:第一節,主要是介紹如何進入采集界面和新增采集節點中的第一步:設置基本信息及網址索引頁規則;第二節,主要是介紹新增采集節點中的第二步:設置字段獲取規則;第三節,主要是介紹如何采集指定節點和如何導出采集內容。
下面進入第一節。
如(圖1)所示,在后臺管理界面的主菜單中單擊“采集”,然后單擊“采集節點管理”,即可進入采集節點管理界面,如(圖2)所示。
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖1-后臺管理界面
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖2-采集節點管理界面
在采集節點管理界面中,單擊左下角的“增加新節點”或者右上角的“添加新節點”(如圖2),都可進入“選擇內容模型”界面,如(圖3)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖3-選擇內容模型界面
在“選擇內容模型”界面的下拉列表框中,有“普通文章”和“圖片集”可供選擇。
根據被采集頁面的類型,選擇相應的內容模型。本文這里選擇“圖片集”,單擊確定后,便可進入“新增采集節點:第一步設置基本信息及網址索引頁規則”界面,如(圖4)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖4-新增采集節點:第一步設置基本信息及網址索引頁規則
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖5-節點基本信息
如(圖5)所示,這里只是介紹如何獲取“目標頁面編碼”,對于其他的設定,可參見之前的文章。具體操作步驟:
(a)打開被采集的目標頁:http://www.zcool.com.cn/shows/;
(b)單擊右鍵后選擇“查看源文件”,找到“charset”, 如(圖6)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖6-查看源文件
其等號后面的代碼就是所需填寫的“編碼格式”,這里是“utf-8”。
填寫后,如(圖7)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖7-設置后的節點基本信息
檢查無誤后,進入下一步設置。
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖8-列表網址獲取規則
如(圖8)所示,這里是設置被采集的文章列表頁的匹配規則。具體操作步驟:
(a)首先,回到已打開的列表頁,找到瀏覽器的URL地址欄中顯示的網址和頁面的換頁部分。如(圖9)和(圖10)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖9-瀏覽器的URL地址欄
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖10-換頁
(b)單擊“2”,打開文章列表頁的第二頁,再次找到瀏覽器的URL地址欄中所顯示的網址和頁面的換頁部分,如(圖12)和(圖13)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖11-第二頁的網址
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖12-第二頁的換頁
(c)在已打開的列表頁的第二頁上面,單擊(1),回到列表頁的首頁,這時頁面的換頁部分與之前的圖10是相同的,然而瀏覽器的URL地址欄中所顯示的網址與之前圖9并不相同,如(圖13)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖13-第一頁的網址
(d)由(b)和(c)可推知,這里被采集的列表頁的網址所遵循規律為:
http://www.zcool.com.cn/shows/0!0!0!200!(*)!1!0!0/。穩妥起見,請自行測試更多列表頁。確定規律后,在“匹配網址”中,填入列表頁所遵循的規律。
(e)最后,根據需要指定采集的頁碼或者規律數字,并設定其遞增規律。
到這里,“列表網址獲取規則”部分就設置結束了。最后結果,如(圖14)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖14-設置后的列表網址獲取規則
確定正確后,進入下一步設置。
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖15-文章網址匹配規則
這里是設置被采集的列表頁的匹配規則。
具體操作步驟:
(a)對于“區域開始的HTML”,可以在已打開的列表首頁,單擊右鍵后選擇“查看源文件”查找出第一篇文章的標題“高清壁紙”來獲得,如(圖16)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖16-查看源文件中,第一篇文章的標題
通過觀察,不難看出“<ul class="list_left_nr">”為整個列表的開始部分。因此,在“區域開始的HTML”中,應填入“<ul class="list_left_nr">”。
(b)在源文件中,找到最后一篇文章標題“阿奴比斯”,如(圖17)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖17-查看源文件中,最后一篇文章的標題
結合列表的開始部分并通過觀察可知,第一個“</ul>”為整個列表的結束部分,而其后的從“<ul class=”list_left_bottomw”>”到第二個“</ul>”,則為頁面的換頁部分。因此,在“區域結束的HTML”中,應填入”</ul>”,意思是到第一個</ul>結束。
(c)經過觀察圖16和圖17的文章標題部分,可以發現,標題的鏈接地址都是含有“=.html”的。因此,可在“必須包含”中,填入“=.html”。
到這里,“文章網址匹配規則“就設置結束了。填寫后,如(圖18)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖18-設置后的文章網址匹配規則
通過以上的三個小節,新增采集節點的第一步就已經設置完成了。設置后的最終結果,如(圖19)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖19-設置后的新增采集節點:第一步設置基本信息及網址索引頁規則
全部完成并檢查無誤后,單擊“保存信息并進入下一步設置“。如果之前設置正確,單擊后,將會進入“新增采集節點:測試基本信息及網址索引頁規則設置的網址獲取規則測試”頁面并看到相應的文章列表地址。如(圖20)所示,
(此圖片來源于網絡,如有侵權,請聯系刪除! )
圖20-網址獲取規則測試
確定正確無誤后,單擊“保存信息并進入下一步設置”。否則,請單擊“返回上一步進行修改“。
到這里,第一節就結束了。下面進入第二節。。。