網頁采集的第一步是要確定采集對象,政府網頁歸檔保存的信息采集對象是域名中含有“gov.cn”的政府網站,為確保政府網頁的采集質量,需要對目標網站進行評價,將那些信息規(guī)模大、原生性信息多、更新頻繁的政府網站選定為采集對象。在確定要采集的目標政府網站之后,還應根據實際需求選擇相應的采集方式。完整性采集和選擇性采集是目前比較常用的網絡資源采集方式,它們各有優(yōu)缺點,為了彌補其各自的不足,可以實現兩種采集方式的優(yōu)勢互補,采用融合二者優(yōu)點的混合型采集方式,在對選定的政府網站中所有網頁進行完整性采集的同時,通過人工干預的方式對網頁內容進行甄別,對其中有證據價值、歷史價值、研究價值的重要網頁,有選擇性地進行深層次的頻繁采集,這樣既考慮到了政府網頁采集面的廣度,同時又照顧到了重要網頁采集的深度。
而網頁的采集與捕獲最終還需要依靠相應的網絡爬蟲工具來實現,目前面向網頁存檔的爬蟲工具比較多,其中Heritrix、HTTrack最為常用,可利用這些工具來有針對性地完成對目標政府網站網頁的自動批量在線采集。
本文地址:http://www.islandpacificappraisals.com//article/22236.html