古詩詞大全網 - 成語用法 - 什麽是“爬蟲”呢?

什麽是“爬蟲”呢?

爬蟲指網絡爬蟲。

網絡爬蟲(又稱為網頁蜘蛛,網絡機器人,在FOAF社區中間,更經常的稱為網頁追逐者),是壹種按照壹定的規則,自動地抓取萬維網信息的程序或者腳本。另外壹些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。網絡爬蟲是壹個自動提取網頁的程序,它為搜索引擎從萬維網上下載網頁,是搜索引擎的重要組成。

網絡爬蟲的產生背景

隨著網絡的迅速發展,萬維網成為大量信息的載體,如何有效地提取並利用這些信息成為壹個巨大的挑戰。搜索引擎(Search Engine),例如傳統的通用搜索引擎AltaVista,Yahoo!和Google等,作為壹個輔助人們檢索信息的工具成為用戶訪問萬維網的入口和指南。但是,這些通用性搜索引擎也存在著壹定的局限性。