搜索引擎為用戶展現(xiàn)的每一條搜索結果,都對應著互聯(lián)網(wǎng)上的一個頁面。每一條搜索結果從產(chǎn)生到被搜索引擎展現(xiàn)給用戶,都需要經(jīng)過四個過程:抓取、過濾、建立索引和輸出結果。路普科技為您介紹搜索引擎收錄的原理,讓你更好的理解網(wǎng)站優(yōu)化工作。
一、抓取
Baiduspider,或稱百度蜘蛛,會通過搜索引擎系統(tǒng)的計算,來決定對哪些網(wǎng)站施行抓取,以及抓取的內(nèi)容和頻率值。搜索引擎的計算過程會參考您的網(wǎng)站在歷史中的表現(xiàn),比如內(nèi)容是否足夠優(yōu)質(zhì),是否存在對用戶不友好的設置,是否存在過度的搜索引擎優(yōu)化行為等等。
當您的網(wǎng)站產(chǎn)生新內(nèi)容時,Baiduspider會通過互聯(lián)網(wǎng)中某個指向該頁面的鏈接進行訪問和抓取,如果您沒有設置任何外部鏈接指向網(wǎng)站中的新增內(nèi)容,則Baiduspider是無法對其進行抓取的。
對于已被抓取過的內(nèi)容,搜索引擎會對抓取的頁面進行記錄,并依據(jù)這些頁面對用戶的重要程度安排不同頻次的抓取更新工作。
需您要注意的是,有一些抓取軟件,為了各種目的,會偽裝成Baiduspider對您的網(wǎng)站進行抓取,這可能是不受控制的抓取行為,嚴重時會影響到網(wǎng)站的正常運作。點此識別Baiduspider的真?zhèn)巍?/p>
二、過濾
互聯(lián)網(wǎng)中并非擁有 的網(wǎng)頁都對用戶有意義,比如一些明顯的欺騙用戶的網(wǎng)頁,死鏈接,空白內(nèi)容頁面等。這些網(wǎng)頁對用戶、站長和百度來說,都沒有足夠的價值,因此百度會自動對這些內(nèi)容進行過濾,以避免為用戶和您的網(wǎng)站帶來不必要的麻煩。
三、建立索引
百度對抓取回來的內(nèi)容會逐一進行標記和識別,并將這些標記進行儲存為結構化的數(shù)據(jù),比如網(wǎng)頁的tagtitle、metadescripiton、網(wǎng)頁外鏈及描述、抓取記錄。同時,也會將網(wǎng)頁中的關鍵詞【keywords】信息進行識別和儲存,以便與用戶搜索的內(nèi)容進行匹配。
四、輸出結果
用戶輸入的關鍵詞【keywords】,百度會對其進行一系列復雜的分析,并根據(jù)分析的結論在索引庫中尋找與之Z為匹配的一系列網(wǎng)頁,按照用戶輸入的關鍵詞【keywords】所體現(xiàn)的需求強弱和網(wǎng)頁的優(yōu)劣進行打分,并按照Z終的分數(shù)進行排列,展現(xiàn)給用戶。
