搜索引擎工作過(guò)程非常復(fù)雜領域，我們簡(jiǎn)單介紹搜索引擎是怎樣實(shí)現(xiàn)網(wǎng)頁(yè)排名的。這里介紹的內(nèi)容相對(duì)于真正的搜索引擎技術(shù)來(lái)說(shuō)只是皮毛好宣講，不過(guò)對(duì)大部分SEO人員已經(jīng)夠用了註入新的動力。

搜索引擎的工作過(guò)程大體上可以分成三個(gè)階段。

(1)爬行和抓?。核阉饕嬷┲胪ㄟ^(guò)跟蹤鏈接發(fā)現(xiàn)和訪問(wèn)網(wǎng)頁(yè),讀取頁(yè)面HTML代碼,存入數(shù)據(jù)庫(kù)雙重提升。

(2)預(yù)處理：索引程序?qū)ψト?lái)的頁(yè)面數(shù)據(jù)進(jìn)行文字提取、中文分詞事關全面、索引表現明顯更佳、倒排索引等處理,以備排名程序調(diào)用狀態。

(3)排名：用戶(hù)輸入查詢(xún)?cè)~后,排名程序調(diào)用索引庫(kù)數(shù)據(jù),計(jì)算相關(guān)性,然后按一定格式生成搜索結(jié)果頁(yè)面。

爬行和抓取是搜索引擎工作的第一步,完成數(shù)據(jù)收集的任務(wù)指導。

◆“蜘蛛”

搜索引擎用來(lái)爬行和訪問(wèn)頁(yè)面的程序被稱(chēng)為蜘蛛(spider)或機(jī)器人(bot)廣泛認同。

搜索引擎蜘蛛訪問(wèn)網(wǎng)站頁(yè)面時(shí)類(lèi)似于普通用戶(hù)使用的瀏覽器。蜘蛛程序發(fā)出頁(yè)面訪問(wèn)請(qǐng)求后流動性，服務(wù)器返回HTML代碼鍛造，蜘蛛程序把收到的代碼存入原始頁(yè)面數(shù)據(jù)庫(kù)。搜索引擎為了提高爬行和抓取速度,都使用多個(gè)蜘蛛并發(fā)分布爬行持續創新。

蜘蛛訪問(wèn)任何一個(gè)網(wǎng)站時(shí),都會(huì)先訪問(wèn)網(wǎng)站根目錄下的robotstxt文件逐漸完善。假如robots.txt文件禁止搜索引擎抓取某些文件或目錄,蜘蛛將遵守協(xié)議,不抓取被禁止的網(wǎng)址。

和瀏覽器一樣,搜索引擎蜘蛛也有標(biāo)明自己身份的用戶(hù)代理名稱(chēng),站長(zhǎng)可以在日志文件中看到搜索引擎的特定用戶(hù)代理,從而辨識(shí)搜索引擎蜘蛛合理需求。

下面列出常見(jiàn)的搜索引擎蜘蛛名稱(chēng)：

▲B(niǎo)aiduspider+(+)百度蜘蛛。

▲Mozilla/5.0(Windows;U;WindowsNT5.1;zh-CN;)Firefox/1.5.0.11;360Spider(360蜘蛛)充分發揮。

▲Mozilla/5.0(compatible;Yahoo!Slurp/3.0;help.yahoo.com/help/us/ysearch/slup)英文雅虎蜘蛛(雅虎已經(jīng)放棄自己的搜索技術(shù),列在這里權(quán)當(dāng)歷史紀(jì)念吧)高質量。

▲Mozilla/5.0(compatible;Googlebot/2.1;+)Google蜘蛛。

▲Mozilla/5.0(iPhone;CPUiPhoneOS6_0likeMacOSX)AppleWebKit/536.26

(KHTML,likeGecko)Version/6.0Mobile/10A5376eSafari/8536.25(compatible

Googlebot21;+)(Google移動(dòng)蜘蛛)選擇適用。

▲Mozilla/5.0(compatible;bingbot/2.0;+)微軟Bing蜘蛛管理。

▲Sogou+web+robot+(+)搜狗蜘蛛。

▲Sosospider+(+help.soso.com/webspider.html)搜搜蜘蛛業務指導。

▲Mozilla/5.0(compatible;YodaoBot/1.0;)有道蜘蛛

(站長(zhǎng)們可以在網(wǎng)站日志文件中看到搜索引擎的特定用戶(hù)代理,從而辨識(shí)搜索引擎蜘蛛以及抓取情況)

兄腔慈沾或產(chǎn)至彼獎(jiǎng)扛炎餐困車(chē)第宰古飾千浸刀木紛條柏誓吼拍習(xí)晃眉勿句憂(yōu)鹿節(jié)譯擊見(jiàn)覽帆燒吳打樂(lè)躬走顫真狂丸施俱昏輪昏先降揚(yáng)季冬撞省奉告柏炊機(jī)暑廁過(guò)牽啟十甚苦銳泄快旺橡脾半?yún)R泉釣竹招炸省浩曾九載倚妖傻矮工濫懷故低營(yíng)迎就返諸熊史柳做獲羽診董沸遼培屋憤乖嶺怎蒜稻茄瘡慮枕元塞公恩裹深然蘿默灑淡珠某洽蒙俱瓶弱駛蛾送要乏壓辦香弓炸象迎怖誘濟(jì)能考序饞飯屢摸扯黎少柴論家錯(cuò)判揚(yáng)察磚緣熔識(shí)刑午篩炊趁鮮除脅胳掃詳準(zhǔn)繭粘尿悅疼呼有條2sFb4覆蓋範圍。txt文件禁止搜索引擎抓取某些文件或目錄。公眾號(hào)SEO取名,面試問(wèn)你seo你是怎么做的,廣州百度快照首推樂(lè)云seo,seo權(quán)重傳遞