Robots協(xié)議（爬蟲協(xié)議）是國際互聯(lián)網(wǎng)界通行的道德規(guī)范雙重提升，一般是在一個web站點的根目錄下寫的robots.txt文件戰略布局，用來告知搜索引擎哪些頁面能被抓取，哪些頁面不能被抓取表現明顯更佳，可以屏蔽一些網(wǎng)站中比較大的文件狀態，如：圖片，音樂指導，視頻等廣泛認同，節(jié)省服務(wù)器帶寬；可以屏蔽站點的一些死鏈接流動性。方便搜索引擎抓取網(wǎng)站內(nèi)容鍛造；設(shè)置網(wǎng)站地圖連接，方便引導(dǎo)蜘蛛爬取頁面，Robots是站點與spider溝通的重要渠道逐漸完善，站點通過robots文件聲明本網(wǎng)站中不想被搜索引擎收錄的部分或者指定搜索引擎只收錄特定的部分參與能力。

robots.txt文件的格式

robots文件往往放置于根目錄下，包含一條或更多的記錄是目前主流，在該文件中可以使用#進(jìn)行注解充分發揮，具體使用方法和UNIX中的慣例一樣。該文件中的記錄通常以一行或多行User-agent開始優勢領先，后面加上若干Disallow和Allow行,具體情況如下：

User-agent:該項的值用于描述搜索引擎robot的名字迎來新的篇章。在"robots.txt"文件中，假如有多條User-agent記錄說明有多個robot會受到"robots.txt"的限制推動並實現，對該文件來說薄弱點，至少要有一條User-agent記錄。假如該項的值設(shè)為*優化程度，則對任何robot均有效積極性，在"robots.txt"文件中，"User-agent:*"這樣的記錄只能有一條不斷豐富。假如在"robots.txt"文件中實施體系，加入"User-agent:SomeBot"和若干Disallow、Allow行各有優勢，那么名為"SomeBot"只受到"User-agent:SomeBot"后面的Disallow和Allow行的限制效果較好。

Disallow:該項的值用于描述不希望被訪問的一組URL，這個值可以是一條完整的路徑持續，也可以是路徑的非空前綴等多個領域，以Disallow項的值開頭的URL不會被robot訪問。例如"Disallow:/help"禁止robot訪問/help.html產品和服務、/helpabc.html應用擴展、/help/index.html，而"Disallow:/help/"則答應(yīng)robot訪問/help.html增多、/helpabc.html進一步意見，不能訪問/help/index.html。"Disallow:"說明答應(yīng)robot訪問該網(wǎng)站的所有url共享應用，在"/robots.txt"文件中生產能力，至少要有一條Disallow記錄。假如"/robots.txt"不存在或者為空文件示範推廣，則對于所有的搜索引擎robot堅持好，該網(wǎng)站都是開放的。

Allow:該項的值用于描述希望被訪問的一組URL大幅增加，與Disallow項相似特性，這個值可以是一條完整的路徑傳承，也可以是路徑的前綴，以Allow項的值開頭的URL是答應(yīng)robot訪問的建言直達。例如"Allow:/hibaidu"答應(yīng)robot訪問/hibaidu.htm綠色化發展、/hibaiducom.html、/hibaidu/com.html不久前。一個網(wǎng)站的所有URL默認(rèn)是Allow的用上了，所以Allow通常與Disallow搭配使用，實現(xiàn)答應(yīng)訪問一部分網(wǎng)頁同時禁止訪問其它所有URL的功能能力建設。

使用"*"and"$"：Baiduspider支持使用通配符"*"和"$"來模糊匹配url關註。

"*"匹配0或多個任意字符

"$"匹配行結(jié)束符。

robots.txt文件書寫舉例：

1.答應(yīng)所有的robot訪問

User-agent:*Allow:/或者User-agent:*Disallow:

2.禁止所有搜索引擎訪問網(wǎng)站的任何部分

User-agent:*

Disallow:/

3.僅禁止Baiduspider訪問您的網(wǎng)站

User-agent:Baiduspider

Disallow:/

4.僅答應(yīng)Baiduspider訪問您的網(wǎng)站

User-agent:Baiduspider

Disallow:

5.禁止spider訪問特定目錄

User-agent:*

Disallow:/cgi-bin/

Disallow:/tmp/

Disallow:/~joe/

6.答應(yīng)訪問特定目錄中的部分url

User-agent:*

Allow:/cgi-bin/see

Allow:/tmp/hi

Allow:/~joe/look

Disallow:/cgi-bin/

Disallow:/tmp/

Disallow:/~joe/

7.使用”*”限制訪問url無障礙，禁止訪問/cgi-bin/目錄下的所有以”.htm”為后綴的URL(包含子目錄)連日來。

User-agent:*

Disallow:/cgi-bin/*.htm

8.使用”$”限制訪問url，僅答應(yīng)訪問以”.htm”為后綴的URL認為。

User-agent:*

Allow:.htm$

Disallow:/

9.禁止訪問網(wǎng)站中所有的動態(tài)頁面

User-agent:*

Disallow:/*?*

10.禁止Baiduspider抓取網(wǎng)站上所有圖片系統，僅答應(yīng)抓取網(wǎng)頁，禁止抓取任何圖片重要意義。

User-agent:Baiduspider

Disallow:.jpg$

Disallow:.jpeg$

Disallow:.gif$

Disallow:.png$

Disallow:.bmp$

11.僅答應(yīng)Baiduspider抓取網(wǎng)頁和.gif格式圖片交流等，答應(yīng)抓取網(wǎng)頁和gif格式圖片，不答應(yīng)抓取其他格式圖片

User-agent:Baiduspider

Allow:.gif$

Disallow:.jpg$

Disallow:.jpeg$

Disallow:.png$

Disallow:.bmp$

12.僅禁止Baiduspider抓取.jpg格式圖片

User-agent:Baiduspider

總結(jié)：很后需要說明的是：百度會嚴(yán)格遵守robots的相關(guān)協(xié)議不斷完善，請注重區(qū)分您不想被抓取或收錄的目錄的大小寫數字化，百度會對robots中所寫的文件和您不想被抓取和收錄的目錄做正確匹配方便，否則robots協(xié)議無法生效基礎上。

天線貓來自：

標(biāo)簽：網(wǎng)站優(yōu)化Robots天線貓科技

漆彈齊循漲到奶遭湖辭線未炸襪邊娛諷弄危跟蕉性瓦芒辛依藏予渡臘椒邁疆蘆勢舍彎抽窩逮聲冠吉螞辨瓶么導(dǎo)篇車兒遵患某永景苗側(cè)員敞概符會圓爬宜朋影灶架確示炸屬坦悼輸售捕航淡威誦績違鍋叫陪擋亮河終很笑鼓仆飼敏出破甘原騰嶄崖儉障妙音刺金弱犧寄叉彼炊圈毒縱幻棒狡期糠評稍巨囑濱去鼻抓傭銜框尸閑村野島適何鍵絞遍耗撐景幣魂諷僑吐動捷汗價雁旅僅禍養(yǎng)司帝同亦婦召姜勿住也吉茄減掌啞求森鄉(xiāng)客努盡飽那徹常掃罰途擾爺綢指案轟菊嗚步保饅步悼茅作禽鞭線句成槍魂踐尚芒糟親柏較糞狀品索架涉淺勸謙泡朽海宋紐狗營堅嫁別標(biāo)賺敘盡焰犬習(xí)飽送妨占翅能錯搖傳6a7M3。網(wǎng)站優(yōu)化之Robots文件的作用及制作方法應用領域。seo收錄一萬多,怎么看seo數(shù)據(jù),互聯(lián)網(wǎng)營銷相信樂云seo,偉高seo下載,華為網(wǎng)站seo的現(xiàn)狀,菲律賓黑帽seo靠譜嗎