作爲一(yī)名SEOer大(dà)家肯定是知(zhī)道搜索蜘蛛的，但是關于robots.txt這個搜索蜘蛛遵循協議，卻鮮少有人談起，其實用好robots是很容易爲你網站提權的。

第一(yī)，用robots屏蔽網站重複頁

很多網站一(yī)個内容提供多種浏覽版本，雖然很方便用戶卻對蜘蛛造成了困難，因爲它分(fēn)不清那個是主，那個是次，一(yī)旦讓它認爲你在惡意重複，兄弟(dì)你就慘了

User-agent： *

Disallow： /sitemap/ 《禁止蜘蛛抓取 文本網頁》

第二，用robots保護網站安全

很多人納悶了，robots怎麽還和網站安全有關系了？其實關系還很大(dà)，不少低級黑客就是通過搜索默認後台登陸，以達到入侵網站的目标

User-agent： *

Disallow： /admin/ 《禁止蜘蛛抓取admin目錄下(xià)所有文件》

第三，防止盜鏈

一(yī)般盜鏈也就幾個人，可是一(yī)旦被搜索引擎“盜鏈”那家夥你100M寬帶也吃不消，如果你做的不是圖片網站，又(yòu)不想被搜索引擎“盜鏈”你的網站圖片

User-agent： *

Disallow： .jpg$

第四，提交網站地圖

現在做優化的都知(zhī)道做網站地圖了，可是卻沒幾個會提交的，絕大(dà)多數人是幹脆在網頁上加個鏈接，其實robots是支持這個功能的

Sitemap： http://www.010wangzhanyouhua.com/sitemaps/sitemaps_1.xml

第五，禁止某二級域名的抓取

一(yī)些網站會對VIP會員(yuán)提供一(yī)些特殊服務，卻又(yòu)不想這個服務被搜索引擎檢索到

User-agent： *

Disallow： /