做網站當然希望搜索引擎抓取我們網站的內容，但我們做SEO優化SEO優化時候并不希望所有的信息都公布于眾，比如后臺隱私，或者其它一些雜七雜八的信息。那么這時候我們就可以能過robots.txt文件來控制網站在搜索引擎中的展示，robots.txt是一個純文本文件，通過在這個文件中聲明該網站中不想被搜索引擎robots訪問的部分。
帶“*”的一種寫法：
User-agent: *Disallow: /ad*
Allow: /ad/img/
Disallow: /*.php$
Disallow: /*.jsp$
Disallow: /*.css$
這種寫法允許所有蜘蛛訪問，但會限制以“ad”開頭的目錄及文件，并限制抓取.php文件、.jsp文件和.css文件。其中Disallow: /ad*會連同附件目錄（即你上傳的圖片、軟件等）一起限制抓取，如果想讓搜索引擎抓取img目錄中的內容，需要將寫上第三行“Allow: /ad/img/“。
較合理的一種寫法：
User-agent: *Disallow: /admin
Disallow: /content/plugins
Disallow: /content/themes
Disallow: /includes
Disallow: /?s=
Sitemap:https://www.sucai51.cn/
采用這種寫法允許所有搜索引擎抓取，并逐一列舉需要限制的目錄，同時限制抓取網站的搜索結果，最后一行代碼是你網站的Sitemap路徑，大多數搜索引擎都會識別它。
如果對自己寫的robots.txt不放心，建議你使用Google管理員工具中的“工具->測試robots.txt”來對你的robots.txt進行測試，確保你的修改正確。
版權：所有文章為演示數據，版權歸原作者所有，僅提供演示效果！
轉載請注明出處：http://www.kangbangglove.com/wzjs/5803.html
