在說帝國CMS-robots.txt文件使用前先給大家解釋下robots.tx是干什么的.

robots協議（也稱為爬蟲協議、爬蟲規則、機器人協議等）也就是robots.txt，網站通過robots協議告訴搜索引擎哪些頁面可以抓取，哪些頁面不能抓取。Robots協議是網站國際互聯網界通行的道德規范，其目的是保護網站數據和敏感信息、確保用戶個人信息和隱私不被侵犯。因其不是命令，故需要搜索引擎自覺遵守。一些病毒如malware（馬威爾病毒）經常通過忽略robots協議的方式，獲取網站后臺數據和個人信息。

robots.txt文件是一個文本文件，使用任何一個常見的文本編輯器，比如Windows系統自帶的Notepad，就可以創建和編輯它。robots.txt是一個協議，而不是一個命令。robots.txt是搜索引擎中訪問網站的時候要查看的第一個文件。robots.txt文件告訴蜘蛛程序在服務器上什么文件是可以被查看的。

當一個搜索蜘蛛訪問一個站點時，它會首先檢查該站點根目錄下是否存在robots.txt，如果存在，搜索機器人就會按照該文件中的內容來確定訪問的范圍；如果該文件不存在，所有的搜索蜘蛛將能夠訪問網站上所有沒有被口令保護的頁面。百度官方建議，僅當您的網站包含不希望被搜索引擎收錄的內容時，才需要使用robots.txt文件。如果您希望搜索引擎收錄網站上所有內容，請勿建立robots.txt文件。

如果將網站視為酒店里的一個房間，robots.txt就是主人在房間門口懸掛的“請勿打擾”或“歡迎打掃”的提示牌。這個文件告訴來訪的搜索引擎哪些房間可以進入和參觀，哪些房間因為存放貴重物品，或可能涉及住戶及訪客的隱私而不對搜索引擎開放。但robots.txt不是命令，也不是防火墻，如同守門人無法阻止竊賊等惡意闖入者。

帝國CMS默認robots.txt為:

1. # 
2. # robots.txt for EmpireCMS 
3. # 
4. //開源軟件:Vevb.com 
5. User-agent: *                               *允許所有搜索引擎抓取 
6. Disallow: /d/                                *禁止所有搜索引擎抓取D目錄 
7. Disallow: /e/class/                     *禁止所有搜索引擎抓取/e/class/ 目錄 
8. Disallow: /e/data/                       *禁止所有搜索引擎抓取/e/data/ 目錄 
9. Disallow: /e/enews/                   *禁止所有搜索引擎抓取/e/enews/ 目錄 
10. Disallow: /e/update/                   *禁止所有搜索引擎抓取/e/update/ 目錄