Hugo robots.txt 模板
Hugo 可以像任何其他模板一樣生成自定義的 robots.txt。
要從模板生成 robots.txt 文件,請更改 站點配置:
enableRobotsTXT: true
enableRobotsTXT = true
{
"enableRobotsTXT": true
}
默認情況下,Hugo 使用 嵌入式模板 生成 robots.txt。
User-agent: *遵守機器人排除協議的搜索引擎會將此解釋為允許抓取網站上的所有內容。
robots.txt 模板查找順序
您可以使用自定義模板覆蓋內部模板。Hugo 使用此查找順序選擇模板:
/layouts/robots.txt/themes/<THEME>/layouts/robots.txt
robots.txt 模板示例
layouts/robots.txt
User-agent: *
{{ range .Pages }}
Disallow: {{ .RelPermalink }}
{{ end }}此模板為網站上的每個頁面創建一個帶有 Disallow 指令的 robots.txt 文件。遵守機器人排除協議的搜索引擎將不會抓取網站上的任何頁面。
要在不使用模板的情況下創建 robots.txt 文件:
- 在站點配置中將
enableRobotsTXT設置為false。 - 在
static目錄中創建 robots.txt 文件。
請記住,當您構建網站時,Hugo 會將靜態目錄中的所有內容復制到 publishDir(通常是 public)的根目錄。