數位工具 · 萬事工具箱
本機處理

robots.txt 檢查器

數位工具 本機處理

貼上 robots.txt,輸入 user-agent 與網址路徑,快速判斷 Allow / Disallow、命中規則、sitemap 與 crawl-delay。

這個工具只在瀏覽器本機解析文字,不會抓取或送出你的 robots.txt。結果用常見 robots.txt 規則估算,實際搜尋引擎仍可能依各自規範與快取時間有差異。

使用說明

  1. 貼上 robots.txt 內容,或按範例先看判斷方式。
  2. 輸入要測試的 user-agent,例如 Googlebot、Bingbot 或 *。
  3. 輸入完整 URL 或 / 開頭的路徑,工具會挑最符合的群組與最精準的 Allow / Disallow 規則。
  4. 查看命中規則、其他匹配規則、sitemap、crawl-delay 與 JSON 報告,再決定要不要調整 robots.txt。

適合情境

需要快速處理「robots.txt 檢查器」相關工作時,可以直接在這頁完成。貼上 robots.txt,輸入 user-agent 與網址路徑,快速判斷 Allow / Disallow、命中規則、sitemap 與 crawl-delay。 這類工具也收在「數位工具」分類,方便之後一起找。

常見搜尋

robots.txt 檢查器 robots txt tester Googlebot Disallow 測試 SEO 爬蟲封鎖檢查 robots.txt allow disallow sitemap crawl delay 檢查

常見問題

robots.txt 檢查器會連到我的網站嗎?

不會。這個工具只解析你貼上的文字與輸入的路徑,不會抓取網址,也不會把內容送到伺服器。

Allow 與 Disallow 都命中時怎麼判斷?

工具採用常見的最長命中規則:pattern 越精準優先度越高;精準度相同時,Allow 會優先於 Disallow。

User-agent 會怎麼匹配?

工具會先找最符合輸入 user-agent 的群組;例如 Googlebot-News 會優先命中 Googlebot 群組,而不是 * 群組。

這能代表 Google Search Console 的最終結果嗎?

不能完全代表。這是本機規則檢查與除錯工具,實際搜尋引擎仍可能有快取、規格差異或其他 indexing 條件。

相關工具

使用界線

robots.txt 只是一種爬蟲協議提示,不等於權限控管;敏感資料不能只靠 robots.txt 保護。