貼上 robots.txt,輸入 user-agent 與網址路徑,快速判斷 Allow / Disallow、命中規則、sitemap 與 crawl-delay。
檔案全程不離開你的電腦
不用下載,不用註冊
這個工具只在瀏覽器本機解析文字,不會抓取或送出你的 robots.txt。結果用常見 robots.txt 規則估算,實際搜尋引擎仍可能依各自規範與快取時間有差異。
使用說明
- 貼上 robots.txt 內容,或按範例先看判斷方式。
- 輸入要測試的 user-agent,例如 Googlebot、Bingbot 或 *。
- 輸入完整 URL 或 / 開頭的路徑,工具會挑最符合的群組與最精準的 Allow / Disallow 規則。
- 查看命中規則、其他匹配規則、sitemap、crawl-delay 與 JSON 報告,再決定要不要調整 robots.txt。
適合情境
需要快速處理「robots.txt 檢查器」相關工作時,可以直接在這頁完成。貼上 robots.txt,輸入 user-agent 與網址路徑,快速判斷 Allow / Disallow、命中規則、sitemap 與 crawl-delay。 這類工具也收在「數位工具」分類,方便之後一起找。
常見搜尋
robots.txt 檢查器 robots txt tester Googlebot Disallow 測試 SEO 爬蟲封鎖檢查 robots.txt allow disallow sitemap crawl delay 檢查
常見問題
robots.txt 檢查器會連到我的網站嗎?
不會。這個工具只解析你貼上的文字與輸入的路徑,不會抓取網址,也不會把內容送到伺服器。
Allow 與 Disallow 都命中時怎麼判斷?
工具採用常見的最長命中規則:pattern 越精準優先度越高;精準度相同時,Allow 會優先於 Disallow。
User-agent 會怎麼匹配?
工具會先找最符合輸入 user-agent 的群組;例如 Googlebot-News 會優先命中 Googlebot 群組,而不是 * 群組。
這能代表 Google Search Console 的最終結果嗎?
不能完全代表。這是本機規則檢查與除錯工具,實際搜尋引擎仍可能有快取、規格差異或其他 indexing 條件。
相關工具
使用界線
robots.txt 只是一種爬蟲協議提示,不等於權限控管;敏感資料不能只靠 robots.txt 保護。
