TutusooBot
TutusooBot 爬蟲政策
TutusooBot 為圖圖搜建立公開網頁索引。它預設遵守 robots.txt,不訪問私網地址,並限制單頁響應大小和單任務抓取數量。
識別我們的爬蟲
正式請求使用下面的 User-Agent。站點可以針對 TutusooBot 單獨設定規則,也可以使用 User-agent: * 的通用規則。
TutusooBot/0.1 (+https://tutusoo.com/bot)允許或禁止抓取
使用標準 robots.txt 即可一步控制。規則變更會在後續重新抓取時生效;被禁止的歷史頁面會從索引清理。
User-agent: TutusooBot
Disallow: /private/
Crawl-delay: 5資源與訪問禮貌
系統按站點間隔訪問,讀取站點宣告的 Crawl-delay,並對異常大頁面、重定向和 sitemap 做邊界校驗。
- 預設頁面間隔為 1 秒。
- Crawl-delay 會被遵守,並設有防止任務永久佔用的合理上限。
- 單頁正文、sitemap 層級和單任務頁面數均受限制。