收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| The | The | AI数据 | 未知 | — | 无视 | 停用 |
| TheInternetSearchx | TheInternetSearchx | 搜索引擎 | 未知 | — | 无视 | 停用 |
| thesis-research-bot | thesis-research-bot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Trellis-Services | Trellis-Services | SEO分析 | 未知 | — | 无视 | 停用 |
| trentwil | trentwil | SEO分析 | 未知 | — | 无视 | 停用 |
| Trustly | Trustly | SEO分析 | 未知 | — | 无视 | 停用 |
| TTD-Content | TTD-Content | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Tweakers | Tweakers | SEO分析 | 未知 | — | 无视 | 停用 |
| TwilioProxy | TwilioProxy | 链接预览 | 未知 | — | 无视 | 停用 |
| UASlinkChecker | UASlinkChecker | SEO分析 | 未知 | — | 无视 | 停用 |
| Unshorten | Unshorten | 安全检测 | 未知 | — | 无视 | 停用 |
| updown | updown | 网站监测 | 未知 | — | 无视 | 停用 |
| Uptime | Uptime | 网站监测 | 未知 | — | 无视 | 停用 |
| uptimedoctor | uptimedoctor | 网站监测 | 未知 | — | 无视 | 停用 |
| Uptimia | Uptimia | 网站监测 | 未知 | — | 无视 | 停用 |
| uptrends | uptrends | 网站监测 | 未知 | — | 无视 | 停用 |
| Urlcheckr | Urlcheckr | SEO分析 | 未知 | — | 无视 | 停用 |
| URLSuMaBot | URLSuMaBot | SEO分析 | 未知 | — | 无视 | 停用 |
| useeBookChecker | useeBookChecker | SEO分析 | 未知 | — | 无视 | 停用 |
| Vagabondo | Vagabondo | SEO分析 | 未知 | — | 无视 | 停用 |
| VaultPress | VaultPress | 安全检测 | 未知 | — | 无视 | 停用 |
| videootvBot | videootvBot | SEO分析 | 未知 | — | 无视 | 停用 |
| VsuSearchSpider | VsuSearchSpider | 搜索引擎 | 未知 | — | 无视 | 停用 |
| vu-server-health-scanner | vu-server-health-scanner | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| WebsiteOps | WebsiteOps | 网站监测 | 未知 | — | 无视 | 停用 |
| WatchMouse | WatchMouse | 网站监测 | 未知 | — | 无视 | 停用 |
| Webflow | Webflow | SEO分析 | 未知 | — | 无视 | 停用 |
| webgains-bot | webgains-bot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| webprosbot | webprosbot | SEO分析 | 未知 | — | 无视 | 停用 |
| websitepulse | websitepulse | 网站监测 | 未知 | — | 无视 | 停用 |