收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Swiftbot | Swiftbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| SynthesiBot | SynthesiBot | 网站监测 | 未知 | — | 无视 | 停用 |
| TaraGroup | TaraGroup | AI数据 | 未知 | — | 无视 | 停用 |
| TSMbot | TSMbot | 网站监测 | 未知 | — | 无视 | 停用 |
| TSM-turingos | TSM-turingos | AI数据 | 未知 | — | 无视 | 停用 |
| UGAResearchAgent | UGAResearchAgent | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| UrlSuMa | UrlSuMa | 网站监测 | 未知 | — | 无视 | 停用 |
| WanscannerBot | WanscannerBot | 安全检测 | 未知 | — | 无视 | 停用 |
| WebCapture | WebCapture | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| WebCopier | WebCopier | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| cognitiveseo | cognitiveseo | SEO分析 | 未知 | — | 无视 | 停用 |
| 链接预览 | 未知 | — | 无视 | 停用 | ||
| XML | XML | SEO分析 | 未知 | — | 无视 | 停用 |
| YandoriRSSBot | YandoriRSSBot | 内容预览 | 未知 | — | 无视 | 停用 |
| Zealbot | Zealbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| 008 | 008 | SEO分析 | 未知 | — | 无视 | 停用 |
| monitoring360bot | monitoring360bot | 网站监测 | 未知 | — | 无视 | 停用 |
| AdagioBot | AdagioBot | SEO分析 | 未知 | — | 无视 | 停用 |
| adbeat | adbeat | 服务爬虫 | 未知 | — | 无视 | 停用 |
| AdminLabs | AdminLabs | SEO分析 | 未知 | — | 无视 | 停用 |
| advanced_crawler | advanced_crawler | SEO分析 | 未知 | — | 无视 | 停用 |
| Adventurer | Adventurer | SEO分析 | 未知 | — | 无视 | 停用 |
| AGAKIDSBOT | AGAKIDSBOT | SEO分析 | 未知 | — | 无视 | 停用 |
| AgencyAnalyticsBot | AgencyAnalyticsBot | SEO分析 | 未知 | — | 无视 | 停用 |
| AkismetBot | AkismetBot | 安全检测 | 未知 | — | 无视 | 停用 |
| alexa | alexa | SEO分析 | 未知 | — | 无视 | 停用 |
| Algolia | Algolia | 搜索引擎 | 未知 | — | 无视 | 停用 |
| alienfarm | alienfarm | SEO分析 | 未知 | — | 无视 | 停用 |
| allOrigins | allOrigins | SEO分析 | 未知 | — | 无视 | 停用 |
| AmazonAdBot | AmazonAdBot | 服务爬虫 | 未知 | — | 无视 | 停用 |