收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Castabot | Castabot | 未分类 | — | — | 无视 | 停用 |
| WASALive-Bot | WASALive-Bot | 未分类 | — | — | 无视 | 停用 |
| PostPost | PostPost | 未分类 | — | — | 无视 | 停用 |
| factbot | factbot | 未分类 | — | — | 无视 | 停用 |
| Setoozbot | Setoozbot | 未分类 | — | — | 无视 | 停用 |
| Search17Bot | Search17Bot | 未分类 | — | — | 无视 | 停用 |
| Bender | Bender | 未分类 | — | — | 无视 | 停用 |
| Lijit | Lijit | 未分类 | — | — | 无视 | 停用 |
| JUST-CRAWLER | JUST-CRAWLER | 未分类 | — | — | 无视 | 停用 |
| LemurWebCrawler | LemurWebCrawler | 未分类 | — | — | 无视 | 停用 |
| Covario-IDS | Covario-IDS | 未分类 | — | — | 无视 | 停用 |
| AWeber bot | AWeber bot | 未分类 | — | — | 无视 | 停用 |
| Holmes | Holmes | 未分类 | — | — | 无视 | 停用 |
| envolk | envolk | 未分类 | — | — | 无视 | 停用 |
| EvriNid | EvriNid | 未分类 | — | — | 无视 | 停用 |
| CamontSpider | CamontSpider | 未分类 | — | — | 无视 | 停用 |
| wikiwix-bot | wikiwix-bot | 未分类 | — | — | 无视 | 停用 |
| Nymesis | Nymesis | 未分类 | — | — | 无视 | 停用 |
| SEODat | SEODat | 未分类 | — | — | 无视 | 停用 |
| SygolBot | SygolBot | 未分类 | — | — | 无视 | 停用 |
| CligooRobot | CligooRobot | 未分类 | — | — | 无视 | 停用 |
| Cityreview Robot | Cityreview Robot | 未分类 | — | — | 无视 | 停用 |
| nworm | nworm | 未分类 | — | — | 无视 | 停用 |
| SBIder | SBIder | 未分类 | — | — | 无视 | 停用 |
| Dot TK - spider | Dot TK - spider | 未分类 | — | — | 无视 | 停用 |
| ParchBot | ParchBot | 未分类 | — | — | 无视 | 停用 |
| YRSpider | YRSpider | 未分类 | — | — | 无视 | 停用 |
| Urlfilebot (Urlbot) | Urlfilebot (Urlbot) | 未分类 | — | — | 无视 | 停用 |
| WebWatch/Robot_txtChecker | WebWatch/Robot_txtChecker | 未分类 | — | — | 无视 | 停用 |
| urlfan-bot | urlfan-bot | 未分类 | — | — | 无视 | 停用 |