收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| caveman-hunter | caveman-hunter | 网站监测 | 未知 | — | 无视 | 停用 |
| WISEbot | WISEbot | 网站监测 | 未知 | — | 无视 | 停用 |
| Corporama | Corporama | 网站监测 | 未知 | — | 无视 | 停用 |
| Datadog | Datadog | 网站监测 | 未知 | — | 无视 | 停用 |
| DominicBot | DominicBot | 网站监测 | 未知 | — | 无视 | 停用 |
| Dow | Dow | 网站监测 | 未知 | — | 无视 | 停用 |
| fedistatsCrawler | fedistatsCrawler | 网站监测 | 未知 | — | 无视 | 停用 |
| HanaleiBot | HanaleiBot | 网站监测 | 未知 | — | 无视 | 停用 |
| HeadOnlyScraper | HeadOnlyScraper | 网站监测 | 未知 | — | 无视 | 停用 |
| SENTINEL-LinkCheck | SENTINEL-LinkCheck | 网站监测 | 未知 | — | 无视 | 停用 |
| linko | linko | 网站监测 | 未知 | — | 无视 | 停用 |
| Magus | Magus | 网站监测 | 未知 | — | 无视 | 停用 |
| loopimprovements | loopimprovements | 网站监测 | 未知 | — | 无视 | 停用 |
| OWLer-W | OWLer-W | 网站监测 | 未知 | — | 无视 | 停用 |
| Poduptime | Poduptime | 网站监测 | 未知 | — | 无视 | 停用 |
| Pomothy-Bot | Pomothy-Bot | 网站监测 | 未知 | — | 无视 | 停用 |
| Sindup | Sindup | 网站监测 | 未知 | — | 无视 | 停用 |
| SQWatcher | SQWatcher | 网站监测 | 未知 | — | 无视 | 停用 |
| sv-watchagent | sv-watchagent | 网站监测 | 未知 | — | 无视 | 停用 |
| SynthesiBot | SynthesiBot | 网站监测 | 未知 | — | 无视 | 停用 |
| TSMbot | TSMbot | 网站监测 | 未知 | — | 无视 | 停用 |
| UrlSuMa | UrlSuMa | 网站监测 | 未知 | — | 无视 | 停用 |
| monitoring360bot | monitoring360bot | 网站监测 | 未知 | — | 无视 | 停用 |
| BetterUptimeBot | BetterUptimeBot | 网站监测 | 未知 | — | 无视 | 停用 |
| BinaryCanary | BinaryCanary | 网站监测 | 未知 | — | 无视 | 停用 |
| Catchpoint | Catchpoint | 网站监测 | 未知 | — | 无视 | 停用 |
| CheckHost | CheckHost | 网站监测 | 未知 | — | 无视 | 停用 |
| Cloudflare-Validator | Cloudflare-Validator | 网站监测 | 未知 | — | 无视 | 停用 |
| cloudflare-csup | cloudflare-csup | 网站监测 | 未知 | — | 无视 | 停用 |
| Cloudflare-Custom-Error-Page-Crawler | Cloudflare-Custom-Error-Page-Crawler | 网站监测 | 未知 | — | 无视 | 停用 |