收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| WhatsMyIP.org | WhatsMyIP.org | 未分类 | — | — | 无视 | 停用 |
| GC3pro | GC3pro | 未分类 | — | — | 无视 | 停用 |
| metacdn | metacdn | 未分类 | — | — | 无视 | 停用 |
| Untiny | Untiny | 未分类 | — | — | 无视 | 停用 |
| iZSearch.com | iZSearch.com | 未分类 | — | — | 无视 | 停用 |
| FeedCatBot | FeedCatBot | 未分类 | — | — | 无视 | 停用 |
| NeutrinoAPI | NeutrinoAPI | 未分类 | — | — | 无视 | 停用 |
| SiteGuardian | SiteGuardian | 未分类 | — | — | 无视 | 停用 |
| SecurityResearchBot | SecurityResearchBot | 未分类 | — | — | 无视 | 停用 |
| MOQU ADV crawlers | MOQU ADV crawlers | 未分类 | — | — | 无视 | 停用 |
| Peeplo Screenshot Bot | Peeplo Screenshot Bot | 未分类 | — | — | 无视 | 停用 |
| LoadTimeBot | LoadTimeBot | 未分类 | — | — | 无视 | 停用 |
| Metaspinner | Metaspinner | 未分类 | — | — | 无视 | 停用 |
| FFbot | FFbot | 未分类 | — | — | 无视 | 停用 |
| Whibse | Whibse | 未分类 | — | — | 无视 | 停用 |
| GetProxi.es-bot | GetProxi.es-bot | 未分类 | — | — | 无视 | 停用 |
| PrivateSearch | PrivateSearch | 未分类 | — | — | 无视 | 停用 |
| Websnapr | Websnapr | 未分类 | — | — | 无视 | 停用 |
| MetaCommentBot | MetaCommentBot | 未分类 | — | — | 无视 | 停用 |
| hawkReader | hawkReader | 未分类 | — | — | 无视 | 停用 |
| web-capture.net | web-capture.net | 未分类 | — | — | 无视 | 停用 |
| Orbiter | Orbiter | 未分类 | — | — | 无视 | 停用 |
| YottaaMonitor | YottaaMonitor | 未分类 | — | — | 无视 | 停用 |
| WP Engine | WP Engine | 未分类 | — | — | 无视 | 停用 |
| FeedBooster | FeedBooster | 未分类 | — | — | 无视 | 停用 |
| ResponseCodeTest | ResponseCodeTest | 未分类 | — | — | 无视 | 停用 |
| MrakyPraceCzBot | MrakyPraceCzBot | 未分类 | — | — | 无视 | 停用 |
| Crawlera | Crawlera | 未分类 | — | — | 无视 | 停用 |
| import.io | import.io | 未分类 | — | — | 无视 | 停用 |
| Exploratodo | Exploratodo | 未分类 | — | — | 无视 | 停用 |