收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| bumb.ly | bumb.ly | 未分类 | — | — | 无视 | 停用 |
| domainsnocrawler | domainsnocrawler | 未分类 | — | — | 无视 | 停用 |
| vsevjednom.cz | vsevjednom.cz | 未分类 | — | — | 无视 | 停用 |
| adstxtaggregator | adstxtaggregator | 未分类 | — | — | 无视 | 停用 |
| izabee | izabee | 未分类 | — | — | 无视 | 停用 |
| richardstoolbox | richardstoolbox | 未分类 | — | — | 无视 | 停用 |
| nettrack.info | nettrack.info | 未分类 | — | — | 无视 | 停用 |
| web-sniffer.me | web-sniffer.me | 未分类 | — | — | 无视 | 停用 |
| damn404 | damn404 | 未分类 | — | — | 无视 | 停用 |
| snowhaze | snowhaze | 未分类 | — | — | 无视 | 停用 |
| ghostery | ghostery | 未分类 | — | — | 无视 | 停用 |
| moqu adv | moqu adv | 未分类 | — | — | 无视 | 停用 |
| peeplo screenshot | peeplo screenshot | 未分类 | — | — | 无视 | 停用 |
| Umbra | Umbra | 未分类 | — | — | 无视 | 停用 |
| Browsertrix Crawler | Browsertrix Crawler | 未分类 | — | — | 无视 | 停用 |
| WaybackMachineDownloader | WaybackMachineDownloader | 未分类 | — | — | 无视 | 停用 |
| crocoite | crocoite | 未分类 | — | — | 无视 | 停用 |
| FDM | FDM | 未分类 | — | — | 无视 | 停用 |
| git | git | 未分类 | — | — | 无视 | 停用 |
| npm | npm | 未分类 | — | — | 无视 | 停用 |
| PHP | PHP | 未分类 | — | — | 无视 | 停用 |
| pip | pip | 未分类 | — | — | 无视 | 停用 |
| RMA | RMA | 未分类 | — | — | 无视 | 停用 |
| VSE | VSE | 未分类 | — | — | 无视 | 停用 |
| Ant | Ant | 未分类 | — | — | 无视 | 停用 |
| IOI | IOI | 未分类 | — | — | 无视 | 停用 |
| IPS | IPS | 未分类 | — | — | 无视 | 停用 |
| NYU | NYU | 未分类 | — | — | 无视 | 停用 |
| VCI | VCI | 未分类 | — | — | 无视 | 停用 |
| Zao | Zao | 未分类 | — | — | 无视 | 停用 |