收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| FT-UK-Bot | FT-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| SkyNews-UK-Bot | SkyNews-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| DataGovUK-Bot | DataGovUK-Bot | 未分类 | — | — | 无视 | 停用 |
| RoyalMail-UK-Bot | RoyalMail-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| NCSC-UK-Bot | NCSC-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| JISC-Crawler | JISC-Crawler | 未分类 | — | — | 无视 | 停用 |
| NB-NO-WAC-Bot | NB-NO-WAC-Bot | 未分类 | — | — | 无视 | 停用 |
| FAST Enterprise Crawler | FAST Enterprise Crawler | 未分类 | — | — | 无视 | 停用 |
| DataNorgeNO-Bot | DataNorgeNO-Bot | 未分类 | — | — | 无视 | 停用 |
| METNO-NO-Bot | METNO-NO-Bot | 未分类 | — | — | 无视 | 停用 |
| UNINETT-Crawler | UNINETT-Crawler | 未分类 | — | — | 无视 | 停用 |
| Datatilsynet-NO-Bot | Datatilsynet-NO-Bot | 未分类 | — | — | 无视 | 停用 |
| KB-SE-WAC-Bot | KB-SE-WAC-Bot | 未分类 | — | — | 无视 | 停用 |
| SVT-SE-Bot | SVT-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| Aftonbladet-SE-Bot | Aftonbladet-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| Expressen-SE-Bot | Expressen-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| DN-SE-Bot | DN-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| SvD-SE-Bot | SvD-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| DataSwedenSE-Bot | DataSwedenSE-Bot | 未分类 | — | — | 无视 | 停用 |
| SMHI-SE-Bot | SMHI-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| SUNET-Crawler | SUNET-Crawler | 未分类 | — | — | 无视 | 停用 |
| IMY-SE-Bot | IMY-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| LAC-WebArchive-Crawler | LAC-WebArchive-Crawler | 未分类 | — | — | 无视 | 停用 |
| CTV-CA-Bot | CTV-CA-Bot | 未分类 | — | — | 无视 | 停用 |
| GlobeAndMail-CA-Bot | GlobeAndMail-CA-Bot | 未分类 | — | — | 无视 | 停用 |
| NationalPost-CA-Bot | NationalPost-CA-Bot | 未分类 | — | — | 无视 | 停用 |
| DataCanadaCA-Bot | DataCanadaCA-Bot | 未分类 | — | — | 无视 | 停用 |
| ECCC-CA-Bot | ECCC-CA-Bot | 未分类 | — | — | 无视 | 停用 |
| NRCan-CA-Bot | NRCan-CA-Bot | 未分类 | — | — | 无视 | 停用 |
| CANARIE-Crawler | CANARIE-Crawler | 未分类 | — | — | 无视 | 停用 |