收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Zendesk | Zendesk | SEO分析 | 未知 | — | 无视 | 停用 |
| Zombiebot | Zombiebot | SEO分析 | 未知 | — | 无视 | 停用 |
| zzhbot | zzhbot | SEO分析 | 未知 | — | 无视 | 停用 |
| Penthouse | Penthouse | SEO分析 | 未知 | — | 无视 | 停用 |
| Google-AdWords-Express | Google-AdWords-Express | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Notion | Notion | 链接预览 | 未知 | — | 无视 | 停用 |
| Skroutz | Skroutz | SEO分析 | 未知 | — | 无视 | 停用 |
| Tumblr | Tumblr | 链接预览 | 未知 | — | 无视 | 停用 |
| upday | upday | 内容预览 | 未知 | — | 无视 | 停用 |
| watchTowr | watchTowr | 安全检测 | 未知 | — | 无视 | 停用 |
| PRTG | PRTG | 网站监测 | 未知 | — | 无视 | 停用 |
| GeedoShopProductFinder | GeedoShopProductFinder | 搜索引擎 | 未知 | — | 无视 | 停用 |
| WatchForBot | WatchForBot | 网站监测 | 未知 | — | 无视 | 停用 |
| ListGemBot | ListGemBot | 链接预览 | 未知 | — | 无视 | 停用 |
| IsonSearchBot | IsonSearchBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| 9bot | 9bot | 链接预览 | 未知 | — | 无视 | 停用 |
| IsonAI-User | IsonAI-User | AI数据 | 未知 | — | 无视 | 停用 |
| InfoSifter | InfoSifter | 网站监测 | 未知 | — | 无视 | 停用 |
| BnF-FR-Crawler | BnF-FR-Crawler | 未分类 | — | — | 无视 | 停用 |
| Rijksoverheid-NL-Bot | Rijksoverheid-NL-Bot | 未分类 | — | — | 无视 | 停用 |
| CBS-NL-Bot | CBS-NL-Bot | 未分类 | — | — | 无视 | 停用 |
| KB-NL-Crawler | KB-NL-Crawler | 未分类 | — | — | 无视 | 停用 |
| SverigeGovBot | SverigeGovBot | 未分类 | — | — | 无视 | 停用 |
| SCB-SE-Bot | SCB-SE-Bot | 未分类 | — | — | 无视 | 停用 |
| KB-SE-Crawler | KB-SE-Crawler | 未分类 | — | — | 无视 | 停用 |
| NorgeGovBot | NorgeGovBot | 未分类 | — | — | 无视 | 停用 |
| SSB-NO-Bot | SSB-NO-Bot | 未分类 | — | — | 无视 | 停用 |
| NB-NO-Crawler | NB-NO-Crawler | 未分类 | — | — | 无视 | 停用 |
| DenmarkGovBot | DenmarkGovBot | 未分类 | — | — | 无视 | 停用 |
| DST-DK-Bot | DST-DK-Bot | 未分类 | — | — | 无视 | 停用 |