收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| adstxtlab.com Crawler | adstxtlab.com Crawler | 未分类 | — | — | 无视 | 停用 |
| linkpeek | linkpeek | 未分类 | — | — | 无视 | 停用 |
| silk | silk | 未分类 | — | — | 无视 | 停用 |
| RankMath bot | RankMath bot | 未分类 | — | — | 无视 | 停用 |
| p40Bot | p40Bot | 未分类 | — | — | 无视 | 停用 |
| Morningscore | Morningscore | 未分类 | — | — | 无视 | 停用 |
| GoogleSites | GoogleSites | 未分类 | — | — | 无视 | 停用 |
| Cloudflare SpeedTest | Cloudflare SpeedTest | 未分类 | — | — | 无视 | 停用 |
| VSAgent | VSAgent | 未分类 | — | — | 无视 | 停用 |
| PopScreen Bot | PopScreen Bot | 未分类 | — | — | 无视 | 停用 |
| YFF35 | YFF35 | 未分类 | — | — | 无视 | 停用 |
| Scribbr Bot | Scribbr Bot | 未分类 | — | — | 无视 | 停用 |
| XML Sitemaps Generator | XML Sitemaps Generator | 未分类 | — | — | 无视 | 停用 |
| netzzappen crawler | netzzappen crawler | 未分类 | — | — | 无视 | 停用 |
| Adform crawler | Adform crawler | 未分类 | — | — | 无视 | 停用 |
| niraiya.com crawler | niraiya.com crawler | 未分类 | — | — | 无视 | 停用 |
| clark-crawler | clark-crawler | 未分类 | — | — | 无视 | 停用 |
| Webflow bot | Webflow bot | 未分类 | — | — | 无视 | 停用 |
| FlfBaldrBot | FlfBaldrBot | 未分类 | — | — | 无视 | 停用 |
| HuaweiWebCatBot | HuaweiWebCatBot | 未分类 | — | — | 无视 | 停用 |
| SemanticJuice crawler | SemanticJuice crawler | 未分类 | — | — | 无视 | 停用 |
| AFB | AFB | 未分类 | — | — | 无视 | 停用 |
| CrowdTanglebot | CrowdTanglebot | 未分类 | — | — | 无视 | 停用 |
| Punkspider | Punkspider | 未分类 | — | — | 无视 | 停用 |
| Internet-structure-research-project-bot | Internet-structure-research-project-bot | 未分类 | — | — | 无视 | 停用 |
| polaris botnet | polaris botnet | 未分类 | — | — | 无视 | 停用 |
| Mixnode | Mixnode | 未分类 | — | — | 无视 | 停用 |
| SSL Labs | SSL Labs | 未分类 | — | — | 无视 | 停用 |
| Re-re crawler | Re-re crawler | 未分类 | — | — | 无视 | 停用 |
| Crawling at Home | Crawling at Home | 未分类 | — | — | 无视 | 停用 |