收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Ezoic crawler | Ezoic crawler | 未分类 | — | — | 无视 | 停用 |
| Prometheus bot | Prometheus bot | 未分类 | — | — | 无视 | 停用 |
| SCAN | SCAN | 未分类 | — | — | 无视 | 停用 |
| PDF24 crawler | PDF24 crawler | 未分类 | — | — | 无视 | 停用 |
| Asana Crawler | Asana Crawler | 未分类 | — | — | 无视 | 停用 |
| loadtest | loadtest | 未分类 | — | — | 无视 | 停用 |
| UrlTest | UrlTest | 未分类 | — | — | 无视 | 停用 |
| BetterStack bot | BetterStack bot | 未分类 | — | — | 无视 | 停用 |
| pulsetic.com bot | pulsetic.com bot | 未分类 | — | — | 无视 | 停用 |
| Sincera bot | Sincera bot | 未分类 | — | — | 无视 | 停用 |
| Discourse bot | Discourse bot | 未分类 | — | — | 无视 | 停用 |
| Mozilla | Mozilla | 未分类 | — | — | 无视 | 停用 |
| FriendlyRssReader | FriendlyRssReader | 未分类 | — | — | 无视 | 停用 |
| Friendly_Crawler | Friendly_Crawler | 未分类 | — | — | 无视 | 停用 |
| Workona bot | Workona bot | 未分类 | — | — | 无视 | 停用 |
| hyperhost.ua crawler | hyperhost.ua crawler | 未分类 | — | — | 无视 | 停用 |
| Friendly testing bot | Friendly testing bot | 未分类 | — | — | 无视 | 停用 |
| Crawler | Crawler | 未分类 | — | — | 无视 | 停用 |
| Elastic crawler | Elastic crawler | 未分类 | — | — | 无视 | 停用 |
| Brozzler | Brozzler | 未分类 | — | — | 无视 | 停用 |
| Spawning bot | Spawning bot | 未分类 | — | — | 无视 | 停用 |
| uni-passau_bot | uni-passau_bot | 未分类 | — | — | 无视 | 停用 |
| SeoCherryBot | SeoCherryBot | 未分类 | — | — | 无视 | 停用 |
| ChatGLM Spider | ChatGLM Spider | 未分类 | — | — | 无视 | 停用 |
| TheInternetSearch | TheInternetSearch | 未分类 | — | — | 无视 | 停用 |
| VU Amsterdam bot | VU Amsterdam bot | 未分类 | — | — | 无视 | 停用 |
| IBM Crawler | IBM Crawler | 未分类 | — | — | 无视 | 停用 |
| Convertify | Convertify | 未分类 | — | — | 无视 | 停用 |
| Find.tf crawler | Find.tf crawler | 未分类 | — | — | 无视 | 停用 |
| LLM-jp-Crawler | LLM-jp-Crawler | 未分类 | — | — | 无视 | 停用 |