收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| MJBot | MJBot | 未分类 | — | — | 无视 | 停用 |
| Plesk Bot | Plesk Bot | 未分类 | — | — | 无视 | 停用 |
| httpcheck | httpcheck | 未分类 | — | — | 无视 | 停用 |
| Indiwtf | Indiwtf | 未分类 | — | — | 无视 | 停用 |
| StactBot | StactBot | 未分类 | — | — | 无视 | 停用 |
| cyberscan.io bot | cyberscan.io bot | 未分类 | — | — | 无视 | 停用 |
| Ecovadis bot | Ecovadis bot | 未分类 | — | — | 无视 | 停用 |
| lunabot | lunabot | 未分类 | — | — | 无视 | 停用 |
| GulperBot | GulperBot | 未分类 | — | — | 无视 | 停用 |
| LogRocket bot | LogRocket bot | 未分类 | — | — | 无视 | 停用 |
| NIGGER | NIGGER | 未分类 | — | — | 无视 | 停用 |
| ERIPP | ERIPP | 未分类 | — | — | 无视 | 停用 |
| Secragon bot | Secragon bot | 未分类 | — | — | 无视 | 停用 |
| researchxoftheweb | researchxoftheweb | 未分类 | — | — | 无视 | 停用 |
| Nutch Spider | Nutch Spider | 未分类 | — | — | 无视 | 停用 |
| Creative Commons bot | Creative Commons bot | 未分类 | — | — | 无视 | 停用 |
| GoogleRot | GoogleRot | 未分类 | — | — | 无视 | 停用 |
| MoonBot | MoonBot | 未分类 | — | — | 无视 | 停用 |
| wheresitup.com | wheresitup.com | 未分类 | — | — | 无视 | 停用 |
| Google-Raichu | Google-Raichu | 未分类 | — | — | 无视 | 停用 |
| ds-robot | ds-robot | 未分类 | — | — | 无视 | 停用 |
| luiscarvalho | luiscarvalho | 未分类 | — | — | 无视 | 停用 |
| anthropic bot | anthropic bot | 未分类 | — | — | 无视 | 停用 |
| Wordupindexinfo1 | Wordupindexinfo1 | 未分类 | — | — | 无视 | 停用 |
| 8s8.eu bot | 8s8.eu bot | 未分类 | — | — | 无视 | 停用 |
| hstspreload.org bot | hstspreload.org bot | 未分类 | — | — | 无视 | 停用 |
| Web Measure | Web Measure | 未分类 | — | — | 无视 | 停用 |
| Bidtellect | Bidtellect | 未分类 | — | — | 无视 | 停用 |
| Netzweck bot | Netzweck bot | 未分类 | — | — | 无视 | 停用 |
| XMCO bot | XMCO bot | 未分类 | — | — | 无视 | 停用 |