收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| jahho | jahho | 未分类 | — | — | 无视 | 停用 |
| digitalpebble | digitalpebble | 未分类 | — | — | 无视 | 停用 |
| brandprotect | brandprotect | 未分类 | — | — | 无视 | 停用 |
| ipip.net | ipip.net | 未分类 | — | — | 无视 | 停用 |
| crissy field | crissy field | 未分类 | — | — | 无视 | 停用 |
| pro sitemaps | pro sitemaps | 未分类 | — | — | 无视 | 停用 |
| webcron | webcron | 未分类 | — | — | 无视 | 停用 |
| hinnavaatlus | hinnavaatlus | 未分类 | — | — | 无视 | 停用 |
| roistat | roistat | 未分类 | — | — | 无视 | 停用 |
| opengraph.io | opengraph.io | 未分类 | — | — | 无视 | 停用 |
| bne.es | bne.es | 未分类 | — | — | 无视 | 停用 |
| ns.tools | ns.tools | 未分类 | — | — | 无视 | 停用 |
| hm seclab | hm seclab | 未分类 | — | — | 无视 | 停用 |
| intelx.io | intelx.io | 未分类 | — | — | 无视 | 停用 |
| kakao | kakao | 未分类 | — | — | 无视 | 停用 |
| se ranking | se ranking | 未分类 | — | — | 无视 | 停用 |
| alyze.com | alyze.com | 未分类 | — | — | 无视 | 停用 |
| checkmarx | checkmarx | 未分类 | — | — | 无视 | 停用 |
| scamadviser | scamadviser | 未分类 | — | — | 无视 | 停用 |
| sempi.tech | sempi.tech | 未分类 | — | — | 无视 | 停用 |
| tomba | tomba | 未分类 | — | — | 无视 | 停用 |
| substack | substack | 未分类 | — | — | 无视 | 停用 |
| testomato | testomato | 未分类 | — | — | 无视 | 停用 |
| remotasks | remotasks | 未分类 | — | — | 无视 | 停用 |
| closure compiler | closure compiler | 未分类 | — | — | 无视 | 停用 |
| zaldomo | zaldomo | 未分类 | — | — | 无视 | 停用 |
| hyscore.io | hyscore.io | 未分类 | — | — | 无视 | 停用 |
| port monitor | port monitor | 未分类 | — | — | 无视 | 停用 |
| happyapps | happyapps | 未分类 | — | — | 无视 | 停用 |
| mattermost | mattermost | 未分类 | — | — | 无视 | 停用 |