收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| hivaBot | hivaBot | 未分类 | — | — | 无视 | 停用 |
| gimme60 | gimme60 | 未分类 | — | — | 无视 | 停用 |
| Express | Express | 未分类 | — | — | 无视 | 停用 |
| Dolphin | Dolphin | 未分类 | — | — | 无视 | 停用 |
| Curious | Curious | 未分类 | — | — | 无视 | 停用 |
| Calypso | Calypso | 未分类 | — | — | 无视 | 停用 |
| all_web | all_web | 未分类 | — | — | 无视 | 停用 |
| Jeffrey | Jeffrey | 未分类 | — | — | 无视 | 停用 |
| bluefish | bluefish | 未分类 | — | — | 无视 | 停用 |
| DangDang | DangDang | 未分类 | — | — | 无视 | 停用 |
| Mikrotik | Mikrotik | 未分类 | — | — | 无视 | 停用 |
| 404enemy | 404enemy | 未分类 | — | — | 无视 | 停用 |
| adreview | adreview | 未分类 | — | — | 无视 | 停用 |
| Anarchie | Anarchie | 未分类 | — | — | 无视 | 停用 |
| asafaweb | asafaweb | 未分类 | — | — | 无视 | 停用 |
| Asterias | Asterias | 未分类 | — | — | 无视 | 停用 |
| autocite | autocite | 未分类 | — | — | 无视 | 停用 |
| BatchFTP | BatchFTP | 未分类 | — | — | 无视 | 停用 |
| BCKLINKS | BCKLINKS | 未分类 | — | — | 无视 | 停用 |
| BlowFish | BlowFish | 未分类 | — | — | 无视 | 停用 |
| Bullseye | Bullseye | 未分类 | — | — | 无视 | 停用 |
| Calculon | Calculon | 未分类 | — | — | 无视 | 停用 |
| Chromaxa | Chromaxa | 未分类 | — | — | 无视 | 停用 |
| Crescent | Crescent | 未分类 | — | — | 无视 | 停用 |
| CSSCheck | CSSCheck | 未分类 | — | — | 无视 | 停用 |
| delve.ai | delve.ai | 未分类 | — | — | 无视 | 停用 |
| Dispatch | Dispatch | 未分类 | — | — | 无视 | 停用 |
| EARTHCOM | EARTHCOM | 未分类 | — | — | 无视 | 停用 |
| eContext | eContext | 未分类 | — | — | 无视 | 停用 |
| EyeNetIE | EyeNetIE | 未分类 | — | — | 无视 | 停用 |