收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| amagit | amagit | 未分类 | — | — | 无视 | 停用 |
| Apexoo | Apexoo | 未分类 | — | — | 无视 | 停用 |
| Astute | Astute | 未分类 | — | — | 无视 | 停用 |
| Attach | Attach | 未分类 | — | — | 无视 | 停用 |
| Badass | Badass | 未分类 | — | — | 无视 | 停用 |
| Bandit | Bandit | 未分类 | — | — | 无视 | 停用 |
| baypup | baypup | 未分类 | — | — | 无视 | 停用 |
| BBBike | BBBike | 未分类 | — | — | 无视 | 停用 |
| Chlooe | Chlooe | 未分类 | — | — | 无视 | 停用 |
| cortex | cortex | 未分类 | — | — | 无视 | 停用 |
| Criteo | Criteo | 未分类 | — | — | 无视 | 停用 |
| CSHttp | CSHttp | 未分类 | — | — | 无视 | 停用 |
| ddline | ddline | 未分类 | — | — | 无视 | 停用 |
| deeris | deeris | 未分类 | — | — | 无视 | 停用 |
| EasyDL | EasyDL | 未分类 | — | — | 无视 | 停用 |
| eCatch | eCatch | 未分类 | — | — | 无视 | 停用 |
| Evidon | Evidon | 未分类 | — | — | 无视 | 停用 |
| FavOrg | FavOrg | 未分类 | — | — | 无视 | 停用 |
| FHscan | FHscan | 未分类 | — | — | 无视 | 停用 |
| Flunky | Flunky | 未分类 | — | — | 无视 | 停用 |
| ForusP | ForusP | 未分类 | — | — | 无视 | 停用 |
| GetWeb | GetWeb | 未分类 | — | — | 无视 | 停用 |
| GitLab | GitLab | 未分类 | — | — | 无视 | 停用 |
| github | github | 未分类 | — | — | 无视 | 停用 |
| gobyus | gobyus | 未分类 | — | — | 无视 | 停用 |
| Gofeed | Gofeed | 未分类 | — | — | 无视 | 停用 |
| Gookey | Gookey | 未分类 | — | — | 无视 | 停用 |
| HMView | HMView | 未分类 | — | — | 无视 | 停用 |
| httphr | httphr | 未分类 | — | — | 无视 | 停用 |
| HTTPie | HTTPie | 未分类 | — | — | 无视 | 停用 |