收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Kraken | Kraken | 未分类 | — | — | 无视 | 停用 |
| gofind | gofind | 未分类 | — | — | 无视 | 停用 |
| Farada | Farada | 未分类 | — | — | 无视 | 停用 |
| Drupal | Drupal | 未分类 | — | — | 无视 | 停用 |
| Donuts | Donuts | 未分类 | — | — | 无视 | 停用 |
| cosmos | cosmos | 未分类 | — | — | 无视 | 停用 |
| Comodo | Comodo | 未分类 | — | — | 无视 | 停用 |
| Branch | Branch | 未分类 | — | — | 无视 | 停用 |
| Apache | Apache | 未分类 | — | — | 无视 | 停用 |
| Airmai | Airmai | 未分类 | — | — | 无视 | 停用 |
| Abrave | Abrave | 未分类 | — | — | 无视 | 停用 |
| gonzo2 | gonzo2 | 未分类 | — | — | 无视 | 停用 |
| gonzo1 | gonzo1 | 未分类 | — | — | 无视 | 停用 |
| DavClnt | DavClnt | 未分类 | — | — | 无视 | 停用 |
| Grabber | Grabber | 未分类 | — | — | 无视 | 停用 |
| HTTPing | HTTPing | 未分类 | — | — | 无视 | 停用 |
| Airmail | Airmail | 未分类 | — | — | 无视 | 停用 |
| Anemone | Anemone | 未分类 | — | — | 无视 | 停用 |
| Arachmo | Arachmo | 未分类 | — | — | 无视 | 停用 |
| ASPSeek | ASPSeek | 未分类 | — | — | 无视 | 停用 |
| BackWeb | BackWeb | 未分类 | — | — | 无视 | 停用 |
| Bigfoot | Bigfoot | 未分类 | — | — | 无视 | 停用 |
| Bitacle | Bitacle | 未分类 | — | — | 无视 | 停用 |
| CakePHP | CakePHP | 未分类 | — | — | 无视 | 停用 |
| colly - | colly - | 未分类 | — | — | 无视 | 停用 |
| ExoRank | ExoRank | 未分类 | — | — | 无视 | 停用 |
| GetCode | GetCode | 未分类 | — | — | 无视 | 停用 |
| getroot | getroot | 未分类 | — | — | 无视 | 停用 |
| Geziyor | Geziyor | 未分类 | — | — | 无视 | 停用 |
| gofetch | gofetch | 未分类 | — | — | 无视 | 停用 |