收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| jyxobot | jyxobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FAST-WebCrawler | FAST-WebCrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FAST | FAST | 搜索引擎 | 未知 | — | 无视 | 停用 |
| BIGLOTRON | BIGLOTRON | 搜索引擎 | 未知 | — | 无视 | 停用 |
| convera | convera | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Gigablast | Gigablast | 搜索引擎 | 未知 | — | 无视 | 停用 |
| GingerCrawler | GingerCrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| webmon | webmon | 网站监测 | 未知 | — | 无视 | 停用 |
| grub | grub | 搜索引擎 | 未知 | — | 无视 | 停用 |
| UsineNouvelleCrawler | UsineNouvelleCrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| antibot | antibot | 安全检测 | 未知 | — | 无视 | 停用 |
| netresearchserver | netresearchserver | SEO分析 | 未知 | — | 无视 | 停用 |
| speedy | speedy | 搜索引擎 | 未知 | — | 无视 | 停用 |
| fluffy | fluffy | 搜索引擎 | 未知 | — | 无视 | 停用 |
| findlink | findlink | SEO分析 | 未知 | — | 无视 | 停用 |
| msrbot | msrbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| AISearchBot | AISearchBot | AI数据 | 未知 | — | 无视 | 停用 |
| ips-agent | ips-agent | SEO分析 | 未知 | — | 无视 | 停用 |
| tagoobot | tagoobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| woriobot | woriobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| yanga | yanga | 搜索引擎 | 未知 | — | 无视 | 停用 |
| buzzbot | buzzbot | SEO分析 | 未知 | — | 无视 | 停用 |
| mlbot | mlbot | SEO分析 | 未知 | — | 无视 | 停用 |
| yandex | yandex2 | 搜索引擎 | 未知 | — | 无视 | 停用 |
| purebot | purebot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Linguee | Linguee | 搜索引擎 | 未知 | — | 无视 | 停用 |
| CyberPatrol | CyberPatrol | 安全检测 | 未知 | — | 无视 | 停用 |
| voilabot | voilabot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| citeseerxbot | citeseerxbot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| spbot | spbot | SEO分析 | 未知 | — | 无视 | 停用 |