收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| virustotal | virustotal | 安全检测 | 未知 | — | 无视 | 停用 |
| minicrawler | minicrawler | 网站监测 | 未知 | — | 无视 | 停用 |
| Cookiebot | Cookiebot | 安全检测 | 未知 | — | 无视 | 停用 |
| trovitBot | trovitBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| seostar | seostar | SEO分析 | 未知 | — | 无视 | 停用 |
| IonCrawl | IonCrawl | SEO分析 | 未知 | — | 无视 | 停用 |
| Uptime-Kuma | Uptime-Kuma | 网站监测 | 未知 | — | 无视 | 停用 |
| Seekport | Seekport | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FreshpingBot | FreshpingBot | 网站监测 | 未知 | — | 无视 | 停用 |
| Feedbin | Feedbin | 内容预览 | 未知 | — | 无视 | 停用 |
| CriteoBot | CriteoBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Snap | Snap | 链接预览 | 未知 | — | 无视 | 停用 |
| Better | Better | 网站监测 | 未知 | — | 无视 | 停用 |
| RuxitSynthetic | RuxitSynthetic | 网站监测 | 未知 | — | 无视 | 停用 |
| Google-Read-Aloud | Google-Read-Aloud | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Valve | Valve | 链接预览 | 未知 | — | 无视 | 停用 |
| OdklBot | OdklBot | 链接预览 | 未知 | — | 无视 | 停用 |
| YandexRenderResourcesBot | YandexRenderResourcesBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| LightspeedSystemsCrawler | LightspeedSystemsCrawler | 安全检测 | 未知 | — | 无视 | 停用 |
| ev-crawler | ev-crawler | SEO分析 | 未知 | — | 无视 | 停用 |
| woorankreview | woorankreview | SEO分析 | 未知 | — | 无视 | 停用 |
| AwarioBot | AwarioBot | SEO分析 | 未知 | — | 无视 | 停用 |
| DataForSeoBot | DataForSeoBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Linespider | Linespider | 链接预览 | 未知 | — | 无视 | 停用 |
| WellKnownBot | WellKnownBot | SEO分析 | 未知 | — | 无视 | 停用 |
| StractBot | StractBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| search | search | 搜索引擎 | 未知 | — | 遵守 | 活跃 |
| Nicecrawler | Nicecrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| BrightEdge | BrightEdge | SEO分析 | 未知 | — | 无视 | 停用 |
| SiteCheckerBotCrawler | SiteCheckerBotCrawler | SEO分析 | 未知 | — | 无视 | 停用 |