收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| electricmonk | electricmonk | SEO分析 | 未知 | — | 无视 | 停用 |
| GarlikCrawler | GarlikCrawler | SEO分析 | 未知 | — | 无视 | 停用 |
| vebidoobot | vebidoobot | SEO分析 | 未知 | — | 无视 | 停用 |
| FemtosearchBot | FemtosearchBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Yahoo | Yahoo link | 链接预览 | 未知 | — | 无视 | 停用 |
| DomainStatsBot | DomainStatsBot | SEO分析 | 未知 | — | 无视 | 停用 |
| mindUpBot | mindUpBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Jugendschutzprogramm-Crawler | Jugendschutzprogramm-Crawler | 安全检测 | 未知 | — | 无视 | 停用 |
| Xenu | Xenu | SEO分析 | 未知 | — | 无视 | 停用 |
| Pcore-HTTP | Pcore-HTTP | 通用工具 | 未知 | — | 无视 | 停用 |
| moatbot | moatbot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| KosmioBot | KosmioBot | SEO分析 | 未知 | — | 无视 | 停用 |
| AppInsights | AppInsights | 网站监测 | 未知 | — | 无视 | 停用 |
| PhantomJS | PhantomJS | 测试工具 | 未知 | — | 无视 | 停用 |
| PiplBot | PiplBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Jetslide | Jetslide | 链接预览 | 未知 | — | 无视 | 停用 |
| newsharecounts | newsharecounts | 链接预览 | 未知 | — | 无视 | 停用 |
| James | James | SEO分析 | 未知 | — | 无视 | 停用 |
| Bark | Bark | SEO分析 | 未知 | — | 无视 | 停用 |
| TinEye | TinEye | SEO分析 | 未知 | — | 无视 | 停用 |
| SocialRankIOBot | SocialRankIOBot | SEO分析 | 未知 | — | 无视 | 停用 |
| trendictionbot | trendictionbot | SEO分析 | 未知 | — | 无视 | 停用 |
| Ocarinabot | Ocarinabot | SEO分析 | 未知 | — | 无视 | 停用 |
| epicbot | epicbot | SEO分析 | 未知 | — | 无视 | 停用 |
| Primalbot | Primalbot | SEO分析 | 未知 | — | 无视 | 停用 |
| DuckDuckGo-Favicons-Bot | DuckDuckGo-Favicons-Bot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| GnowitNewsbot | GnowitNewsbot | SEO分析 | 未知 | — | 无视 | 停用 |
| Leikibot | Leikibot | SEO分析 | 未知 | — | 无视 | 停用 |
| LinkArchiver | LinkArchiver | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Digg | Digg | SEO分析 | 未知 | — | 无视 | 停用 |