收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| FedReporter | FedReporter | 网站监测 | 未知 | — | 无视 | 停用 |
| Feedsearch | Feedsearch | 内容预览 | 未知 | — | 无视 | 停用 |
| Feedsearch-Crawler | Feedsearch-Crawler | 内容预览 | 未知 | — | 无视 | 停用 |
| fiperbot | fiperbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FleebsBot | FleebsBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Fluid | Fluid | 测试工具 | 未知 | — | 无视 | 停用 |
| Flyriverbot | Flyriverbot | AI数据 | 未知 | — | 无视 | 停用 |
| Freshbot | Freshbot | 网站监测 | 未知 | — | 无视 | 停用 |
| Gaisbot | Gaisbot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| GenomeCrawlerd | GenomeCrawlerd | 网站监测 | 未知 | — | 无视 | 停用 |
| HaloBot | HaloBot | 网站监测 | 未知 | — | 无视 | 停用 |
| IRLbot | IRLbot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| kaikki | kaikki | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Library | Library | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| MagnetmeBot | MagnetmeBot | 网站监测 | 未知 | — | 无视 | 停用 |
| MatchorySearch | MatchorySearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Minoru's | Minoru's | 网站监测 | 未知 | — | 无视 | 停用 |
| MirrorWebCrawler | MirrorWebCrawler | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| mithril-crawler | mithril-crawler | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| ModatScanner | ModatScanner | 网站监测 | 未知 | — | 无视 | 停用 |
| NapBot | NapBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| New | New | 网站监测 | 未知 | — | 无视 | 停用 |
| NLUX_IAHarvester | NLUX_IAHarvester | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| NoahBot | NoahBot | 网站监测 | 未知 | — | 无视 | 停用 |
| PlagAwareBot | PlagAwareBot | 网站监测 | 未知 | — | 无视 | 停用 |
| Rakuten | Rakuten | 网站监测 | 未知 | — | 无视 | 停用 |
| ResearchBot | ResearchBot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| rss-is-dead | rss-is-dead | 内容预览 | 未知 | — | 无视 | 停用 |
| seoLyt | seoLyt | SEO分析 | 未知 | — | 无视 | 停用 |
| SirdataBot | SirdataBot | 服务爬虫 | 未知 | — | 无视 | 停用 |