收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Google-Read-Aloud | Google-Read-Aloud | 搜索引擎 | 未知 | — | 无视 | 停用 |
| YandexRenderResourcesBot | YandexRenderResourcesBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| StractBot | StractBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| search | search | 搜索引擎 | 未知 | — | 遵守 | 活跃 |
| Nicecrawler | Nicecrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| AlexandriaOrgBot | AlexandriaOrgBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| developers | developers | 搜索引擎 | 未知 | — | 无视 | 停用 |
| PhxBot | PhxBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| GeedoBot | GeedoBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| GeedoProductSearch | GeedoProductSearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| OICrawler | OICrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FindFiles | FindFiles | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FyndSearchEngine-Crawler | FyndSearchEngine-Crawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FyndSearchEngine-ReCrawler | FyndSearchEngine-ReCrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Greppr | Greppr | 搜索引擎 | 未知 | — | 无视 | 停用 |
| lyonl-asset-proxy | lyonl-asset-proxy | 搜索引擎 | 未知 | — | 无视 | 停用 |
| lyonl-crawler | lyonl-crawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| MagiBot | MagiBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| NestDaddybot | NestDaddybot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Scrubby | Scrubby | 搜索引擎 | 未知 | — | 无视 | 停用 |
| SMTnetPMBot | SMTnetPMBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| stepstoneCrawlBot | stepstoneCrawlBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| WepchSearchEngine | WepchSearchEngine | 搜索引擎 | 未知 | — | 无视 | 停用 |
| 7Siters | 7Siters | 搜索引擎 | 未知 | — | 无视 | 停用 |
| CyberFindCrawler | CyberFindCrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FediIndex | FediIndex | 搜索引擎 | 未知 | — | 无视 | 停用 |
| fiperbot | fiperbot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FleebsBot | FleebsBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| MatchorySearch | MatchorySearch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| NapBot | NapBot | 搜索引擎 | 未知 | — | 无视 | 停用 |