收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| AcademicBotRTU | AcademicBotRTU | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Wayback | Wayback | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Archive-It | Archive-It | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Authory | Authory | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| bne | bne | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| SmarshBot | SmarshBot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Bibliotheque | Bibliotheque | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| CDSCbot | CDSCbot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Fedineko | Fedineko | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Gaisbot | Gaisbot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| IRLbot | IRLbot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| kaikki | kaikki | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Library | Library | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| MirrorWebCrawler | MirrorWebCrawler | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| mithril-crawler | mithril-crawler | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| NLUX_IAHarvester | NLUX_IAHarvester | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| ResearchBot | ResearchBot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| CyotekWebCopy | CyotekWebCopy | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| SiteSucker | SiteSucker | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| UGAResearchAgent | UGAResearchAgent | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| WebCapture | WebCapture | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| WebCopier | WebCopier | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Aranea | Aranea | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| ArchiveBox | ArchiveBox | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| ArquivoBot | ArquivoBot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Arquivo-web-crawler | Arquivo-web-crawler | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Autoconfig | Autoconfig | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| BnFBot | BnFBot | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| CLASSLA-web | CLASSLA-web | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| researchscan | researchscan | 学术蜘蛛 | 未知 | — | 无视 | 停用 |