收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| TencentNews | TencentNews | 未分类 | — | — | 无视 | 停用 |
| SinaNews | SinaNews | 未分类 | — | — | 无视 | 停用 |
| NetEaseNews | NetEaseNews | 未分类 | — | — | 无视 | 停用 |
| IfengNews | IfengNews | 未分类 | — | — | 无视 | 停用 |
| PeopleDaily | PeopleDaily | 未分类 | — | — | 无视 | 停用 |
| XinhuaNews | XinhuaNews | 未分类 | — | — | 无视 | 停用 |
| CCTVNews | CCTVNews | 未分类 | — | — | 无视 | 停用 |
| Caixin | Caixin | 未分类 | — | — | 无视 | 停用 |
| WallStreetJournal | WallStreetJournal | 未分类 | — | — | 无视 | 停用 |
| NYTimes | NYTimes | 未分类 | — | — | 无视 | 停用 |
| WashingtonPost | WashingtonPost | 未分类 | — | — | 无视 | 停用 |
| Guardian | Guardian | 未分类 | — | — | 无视 | 停用 |
| BBCNews | BBCNews | 未分类 | — | — | 无视 | 停用 |
| Reuters | Reuters | 未分类 | — | — | 无视 | 停用 |
| AP | AP | 未分类 | — | — | 无视 | 停用 |
| Bloomberg | Bloomberg | 未分类 | — | — | 无视 | 停用 |
| FinancialTimes | FinancialTimes | 未分类 | — | — | 无视 | 停用 |
| TechCrunch | TechCrunch | 未分类 | — | — | 无视 | 停用 |
| TheVerge | TheVerge | 未分类 | — | — | 无视 | 停用 |
| CNET | CNET | 未分类 | — | — | 无视 | 停用 |
| ZDNet | ZDNet | 未分类 | — | — | 无视 | 停用 |
| Google-Scholar | Google-Scholar | 未分类 | — | — | 无视 | 停用 |
| Bing-Academic | Bing-Academic | 未分类 | — | — | 无视 | 停用 |
| Baidu-Scholar | Baidu-Scholar | 未分类 | — | — | 无视 | 停用 |
| CNKI | CNKI | 未分类 | — | — | 无视 | 停用 |
| WanFang | WanFang | 未分类 | — | — | 无视 | 停用 |
| VIP | VIP | 未分类 | — | — | 无视 | 停用 |
| ResearchGate | ResearchGate | 未分类 | — | — | 无视 | 停用 |
| Springer | Springer | 未分类 | — | — | 无视 | 停用 |
| Elsevier | Elsevier | 未分类 | — | — | 无视 | 停用 |