收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| ZDF-DE-Bot | ZDF-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| Bild-DE-Bot | Bild-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| DieWelt-DE-Bot | DieWelt-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| SZ-DE-Bot | SZ-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| FAZ-DE-Bot | FAZ-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| Handelsblatt-DE-Bot | Handelsblatt-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| BSI-DE-Bot | BSI-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| BfDI-DE-Bot | BfDI-DE-Bot | 未分类 | — | — | 无视 | 停用 |
| Bundeswehr-Bot | Bundeswehr-Bot | 未分类 | — | — | 无视 | 停用 |
| DFN-Crawler | DFN-Crawler | 未分类 | — | — | 无视 | 停用 |
| ABS-AU-Bot | ABS-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| NLA-Crawler | NLA-Crawler | 未分类 | — | — | 无视 | 停用 |
| ABC-AU-Bot | ABC-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| SBS-AU-Bot | SBS-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| SMH-AU-Bot | SMH-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| TheAge-AU-Bot | TheAge-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| TheAustralian-AU-Bot | TheAustralian-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| NewsCorp-AU-Bot | NewsCorp-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| AFP-AU-Bot | AFP-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| ASD-AU-Bot | ASD-AU-Bot | 未分类 | — | — | 无视 | 停用 |
| ARDC-Crawler | ARDC-Crawler | 未分类 | — | — | 无视 | 停用 |
| DataGovAU-Bot | DataGovAU-Bot | 未分类 | — | — | 无视 | 停用 |
| ONS-GB-Bot | ONS-GB-Bot | 未分类 | — | — | 无视 | 停用 |
| BL-UK-WAC-Bot | BL-UK-WAC-Bot | 未分类 | — | — | 无视 | 停用 |
| BL-UK-Crawler | BL-UK-Crawler | 未分类 | — | — | 无视 | 停用 |
| BBC-UK-Bot | BBC-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| ITV-UK-Bot | ITV-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| Guardian-UK-Bot | Guardian-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| Telegraph-UK-Bot | Telegraph-UK-Bot | 未分类 | — | — | 无视 | 停用 |
| TheTimes-UK-Bot | TheTimes-UK-Bot | 未分类 | — | — | 无视 | 停用 |