收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| amazon-kendra | amazon-kendra | 搜索引擎 | No information provided. | — | 遵守 | 停用 |
| Amzn-SearchBot | Amzn-SearchBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| Andibot | Andibot | 搜索引擎 | No information provided. | — | 无视 | 停用 |
| Anomura | Anomura | 搜索引擎 | No information provided. | — | 遵守 | 停用 |
| atlassian-bot | atlassian-bot | 搜索引擎 | No information provided. | — | 遵守 | 停用 |
| AzureAI-SearchBot | AzureAI-SearchBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| Channel3Bot | Channel3Bot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| Cloudflare-AutoRAG | Cloudflare-AutoRAG | 搜索引擎 | Unclear at this time. | — | 遵守 | 停用 |
| ExaSearchBot | ExaSearchBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| GrokAppAndroid | GrokAppAndroid | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| GrokBot | GrokBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| KeenableBot | KeenableBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| Kimi-SearchBot | Kimi-SearchBot | 搜索引擎 | No information provided. | — | 遵守 | 停用 |
| LAIONDownloader | LAIONDownloader | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| LinkupBot | LinkupBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| MistralAI-Index | Mistral AI | 搜索引擎 | Unclear at this time. | — | 遵守 | 停用 |
| nbot | nbot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| Poseidon Research Crawler | Poseidon Research Crawler | 搜索引擎 | No explicit frequency provided. | — | 无视 | 停用 |
| YaK | YaK | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| ZanistaBot | ZanistaBot | 搜索引擎 | Unclear at this time. | — | 无视 | 停用 |
| Googlebot-Mobile | Googlebot-Mobile | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Nutch | Nutch | 搜索引擎 | 未知 | — | 无视 | 停用 |
| jyxobot | jyxobot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FAST-WebCrawler | FAST-WebCrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| FAST | FAST | 搜索引擎 | 未知 | — | 无视 | 停用 |
| BIGLOTRON | BIGLOTRON | 搜索引擎 | 未知 | — | 无视 | 停用 |
| convera | convera | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Gigablast | Gigablast | 搜索引擎 | 未知 | — | 无视 | 停用 |
| grub | grub | 搜索引擎 | 未知 | — | 无视 | 停用 |
| UsineNouvelleCrawler | UsineNouvelleCrawler | 搜索引擎 | 未知 | — | 无视 | 停用 |