收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| LMArenaUnfurlBot | LMArenaUnfurlBot | 链接预览 | 未知 | — | 无视 | 停用 |
| lyonl-asset-proxy | lyonl-asset-proxy | 搜索引擎 | 未知 | — | 无视 | 停用 |
| lyonl-crawler | lyonl-crawler | 搜索引擎 | 未知 | — | 无视 | 停用 |
| MagiBot | MagiBot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| MagpieRSS | MagpieRSS | 内容预览 | 未知 | — | 无视 | 停用 |
| MailChimp | MailChimp | 内容预览 | 未知 | — | 无视 | 停用 |
| McontextualBot | McontextualBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Mediumbot-MetaTagFetcher | Mediumbot-MetaTagFetcher | 链接预览 | 未知 | — | 无视 | 停用 |
| MetaIAB | MetaIAB | 链接预览 | 未知 | — | 无视 | 停用 |
| MixrankBot | MixrankBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| ModernizeBot | ModernizeBot | SEO分析 | 未知 | — | 无视 | 停用 |
| MontasticMonitor | MontasticMonitor | 网站监测 | 未知 | — | 无视 | 停用 |
| NanoInteractive | NanoInteractive | 服务爬虫 | 未知 | — | 无视 | 停用 |
| NestDaddybot | NestDaddybot | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Netcraft | Netcraft | 安全检测 | 未知 | — | 无视 | 停用 |
| NetSeer | NetSeer | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Netumo | Netumo | 网站监测 | 未知 | — | 无视 | 停用 |
| NewRelicSynthetics | NewRelicSynthetics | 网站监测 | 未知 | — | 无视 | 停用 |
| NewsRoom | NewsRoom | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Nitro- | Nitro- | SEO分析 | 未知 | — | 无视 | 停用 |
| NitroBot | NitroBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Noibu | Noibu | 网站监测 | 未知 | — | 无视 | 停用 |
| NostoCrawlerBot | NostoCrawlerBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| OneTrust | OneTrust | 网站监测 | 未知 | — | 无视 | 停用 |
| opencode-smartfetch | opencode-smartfetch | 测试工具 | 未知 | — | 无视 | 停用 |
| ParselySharesBot | ParselySharesBot | 网站监测 | 未知 | — | 无视 | 停用 |
| PodchaserParser | PodchaserParser | 内容预览 | 未知 | — | 无视 | 停用 |
| Podimo | Podimo | 内容预览 | 未知 | — | 无视 | 停用 |
| productsup | productsup | 服务爬虫 | 未知 | — | 无视 | 停用 |
| qcbot | qcbot | 内容预览 | 未知 | — | 无视 | 停用 |