收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| CentComBot | CentComBot | SEO分析 | 未知 | — | 无视 | 停用 |
| MergadoBot | MergadoBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Meta-ExternalHit | Meta-ExternalHit | 链接预览 | 未知 | — | 无视 | 停用 |
| Metorik | Metorik | SEO分析 | 未知 | — | 无视 | 停用 |
| MgidBot | MgidBot | 服务爬虫 | 未知 | — | 无视 | 停用 |
| Miniature | Miniature | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| mirrorweb | mirrorweb | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| MissinglettrBot | MissinglettrBot | SEO分析 | 未知 | — | 无视 | 停用 |
| crawler_eb_germany | crawler_eb_germany | SEO分析 | 未知 | — | 无视 | 停用 |
| ModularConnector | ModularConnector | SEO分析 | 未知 | — | 无视 | 停用 |
| Mollie | Mollie | SEO分析 | 未知 | — | 无视 | 停用 |
| Monibot | Monibot | SEO分析 | 未知 | — | 无视 | 停用 |
| MonitoRSS | MonitoRSS | 内容预览 | 未知 | — | 无视 | 停用 |
| MonSpark | MonSpark | 网站监测 | 未知 | — | 无视 | 停用 |
| montastic-monitor | montastic-monitor | 网站监测 | 未知 | — | 无视 | 停用 |
| MonTools | MonTools | SEO分析 | 未知 | — | 无视 | 停用 |
| MotoMinerBot | MotoMinerBot | SEO分析 | 未知 | — | 无视 | 停用 |
| MRGbot | MRGbot | 安全检测 | 未知 | — | 无视 | 停用 |
| MxToolbox | MxToolbox | 网站监测 | 未知 | — | 无视 | 停用 |
| my-tiny-bot | my-tiny-bot | SEO分析 | 未知 | — | 无视 | 停用 |
| MyBot | MyBot | SEO分析 | 未知 | — | 无视 | 停用 |
| nbertaupete95 | nbertaupete95 | SEO分析 | 未知 | — | 无视 | 停用 |
| NetAPI | NetAPI | SEO分析 | 未知 | — | 无视 | 停用 |
| NetpeakCheckerBot | NetpeakCheckerBot | SEO分析 | 未知 | — | 无视 | 停用 |
| NetShelter | NetShelter | 服务爬虫 | 未知 | — | 无视 | 停用 |
| NETVIGIE | NETVIGIE | 网站监测 | 未知 | — | 无视 | 停用 |
| NewRelicbot | NewRelicbot | 网站监测 | 未知 | — | 无视 | 停用 |
| nyt_scraping | nyt_scraping | SEO分析 | 未知 | — | 无视 | 停用 |
| NewsNow | NewsNow | SEO分析 | 未知 | — | 无视 | 停用 |
| NLNZ_IAHarvester | NLNZ_IAHarvester | 学术蜘蛛 | 未知 | — | 无视 | 停用 |