收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| ManmanbuySpider | ManmanbuySpider | 未分类 | — | — | 无视 | 停用 |
| LSMHSpider | LSMHSpider | 未分类 | — | — | 无视 | 停用 |
| QuandianSpider | QuandianSpider | 未分类 | — | — | 无视 | 停用 |
| FanliSpider | FanliSpider | 未分类 | — | — | 无视 | 停用 |
| Price2SpyBot | Price2SpyBot | 未分类 | — | — | 无视 | 停用 |
| ShopbrainSpider | ShopbrainSpider | 未分类 | — | — | 无视 | 停用 |
| Feed Image Audit | Feed Image Audit | 未分类 | — | — | 无视 | 停用 |
| GAChecker | GAChecker | 未分类 | — | — | 无视 | 停用 |
| PowerMapper Crawler | PowerMapper Crawler | 未分类 | — | — | 无视 | 停用 |
| remove.bg | remove.bg | 未分类 | — | — | 无视 | 停用 |
| letsencrypt bot | letsencrypt bot | 未分类 | — | — | 无视 | 停用 |
| LightspeedSystems Crawler | LightspeedSystems Crawler | 未分类 | — | — | 无视 | 停用 |
| ADmantX crawler | ADmantX crawler | 未分类 | — | — | 无视 | 停用 |
| FlipboardBot | FlipboardBot | 未分类 | — | — | 无视 | 停用 |
| linkfluence | linkfluence | 未分类 | — | — | 无视 | 停用 |
| AdsTxtCrawlerTP | AdsTxtCrawlerTP | 未分类 | — | — | 无视 | 停用 |
| Pixalate Crawler | Pixalate Crawler | 未分类 | — | — | 无视 | 停用 |
| BuiltWith crawler | BuiltWith crawler | 未分类 | — | — | 无视 | 停用 |
| oBot | oBot | 未分类 | — | — | 无视 | 停用 |
| Google-Shopping | Google-Shopping | 未分类 | — | — | 无视 | 停用 |
| pr-cy.ru Bot | pr-cy.ru Bot | 未分类 | — | — | 无视 | 停用 |
| DF Bot | DF Bot | 未分类 | — | — | 无视 | 停用 |
| Clickagy Intelligence Bot | Clickagy Intelligence Bot | 未分类 | — | — | 无视 | 停用 |
| SISTRIX Optimizer | SISTRIX Optimizer | 未分类 | — | — | 无视 | 停用 |
| PubMatic Crawler | PubMatic Crawler | 未分类 | — | — | 无视 | 停用 |
| semantic-visions.com crawler | semantic-visions.com crawler | 未分类 | — | — | 无视 | 停用 |
| Prerender | Prerender | 未分类 | — | — | 无视 | 停用 |
| SKB Kontur bot | SKB Kontur bot | 未分类 | — | — | 无视 | 停用 |
| 2ip.ru bot | 2ip.ru bot | 未分类 | — | — | 无视 | 停用 |
| BrokenLinkCheck.com | BrokenLinkCheck.com | 未分类 | — | — | 无视 | 停用 |