收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Infohelfer | Infohelfer | 未分类 | — | — | 无视 | 停用 |
| GetFoundBot | GetFoundBot | 未分类 | — | — | 无视 | 停用 |
| SEOENGBot | SEOENGBot | 未分类 | — | — | 无视 | 停用 |
| WebThumbnail | WebThumbnail | 未分类 | — | — | 无视 | 停用 |
| Palo Alto Networks urlfiltering | Palo Alto Networks urlfiltering | 未分类 | — | — | 无视 | 停用 |
| STINGbot | STINGbot | 未分类 | — | — | 无视 | 停用 |
| socialbm_bot | socialbm_bot | 未分类 | — | — | 无视 | 停用 |
| emefgebot | emefgebot | 未分类 | — | — | 无视 | 停用 |
| 200PleaseBot | 200PleaseBot | 未分类 | — | — | 无视 | 停用 |
| SSL-Crawler | SSL-Crawler | 未分类 | — | — | 无视 | 停用 |
| adressendeutschland.de | adressendeutschland.de | 未分类 | — | — | 无视 | 停用 |
| CatchBot | CatchBot | 未分类 | — | — | 无视 | 停用 |
| XRL | XRL | 未分类 | — | — | 无视 | 停用 |
| Vedma | Vedma | 未分类 | — | — | 无视 | 停用 |
| FyberSpider | FyberSpider | 未分类 | — | — | 无视 | 停用 |
| BrainbruBot | BrainbruBot | 未分类 | — | — | 无视 | 停用 |
| immediatenet thumbnails | immediatenet thumbnails | 未分类 | — | — | 无视 | 停用 |
| LuminateBot | LuminateBot | 未分类 | — | — | 无视 | 停用 |
| bot.wsowner.com | bot.wsowner.com | 未分类 | — | — | 无视 | 停用 |
| Semantifire | Semantifire | 未分类 | — | — | 无视 | 停用 |
| LinkAider | LinkAider | 未分类 | — | — | 无视 | 停用 |
| ZookaBot | ZookaBot | 未分类 | — | — | 无视 | 停用 |
| firmilybot | firmilybot | 未分类 | — | — | 无视 | 停用 |
| FlightDeckReportsBot | FlightDeckReportsBot | 未分类 | — | — | 无视 | 停用 |
| Strokebot | Strokebot | 未分类 | — | — | 无视 | 停用 |
| ProCogSEOBot | ProCogSEOBot | 未分类 | — | — | 无视 | 停用 |
| BlogPulse | BlogPulse | 未分类 | — | — | 无视 | 停用 |
| RyzeCrawler | RyzeCrawler | 未分类 | — | — | 无视 | 停用 |
| Influencebot | Influencebot | 未分类 | — | — | 无视 | 停用 |
| Webauskunft.org | Webauskunft.org | 未分类 | — | — | 无视 | 停用 |