收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| Snacktory | Snacktory | SEO分析 | 未知 | — | 无视 | 停用 |
| AndersPinkBot | AndersPinkBot | SEO分析 | 未知 | — | 无视 | 停用 |
| Fyrebot | Fyrebot | SEO分析 | 未知 | — | 无视 | 停用 |
| EveryoneSocialBot | EveryoneSocialBot | 链接预览 | 未知 | — | 无视 | 停用 |
| Mediatoolkitbot | Mediatoolkitbot | 网站监测 | 未知 | — | 无视 | 停用 |
| Luminator-robots | Luminator-robots | SEO分析 | 未知 | — | 无视 | 停用 |
| ExtLinksBot | ExtLinksBot | SEO分析 | 未知 | — | 无视 | 停用 |
| SurveyBot | SurveyBot | SEO分析 | 未知 | — | 无视 | 停用 |
| NING | NING | 链接预览 | 未知 | — | 无视 | 停用 |
| okhttp | OkHttp | 通用工具 | 未知 | 浅层(仅抓取首页及一级页面) | 无视 | 活跃 |
| Nuzzel | Nuzzel | SEO分析 | 未知 | — | 无视 | 停用 |
| PocketParser | PocketParser | SEO分析 | 未知 | — | 无视 | 停用 |
| um-LN | um-LN | SEO分析 | 未知 | — | 无视 | 停用 |
| ToutiaoSpider | ToutiaoSpider | 搜索引擎 | 未知 | — | 无视 | 停用 |
| MuckRack | MuckRack | SEO分析 | 未知 | — | 无视 | 停用 |
| Jamie's | Jamie's | SEO分析 | 未知 | — | 无视 | 停用 |
| AHC | AHC | 通用工具 | 未知 | — | 无视 | 停用 |
| Laserlikebot | Laserlikebot | SEO分析 | 未知 | — | 无视 | 停用 |
| AppEngine-Google | AppEngine-Google | 搜索引擎 | 未知 | — | 无视 | 停用 |
| Jetty | Jetty | 通用工具 | 未知 | — | 无视 | 停用 |
| Upflow | Upflow | SEO分析 | 未知 | — | 无视 | 停用 |
| Thinklab | Thinklab | 学术蜘蛛 | 未知 | — | 无视 | 停用 |
| Traackr | Traackr | SEO分析 | 未知 | — | 无视 | 停用 |
| Twurly | Twurly | SEO分析 | 未知 | — | 无视 | 停用 |
| Mastodon | Mastodon | 链接预览 | 未知 | — | 无视 | 停用 |
| http_get | http_get | 通用工具 | 未知 | — | 无视 | 停用 |
| DnyzBot | DnyzBot | SEO分析 | 未知 | — | 无视 | 停用 |
| botify | botify | SEO分析 | 未知 | — | 无视 | 停用 |
| 007ac9 | 007ac9 | SEO分析 | 未知 | — | 无视 | 停用 |
| BehloolBot | BehloolBot | SEO分析 | 未知 | — | 无视 | 停用 |