收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| StatoolsBot | StatoolsBot | 未分类 | — | — | 无视 | 停用 |
| page_verifier | page_verifier | 未分类 | — | — | 无视 | 停用 |
| SSLBot | SSLBot | 未分类 | — | — | 无视 | 停用 |
| SAI Crawler | SAI Crawler | 未分类 | — | — | 无视 | 停用 |
| DomainDB | DomainDB | 未分类 | — | — | 无视 | 停用 |
| WMCAI_robot | WMCAI_robot | 未分类 | — | — | 无视 | 停用 |
| voyager | voyager | 未分类 | — | — | 无视 | 停用 |
| copyright sheriff | copyright sheriff | 未分类 | — | — | 无视 | 停用 |
| Ocelli | Ocelli | 未分类 | — | — | 无视 | 停用 |
| Twiceler | Twiceler | 未分类 | — | — | 无视 | 停用 |
| Topicbot | Topicbot | 未分类 | — | — | 无视 | 停用 |
| amibot | amibot | 未分类 | — | — | 无视 | 停用 |
| abby | abby | 未分类 | — | — | 无视 | 停用 |
| VideoSurf_bot | VideoSurf_bot | 未分类 | — | — | 无视 | 停用 |
| BlinkaCrawler | BlinkaCrawler | 未分类 | — | — | 无视 | 停用 |
| nodestackbot | nodestackbot | 未分类 | — | — | 无视 | 停用 |
| Pompos | Pompos | 未分类 | — | — | 无视 | 停用 |
| taptubot | taptubot | 未分类 | — | — | 无视 | 停用 |
| BabalooSpider | BabalooSpider | 未分类 | — | — | 无视 | 停用 |
| Yaanb | Yaanb | 未分类 | — | — | 无视 | 停用 |
| livedoor ScreenShot | livedoor ScreenShot | 未分类 | — | — | 无视 | 停用 |
| FauBot | FauBot | 未分类 | — | — | 无视 | 停用 |
| Toread-Crawler | Toread-Crawler | 未分类 | — | — | 无视 | 停用 |
| L.webis | L.webis | 未分类 | — | — | 无视 | 停用 |
| FairShare | FairShare | 未分类 | — | — | 无视 | 停用 |
| Ruky-Roboter | Ruky-Roboter | 未分类 | — | — | 无视 | 停用 |
| ThumbShots-Bot | ThumbShots-Bot | 未分类 | — | — | 无视 | 停用 |
| BotOnParade | BotOnParade | 未分类 | — | — | 无视 | 停用 |
| Amagit.COM | Amagit.COM | 未分类 | — | — | 无视 | 停用 |
| HolmesBot | HolmesBot | 未分类 | — | — | 无视 | 停用 |