收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| FlipboardProxy | 红板报 | 内容预览 | 极低(6-24小时/次) | 深层(抓取首页及三级以上页面) | 遵守 | 停用 |
| FeedFetcher-Google | FeedFetcher-Google | 内容预览 | 中(订阅周期) | 定向(RSS) | 遵守 | 活跃 |
| PaperLiBot | Paper.li | 内容预览 | 中(订阅周期) | 定向(RSS) | 遵守 | 活跃 |
| Feedly | Feedly | 内容预览 | 中(订阅周期) | 定向(RSS) | 遵守 | 活跃 |
| mshots | Automattic(WordPress.com) | 内容预览 | 按需 | 定向(单页截图) | 无视 | 活跃 |
| page2rss | page2rss | 内容预览 | 未知 | — | 无视 | 停用 |
| Netvibes | Netvibes | 内容预览 | 未知 | — | 无视 | 停用 |
| Fever | Fever | 内容预览 | 未知 | — | 无视 | 停用 |
| g2reader-bot | g2reader-bot | 内容预览 | 未知 | — | 无视 | 停用 |
| Miniflux | Miniflux | 内容预览 | 未知 | — | 无视 | 停用 |
| Feedspot | Feedspot | 内容预览 | 未知 | — | 无视 | 停用 |
| BazQux | BazQux | 内容预览 | 未知 | — | 无视 | 停用 |
| theoldreader | theoldreader | 内容预览 | 未知 | — | 无视 | 停用 |
| RSSingBot | RSSingBot | 内容预览 | 未知 | — | 无视 | 停用 |
| fedoraplanet | fedoraplanet | 内容预览 | 未知 | — | 无视 | 停用 |
| NextCloud | NextCloud | 内容预览 | 未知 | — | 无视 | 停用 |
| Tiny | Tiny | 内容预览 | 未知 | — | 无视 | 停用 |
| Gwene | Gwene | 内容预览 | 未知 | — | 无视 | 停用 |
| SimplePie | SimplePie | 内容预览 | 未知 | — | 无视 | 停用 |
| Superfeedr | Superfeedr | 内容预览 | 未知 | — | 无视 | 停用 |
| feedbot | feedbot | 内容预览 | 未知 | — | 无视 | 停用 |
| NAVER | NAVER | 内容预览 | 未知 | — | 无视 | 停用 |
| Atom | Atom | 内容预览 | 未知 | — | 无视 | 停用 |
| rssbot | rssbot | 内容预览 | 未知 | — | 无视 | 停用 |
| BlogTraffic | BlogTraffic | 内容预览 | 未知 | — | 无视 | 停用 |
| FreshRSS | FreshRSS | 内容预览 | 未知 | — | 无视 | 停用 |
| Feedbin | Feedbin | 内容预览 | 未知 | — | 无视 | 停用 |
| NewsBlur | NewsBlur | 内容预览 | 未知 | — | 无视 | 停用 |
| inoreader | inoreader | 内容预览 | 未知 | — | 无视 | 停用 |
| AllAfrica | AllAfrica | 内容预览 | 未知 | — | 无视 | 停用 |