收录各大搜索引擎与商业爬虫的 User-Agent、抓取行为、渲染能力与来路 IP 数据,为站长提供「识别 - 分析 - 拦截」全流程参考。取名源自镇守门户的瑞兽,为网站守住爬虫访问的大门。
| User-Agent | 爬虫名称 | 类型 | 抓取频率 | 抓取深度 | 遵守 Robots | 是否活跃 |
|---|---|---|---|---|---|---|
| FeedFetcher-Mojeek | FeedFetcher-Mojeek | 链接预览 | 暂停(24小时以上) | 定向(仅抓取指定页面) | 遵守 | 活跃 |
| FeedbinBot | FeedbinBot | 链接预览 | 极低(6-24小时/次) | 定向(仅抓取指定页面) | 遵守 | 停用 |
| NewsBlurBot | NewsBlurBot | 链接预览 | 极低(6-24小时/次) | 1 层(仅订阅源与文章页) | 遵守 | 活跃 |
| InoreaderBot | InoreaderBot | 链接预览 | 极低(6-24小时/次) | 1 层(仅订阅源与文章页) | 遵守 | 活跃 |
| Zapier | Zapier | 链接预览 | 极低(6-24小时/次) | 定向(仅抓取指定页面) | 遵守 | 活跃 |
| IFTTT | IFTTT | 链接预览 | 极低(6-24小时/次) | 深层(抓取首页及三级以上页面) | 遵守 | 活跃 |
| BufferBot | Buffer | 链接预览 | 低(1-6小时/次) | 浅层(仅抓取首页及一级页面) | 遵守 | 停用 |
| BingPreview | BingPreview | 链接预览 | 中 | 定向 | 遵守 | 活跃 |
| YandexScreenshotBot | YandexScreenshotBot | 链接预览 | 低(按需) | 定向 | 遵守 | 活跃 |
| Meta-ExternalFetcher | Meta-ExternalFetcher | 链接预览 | 按需(分享触发) | 定向 | 遵守 | 活跃 |
| Twitterbot | X(Twitter) | 链接预览 | 按需(分享触发) | 定向 | 遵守 | 活跃 |
| LinkedInBot | 链接预览 | 按需(分享触发) | 定向 | 遵守 | 活跃 | |
| Slackbot | Slackbot | 链接预览 | 按需 | 定向 | 遵守 | 活跃 |
| Slack-ImgProxy | Slack-ImgProxy | 链接预览 | 按需 | 定向(图片) | 遵守 | 活跃 |
| Discordbot | Discord | 链接预览 | 按需 | 定向 | 遵守 | 活跃 |
| TelegramBot | Telegram | 链接预览 | 按需(消息触发) | 定向 | 遵守 | 活跃 |
| 链接预览 | 按需(分享触发) | 定向 | 遵守 | 活跃 | ||
| SkypeUriPreview | SkypeUriPreview | 链接预览 | 按需 | 定向 | 遵守 | 活跃 |
| Pinterestbot | Pinterestbot | 链接预览 | 中 | 定向(图片) | 遵守 | 活跃 |
| vkShare | VK | 链接预览 | 按需 | 定向 | 遵守 | 活跃 |
| embedly | Embedly | 链接预览 | 按需(API调用) | 定向 | 遵守 | 活跃 |
| Iframely | Iframely | 链接预览 | 按需(API调用) | 定向 | 遵守 | 活跃 |
| Microlink | Microlink | 链接预览 | 按需(API调用) | 定向 | 遵守 | 活跃 |
| Facebot | Facebot | 链接预览 | 未知 | — | 无视 | 停用 |
| TweetmemeBot | TweetmemeBot | 链接预览 | 未知 | — | 无视 | 停用 |
| AddThis | AddThis | 链接预览 | 未知 | — | 无视 | 停用 |
| redditbot | redditbot | 链接预览 | 未知 | — | 无视 | 停用 |
| 链接预览 | 未知 | — | 无视 | 停用 | ||
| Yahoo | Yahoo link | 链接预览 | 未知 | — | 无视 | 停用 |
| Jetslide | Jetslide | 链接预览 | 未知 | — | 无视 | 停用 |