Mail.RuBot - 椒图蜘蛛信息查询

Mail.RuBot · 基础档案

爬虫名称

Mail.RuBot

活跃状态

活跃

Robots 协议

遵守

爬虫价值

5

能力评估六维评分由档案字段映射生成，仅供参考

能力雷达图加载中...

爬虫介绍

Mail.Ru 爬虫（Mail.RU_Bot）是俄罗斯 VK Group 运营的官方搜索引擎爬虫，用于为 Mail.Ru 搜索提供页面索引、内容收录与链接预览服务。该爬虫面向俄语互联网生态，严格遵循站长规范，以可控频率抓取公开网页，支持文本、图片等资源收录，行为透明、对服务器友好，是俄语区主流合规爬虫之一，长期稳定服务于搜索与内容分发场景。

细节参数请求头与抓取行为完整档案

名称

Mail.RuBot

User-Agent

Mail.RuBot

版本号

2

爬虫类型

搜索引擎

官方网址

https://help.mail.ru/webmaster/indexing/robots

抓取频率

中高，按站点更新频率调整

抓取深度

3–6 层

渲染能力

无（不执行 JS，纯 HTML 抓取）

Accept 请求头

text/html,application/xhtml+xml,application/xml;q=0.9,/;q=0.8

Accept-Language

ru-RU,ru;q=0.9,en;q=0.8

Connection

keep-alive

Accept-Encoding

gzip, deflate

联系邮箱

暂无

首次出现

2009年

创建时间

2026-03-04 17:02:38

来路 IP 信息来自椒图采集网络的实测记录

暂无相关IP访问记录

拦截 Mail.RuBot 的方法五种方案按拦截强度与部署成本选择

1. robots.txt 禁止（标准方式，仅对合规爬虫有效）

通过网站根目录的 robots.txt 声明禁止该爬虫访问，简单标准；恶意爬虫会无视该规则。

User-agent: Mail\.RuBot
Disallow: /

2. Nginx / Apache 根据 UA 拉黑（服务器级拦截，效率高）

在服务器配置中直接匹配爬虫 UA 返回 403，不消耗应用资源；需修改服务器配置。

if ($http_user_agent ~* (Mail\.RuBot)) {
    return 403;
}

3. .htaccess 禁止（Apache 专属，虚拟主机常用）

通过 .htaccess 规则拦截指定 UA，无需修改主配置；仅适用于 Apache 服务器。

RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} (Mail\.RuBot) [NC]
RewriteRule ^ - [F,L]

4. PHP / 后端判断 UA 拦截（灵活定制，适配所有环境）

在 PHP 代码中判断访问者 UA，命中后返回 403，灵活可定制；会消耗应用服务器资源。

$ua = $_SERVER['HTTP_USER_AGENT'];
if (stripos($ua, 'Mail.RuBot') !== false) {    header('HTTP/1.1 403 Forbidden');    exit;
}

5. JS 屏蔽（前端拦截，仅挡普通爬虫）

前端 JavaScript 检测 UA 并跳转 403 页面，简单易实现；高级爬虫可绕过（不执行 JS）。

if(navigator.userAgent.toLowerCase().indexOf('Mail.RuBot') > -1){
    window.location.href = '/403.html';
}

同类爬虫同类型已审核数据 · 最多展示30条

Baidu Bing Google 360 Search 宜搜移动头条 DuckDuckGo Yahoo Seznam Yandex Mail.ru Yeti(NAVER) Daum Sogou web spider 宜搜移动宜搜图片 Apple Google图片 Lycos 宜搜渲染 Petal 宜搜视频 SeekportBot YaCy Findberry 可可图片 Coc Coc Qwant Ask.com Mojeek