Majestic-12 - 椒图蜘蛛信息查询

Majestic-12 · 基础档案

爬虫名称

Majestic-12

活跃状态

活跃

Robots 协议

遵守

爬虫价值

2

能力评估六维评分由档案字段映射生成，仅供参考

能力雷达图加载中...

爬虫介绍

由英国 Majestic-12 Ltd 运营，核心是构建全网链接图谱，不缓存个人数据，仅抓取链接关系，为 Majestic SEO 工具提供反向链接、Trust Flow、Citation Flow 等权威数据，服务全球 SEO 从业者与企业做外链分析、域名评估与竞争研究。

细节参数请求头与抓取行为完整档案

名称

Majestic-12

User-Agent

MJ12bot

版本号

1.4.8

爬虫类型

SEO分析

官方网址

http://www.majestic12.co.uk/bot.php?+) MJ12bot/v1.4.8

抓取频率

中（常规更新周期）

抓取深度

中（服务相关页面）

渲染能力

支持基础网页渲染

Accept 请求头

text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8

Accept-Language

en-US,en;q=0.9,zh-CN;q=0.8

Connection

keep-alive

Accept-Encoding

gzip, deflate, br

联系邮箱

bot@majestic12.co.uk

首次出现

2004年

创建时间

2026-03-03 11:21:23

来路 IP 信息来自椒图采集网络的实测记录

共 440 条记录｜第 1 页 / 共 44 页

IP 地址	爬虫名称	访问时间
100.16.145.153	Majestic-12	2026-08-30 11:41:15
100.18.32.160	Majestic-12	2026-02-11 18:04:01
100.42.181.200	Majestic-12	2026-01-25 17:05:00
104.28.156.59	Majestic-12	2026-08-15 01:02:35
104.28.166.71	Majestic-12	2026-04-06 21:56:23
104.28.192.94	Majestic-12	2026-09-07 16:38:33
104.28.224.94	Majestic-12	2026-01-29 08:45:13
104.28.249.122	Majestic-12	2026-02-07 07:47:49
108.12.20.67	Majestic-12	2026-05-05 08:35:28
109.123.251.96	Majestic-12	2026-02-25 23:56:46

拦截 Majestic-12 的方法五种方案按拦截强度与部署成本选择

1. robots.txt 禁止（标准方式，仅对合规爬虫有效）

通过网站根目录的 robots.txt 声明禁止该爬虫访问，简单标准；恶意爬虫会无视该规则。

User-agent: MJ12bot
Disallow: /

2. Nginx / Apache 根据 UA 拉黑（服务器级拦截，效率高）

在服务器配置中直接匹配爬虫 UA 返回 403，不消耗应用资源；需修改服务器配置。

if ($http_user_agent ~* (MJ12bot)) {
    return 403;
}

3. .htaccess 禁止（Apache 专属，虚拟主机常用）

通过 .htaccess 规则拦截指定 UA，无需修改主配置；仅适用于 Apache 服务器。

RewriteEngine On
RewriteCond %{HTTP_USER_AGENT} (MJ12bot) [NC]
RewriteRule ^ - [F,L]

4. PHP / 后端判断 UA 拦截（灵活定制，适配所有环境）

在 PHP 代码中判断访问者 UA，命中后返回 403，灵活可定制；会消耗应用服务器资源。

$ua = $_SERVER['HTTP_USER_AGENT'];
if (stripos($ua, 'MJ12bot') !== false) {    header('HTTP/1.1 403 Forbidden');    exit;
}

5. JS 屏蔽（前端拦截，仅挡普通爬虫）

前端 JavaScript 检测 UA 并跳转 403 页面，简单易实现；高级爬虫可绕过（不执行 JS）。

if(navigator.userAgent.toLowerCase().indexOf('MJ12bot') > -1){
    window.location.href = '/403.html';
}

同类爬虫同类型已审核数据 · 最多展示30条

Ahrefs bot Semrush AhrefsCNSpider Moz BLEXBot SERanking rogerbot SerpstatBot Linkpad Solomono SEOkicks Sistrix DeepCrawl（Lumar） Screaming Frog Babbar Barkrowler SERankingBot GingerCrawler netresearchserver findlink ips-agent buzzbot mlbot spbot twengabot postrank sitebot linkdex ezooms NerdByNature Ahrefs