椒椒图蜘蛛信息查询
Netcraft扫描 · 基础档案
爬虫名称
Netcraft扫描
活跃状态
活跃
Robots 协议
遵守
爬虫价值
3
能力评估 六维评分由档案字段映射生成,仅供参考
能力雷达图加载中...

爬虫介绍

Netcraft SSL Server Survey 是由英国 Netcraft 公司运营的权威互联网监测爬虫,自 1996 年启动,长期采集全球 HTTPS 站点证书、TLS 版本、加密套件、CA 机构等安全配置数据,形成月度 SSL/TLS 生态报告,为网络安全、行业研究与合规评估提供公开可信的基准数据,服务厂商、机构与安全从业者。

细节参数 请求头与抓取行为完整档案
名称
Netcraft扫描
User-Agent
Netcraft SSL Server Survey
版本号
1
爬虫类型
安全检测
官方网址
暂无
抓取频率
低,按月度周期批量探测
抓取深度
1 层(仅目标端口 / 证书)
渲染能力
无(不执行 JS/CSS)
Accept 请求头
text/plain,application/json,/;q=0.8
Accept-Language
en-US,en;q=0.9
Connection
keep-alive
Accept-Encoding
gzip, deflate
联系邮箱
contact info@netcraft.com
首次出现
1996年
创建时间
2026-03-03 12:23:38
来路 IP 信息 来自椒图采集网络的实测记录
暂无相关IP访问记录
拦截 Netcraft扫描 的方法 五种方案按拦截强度与部署成本选择

1. robots.txt 禁止(标准方式,仅对合规爬虫有效)

通过网站根目录的 robots.txt 声明禁止该爬虫访问,简单标准;恶意爬虫会无视该规则。

2. Nginx / Apache 根据 UA 拉黑(服务器级拦截,效率高)

在服务器配置中直接匹配爬虫 UA 返回 403,不消耗应用资源;需修改服务器配置。

3. .htaccess 禁止(Apache 专属,虚拟主机常用)

通过 .htaccess 规则拦截指定 UA,无需修改主配置;仅适用于 Apache 服务器。

4. PHP / 后端判断 UA 拦截(灵活定制,适配所有环境)

在 PHP 代码中判断访问者 UA,命中后返回 403,灵活可定制;会消耗应用服务器资源。

5. JS 屏蔽(前端拦截,仅挡普通爬虫)

前端 JavaScript 检测 UA 并跳转 403 页面,简单易实现;高级爬虫可绕过(不执行 JS)。

同类爬虫 同类型已审核数据 · 最多展示30条
椒图(Jiaotu)蜘蛛信息查询平台 · 数据持续更新中 返回爬虫大全