Internet Measurement 类爬虫是面向网络性能、拓扑结构、流量特征等互联网基础数据测量的专业爬虫,核心用于学术研究、网络运维分析及互联网生态监测,而非商业数据抓取。该类爬虫聚焦网络层和应用层数据采集,常由高校、科研机构或网络运营商开发维护,旨在客观反映互联网基础设施的运行状态。
| IP 地址 | 爬虫名称 | 访问时间 |
|---|---|---|
| 185.247.137.101 | Internet Measurement | 2026-03-30 20:02:45 |
| 185.247.137.102 | Internet Measurement | 2026-09-22 07:55:23 |
| 185.247.137.110 | Internet Measurement | 2026-04-10 09:50:51 |
| 185.247.137.157 | Internet Measurement | 2026-04-27 02:26:38 |
| 185.247.137.20 | Internet Measurement | 2026-05-01 13:30:04 |
| 185.247.137.205 | Internet Measurement | 2026-05-11 06:27:35 |
| 185.247.137.221 | Internet Measurement | 2026-02-21 21:58:41 |
| 185.247.137.223 | Internet Measurement | 2026-08-22 12:20:24 |
| 185.247.137.243 | Internet Measurement | 2026-06-06 21:42:38 |
| 185.247.137.81 | Internet Measurement | 2026-07-15 21:49:42 |
通过网站根目录的 robots.txt 声明禁止该爬虫访问,简单标准;恶意爬虫会无视该规则。
在服务器配置中直接匹配爬虫 UA 返回 403,不消耗应用资源;需修改服务器配置。
通过 .htaccess 规则拦截指定 UA,无需修改主配置;仅适用于 Apache 服务器。
在 PHP 代码中判断访问者 UA,命中后返回 403,灵活可定制;会消耗应用服务器资源。
前端 JavaScript 检测 UA 并跳转 403 页面,简单易实现;高级爬虫可绕过(不执行 JS)。