什么是代理服务行业,它为什么存在

代理服务行业并非为黑客而生。探索 IP 速率限制如何迫使合法企业转向代理基础设施。
代理服务行业的存在源于一个长期存在于互联网中的简单矛盾:网站想要控制谁可以访问其数据以及访问速度,但同时存在着一整个合法企业经济体需要以网站本身无法承载的规模访问这些数据。
要理解我们是如何走到这一步的,你需要回到互联网刚开始蓬勃发展的时代。按照今天的标准,那时的网站极其容易受攻击。但当时这不是什么大问题,因为攻击网站所需的知识并不容易获得。随着这种情况的改变,一个新行业应运而生来防御攻击:网络安全。
网络防护措施的兴起
网络安全最初主要关注阻止基础攻击。拒绝服务 (DoS) 攻击被用来关闭竞争对手的网站或服务。SQL 注入、IDOR 漏洞和 SSRF 风格的攻击被用来从数据库中提取敏感信息。随着时间推移,该行业不断发展,防护措施也随之演变。
最重要的发展之一是基于 IP 的速率限制。一旦网站开始限制单个 IP 可以发出的请求数量,单机攻击就无法再扩展规模。攻击者有其他理由分散攻击,主要是原始带宽和消除单点故障,但速率限制给了他们又一个理由。
DoS 演变为 DDoS(分布式拒绝服务);早期的大规模洪泛攻击,如 1996 年的 Panix 和 2000 年 2 月对雅虎和 eBay 的攻击,主要是由带宽和僵尸网络驱动的。凭证爆破,即攻击者针对高价值网站测试被盗的电子邮件/密码组合,也无法再从单台机器大规模运行,而且从未停止过:Akamai 仍然每月记录数百亿次尝试。
还有谁被波及其中
这是故事中大多数人都知道的部分。但鲜少讨论的是还有谁被波及其中。
与此同时,一个完全合法的行业在快速增长。企业需要:
监控数千个电子商务网站的竞争对手定价
验证广告在不同地区是否正确显示
跟踪数百万个关键词的 SEO 排名
收集公开数据以了解消费者趋势
实时获取航班和酒店价格
扫描假冒品和商标滥用
这些都不是攻击。它们是企业大规模提取公开数据,用于那些相关网站通常会受益的目的。
问题在于网站部署的防护机制无法区分恶意攻击者和价格监控公司。两者看起来都像「单个 IP 发出大量请求」。验证码、IP 速率限制和机器人检测系统以相同的方式对待它们。
代理服务的作用
如果你的业务取决于能够发出大量请求,而对方网站按 IP 进行速率限制,那么解决方案就是将这些请求分散到多个 IP。这就是整个前提。你不是出于恶意目的绕过安全措施;你是通过足够多的不同 IP 路由合法流量,使得你不会触发为阻止非常不同的行为而设计的限制。
代理服务行业存在于这个交叉点。它之所以必要,是因为帮助保护网站免受真正攻击者的网络安全进步,但这些相同的进步也影响了合法的消费者、研究人员和数据收集企业。代理服务行业使得这些合法运营在一个每个 IP 都被视为可疑直到被证明无害的互联网中继续运作成为可能。
这就是这个行业诞生方式的真实故事。不是作为攻击工具,而是使合法数据经济能够继续运行的基础设施。
如果你想了解 代理服务在技术层面具体如何工作,下一篇文章有全面的介绍。
由 FlashProxy CEO Alon Levi 发表
关于作者:Alon Levi 是 FlashProxy 的 CEO,在代理基础设施、网络架构和大规模 IP 路由技术方面拥有丰富经验。
在 LinkedIn 上连接 · 联系方式:alon@flashproxy.io
常见问题
使用代理合法吗?
是的。代理是工具,和任何工具一样,其合法性取决于你如何使用它。有三个值得区分的方面。
刑事法:在美国,抓取公开数据通常不违反《计算机欺诈和滥用法》(CFAA),这是在 Van Buren v. United States (2021) 和 hiQ v. LinkedIn 判决后确立的。
合同法:网站的《服务条款》仍然可以约束你,而 hiQ 最终恰好因此败诉,向 LinkedIn 支付了 50 万美元的赔偿(虽然 Meta v. Bright Data 在 2024 年关于已登出状态下抓取的公开数据以另一种方式裁定)。
数据保护法:如果你正在收集个人数据,无论上述情况如何,GDPR 和 CCPA 都适用。
以上内容不构成法律建议。
谁使用代理?
电子商务公司、广告技术公司、旅游聚合商、网络安全研究人员、SEO 平台和 AI 公司是最常见的代理用户。
网站为什么会阻止代理?
网站阻止代理主要是为了防止可能使其服务器过载的过度自动化流量。阻止攻击的相同速率限制也会影响合法的数据收集操作。
什么是代理服务行业?
代理服务行业提供 IP 基础设施,使企业能够通过大量 IP 地址池路由互联网流量,从而使他们能够大规模收集公开数据而不触发每 IP 的速率限制。
资料来源与参考
美国最高法院,Van Buren v. United States (2021):https://www.supremecourt.gov/opinions/20pdf/19-783_k53l.pdf
Proskauer Rose,hiQ Labs v. LinkedIn 分析:https://www.proskauer.com/blog/hiq-and-linkedin-reach-proposed-settlement-in-landmark-scraping-case
Farella Braun + Martel,Meta Platforms v. Bright Data 分析:https://www.fbm.com/publications/major-decision-affects-law-of-scraping-and-online-data-collection-meta-platforms-v-bright-data/
Akamai,互联网状况报告,凭证爆破:https://www.prnewswire.com/news-releases/akamai-security-research-financial-services-continues-getting-bombarded-with-credential-stuffing-and-web-application-attacks-301292576.html
Cloudflare 学习中心,什么是 DDoS 攻击?:https://www.cloudflare.com/learning/ddos/what-is-a-ddos-attack/


