Anderson 视角

住宅代理:人工智能战争的下一个前线

mm
将 Unite.AI 添加到您在 Google 上的首选来源
Illustration depicting 'AI' associated with a suburban neighborhood. created in Photoshop using https://unsplash.com/photos/aerial-photography-of-city-during-daytime-IZypSha074U and https://unsplash.com/photos/glowing-ai-chip-on-a-circuit-board-w69Z8K-HGQU under the Unsplash license in each case. The image has then been enhanced in GPT Image 2.

为了防止人工智能的知识库停滞或遭到污染,前沿人工智能模型需要继续从互联网吸收海量的最新数据。

在这方面,主要的人工智能提供商及其雄心勃勃的竞争对手目前面临两重障碍:一是出版商、社交网络、平台和其他新数据来源如今已经意识到这种访问权的价值,并希望将其变现;二是为了填补“知识空白”,持续不断的人工智能抓取机器人正给各个网站带来极其沉重的压力,以至于针对这种滥用行为的反制正变得相当激烈。

从内容提供商的角度来看,解决后一个问题的一种可行办法,是要求用户先在网站注册并登录,然后才能访问那些宝贵的数据。这样,网站就能根据经过身份验证的用户,而不是一个IP地址来评估请求量(见下文“IP在看着你”)。

当然,颇为巧合的是,这种情形正是数据经纪人的梦想,因为它迫使人们放弃匿名身份。

英国政府于2026年出台法律,要求身在英国、希望访问“成人”级网站的用户通过第三方平台识别并验证身份,而这正是反对该法律的一个根本理由。

许多人认为,其最终结果并非实现该法律所宣称的、保护儿童免受NSFW内容侵害的目的,而是对原本匿名的用户产生了中共式的“寒蝉效应”,并开启了英国默认强制进行在线身份验证的进程。

因此,在一个登录成为常态、甚至成为强制要求的世界里,国家既能获得运行层面乃至取证层面的数据,也能让民众上网时更加谨慎。广告商和数据变现者也终于摆脱了持续数十年的斗争,不必再费力将用户与持久标识符关联起来,进而能够以多种方式利用用户数据,包括定向投放、纳入统计建模以及更多潜在用途。

IP在看着你

除了IP地址之外,还有其他方法能够识别再次访问的用户,例如各种形式的浏览器指纹识别等方式。

然而,由于没有IP地址就根本不可能建立连接或获得访问,因此通过浏览器更新或其他旨在保护用户隐私与身份的软件方法,并不能轻易解决这一问题。所以,IP地址作为一种用于控制和监测用户访问的“廉价”方案,仍然具有一定可信度。

由于IPV4地址池早已耗尽,而其替代方案又一直难以得到广泛采用,备用IP便成为稀缺资源。因此,VPN提供商往往不允许用户频繁轮换IP地址。

在大多数情况下,家庭VPN用户会选择一个希望自己看起来正在从中浏览的国家,然后得到一个相当陈旧的IP地址。这个地址几乎肯定已被列入门户网站用来阻止非本国用户或实现其他目的的各种黑名单。

英国年龄验证计划中使用的第三方身份提供平台Yoti指出:

“[许多]大型在线平台已经会阻止已知的VPN流量。BBC iPlayer、Netflix等服务会使用成熟的技术,检测并阻止来自常用或可疑VPN IP地址的访问。

“这些技术包括维护不断更新的封禁名单,以及监测来自已知IP池的大流量。即使一些VPN提供商能够提供更高级或更难被发现的服务,这些服务也往往价格昂贵,形成又一道阻力和经济障碍,尤其会影响儿童和青少年。”

说到这项“成本”:如果你愿意支付远高于普通VPN订阅的费用,住宅代理几乎可以绕过所有这些障碍——至少目前如此。

住宅代理使用的是普通家庭宽带用户的IP地址,就像你我一样。这个用户可能把自己看似“安全”的位置出售给商业公司,让该公司的客户借用这个IP来躲避黑名单;也可能在不知情且没有报酬的情况下提供这项服务,因为服务随某个家电应用一同安装;还可能因为设备遭到入侵并被纳入僵尸网络而提供这项服务。

使用住宅代理时,你的所有流量都会经由一个本地消费者级IP地址进行路由,从而降低遭到封禁和干预的可能性。

使用住宅代理时,你的所有流量都会经由一个本地消费者级IP地址进行路由,从而降低遭到封禁和干预的可能性。

大多数住宅代理“主机”通过各种应用出售访问权,目前以老牌的Honeygain为首,收入平均为每GB流量0.10至0.80美元。

无论如何,如果住宅代理账户上的某个IP租用者被其目标提供商按IP封禁,他可以切换到一个新IP。这个IP可能带着前几任租户留下的一大堆历史问题,但不会带着该用户的特定问题。

换句话说,这个IP地址上此前的行为可能使其遭到Reddit、其他社交网络或任何数量的服务商封禁;但如果新租户的目标不在这些封禁方之列,他就能针对该目标重新开始。如果目标也封禁了它,用户只需尝试另一个住宅IP。

至于主机拥有者,其自身不可避免且日益“污染”的IP地址,往往可以通过暂时断开连接来更新;此外,在多数情况下,地址还会按一定间隔自动轮换。与此同时,永久将单个IP地址列入黑名单的成本和潜在后果意味着,大多数此类封禁最终都会解除。

年龄检查时代

年龄限制在英国已经成为日常现实,即将在欧盟和澳大利亚实施,并在美国各地间歇出现。作为规避国家级在线年龄限制的主要手段,VPN的使用已经开始成为立法、国家监管乃至禁令的目标——在中国和俄罗斯联邦等国家,情况正是如此。

两年前,我们大多数人可能并不知道或并不关心VPN是否存在,除非公司的IT部门为了安全访问企业网络而在我们的笔记本电脑上安装了一个。如今,至少在英国、欧盟和澳大利亚,公众对这项技术的认识已经大幅提高。

未来十二个月内,似乎很可能浮出水面并成为立法、委员会和监管目标的下一个“公开的秘密”,就是住宅代理。

不断增长的网页抓取服务市场通常会把住宅代理访问作为“高级”服务出售。Bright Data提供一个798GB带宽的住宅代理套餐,月费高达令人咋舌的2,000美元;FireCrawl收费为每GB 8至15美元;Apify则约为8美元。

其他许多主要提供商会隐藏收费,指引用户“联系销售团队”。事实上,可以认为所有宣传中的低价层级都只是把客户引向那场谈判的追加销售预告,因为渴求数据的人工智能公司有“足以改变人生”的资金可以投入这一问题。

进入公众视野..?

尽管住宅代理目前远非非法活动,但和所有促进匿名化的技术一样,它们已经开始因为成为网络犯罪分子偏爱的工具而受到批评,尤其是在日本。

任何针对住宅代理的威胁,似乎都可能影响越来越多使用它们的人工智能公司。网络安全公司Infoblox最近于2026年6月发布的一份报告提出,人工智能已成为住宅代理需求的主要推动力。

Infoblox分析其整个客户群的DNS流量后发现,从2025年1月到2026年4月,每月向住宅代理域名发出的查询从约4000亿次增加到超过5000亿次,增幅约为25%:

2026年全年与住宅代理相关的流量点总数出现多次激增。来源 - https://www.infoblox.com/blog/threat-intelligence/residential-proxies-in-the-wild/

2026年全年与住宅代理相关的流量点总数出现多次激增。 来源

该公司当时表示:

“这可能有多种解释:人工智能相关训练的增长无疑是住宅代理需求的重要推动因素,因为这种训练往往需要抓取网站。住宅代理可以绕过许多反抓取措施,因为流量看起来来自真实用户的设备。”

这与年龄限制法律出现时人们对VPN兴趣的早期激增趋势类似,并开始把这种做法带出“企业技术极客”的圈子,进入公众可能关注的视野。

Cloudflare将新一代面向人工智能的网页抓取工具描述为“专门设计成融入环境”,并指出:“它们可以通过住宅代理轮换IP地址,生成类似真人的用户代理,并模仿看似合理的浏览模式”。该公司还报告称,在此期间,以获取训练数据为目的的抓取占所有人工智能机器人活动的80%。

Include Security于2026年6月发布的一份报告揭示了网页抓取巨头Bright Data通过安装应用,在多种消费设备中嵌入无需身份验证的公共端点,从而提供住宅代理服务的程度。Bright Data目前宣称在195个国家拥有超过4亿个可用IP。换言之,第三方开发者为了从应用中获利,把Bright Data集成进了自己的应用。

2025年10月,KrebsOnSecurity报道称,曾创下分布式拒绝服务攻击(DDoS)纪录的僵尸网络Aisuru已经改变策略,从传统DDoS转向住宅代理:

“来自Aisuru和其他来源的[大量]代理正在为与各种人工智能(AI)项目有关的大规模数据收集工作提供助力,内容抓取者把流量经由看起来像普通互联网用户的住宅连接进行路由,从而逃避检测。”  

随着欺诈和其他网络犯罪活动越来越多地与住宅代理的使用联系起来,这或许最终会让住宅代理退出市场。由于这种服务主要通过大型应用平台分发的应用和SDK提供,如果要求iOS等托管平台禁止或修改这些应用,使住宅代理托管不再属于所提供的服务,将极大削弱此类服务的供应。

如果同时打击独立门户和应用,整个住宅代理生态可能只剩下骨架般的覆盖范围,并很可能显著推高价格。

问题在于,像美国这样非常支持人工智能的国家,是否愿意以一种几乎肯定不会影响中国抓取工具的方式,切断人工智能公司的访问。这些中国工具大概会按照国家需要而不是法律准则运作。至少美国当前的氛围表明,答案是否定的。

结论

住宅代理本质上是目前仍然真正有效的VPN,因为它们提供的灵活IP地址没有进入黑名单,也没有变得陈旧。还有显著证据表明,随着针对人工智能网页抓取工具的防御措施越来越普及和复杂,人工智能公司正在转而使用住宅代理。

人工智能网页抓取之所以发展得如此疯狂——包括对单个域名每分钟多达39,000次请求,以及吸收书籍内容后再将书籍烧毁——部分原因也许是为了汇集截至目前的人类知识总和,可以说是“一次性补课”。

然而,未来在于获得并保持对从现在起生成的信息的访问权,包括社交媒体帖子、学术研究、时间表、博客、企业网站,以及数百万个持续产生数据的其他来源,也就是延续全人类的集体知识与思想。

因此,人们不禁要问:每GB住宅代理流量的价格能涨到多高,才会让资金充裕的前沿人工智能公司也望而却步,或者决定更有选择性地抓取数据,最终接受某种预算限制。

这个价格将取决于最具吸引力的数据平台在多大程度上能够通过谈判开放访问,或者成功击退闯入者。

最后一点想法:如果我经营一家价值万亿美元、越来越依赖外部住宅代理抓取服务的人工智能公司,我会认为,直接收购并运营最具优势的此类公司,或者从零开始建立自己的住宅代理网络(大概通过一系列错综复杂的空壳公司),都是合理而经济的选择。

 

首次发布于2026年9月16日星期三

修改于2026年9月17日星期四:将“通过安装应用秘密提供住宅代理服务”改为“通过安装应用提供住宅代理服务”。

机器学习撰稿人,专注于人类图像合成的领域专家。曾任 Metaphysic.ai 的研究内容负责人,直至其并入 DNEG 的 Brahma.ai。
网站: martinanderson.ai
联系:martin@martinanderson.ai