AI爬虫大战:数据掠夺与反击
2025-03-25

为了对抗AI公司对网络资源的过度抓取,一种名为“陷阱”的技术应运而生。它通过消耗AI爬虫的资源来提高其成本,给这些尚未盈利的公司带来巨大挑战。Cloudflare推出的“AI迷宫”也采用了类似策略,但更注重商业化,旨在保护网站免受未授权抓取。然而,AI爬虫每天产生超过500亿个请求,这给网络资源带来了巨大压力,并威胁到开源项目的可持续性。一些社区也开发了协作工具,例如“ai.robots.txt”项目,以帮助抵御这些爬虫。除非AI公司与受影响的社区合作,或者出台相关法规,否则这场数据争夺战只会进一步升级,危及整个数字生态系统。
科技