有些请求(基于流的请求)永远不会结束,并会阻塞队列
作者: Verhov创建于 2020年12月20日更新于 2021年3月5日
摘要: 我解析了数百万个域名,遇到了一个问题,即某些基于流的域名请求可能会永久性地阻止队列。在这种情况下,超时不会触发,RAM 会持续泄露。我发现了两个相同的域名:https://goldfm.nu/ 和 https://rsradio.online/。这真是一个不错的广播电台:smile: 但完全阻止了我的爬虫模式。
内容来源: bda-research/node-crawler