爬虫教程( 4 ) --- 分布式爬虫 scrapy-redis、集群1、分布式爬虫 scrapy - redis2、scrapy-redis-cluster ( 集群版_1 )3、scrapy-redis-sentinel( 集群版_2 )
1、分布式爬虫scrapy - redis scrapy 分布式爬虫 文档:http://doc.scrapy.org/en/master/topics/practices.html#distributed-crawls Scrapy 并没有提供内置的机制支持分布式(多服务器)爬取。不过还是有办法进行分布式爬取, 取决于您要怎么分布了。 如果您...