炙热蜻蜓

文章
6
资源
0
加入时间
2年10月17天

提高scrapy的爬取速度

爬取大量数据的时候,爬取速度显著影响着爬取用时,总结一下我在使用scrapy的时候用来提升爬取速度的方法。在settings.py中设置如下参数:DOWNLOAD_DELAY = 0CONCURRENT_REQUESTS = 100CONCURRENT_REQUESTS_PER_DOMAIN = 100CONCURRENT_REQUESTS_PER_IP = 100COOKIES_EN...

Salesforce 代码锁定记录

需要在“流程自动设置“中 选择在Apex 中启用记录锁定和解锁复选框global class LockAndUnlock { //订单锁定 WebService static void lock(Id OrderId){ List<MicroPowderOrder__c> orderList = [Select Id from MicroPowderOrder_...

nfs 配置的简单例子

最近配置了一台nfs主机,使用中有几点心得,写下来备忘 一是如果server和client如果都处于同一内网,可以使用udp协议,速度能快一些。