提高爬虫效率之python并发编程
python并发编程分为三个方向,分别是 多进程,多线程,多协程 。根据具体情况选择具体的方式,能提高程序的速度。三种类别的对比多进程优点:可以利用多个CPU并行运算(多核计算机)缺点:占用的资源最多,可启动的数目比线程少适用于:CPU密集型计算(使用CPU较多,IO较少)多线程优点:相比进程,更轻量级,占用资源少缺点:相比进程:多线程只能并发执行,不能利用多个CPU (GIL)相比协程:启动数目有限制,占用内存资源,有线程切换的开销适用于:IO密集型计算,同事运行