我是靠谱客的博主 欢呼黑裤,最近开发中收集的这篇文章主要介绍Windows常用爬虫库的安装,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

网络爬虫开发环境安装

      • 一、requests 库
      • 二、selenium 部署
        • 1、selenium
        • 2、Chorme浏览器
        • 3、ChormeDriver
        • 4、验证安装
      • 三、scrapy库

之前安装过python3.8了,这里不在赘述,只是说说一些常用的库和其环境的安装

一、requests 库

pip install requests

依赖库【会自动安装】:urllib3,idna,chardet,certifi
验证安装:

pip list

在这里插入图片描述

二、selenium 部署

Selenium是自动化测试工具,可以驱动浏览器执行操作

1、selenium

pip install selenium

2、Chorme浏览器

离线安装包下载地址:https://www.google.com/intl/zh-CN/chrome/?standalone=1
查看版本:

chrome://version/

在这里插入图片描述

3、ChormeDriver

在这里找到和浏览器相同的版本:http://npm.taobao.org/mirrors/chromedriver/

在python终端输入以下命令查看安装路径:

import sys
sys.path

在这里插入图片描述
将下载解压后的chromedriver.exe放到python.exe同一路径下:
在这里插入图片描述

4、验证安装

输入这个能自动打开浏览器就没问题:

from selenium import webdriver
webdriver.Chrome()

三、scrapy库

如果直接

pip install scrapy

会报错:
在这里插入图片描述
所以我们手动安装whl文件,在https://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted下载:
这里的cp就是python的版本。
在这里插入图片描述
下载完成后pip install 文件路径进行安装:
在这里插入图片描述
然后重新pip install scrapy:
在这里插入图片描述
搞定!

别的PhantomJS,数据库,Charles暂时不说了,之后学到再来补充。

最后

以上就是欢呼黑裤为你收集整理的Windows常用爬虫库的安装的全部内容,希望文章能够帮你解决Windows常用爬虫库的安装所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(76)

评论列表共有 0 条评论

立即
投稿
返回
顶部