python实战！智能翻页批量下载文件

python爬虫遇到爬取文件内容时，需要一页页的翻页爬取，这样很是麻烦，其实可以获取每个列表信息下的文件名和文件链接，让文件名和文件链接处理为列表，保存后下载，实现智能翻页批量下载文件，本文以以京客隆为例，批量下载文件，如财务资料，他的每一份报告都是一份pdf格式的文档。以此页面为目标，下载他每个分类的文件python爬虫实战之智能翻页批量下载文件。

1、引入库

import requests
import pandas as pd
from lxml import etree
import re
import os

2、解析初始页面

baseUrl ='http://www.jkl.com.cn/cn/invest.aspx'  # 爬取页面的数据 每日免费代理ip qq群：498181893
heade ={
'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) 
Chrome/81.0.4044.92 Safari/537.36'
}


res =requests.get(url=baseUrl,headers=heade).text   
# print(res.text)
html = etree.HTML(res)
res =requests.get(url=baseUrl,headers=heade).text   #   设置变量接受 基础页的响应数据   
# print(res.text)每日免费代理ip qq群：498181893
html = etree.HTML(res)

3、获得投资关系的分类名称和url地址

data_name = html.xpath('//div[@class="infoLis"]//a/text()') # 投资者列表的名字  
data_link = html.xpath('//div[@class="infoLis"]//@href')    # 全部列表的链接
name = [data_name.strip() for data_name in data_name]   # 通过for循环去掉空字符
link = ['http://www.jkl.com.cn/cn/'+ data_link for data_link in data_link]  # 拼接字符串
# 合并为字典，方便保存文件 每日免费代理ip qq群：498181893
file = dict(zip(name,link))

4、每个列表信息，保存一个文件夹
for name,link in file.items():
name=name.replace(’/’,’.’)
name=name.replace(’…’,‘报表’)
# 上面的把文件名带特许字符的 强制转换为我们想要的文本类型
path = ‘E:/’+ name
if not os.path.exists(path):
os.mkdir(path)
#建立储存位置
5、对列表的每个项目链接进行解析，拿到尾页

  res_list = requests.get(url = link, headers = heade).text
    list_html = etree.HTML(res_list)
    # print(html_erJi) 解析每个分类的链接   每日免费代理ip qq群：498181893
    weiYe = list_html.xpath('//a[text()="尾页"]/@href')
    # print(html_weiye)
    # 拿到尾页信息
    if weiYe !=[]:
        # 正则提取尾页信息
        get_weiYe =re.search("(d+)')",html_weiye[0])
        get_yeMa = get_html_weiYe.group(1)
    else:
        get_yeMa=1
    # print(get_html_yeMa)  看看是不是提取成功

6、获取每个列表信息下的文件名和文件链接

 for get_yeMa in range(1,int(get_yeMa)+1): # 翻页
        yaMa= {
        '__EVENTTARGET': 'AspNetPager1',
        '__EVENTARGUMENT': get_yeMa
        }
        get_lei_html = requests.get(url = link, headers = heade, params = yaMa).text
        res3 =etree.HTML(get_lei_html)
        # print(res3)
        pdf_name = res3.xpath('//div[@class="newsLis"]//li/a/text()')
        # print(pdf_name)

        pdf_url = res3.xpath('//div[@class="newsLis"]//li//@href')

7、让文件名和文件链接处理为列表，保存后下载

pdf_names = [pdf_name.strip() for pdf_name in pdf_name]
  # print(pdf_names)
  if all(pdf_url):
            pdf_urls = ['http://www.jkl.com.cn'+pdf_url for pdf_url in pdf_url]
            # print(pdf_url)
            pdf_data=dict(zip(pdf_names,pdf_urls))   # pdf地址和名字整合为字典
            for pdfName,pdfUrl in pdf_data.items():
                pdfName =pdfName.replace('/','.')
                res_pdf= requests.get(url =pdfUrl,headers=heade).content
                houZui = pdfUrl.split('.')[-1]
                pdf_pash = path + '/' + pdfName + '.'+ houZui    # 
                # print(pdf_pash)
                with open(pdf_pash,'wb') as f:
                    f.write(res_pdf)
                    print(pdfName,'下载成功')
文章部分内容源于网络，联系侵删*

最后

以上就是温柔火为你收集整理的python实战！智能翻页批量下载文件的全部内容，希望文章能够帮你解决python实战！智能翻页批量下载文件所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。