我是靠谱客的博主 鲜艳河马,最近开发中收集的这篇文章主要介绍python爬取内容乱码_【提问】PYTHON 爬取下来的中文数据显示乱码,觉得挺不错的,现在分享给大家,希望可以做个参考。

概述

该楼层疑似违规已被系统折叠 隐藏此楼查看此楼

源码:

#!/usr/bin/env python

# -*- coding:utf-8 -*-

import urllib

import urllib2

import re

import thread

import time

class FH:

def __init__(self):

self.pageIndex = 1

self.user_agent = 'Mozilla/5.0 (Windows NT 10.0; WOW64)'

self.headers = {'User-Agent' :self.user_agent}

self.list = []

def getPage(self,pageIndex):

try:

url = 'http://app.finance.ifeng.com/list/stock.php?t=ha&f=chg_pct&o=desc&p=' + str(pageIndex)

request = urllib2.Request(url,headers=self.headers)

response = urllib2.urlopen(request)

pageCode = response.read().decode('utf-8')

return pageCode

except urllib2.URLError,e:

if hasattr(e,"reason"):

print "error",e.reason

return None

def getPageItems(self,pageIndex):

pageCode = self.getPage(pageIndex)

if not pageCode:

print "page load error"

return None

pattern = re.compile('

(.*?).*?target="_blank">(.*?)',re.S)

items = re.findall(pattern,pageCode)

pagelist = []

for item in items:

pagelist.append([item[0].strip(),item[1].strip(),item[2].strip()])

a=item[2]

a=a.encode('gbk')

print type(a)

print(item[0],item[1],a)

return pagelist

def loadPage(self):

if len(self.list)<2:

pagelist = self.getPageItems(self.pageIndex)

if pagelist:

self.list.append(pagelist)

self.pageIndex +=1

def start(self):

print u'正在读取'

self.loadPage()

nowPage = 0

pagelist = self.list[0]

while nowPage<15:

nowPage +=1

del self.list[0]

self.loadPage()

spider = FH()

spider.start()

最后

以上就是鲜艳河马为你收集整理的python爬取内容乱码_【提问】PYTHON 爬取下来的中文数据显示乱码的全部内容,希望文章能够帮你解决python爬取内容乱码_【提问】PYTHON 爬取下来的中文数据显示乱码所遇到的程序开发问题。

如果觉得靠谱客网站的内容还不错,欢迎将靠谱客网站推荐给程序员好友。

本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
点赞(55)

评论列表共有 0 条评论

立即
投稿
返回
顶部