概述
一、介绍
数据清洗主要内容是删除原始数据集中的无关数据、重复数据，平滑噪声数据，刷选掉与挖掘主题无关的数据，处理缺失值、异常值等。
二、缺失值处理
缺失值处理的方法分为三类：删除记录、数据插补和不处理。常见的数据插补方法如下图：
其中，需要介绍的两个插值法为：拉格朗日插值法和牛顿插值法。
2.1 拉格朗日插值法
2.2 牛顿插值法
3、关于拉格朗日插值法的示例
#拉格朗日插值代码
import pandas as pd #导入数据分析库Pandas
from scipy.interpolate import lagrange #导入拉格朗日插值函数
inputfile = 'data/catering_sale.xls' #销量数据路径
outputfile = 'sales.xls' #输出数据路径
In [35]:
data = pd.read_excel(inputfile) #读入数据
data
Out[35]:
In [36]:
data[u'销量'][(data[u'销量'] < 400) | (data[u'销量'] > 5000)] = None #过滤异常值，将其变为空值
In [37]:
#自定义列向量插值函数
#s为列向量，n为被插值的位置，k为取前后的数据个数，默认为5
def ployinterp_column(s, n, k=5):
y = s[list(range(n-k, n)) + list(range(n+1, n+1+k))] #取数
y = y[y.notnull()] #剔除空值
return lagrange(y.index, list(y))(n) #插值并返回插值结果
In [38]:
data.columns[1]
Out[38]:
In [43]:
data[data.columns[1]][list(range(1,10))]
Out[43]:
In [40]:
#逐个元素判断是否需要插值
for i in data.columns:
for j in range(len(data)):
if (data[i].isnull())[j]: #如果为空即插值。
data[i][j] = ployinterp_column(data[i], j)
In [41]:
data.to_excel(outputfile) #输出结果，写入文件
最后
以上就是单薄小蘑菇为你收集整理的数据预处理(1)——数据清洗的全部内容，希望文章能够帮你解决数据预处理(1)——数据清洗所遇到的程序开发问题。
如果觉得靠谱客网站的内容还不错，欢迎将靠谱客网站推荐给程序员好友。
本图文内容来源于网友提供，作为学习参考使用，或来自网络收集整理，版权属于原作者所有。
发表评论 取消回复