【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

时间:2022-10-12 19:04:21

核心知识点

一、检测空值: isnull() notnull()

df.isnull()df.notnull() :用于检测dataframe 或者 series 【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

二、删除空值: dropna()

格式:df.dropna(DataFrame, axis='',how='', inplace='')

参数 说明
DataFrame 待处理的df
axis 删除行还是删除列,传入0或者'index' 代表行,传入1或者'columns' 代表列
how 'any' 表示任何值为空都删除,'all' 表示所有值为空才删除
inplace True 表示修改当前df; false 表示返回修改后的df, 默认为false

举例可以参考下面的实例;

三、填充空值: fillna()

格式:df.fillna(value='', method='', axis='',inplace='')

参数 说明
value 用于填充的值,可以是单个值或者字典(key是列名,value是用于填充的值)
method 'ffill':即forword fill ,使用前一个不为空的值进行填充 <br>'bfill':即backfill, 使用后一个不为空的值进行填充
axis 删除行还是删除列,传入0或者'index' 代表行,传入1或者'columns' 代表列
inplace True 表示修改当前df; false 表示返回修改后的df, 默认为false

举例可以参考下面的实例;

实例

现实中,经常有一些非常漂亮的Excel, 例如下面的例子中的Excel。 这种Excel虽然好看,但是却不满足数据处理的要求,数据处理时,需要的是一个标准的表格,不包含合并单元格等这些格式; 这就需要我们对数据进行处理,这里举一个例子,供大家参考:

结果对比

处理前: 好看但不好用! 【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

处理后:不好看,但好用! 【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

一、读入数据

data_path=r"E:\VSCODE\2_numpy_pandas\pandas\data.xlsx"
df=pd.read_excel(data_path)
print(df)

【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

二、去掉无用的行

可以看到,读出的数据并非是我们想要的,我们需要的数据只有蓝色区域内,这时我们需要对读入的数据进行处理;首先我们需要把无用的行去掉,这里可以使用pd.read_excel 函数中的参数来修改,详细的内容可以参考:【Pandas总结】第二节 Pandas 的数据读取_pd.read_csv()的使用详解 , 将代码修改为:

df=pd.read_excel(data_path,skiprows=2)

这样处理后,打印的结果为: 【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

三、 去掉全部为空值的列

使用drop.na 来处理全部为空值的列;

df.dropna(axis="columns",how="all",inplace=True)
print(df)

可以看到,全部为空值的列没有了; 【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

四、 去掉全部为空值的行

与去除列的方式一样,只要将axis的参数改为rows, 即可删除全部为空值的列;代码如下:

df.dropna(axis="rows",how="all",inplace=True)
print(df)

【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

五、将成绩为NaN的单元格,填充为0

使用fillna() 来处理全部为空值的列;

df = df.fillna({"成绩":0})
print(df)

【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

六、将缺失的姓名填充

df = df.fillna(method='ffill')
print(df)

【Pandas总结】第四节 Pandas 缺失值处理(通过实例进行演示)

七、保存到excel中

data_path_new = r"E:\VSCODE\2_numpy_pandas\pandas\data_new.xlsx"
df.to_excel(data_path_new)