Python按单元格读取复杂电子表格（Excel）数据实践

时间：2022-11-27 16:55:29

Python读取电子表格方法

本文所使用电子表格的目标是读取、解析来自Excel编制的数据报表，或者软件界面导出的数据报表，这类电子表格报表显著特点是有一定的格式，且数据位置不连续，而非标准二维数据表。

关于电子表格，比较常见的有微软Office Excel、WPS Office、Open Office、LibreOffice、永中Office等等，这些软件关于电子表格定义相近，文件格式兼容MS Excel标准。

  • 一个电子表格文档（Excel）称为一个工作簿
  • 一个工作簿保存在一个扩展名为XLS（.xlsx）的文件中
  • 一个工作簿可以包含多个表（sheet）
  • 在特定行和列的方格称为单元格、格子

对于文件格式XLS、XLSX，简单来说：

  • XLS是excel2003及以前版本所生成的文件格式
  • XLSX是excel2007及以后版本所生成的文件格式

Python按单元格读取复杂电子表格（Excel）数据实践

Python对excel文件的读写功能的模块有以下三种：

  • xlwt：对 xls 格式的 Excel 文件进行写入；
  • xlrd：对 xls 格式的 Excel 文件进行读取；
  • OpenpPyXL 实现了对 xlsm 、xlsx 开放电子表格格式的读写。

另外，Pandas也能实现了对Excel读写，例如read_excel()和to_excel()，直接读取数据到DataFrame中。

首先，安装第三方包xlrd和xlwt（如果已经安装，则略过）：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple xlrd
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple xlwt

原始数据

原始数据是来自接口方提供XLS格式数据，内容如下图所示，由程序生成而导出的数据（为什么会这样，历史原因不予分析），虽然行、列对应不清晰，但是总体上还是有规律的，日报表的每日内容格式基本一致，针对数据行数变化需要特殊解析处理。
Python按单元格读取复杂电子表格（Excel）数据实践

没有好办法，标记上顺序数字，逐个查数定位！

定义数据字典：

data_dict = {
            '油品规格名称':{'colname':'oilname','id':1},
            '期初库存':{'colname':'openinginventory','id':7},
            '本期进货':{'colname':'currentpurchase','id':10},
            '加油机发出量':{'colname':'sendout','id':13},
            '数量':{'colname':'values','id':16},
            ......

数据解析过程框图

Python按单元格读取复杂电子表格（Excel）数据实践

实践代码示例

代码中关键API函数解释：

  • 打开XLS工作薄：
    workbook = xlrd.open_workbook(filename)

  • 三种方式获取工作表
    table = workbook.sheet_by_index(0)，按索引顺序
    table = workbook.sheets()[0]
    table = workbook.sheet_by_name(‘日报表202110-202210’)，按sheet名称

  • 读取单元格数据：
    value = table.cell_value(rowx=2, colx=0)，rowx，colx分别是行、列索引数（注意：从0开始）

解析XLS代码示例：

import xlrd

# filename是文件的路径名称，如果路径或者文件名有中文给前面加一个r拜师原生字符。
workbook = xlrd.open_workbook(filename=r'日报表202110-202210.XLS')
#workbook = xlrd.open_workbook(filename=r'2日报表202110-202210.XLS',encoding_override='utf-8')

# 获取第一个sheet表格
table = workbook.sheets()[0]
# 初始化，按行定义list
dat_row = []
# 数据单元格，列的索引位置
cols_index = [1,7,10,13,16,20,23,30,...,83,87]
# 批发油的情况，价格不一致（猜测）
cols_index_0 = [16,20,23,30,...]
cols_len = len(cols_index)
cols_len_0 = len(cols_index_0)


# 获取sheet中有效行数
rows = table.nrows
# 表头与首行数据间隔函数
irow_bank = 5 
irow = 0
icol = cols_index[0]
while irow < rows:
    if table.cell_value(rowx=irow, colx=0) == '编制单位:':
        cell_vd = table.cell_value(rowx=irow, colx=39)   # 日报时间索引位置39 
    
    cell_v = table.cell_value(rowx=irow, colx=icol)

    if cell_v == '名称':
        #irow = irow + irow_bank
        # 跨过空行
        irow = irow + 1

        while len(table.cell_value(rowx=irow, colx=icol)) == 0:
            irow = irow + 1

        while table.cell_value(rowx=irow, colx=icol) != '合计':
            dat_col = []
            for j in range(cols_len):
                dat_col.append(table.cell_value(rowx=irow, colx=cols_index[j]))
            # 批发油的情况，价格不一致
            if len(table.cell_value(rowx=irow+1, colx=icol)) == 0:
                irow = irow + 1            
                for j in range(cols_len_0):
                    dat_col.insert(4+j,table.cell_value(rowx=irow, colx=cols_index_0[j]))
            else:
                for j in range(cols_len_0):
                    dat_col.append(0)

            dat_col.append(cell_vd)
            print(dat_col)                
            dat_row.append(dat_col)
            irow = irow + 1

    # 逐行扫描
    irow = irow + 1
    
irow

保持解析结果到文件中：

import pandas as pd

df.to_excel('dd.xls',encoding='utf_8_sig',index=False)

结果如下：
Python按单元格读取复杂电子表格（Excel）数据实践

总结

Python按单元格读取复杂电子表格（Excel）数据技术上比较成熟，易操作。需要注意事项：

  • 由于数据文件来自第三方，可能存在编码问题（中文乱码），最好拿到手后，在文件处理的系统上，再另存新文件（本次工作，就是遇到类似问题，花费变天时间也没有解决编码转换或者加密问题，简单的另存解决。
  • 数据处理过程，还是使用pandas更加专业。

参考：

华仔仔coding. 利用Python第三方库xlrd读取Excel中数据实例代码. 脚本之家. 2022.07
lainwith. python实现——处理Excel表格（超详细）. CSDN博客. 2021.10
肖永威. Pandas高级数据分析快速入门之二——基础篇. CSDN博客. 2021.08

标签：

相关文章