内容简介:在本章和下一章里,我们将研究两种文件类型实例:Excel 文件和 PDF,并给出几条一般性说明,在遇到其他文件类型时可以参考。处理 Excel 比上章讲的处理 CSV、JSON、XML 文件要难多了,下面以 UNICEF(联合国儿童基金会) 2014 年的报告为例,来讲解如何处理 Excel 数据。
在本章和下一章里,我们将研究两种文件类型实例:Excel 文件和 PDF,并给出几条一般性说明,在遇到其他文件类型时可以参考。
处理 Excel 比上章讲的处理 CSV、JSON、XML 文件要难多了,下面以 UNICEF(联合国儿童基金会) 2014 年的报告为例,来讲解如何处理 Excel 数据。
相关文章:
Python数据处理(一):处理 JSON、XML、CSV 三种格式数据
一、安装 Python 包
要解析 Excel 文件,需要用第三方的包 xlrd 。我们用 pip 来安装第三方包,在命令行输入以下安装命令:
pip install xlrd 复制代码
如果提示 command not found ,则需要先安装 pip 。安装方法见 pip 官网: pip.pypa.io/en/stable/i… 。
二、解析 Excel 文件
想从 Excel 工作表中提取数据,有时最简单的方式反而是寻找更好的方法来获取数据。直接解析有时并不能解决问题。所以在解析之前先看看能不能找到其他格式的数据,比如 CSV、JSON、XML等,如果真找不到再考虑 Excel 解析。
处理 Excel 文件主要有三个库。
-
xlrd 读取 Excel 文件。
-
xlwt 向 Excel 文件写入,并设置格式。
-
xlutils 一组 Excel 高级操作工具(需要先安装 xlrd 和 xlwt)。
在用到这三个库的时候你需要分别安装。但本章只会用到 xlrd。
下面一步步的讲解如何解析 Excel 文件。
先导入 xlrd 库,然后打开工作簿并保存在 book 变量中。
import xlrd
book = xlrd.open_workbook('./resource/data.xlsx')
复制代码
与 CSV 不同,Excel 工作簿可以有多个标签(tab)或工作表(sheet)。想要获取数据,我们要找到包含目标数据的工作表。
如果有几个工作表,你可以猜一下索引号,但如果工作表很多的话就没法猜了。所以你应该知道 book.sheet_by_name( somename ) 命令,其中 somename 是你要访问工作表的名字。
我们来看一下工作表都有哪些名字:
import xlrd
book = xlrd.open_workbook('./resource/data.xlsx')
for sheet in book.sheets():
print(sheet.name)
复制代码
book.sheets() 列出所有的 sheet, sheet.name 打印出 sheet 的名字。输出:
Data Notes Table 9 复制代码
我们要找的工作表是 Table 9。所以我们把这个名字添加到脚本中:
import xlrd
book = xlrd.open_workbook('./resource/data.xlsx')
sheet = book.sheet_by_name('Table 9')
print(sheet)
复制代码
运行会输出类似这样的值:
<xlrd.sheet.Sheet object at 0x106af8898> 复制代码
要查看 sheet 都有什么方法,可以用 print(dir(sheet)) 。从打印的结果中找到一个 nrows 方法, sheet.nrows 返回这个 sheet 一共有多少行。我们将用 nrows 来遍历每一行的内容。
import xlrd
book = xlrd.open_workbook('./resource/data.xlsx')
sheet = book.sheet_by_name('Table 9')
for i in range(sheet.nrows):
print(sheet.row_values(i))
复制代码
运行程序得到如下图的输出:
取到表格的数据之后,接下来就该想怎么格式化这些数据,将有用的信息提取出来。提取信息的格式有很多种,这里我们用其中一种:
{
u'Afghanistan': {
'child_labor': {
'female': [9.6, ''],
'male': [11.0, ''],
'total': [10.3, '']
},
'child_marriage': {
'married_by_15': [15.0, ''],
'married_by_18': [40.4, '']
}
},
u'Albania': {
'child_labor': {
'female': [9.4, u' '],
'male': [14.4, u' '],
'total': [12.0, u' ']
},
'child_marriage': {
'married_by_15': [0.2, ''],
'married_by_18': [9.6, '']
}
},
...
}
复制代码
如何确定有用的数据从第几行开始
能够读取 Excel 数据之后,还要从中提取有用的信息,了解如何从纷繁复杂的数据提取关键数据很重要。
方法一:用软件打开Excel直观判断
首先最简单的方法是用软件打开 Excel 文件直观的看,如下图:
我们上面定义的格式是以国家为键,所以首先应该找到国家。观察 Excel 表格,从第15 行开始显示国家数据。Child labour 和 Child marriage 的数据从第E列到第N列。
方法二:用程序多次试验
如果不想用第一种方法,或者电脑上没有软件可以打开文件,可以尝试第二种方法:写代码多次试验。
这个方法用到了计数器原理。先打印前10行,看有没有想要的数据,如果没有再打印11-20行,这样一个区间一个区间的排查,直到确定准确的行数。
代码如下:
import xlrd
book = xlrd.open_workbook('./resource/data.xlsx')
sheet = book.sheet_by_name('Table 9')
count = 0
for i in range(sheet.nrows):
if count < 10:
row = sheet.row_values(i)
print(i, row)
count += 1
复制代码
先打印排查了前10行,查看控制台输出没有找到想要的国家数据,继续调整试验:
import xlrd
book = xlrd.open_workbook('./resource/data.xlsx')
sheet = book.sheet_by_name('Table 9')
count = 0
for i in range(10, sheet.nrows):
if count < 10:
row = sheet.row_values(i)
print(i, row)
count += 1
复制代码
我们已经知道了前10行没有想要的数据,所以 range 直接改成 range(10, sheet.nrows) 从第10行开始打印,其他代码不变。再次运行程序,得到如下输出:
可以看到从第14行开始出现了国家名字,这就是我们要找的数据。
三、组装数据
找到想要的数据在第几行第几列之后,就可以按之前定义的格式写代码提取组装数据啦。
import xlrd
import pprint
book = xlrd.open_workbook('./resource/data.xlsx')
sheet = book.sheet_by_name('Table 9')
# 定义存放数据的字典
data = {}
for i in range(14, sheet.nrows):
row = sheet.row_values(i)
# 取出国家名字
country = row[1]
# 按照给定的格式组装数据
data[country] = {
'child_labor': {
'total': [row[4], row[5]],
'male': [row[6], row[7]],
'female': [row[8], row[9]],
},
'child_marriage': {
'married_by_15': [row[10], row[11]],
'married_by_18': [row[12], row[13]],
}
}
# 最后一个国家是 Zimbabwe,判断到 Zimbabwe 之后就 break 跳出循环
if country == 'Zimbabwe':
break
# 打印数据
pprint.pprint(data)
复制代码
打印复杂对象时使用 pprint 格式更美观。
以上所述就是小编给大家介绍的《Python数据处理(二):处理 Excel 数据》,希望对大家有所帮助,如果大家有任何疑问请给我留言,小编会及时回复大家的。在此也非常感谢大家对 码农网 的支持!
猜你喜欢:- 自然语言处理之数据预处理
- Python数据处理(一):处理 JSON、XML、CSV 三种格式数据
- R|数据处理|因子型数据
- Pandas多维特征数据预处理及sklearn数据不均衡处理相关技术实践-大数据ML样本集案例实战
- 大数据 -- 下一代数据处理技术
- 【Python数据分析基础】: 数据缺失值处理
本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们。
计算机组成:结构化方法
坦嫩鲍姆 / 刘卫东 / 人民邮电出版社 / 2006-1 / 65.00元
本书采用结构化方法来介绍计算机系统,书的内容完全建立在“计算机是由层次结构组成的,每层完成规定的功能”这一概念之上。作者对本版进行了彻底的更新,以反映当今最重要的计算机技术以及计算机组成和体系结构方面的最新进展。书中详细讨论了数字逻辑层、微体系结构层、指令系统层、操作系统层和汇编语言层,并涵盖了并行体系结构的内容,而且每一章结尾都配有丰富的习题。 本书适合作为计算机专业本科生计算机组......一起来看看 《计算机组成:结构化方法》 这本书的介绍吧!