如何用pandas处理hdf5文件

 更新时间:2021年03月12日 15:10:36   作者:古明地盆  
这篇文章主要介绍了如何用pandas处理hdf5文件,帮助大家更好的理解和学习使用python进行数据处理,感兴趣的朋友可以了解下

什么是HDF5

HDF5:Hierarchical Data Format Version 5,对于存储大规模、具有相同类型的数据,HDF5是一种非常不错的存储格式,文件后缀名为h5。这种格式的文件的存储和读取速度非常快,并且我们可以把HDF5文件看成是一个"目录",它是分层次的,我们来看看如何操作。

创建和读取HDF5文件

import pandas as pd
import numpy as np

hdf5 = pd.HDFStore("hello.h5", mode="w", complevel=9)
"""
path: 文件路径
mode: 和python的open函数中的mode一致
complevel: 压缩级别,默认是0到9。值越大,压缩程度越高,那么最终形成的文件所占的体积越小,但是相应的,在读取的时候用的解压缩的时间就越长
"""
# 打印是一个HDFStore对象
print(hdf5) # <class 'pandas.io.pytables.HDFStore'>

# 存储数据,可以直接使用赋值的方式
hdf5["series"] = pd.Series([1, 2, 3, 4, 5])
hdf5["dataframe"] = pd.DataFrame(np.random.randint(3, 10, size=(8, 4)))
# 除此之外,还可以使用put的方式
"""
hdf5.put("series", pd.Series([1, 2, 3, 4, 5]))
hdf5.put("dataframe", pd.DataFrame(np.random.randint(3, 10, size=(8, 4))))

put函数里面支持如下参数:
key:写入数据的key
value:写入数据的value
format:指定写出的模式,指定为"fixed",那么速度会快,但是不支持追加和查询。指定为"table",会以表格的模式写出,速度稍慢,但是支持追加和查询操作
"""

# 我们可以通过items来查看相应属性,类似于字典的items
print(list(hdf5.items()))
"""
File path: hello.h5

[('/dataframe', /dataframe (Group) ''
 children := ['axis0' (CArray), 'axis1' (CArray), 'block0_values' (CArray), 'block0_items' (CArray)]), ('/series', /series (Group) ''
 children := ['index' (CArray), 'values' (CArray)])]
"""
# items不太好看,我们来看keys,查看keys,但是注意:没有values
# 我们发现key是类似于目录一样的东西,名字就是我们设置的名字
# 所以我们可以把HDF5看成是目录,里面不同的目录对应不同的内容
print(hdf5.keys()) # ['/dataframe', '/series']

# 查看元素直接调用即可
print(hdf5["dataframe"])
"""
  0 1 2 3
0 4 8 5 6
1 4 6 7 9
2 6 3 9 4
3 8 9 3 9
4 6 6 3 4
5 6 9 9 8
6 4 8 9 6
7 9 5 8 8
"""

# 删除某个key,调用remove
hdf5.remove("series")
print(hdf5.keys()) # ['/dataframe']

# 如果想将数据保存到本地,那么调用close方法即可
hdf5.close()
# 查看数据流是否开启,返回False代表关闭了
print(hdf5.is_open) # False

# 另外创建HDF5文件,除了使用HDFStore,还可以通过先有的DataFrame进行操作。需要指定路径和key
# df.to_hdf("xx.h5", key="key")

下面来看看如何读取文件

import pandas as pd
import numpy as np

# 将mode改成r即可
hdf5 = pd.HDFStore("hello.h5", mode="r")
# 或者
"""
hdfs = pd.read_hdf("hello.h5", key="xxx")
"""
# 至于操作我们上面已经介绍了

hdf5这种格式是一种非常不错的格式,它无论是在存储方面和读取方面,文件大小和读取数据都比csv强不少,因此如果要存储大量的数据的话,那么hdf5这种文件格式是一种非常不错的选择。

以上就是如何用pandas处理hdf5文件的详细内容,更多关于pandas处理hdf5文件的资料请关注脚本之家其它相关文章!

相关文章

  • Python 如何将integer转化为罗马数(3999以内)

    Python 如何将integer转化为罗马数(3999以内)

    这篇文章主要介绍了Python 将integer转化为罗马数(3999以内)的操作,具有很好的参考价值,希望对大家有所帮助。如有错误或未考虑完全的地方,望不吝赐教
    2021-06-06
  • 解决Tensorboard 不显示计算图graph的问题

    解决Tensorboard 不显示计算图graph的问题

    今天小编就为大家分享一篇解决Tensorboard 不显示计算图graph的问题,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2020-02-02
  • Django 如何从request中获取前端数据

    Django 如何从request中获取前端数据

    这篇文章主要介绍了Django从request中获取前端数据的操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-04-04
  • spyder常用快捷键(分享)

    spyder常用快捷键(分享)

    下面小编就为大家带来一篇spyder常用快捷键(分享)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
    2017-07-07
  • Python中的省略号(Ellipsis)赋值方式详解

    Python中的省略号(Ellipsis)赋值方式详解

    在Python编程中,省略号(...)是一种特殊对象,主要用作函数占位、未实现的方法示例和NumPy数组处理,本文通过示例详细解释了省略号的赋值方式及其在不同编程场景下的应用,帮助提升Python编程技巧
    2024-10-10
  • python实战练习做一个随机点名的程序

    python实战练习做一个随机点名的程序

    读万卷书不如行万里路,只学书上的理论是远远不够的,只有在实战中才能获得能力的提升,本篇文章手把手带你用Python实现一个随机点名的程序,大家可以在过程中查缺补漏,提升水平
    2021-10-10
  • Python 常见的配置文件写法梳理汇总

    Python 常见的配置文件写法梳理汇总

    这篇文章主要介绍了Python 常见的配置文件写法梳理汇总,文章围绕主题展开主题相关梳理总结,需要的朋友可以参考一下
    2022-07-07
  • Pygame实战之检测按键正确的小游戏

    Pygame实战之检测按键正确的小游戏

    这篇文章主要为大家介绍了利用Pygame模块实现的检测按键正确的小游戏:每个字母有10秒的按键时间,如果按对,则随机产生新的字符,一共60s,如果时间到了,则游戏结束。快来跟随小编一起学习一下吧
    2021-12-12
  • python字典setdefault方法和get方法使用实例

    python字典setdefault方法和get方法使用实例

    这篇文章主要介绍了python字典setdefault方法和get方法使用实例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
    2019-12-12
  • 在Python中使用K-Means聚类和PCA主成分分析进行图像压缩

    在Python中使用K-Means聚类和PCA主成分分析进行图像压缩

    这篇文章主要介绍了在Python中使用K-Means聚类和PCA主成分分析进行图像压缩,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-04-04

最新评论