文章详情

短信预约-IT技能 免费直播动态提醒

请输入下面的图形验证码

提交验证

短信预约提醒成功

怎么用pandas处理hdf5文件

2023-06-13 07:38

关注

本篇内容介绍了“怎么用pandas处理hdf5文件”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!

什么是HDF5

HDF5:Hierarchical Data Format Version 5,对于存储大规模、具有相同类型的数据,HDF5是一种非常不错的存储格式,文件后缀名为h6。这种格式的文件的存储和读取速度非常快,并且我们可以把HDF5文件看成是一个"目录",它是分层次的,我们来看看如何操作。

创建和读取HDF5文件

import pandas as pdimport numpy as nphdf5 = pd.HDFStore("hello.h6", mode="w", complevel=9)"""path: 文件路径mode: 和python的open函数中的mode一致complevel: 压缩级别,默认是0到9。值越大,压缩程度越高,那么最终形成的文件所占的体积越小,但是相应的,在读取的时候用的解压缩的时间就越长"""# 打印是一个HDFStore对象print(hdf5) # <class 'pandas.io.pytables.HDFStore'># 存储数据,可以直接使用赋值的方式hdf5["series"] = pd.Series([1, 2, 3, 4, 5])hdf5["dataframe"] = pd.DataFrame(np.random.randint(3, 10, size=(8, 4)))# 除此之外,还可以使用put的方式"""hdf5.put("series", pd.Series([1, 2, 3, 4, 5]))hdf5.put("dataframe", pd.DataFrame(np.random.randint(3, 10, size=(8, 4))))put函数里面支持如下参数:key:写入数据的keyvalue:写入数据的valueformat:指定写出的模式,指定为"fixed",那么速度会快,但是不支持追加和查询。指定为"table",会以表格的模式写出,速度稍慢,但是支持追加和查询操作"""# 我们可以通过items来查看相应属性,类似于字典的itemsprint(list(hdf5.items()))"""File path: hello.h6[('/dataframe', /dataframe (Group) '' children := ['axis0' (CArray), 'axis1' (CArray), 'block0_values' (CArray), 'block0_items' (CArray)]), ('/series', /series (Group) '' children := ['index' (CArray), 'values' (CArray)])]"""# items不太好看,我们来看keys,查看keys,但是注意:没有values# 我们发现key是类似于目录一样的东西,名字就是我们设置的名字# 所以我们可以把HDF5看成是目录,里面不同的目录对应不同的内容print(hdf5.keys()) # ['/dataframe', '/series']# 查看元素直接调用即可print(hdf5["dataframe"])"""  0 1 2 30 4 8 5 61 4 6 7 92 6 3 9 43 8 9 3 94 6 6 3 45 6 9 9 86 4 8 9 67 9 5 8 8"""# 删除某个key,调用removehdf5.remove("series")print(hdf5.keys()) # ['/dataframe']# 如果想将数据保存到本地,那么调用close方法即可hdf5.close()# 查看数据流是否开启,返回False代表关闭了print(hdf5.is_open) # False# 另外创建HDF5文件,除了使用HDFStore,还可以通过先有的DataFrame进行操作。需要指定路径和key# df.to_hdf("xx.h6", key="key")

下面来看看如何读取文件

import pandas as pdimport numpy as np# 将mode改成r即可hdf5 = pd.HDFStore("hello.h6", mode="r")# 或者"""hdfs = pd.read_hdf("hello.h6", key="xxx")"""# 至于操作我们上面已经介绍了

hdf5这种格式是一种非常不错的格式,它无论是在存储方面和读取方面,文件大小和读取数据都比csv强不少,因此如果要存储大量的数据的话,那么hdf5这种文件格式是一种非常不错的选择。

“怎么用pandas处理hdf5文件”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注编程网网站,小编将为大家输出更多高质量的实用文章!

阅读原文内容投诉

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

软考中级精品资料免费领

  • 历年真题答案解析
  • 备考技巧名师总结
  • 高频考点精准押题
  • 2024年上半年信息系统项目管理师第二批次真题及答案解析(完整版)

    难度     813人已做
    查看
  • 【考后总结】2024年5月26日信息系统项目管理师第2批次考情分析

    难度     354人已做
    查看
  • 【考后总结】2024年5月25日信息系统项目管理师第1批次考情分析

    难度     318人已做
    查看
  • 2024年上半年软考高项第一、二批次真题考点汇总(完整版)

    难度     435人已做
    查看
  • 2024年上半年系统架构设计师考试综合知识真题

    难度     224人已做
    查看

相关文章

发现更多好内容

猜你喜欢

AI推送时光机
位置:首页-资讯-后端开发
咦!没有更多了?去看看其它编程学习网 内容吧
首页课程
资料下载
问答资讯