Pyspark读取parquet数据过程解析
更新时间：2020年03月27日 11:31:22 作者：落日峡谷
这篇文章主要介绍了pyspark读取parquet数据过程解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下
parquet数据：列式存储结构，由Twitter和Cloudera合作开发，相比于行式存储，其特点是：
可以跳过不符合条件的数据，只读取需要的数据，降低IO数据量；压缩编码可以降低磁盘存储空间，使用更高效的压缩编码节约存储空间；只读取需要的列，支持向量运算，能够获取更好的扫描性能。
那么我们怎么在pyspark中读取和使用parquet数据呢？我以local模式，linux下的pycharm执行作说明。
首先，导入库文件和配置环境：
import os
from pyspark import SparkContext, SparkConf
from pyspark.sql.session import SparkSession
os.environ["PYSPARK_PYTHON"]="/usr/bin/python3" #多个python版本时需要指定
conf = SparkConf().setAppName('test_parquet')
sc = SparkContext('local', 'test', conf=conf)
spark = SparkSession(sc)
然后，使用spark进行读取，得到DataFrame格式的数据：host:port 属于主机和端口号
parquetFile = r"hdfs://host:port/Felix_test/test_data.parquet"
df = spark.read.parquet(parquetFile)
而，DataFrame格式数据有一些方法可以使用，例如：
1.df.first() ：显示第一条数据，Row格式
print(df.first())
2.df.columns：列名
3.df.count()：数据量，数据条数
4.df.toPandas()：从spark的DataFrame格式数据转到Pandas数据结构
5.df.show()：直接显示表数据；其中df.show(n) 表示只显示前n行信息
6.type(df)：显数据示格式
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python gdal安装与简单使用，本文给大家介绍的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下2019-08-08
这篇文章主要介绍了python检测远程udp端口是否打开的方法,涉及Python操作socket实现检测udp端口的技巧,需要的朋友可以参考下2015-03-03
这篇文章主要介绍了python机器学习之线性回归详解,文中有非常详细的代码示例,对正在学习python的小伙伴们有很好的帮助,需要的朋友可以参考下2021-04-04
在本篇文章里小编给大家整理了关于python实现从ftp上下载文件的实例方法，需要的朋友们可以参考下。2020-07-07
下面小编就为大家带来一篇浅谈scrapy 的基本命令介绍。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧2017-06-06
今天小编就为大家分享一篇解决python多行注释引发缩进错误的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-08-08
这篇文章主要介绍了python数组过滤实现方法,涉及Python针对数组的相关操作技巧,具有一定参考借鉴价值,需要的朋友可以参考下2015-07-07
这篇文章主要介绍了Python Tkinter图形工具使用方法及实例解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-06-06
关于类的定义2008-11-11
Python标准库之urllib和urllib3的使用及说明
这篇文章主要介绍了Python标准库之urllib和urllib3使用及说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-12-12
最新评论