python处理数据,存进hive表的方法
更新时间：2018年07月04日 15:08:23 作者：小鱼人儿
今天小编就为大家分享一篇python处理数据,存进hive表的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
首先，公司的小组长给了我一个任务，把一个txt的文件中的部分内容，存进一个在hive中已有的表的相同结构的表中。所以我的流程主要有三个，首先，把数据处理成和hive中表相同结构的数据，然后仿照已有的hive中表的结构再创建一张新的数据表，最后把本地的txt文件上传到hive中新建的数据表中。
1：已有的数据表的结构和在hive表中的结构完全对不上，下面的图是原来hive中表的结构和小组长给我的txt中表的结构：
大家可以看出，我们原来的hive中表的字段一共有17个，而组长给我的表中的字段一共有9个，其中最后一个为json结构，而且顺序还不对，所以我们要进行筛选，把对应上的字段放到相应位置，对应不上的字段写成空。
大家要注意几个地方，原来的数据是按照tab来划分的，所以我们要数好对应的tab的数目，好来计算出来数据的实际的位置信息，然后我们按照原来hive表中的数据顺序，重新排列我们新建表的数据的顺序，下面给大家看看结果：
其中line[0]=null，line[1]=102，大家以此类推。
3：我们把本地的txt文件导入到hive表中。首先我们要新建一个和原来hive表中相同结构的数据表，然后把我们的数据导入到表中，
hive> creat table new_sft(x1 string,x2 string ,...,xn string) partitioned by (d string);
建好表之后，把数据导入到新表之中:
hive> load data local inpath‘/home/opendev/1.txt' into table new_sft;
最后给大家看看我的最终的结果：
以上这篇python处理数据,存进hive表的方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
这篇文章主要介绍了python opencv根据颜色进行目标检测的方法示例，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-01-01
密码的使用最早可以追溯到古罗马时期，《高卢战记》有描述恺撒曾经使用密码来传递信息，即所谓的“恺撒密码”。本文将利用Python实现简易的凯撒密码，感兴趣的可以了解一下2022-09-09
工作中遇到一个需求，需要通过网站查询船舶名称得到MMSI码，网站来自船讯网。这篇文章主要介绍了基于Python实现船舶的MMSI的获取,需要的朋友可以参考下2019-10-10
这篇文章主要介绍了Python 中判断列表是否为空的方法，本文通过代码详解的非常详细，具有一定的参考借鉴价值,需要的朋友可以参考下2019-11-11
使用python查找替换PowerPoint演示文稿中的文本
演示文稿已成为商务会议、学术报告和教育培训中不可或缺的一部分,而PowerPoint演示文稿作为行业标准工具,更是承载着无数创意与信息的载体,本文将介绍如何使用Python来精确查找并替换PowerPoint演示文稿中的文本,需要的朋友可以参考下2024-07-07
这篇文章主要介绍了Python Selenium参数配置方法解析,文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值,需要的朋友可以参考下2020-01-01
PIL是一个用于图像处理的Python库,它提供了各种功能,包括加载、保存、编辑和处理图像,你可以使用PIL库进行图像缩放、裁剪、旋转、滤镜应用等操作,本文将介绍如何使用Python的PIL库给图像进行过滤,需要的朋友可以参考下2023-08-08
这篇文章主要给大家介绍了关于利用Python找出序列中出现最多的元素的相关资料，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧。2017-12-12
这篇文章主要介绍了Numpy中的shape函数的用法详解，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-03-03
这篇文章主要介绍了从Python程序中访问Java类的简单示例,包括给出了在安卓开发中的一个短小示例,需要的朋友可以参考下2015-04-04
最新评论