Mysql元数据如何生成Hive建表语句注释脚本详解

 更新时间:2017年08月14日 08:35:28   作者:sunjavakai  
这篇文章主要给大家介绍了关于Mysql元数据如何生成Hive建表语句注释脚本的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面跟着小编来一起学习学习吧。

前言

本文主要给大家介绍了关于Mysql元数据生成Hive建表语句注释脚本的相关内容,分享出来供大家参考学习,下面话不多说了,来一起看看详细的介绍:

最近在将数据从Mysql 等其他关系型数据库 抽取到Hive 表中时,需要同步mysql表中的注释,以下脚本可以生成hive表字段注释修改语句。

注:其他关系型数据库如:oracle 可以通过相同的思路,读取元数据,修改脚本语法实现。

使用:

在mysql元数据库:information_schema 中执行以下语句

SELECT CONCAT('alter table ', TABLE_NAME, ' CHANGE COLUMN ', COLUMN_NAME, ' ', COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, COLUMN_COMMENT
FROM COLUMNS
WHERE TABLE_NAME = 'o_oms_statistic_profit'
) t;

在将数据从Mysql 等其他关系型数据库 抽取到Hive 表中时,需要同步mysql表中的注释,以下脚本可以生成hive创建表语句。只是生成了hive表主要的字段信息,其他信息需要手工添加。

在mysql元数据库:information_schema 中执行以下语句

SELECT CONCAT('create table ', TABLE_NAME, '(', substring(column_info, 1, length(column_info) - 1), ')', ' comment ', '"', TABLE_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, TABLE_COMMENT, group_concat(CONCAT(COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"')) AS column_info
FROM (SELECT t1.TABLE_NAME, CASE WHEN t2.TABLE_COMMENT = NULL THEN t1.TABLE_NAME ELSE t2.TABLE_COMMENT END AS TABLE_COMMENT, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, CASE WHEN COLUMN_COMMENT = NULL THEN COLUMN_NAME ELSE COLUMN_COMMENT END AS COLUMN_COMMENT
FROM COLUMNS t1 JOIN TABLES t2 ON t1.TABLE_NAME = t2.TABLE_NAME
WHERE t1.TABLE_NAME = 'o_oms_statistic_profit'
) t3
GROUP BY TABLE_NAME, TABLE_COMMENT
) t4;

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对脚本之家的支持。

相关文章

  • MySQL安全策略(MySQL安全注意事项)

    MySQL安全策略(MySQL安全注意事项)

    这篇文章主要介绍了MySQL安全策略(MySQL安全注意事项),需要的朋友可以参考下
    2016-05-05
  • MySQL 索引和数据表该如何维护

    MySQL 索引和数据表该如何维护

    使用合适的数据类型完成数据表创建和建立索引后,工作并没有完结——你需要去维护数据表和索引以保证它们运行良好。数据表维护的主要目的是查找和修复冲突,维护精确的索引统计和减少碎片。
    2021-05-05
  • Mysql源码学习笔记 偷窥线程

    Mysql源码学习笔记 偷窥线程

    安装完Mysql后,使用VS打开源码开开眼,我嘞个去,这代码和想象中怎么差别这么大呢?
    2011-04-04
  • 详解mysql跨库查询解决方案

    详解mysql跨库查询解决方案

    本文主要介绍了mysql跨库查询解决方案,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2022-08-08
  • MySQL 使用SQL语句修改表名的实现

    MySQL 使用SQL语句修改表名的实现

    这篇文章主要介绍了MySQL 使用SQL语句修改表名的实现操作,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2021-04-04
  • MySql中JOIN的用法示例详解

    MySql中JOIN的用法示例详解

    join顾名思义就是连接两张表,大致分为内连接,外连接,右连接,左连接,自然连接,今天通过本文给大家介绍MySql中JOIN的用法详解,感兴趣的朋友一起看看吧
    2022-03-03
  • 最新版MySQL 8.0.22下载安装超详细教程(Windows 64位)

    最新版MySQL 8.0.22下载安装超详细教程(Windows 64位)

    这篇文章主要介绍了最新版MySQL 8.0.22下载安装超详细教程(Windows 64位),本文通过图文实例相结合给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以参考下
    2020-12-12
  • MySQL 大表添加一列的实现

    MySQL 大表添加一列的实现

    这篇文章主要介绍了MySQL 大表添加一列的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2021-02-02
  • mysql 选择插入数据(包含不存在列)具体实现

    mysql 选择插入数据(包含不存在列)具体实现

    mysql 选择插入数据的文章会搜到很多本例特色是包含不存在列,具体实现如下,感兴趣的朋友可以参考下,希望对大家有所帮助
    2013-08-08
  • SQL GROUP BY 详解及简单实例

    SQL GROUP BY 详解及简单实例

    这篇文章主要介绍了SQL GROUP BY 详解及简单实例的相关资料,需要的朋友可以参考下
    2017-01-01

最新评论