Mysql元数据如何生成Hive建表语句注释脚本详解

 更新时间:2017年08月14日 08:35:28   作者:sunjavakai  
这篇文章主要给大家介绍了关于Mysql元数据如何生成Hive建表语句注释脚本的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面跟着小编来一起学习学习吧。

前言

本文主要给大家介绍了关于Mysql元数据生成Hive建表语句注释脚本的相关内容,分享出来供大家参考学习,下面话不多说了,来一起看看详细的介绍:

最近在将数据从Mysql 等其他关系型数据库 抽取到Hive 表中时,需要同步mysql表中的注释,以下脚本可以生成hive表字段注释修改语句。

注:其他关系型数据库如:oracle 可以通过相同的思路,读取元数据,修改脚本语法实现。

使用:

在mysql元数据库:information_schema 中执行以下语句

SELECT CONCAT('alter table ', TABLE_NAME, ' CHANGE COLUMN ', COLUMN_NAME, ' ', COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, COLUMN_COMMENT
FROM COLUMNS
WHERE TABLE_NAME = 'o_oms_statistic_profit'
) t;

在将数据从Mysql 等其他关系型数据库 抽取到Hive 表中时,需要同步mysql表中的注释,以下脚本可以生成hive创建表语句。只是生成了hive表主要的字段信息,其他信息需要手工添加。

在mysql元数据库:information_schema 中执行以下语句

SELECT CONCAT('create table ', TABLE_NAME, '(', substring(column_info, 1, length(column_info) - 1), ')', ' comment ', '"', TABLE_COMMENT, '"', ';')
FROM (SELECT TABLE_NAME, TABLE_COMMENT, group_concat(CONCAT(COLUMN_NAME, ' ', DATA_TYPE, ' comment ', '"', COLUMN_COMMENT, '"')) AS column_info
FROM (SELECT t1.TABLE_NAME, CASE WHEN t2.TABLE_COMMENT = NULL THEN t1.TABLE_NAME ELSE t2.TABLE_COMMENT END AS TABLE_COMMENT, COLUMN_NAME, CASE WHEN DATA_TYPE = 'varchar' THEN 'string' WHEN DATA_TYPE = 'int' THEN 'int' WHEN DATA_TYPE = 'tinyint' THEN 'tinyint' WHEN DATA_TYPE = 'decimal' THEN 'double' WHEN DATA_TYPE = 'datetime' THEN 'string' WHEN DATA_TYPE = 'timestamp' THEN 'string' WHEN DATA_TYPE = 'float' THEN 'double' WHEN DATA_TYPE = 'double' THEN 'double' WHEN DATA_TYPE = 'bigint' THEN 'bigint' END AS DATA_TYPE, CASE WHEN COLUMN_COMMENT = NULL THEN COLUMN_NAME ELSE COLUMN_COMMENT END AS COLUMN_COMMENT
FROM COLUMNS t1 JOIN TABLES t2 ON t1.TABLE_NAME = t2.TABLE_NAME
WHERE t1.TABLE_NAME = 'o_oms_statistic_profit'
) t3
GROUP BY TABLE_NAME, TABLE_COMMENT
) t4;

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流,谢谢大家对脚本之家的支持。

相关文章

  • MySQL中检查约束举例详细讲解

    MySQL中检查约束举例详细讲解

    MySQL 检查约束(CHECK)是用来检查数据表中字段值有效性的一种手段,下面这篇文章主要介绍了MySQL中检查约束的相关资料,文中通过代码介绍的非常详细,需要的朋友可以参考下
    2025-03-03
  • MySQL优化全攻略-相关数据库命令

    MySQL优化全攻略-相关数据库命令

    MySQL优化全攻略-相关数据库命令...
    2006-11-11
  • Mysql中的数据类型用法及解读

    Mysql中的数据类型用法及解读

    这篇文章主要介绍了Mysql中的数据类型用法,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
    2025-04-04
  • MySql 5.7.20安装及data和my.ini文件的配置

    MySql 5.7.20安装及data和my.ini文件的配置

    本文通过图文并茂的形式给大家介绍了MySql 5.7.20安装及data和my.ini文件的配置方法,本文给大家介绍的非常详细,需要的朋友参考下吧
    2017-11-11
  • MySQL查询优化的5个实用技巧

    MySQL查询优化的5个实用技巧

    这篇文章主要介绍了MySQL查询优化的5个实用技巧,从数据类型、字符集、子查询等角度分析了MySQL查询优化的相关技巧,具有一定参考借鉴价值,需要的朋友可以参考下
    2015-12-12
  • mysql5.7.17安装配置图文教程

    mysql5.7.17安装配置图文教程

    这篇文章主要为大家详细介绍了mysql5.7.17安装配置方法图文教程,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2017-04-04
  • MySQL的DML语言操作实例

    MySQL的DML语言操作实例

    在本篇文章里小编给大家整理的是一篇关于MySQL的DML语言操作实例内容,有兴趣的朋友们可以学习下。
    2020-02-02
  • Windows平台配置5.7版本+MySQL数据库服务

    Windows平台配置5.7版本+MySQL数据库服务

    这篇文章主要介绍了Windows平台配置5.7版本+MySQL数据库服务的方法,包括初始化root用户密码password的过程以及两个常见问题的解决方法,需要的朋友参考下吧
    2017-06-06
  • PHP定时备份MySQL与mysqldump语法参数详解

    PHP定时备份MySQL与mysqldump语法参数详解

    本文为大家介绍了PHP利用mysqldump命令定时备份MySQL与mysqldump语法参数大全以及定时备份的PHP实例代码
    2018-10-10
  • Linux下MySQL多实例部署及安装指南

    Linux下MySQL多实例部署及安装指南

    Mysql多实例就是在一台服务器上同时开启多个不同的服务端口(3306、3307),同时运行多个Mysql服务进程,这些服务进程通过不同的socket监听不同的服务端口来提供服务,这篇文章主要介绍了Linux下MySQL多实例部署记录,需要的朋友可以参考下
    2021-08-08

最新评论