shell命令执行hive脚本(hive交互)

 更新时间:2022年02月25日 15:18:18   作者:longshenlmj  
本文主要介绍了shell命令执行hive脚本(hive交互),文中通过示例代码介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们可以参考一下

Hive执行方式

Hive的hql命令执行方式有三种:

1、CLI 方式直接执行
2、作为字符串通过shell调用hive –e执行(-S开启静默,去掉”OK”,”Time taken”)
3、作为独立文件,通过shell调用 hive –f或hive –i执行执行

方式1

键入“hive”,启动hive的cli交互模式。Set可以查看所有环境设置参数,并可以重设。其他命令如,
    Use database        选择库
    quit/exit   退出Hive的交互模式 
    set –v  显示Hive中的所有变量
    set <key>=<value>       设置参数
    执行本地shell :!<cmd>       交互模式下可执行shell命令,例如(查看linux根目录下文件列表:"!ls -l /;")
    操作云命令:dfs < command>        交互模式下直接操作hadoop命令如 dfs fs –ls
    Hql语句       执行查询并输出到标准输出
    add [FILE|JAR|ARCHIVE] <value> [<value>]*       增加一个文件到资源列表
    list FILE       列出所有已经添加的资源

方式二

Hql作为字符串在shell脚本中执行,如
    hive -e "use ${database};select * from tb"
查询结果可以直接导出到本地本件(默认分隔符为\t):
    hive -e "select * from tb" > tb.txt

如果需要查看执行步骤,则在命令前面添加

set –x

另外,在shell脚本中,字符串有两种定义方式:

1)  直接定义字符串对象:sql=”字符串”

2)  通过命令定义:sql=$(cat <<endtag 字符串endtag)方式可以将字符串复制给sql,执行hql命令的shell脚本如下:

####### execute hive ######
sql=$(cat <<!EOF

USE pmp;
set mapred.queue.names=queue3;

drop table if exists people_targeted_delivery;
create table people_targeted_delivery
( special_tag_id int,
  cnt bigint
);

INSERT OVERWRITE LOCAL DIRECTORY '$cur_path/people_targeted_delivery'
ROW FORMAT DELIMITED FIELDS TERMINATED BY '\t' 
select special_tag_id,count(1) 
from t_pmp_special_user_tags
group by special_tag_id;

!EOF)
############  execute begin   ###########
echo $sql
$HIVE_HOME/bin/hive -e "$sql"

exitCode=$?
if [ $exitCode -ne 0 ];then
         echo "[ERROR] hive execute failed!"
         exit $exitCode
fi

方式三

将hql语句保存为独立文件,后缀名不限制,可以用.q或者.hql作为标识:
    A,这个文件在cli模式下,用source命令执行,如:source ./mytest.hql
    B,在shell中执行命令,如:hive -f  mytest.sql

Hive指定预执行文件命令“hive –i”(或叫初始化文件)

命令:hive -i hive-script.sql
在hive启动cli之前,先执行指定文件(hive-script.sql)中的命令。
也就是说,允许用户在cli启动时预先执行一个指定文件,比如,有一些常用的环境参数设置,频繁执行的命令,可以添加在初始化文件中,比如,
    某些参数设置
        set mapred.queue.names=queue3;
        SET mapred.reduce.tasks=14;
    添加udf文件
        add JAR ./playdata-hive-udf.jar;
    设置Hive的日志级别 
        hive -hiveconf hive.root.logger=INFO;

到此这篇关于shell命令执行hive脚本(hive交互)的文章就介绍到这了,更多相关shell命令执行hive内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 用expect实现的自动登录到多台服务器的shell脚本

    用expect实现的自动登录到多台服务器的shell脚本

    自动登录到多台服务器的shell脚本,用expect来实现的一段代码,需要的朋友可以参考下
    2013-02-02
  • linux Shell获取某目录下所有文件夹的名称

    linux Shell获取某目录下所有文件夹的名称

    这篇文章主要介绍了linux Shell获取某目录下所有文件夹的名称,需要的朋友可以参考下
    2017-05-05
  • Shell定时删除指定时间之前的文件

    Shell定时删除指定时间之前的文件

    这篇文章主要介绍了Shell定时删除指定时间之前的文件,本文用来删除一个月之前的备份文件,并加入到crontag定时删除,需要的朋友可以参考下
    2014-12-12
  • Bash Shell字符串操作小结

    Bash Shell字符串操作小结

    这篇文章主要介绍了Bash Shell字符串操作总结,包含取长度、截取、查找位置、替换等等,需要的朋友可以参考下
    2014-05-05
  • linux下实现ftp自动备份shell脚本

    linux下实现ftp自动备份shell脚本

    ftp命令把远程计算机上的文件传输到本地计算机时,需要和用户交互。怎样使交互过程自动化呢
    2013-01-01
  • Bash Shell脚本学习小结

    Bash Shell脚本学习小结

    今天需要写一个Shell脚本。很简单,判断一个日志文件是否大大于2G,如果大于2G则删除。久了没有写bash,竟然一点都想不起来写了。于是复习了一下,下面对今天的学习做个小结
    2013-01-01
  • shell实现贪吃蛇的示例代码

    shell实现贪吃蛇的示例代码

    本文主要介绍了shell实现贪吃蛇的示例代码,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-05-05
  • Linux修改主机名的命令详解

    Linux修改主机名的命令详解

    通常在购买的服务器或者一些新安装的Linux系统主机名是一个随机的字符串,但是如果说我们想标识一下每台主机的名称,我们就可以修改一下主机名,所以本文给大家介绍了Linux修改主机名的命令,需要的朋友可以参考下
    2024-01-01
  • shell基础学习中的字符串操作、for循环语句示例

    shell基础学习中的字符串操作、for循环语句示例

    这篇文章主要介绍了shell基础学习中的字符串操作、for循环语句示例
    2014-04-04
  • shell传参并将参数传递给sql文件的方法

    shell传参并将参数传递给sql文件的方法

    今天小编就为大家分享一篇shell传参并将参数传递给sql文件的方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-06-06

最新评论