Hadoop 使用IntelliJ IDEA 进行远程调试代码的配置方法
一 .前言
昨天晚上遇到一个奇葩的问题, 搞好的环境DataNode启动报错. 报错信息提示的模棱两可,没办法定位原因.
办法,开启远程调试…
注意 : 开启远程调试的代码,必须与本地idea的代码必须保持一致.
二 .服务器端配置
2.1. 设置启动远程debug端口
修改 服务器上的配置文件 ${HADOOP_HOME}/etc/hadoop/hadoop-env.sh 增加 环境变量即可.
| 组件 | 环境变量设置 |
|---|---|
| NameNode | export HADOOP_NAMENODE_OPTS="-agentlib:jdwp=transport=dt_socket,address=8888,server=y,suspend=y" |
| DataNode | export HADOOP_DATANODE_OPTS="-agentlib:jdwp=transport=dt_socket,address=9888,server=y,suspend=y" |
| ResourceManager | export YARN_RESOURCEMANAGER_OPTS="-agentlib:jdwp=transport=dt_socket,address=10888,server=y,suspend=y" |
| NodeManager | export YARN_NODEMANAGER_OPTS="-agentlib:jdwp=transport=dt_socket,address=10888,server=y,suspend=y" |
2.2. 具体操作
1.编辑服务器上的配置文件[${HADOOP_HOME}/etc/hadoop/hadoop-env.sh`]
随便加上一行[记住端口!!!]:
export HADOOP_DATANODE_OPTS="-agentlib:jdwp=transport=dt_socket,address=9888,server=y,suspend=y"
启动服务即可 [启动完, JVM返现有jdwp的配置,会自动阻塞, 等到idea调试连接.].
因为我要调试的是DataNode .
所以启动命令为:
cd ${HADOOP_HOME}/sbin
# 启动datanode
sh hadoop-daemon.sh start datanode
查看日志
为了便于观察报错信息 . 打开datanode相关的 日志, 使用命令进行查看就可以了.
到这里,服务端配置就完成了.
三 .Idea配置
将与服务器同步的代码导入到idea中, 导入完成, 不编译,不管报错信息…
只要导入到idea , 等idea自己构建完就可以了…
3.1. 根据报错信息定位到断点所在的位置 报错信息如下:
2021-03-27 22:47:51,949 ERROR org.apache.hadoop.hdfs.server.datanode.DataNode: Exception in secureMain
java.lang.RuntimeException: Cannot start secure DataNode due to incorrect config. See https://cwiki.apache.org/confluence/display/HADOOP/Secure+DataNode for details.
at org.apache.hadoop.hdfs.server.datanode.DataNode.checkSecureConfig(DataNode.java:1523)
at org.apache.hadoop.hdfs.server.datanode.DataNode.startDataNode(DataNode.java:1376)
at org.apache.hadoop.hdfs.server.datanode.DataNode.<init>(DataNode.java:501)
at org.apache.hadoop.hdfs.server.datanode.DataNode.makeInstance(DataNode.java:2806)
at org.apache.hadoop.hdfs.server.datanode.DataNode.instantiateDataNode(DataNode.java:2714)
at org.apache.hadoop.hdfs.server.datanode.DataNode.createDataNode(DataNode.java:2756)
at org.apache.hadoop.hdfs.server.datanode.DataNode.secureMain(DataNode.java:2900)
at org.apache.hadoop.hdfs.server.datanode.DataNode.main(DataNode.java:2924)
2021-03-27 22:47:51,959 INFO org.apache.hadoop.util.ExitUtil: Exiting with status 1: java.lang.RuntimeException: Cannot start secure DataNode due to incorrect config. See https://cwiki.apache.org/confluence/display/HADOOP/Secure+DataNode for details.
可以看到是 org.apache.hadoop.hdfs.server.datanode.DataNode.checkSecureConfig方法.
所以直接找到代码, 加上断点即可…
3.2. 配置远程连接
-点击 Edit Configurations....
建立远程debug就可以了
主要是端口一定要跟服务端配置的端口要匹配.
第0步, 选择Remote 的截图.
3.3. 启动调试
-选择刚才的配置,启动debug调试即可. 然后就可以等待连接到服务器,进行DEBUG操作了…
参考文章:
https://www.jianshu.com/p/f33fe9bbca17
到此这篇关于Hadoop 使用IntelliJ IDEA 进行远程调试代码的配置方法的文章就介绍到这了,更多相关IDEA 远程调试内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！
相关文章
这篇文章主要介绍了JAVA流程控制语句的的相关资料，文中讲解非常细致，代码帮助大家更好的理解和学习，感兴趣的朋友可以了解下，希望可以帮到你2021-07-07
SpringBoot使用编程方式配置DataSource的方法
这篇文章主要介绍了SpringBoot使用编程方式配置DataSource的方法，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2019-01-01
这篇文章主要介绍了SpringBoot实现连接nacos并支持多环境部署方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教2024-06-06
解决本机安装的JDK8,启动IDEA2019没反应的问题(开发工具)
这篇文章主要介绍了解决本机安装的JDK8启动IDEA2019没反应的问题(开发工具)，非常不错，具有一定的参考借鉴价值,需要的朋友可以参考下2019-10-10
这篇文章主要介绍了Java 类与对象，在Java中，我们把对象的特征称为属性，对象的用途称为方法，具有相同属性和方法的对象，我们把他们归为一类，简称类。下面文章讲详细介绍什么是Java类与对象,需要的朋友可以参考一下2021-10-10
Java复制(拷贝)数组的4种方法：arraycopy()方法、clone() 方法、copyOf()和copyOfRa
这篇文章主要介绍了Java复制(拷贝)数组的4种方法：arraycopy()方法、clone() 方法、copyOf()和copyOfRan，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2021-01-01
顾名思义，责任链模式（Chain of Responsibility Pattern）为请求创建了一个接收者对象的链。这种模式给予请求的类型，对请求的发送者和接收者进行解耦。这种类型的设计模式属于行为型模式2021-11-11
这篇文章主要为大家详细介绍了Java执行JavaScript代码的具体操作方法，感兴趣的小伙伴们可以参考一下2016-03-03
这篇文章主要介绍了mybatis动态SQL if的test写法及规则详解，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2022-01-01
这篇文章主要为大家详细介绍了java使用观察者模式异步短信和邮箱提醒用户群，具有一定的参考价值，感兴趣的小伙伴们可以参考一下2018-11-11
最新评论