Java中集成ELK的使用小结

更新时间：2025年08月24日 10:45:54 作者：hqxstudying

本文系统讲解ELK在Java应用中的应用,涵盖日志收集、过滤、监控、集群部署及性能优化,具有一定的参考价值,感兴趣的可以了解一下

在 Java 应用里运用 ELK（Elasticsearch、Logstash、Kibana）技术栈，能够实现日志的集中化管理、高效搜索以及直观可视化。下面将从基础概念入手，逐步深入讲解其使用方法。

一、基础概念

ELK 技术栈由三款开源工具构成：

Elasticsearch：作为分布式搜索引擎，它基于 Lucene 开发，具备强大的全文检索和数据分析能力。
Logstash：属于数据收集引擎，可对多源数据进行收集、过滤和转换，然后将其发送至 Elasticsearch。
Kibana：是一款可视化工具，借助它能对 Elasticsearch 中的数据进行查询、分析并以直观的图表形式展示。

二、简单示例：在 Java 中集成 ELK

1. 添加 Maven 依赖

要在 Java 项目中使用 ELK，首先需要添加相应的依赖。以下是在 Maven 项目中添加 Elasticsearch 客户端依赖的代码：

<dependency>
    <groupId>org.elasticsearch.client</groupId>
    <artifactId>elasticsearch-rest-high-level-client</artifactId>
    <version>7.17.3</version>
</dependency>

2. 创建 Elasticsearch 客户端

下面的代码展示了如何创建一个 Elasticsearch 的高级 REST 客户端：

import org.elasticsearch.client.RestClient;
import org.elasticsearch.client.RestHighLevelClient;
 
public class ElasticsearchConfig {
    public static RestHighLevelClient createClient() {
        return new RestHighLevelClient(
                RestClient.builder(
                        new org.apache.http.HttpHost("localhost", 9200, "http")));
    }
}

3. 实现日志收集

使用 Logback 和 Logstash 实现日志收集的配置如下：

<appender name="LOGSTASH" class="net.logstash.logback.appender.LogstashTcpAppender">
    <destination>localhost:5000</destination>
    <encoder class="net.logstash.logback.encoder.LogstashEncoder" />
</appender>
 
<root level="info">
    <appender-ref ref="LOGSTASH" />
</root>

4. 配置 Logstash

Logstash 的配置文件logstash.conf示例如下：

input {
    tcp {
        port => 5000
        codec => json_lines
    }
}
 
output {
    elasticsearch {
        hosts => ["http://localhost:9200"]
        index => "java-app-logs-%{+YYYY.MM.dd}"
    }
}

三、中级应用：实现复杂日志处理与监控

1. 日志过滤与增强

在 Logstash 配置中添加过滤器，能够实现对日志的增强处理。以下是一个添加了过滤器的 Logstash 配置示例：

filter {
    if [message] =~ /ERROR/ {
        mutate {
            add_tag => ["error"]
        }
    }
    
    grok {
        match => { "message" => "%{TIMESTAMP_ISO8601:timestamp} %{LOGLEVEL:level} %{GREEDYDATA:message}" }
    }
    
    date {
        match => [ "timestamp", "yyyy-MM-dd HH:mm:ss" ]
    }
}

2. 自定义指标监控

通过 Micrometer 可以将应用指标发送到 Elasticsearch，代码示例如下：

import io.micrometer.core.instrument.MeterRegistry;
import org.springframework.boot.actuate.autoconfigure.metrics.MeterRegistryCustomizer;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
 
@Configuration
public class MetricsConfig {
    @Bean
    MeterRegistryCustomizer<MeterRegistry> metricsCommonTags() {
        return registry -> registry.config().commonTags("application", "my-java-app");
    }
}

四、高级应用：性能优化与集群部署

1. Elasticsearch 集群配置

Elasticsearch 的elasticsearch.yml集群配置示例如下：

cluster.name: my-application
node.name: node-1
network.host: 0.0.0.0
http.port: 9200
discovery.seed_hosts: ["host1", "host2"]
cluster.initial_master_nodes: ["node-1", "node-2"]

2. 性能优化

为了优化 Elasticsearch 的性能，可以进行以下配置调整：

indices.memory.index_buffer_size: 30%
search.max_buckets: 100000
bootstrap.memory_lock: true

3. 安全配置

保障 ELK 安全的配置示例如下：

xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true
xpack.security.transport.ssl.verification_mode: certificate
xpack.security.transport.ssl.keystore.path: elastic-certificates.p12
xpack.security.transport.ssl.truststore.path: elastic-certificates.p12

五、Kibana 可视化

在 Kibana 中创建可视化图表的 DSL 示例：

{
  "aggs": {
    "by_level": {
      "terms": {
        "field": "level.keyword",
        "size": 10
      },
      "aggs": {
        "by_hour": {
          "date_histogram": {
            "field": "@timestamp",
            "calendar_interval": "hour"
          }
        }
      }
    }
  },
  "size": 0
}

六、与 Spring Boot 集成

1. 自动配置

在 Spring Boot 项目中使用 ELK 的自动配置，需要添加以下依赖：

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-elasticsearch</artifactId>
</dependency>

2. 配置文件

application.properties配置示例：

spring.elasticsearch.rest.uris=http://localhost:9200
management.metrics.export.elastic.enabled=true
management.metrics.export.elastic.host=http://localhost:9200

七、故障排查与最佳实践

1. 常见问题

检查 Elasticsearch 日志：/var/log/elasticsearch/
监控集群健康状态：GET /_cluster/health
分析慢查询：GET /_nodes/stats/indices/search

2. 最佳实践

按照时间对索引进行分片，例如按天或按月。
对历史数据进行滚动处理，以节省空间。
为提高查询速度，合理设置字段映射。
定期进行索引优化。

八、总结

通过上述内容，我们全面了解了 ELK 在 Java 应用中的使用方法：

从基础概念出发，认识了 ELK 技术栈的三个核心组件。
学习了在 Java 项目中集成 ELK 的基本步骤。
掌握了中级应用中日志过滤与增强以及自定义指标监控的方法。
了解了高级应用中集群部署、性能优化和安全配置的要点。
学习了 Kibana 可视化的相关知识。
掌握了与 Spring Boot 集成的方法。
了解了故障排查的常见方法和最佳实践。

通过合理运用 ELK 技术栈，可以显著提升 Java 应用的可观测性和运维效率

到此这篇关于Java中集成ELK的使用小结的文章就介绍到这了,更多相关Java集成ELK内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家！

您可能感兴趣的文章:

ELK
Java

java基础之Collection与Collections和Array与Arrays的区别
这篇文章主要介绍了java基础之Collection与Collections和Array与Arrays的区别的相关资料,本文主要说明两者的区别以防大家混淆概念，需要的朋友可以参考下
2017-08-08
java获取手机已安装APK的签名摘要
这篇文章主要介绍了java获取手机已安装APK的签名摘要的相关资料,需要的朋友可以参考下
2016-02-02
Spring Boot 详细分析Conditional自动化配置注解
首先我们先了解一下@Conditional注解，@Conditional是Spring4新提供的注解，它的作用是按照一定的条件进行判断，需要注入的Bean满足给定条件才可以注入到Spring IOC容器中
2022-07-07
详解SpringBoot中的统一功能处理的实现
这篇文章主要为大家详细介绍了SpringBoot如何实现统一功能处理，文中的示例代码讲解详细，对我们学习或工作有一定借鉴价值，需要的可以参考一下
2023-01-01
Java自定义简单标签实例
Java自定义简单标签可以方便的在页面输出信息，并且对于权限的控制，和对于Jsp标签和servlet代码的分离有着很好的作用
2013-07-07
Java和Ceylon对象的构造和验证
这篇文章主要为大家详细介绍了Java和Ceylon对象的构造和验证,具有一定的参考价值，感兴趣的小伙伴们可以参考一下
2016-11-11
Spring Boot 中的任务执行器基本概念及使用方法
务执行器是 Spring Boot 中的一个非常实用的模块，它可以简化异步任务的开发和管理，在本文中，我们介绍了任务执行器的基本概念和使用方法，以及一个完整的示例代码，需要的朋友可以参考下
2023-07-07
MyBatis超详细讲解如何实现分页功能
MyBatis-Plus 是一个 Mybatis 增强版工具，在 MyBatis 上扩充了其他功能没有改变其基本功能，为了简化开发提交效率而存在，本篇文章带用它实现分页功能
2022-03-03
shrio中hashedCredentialsMatcher密码匹配示例详解
shrio是一个轻量级权限管理框架，密码的匹配由框架内部完成。密码是否匹配由接口CredentialsMatcher定义实现类完成，CredentialsMatcher实现类有SimpleCredentialsMatcher和HashedCredentialsMatcher两个
2021-10-10
SpringBoot实现账号登录错误次数的限制和锁定功能
本文介绍了如何使用SpringBoot和Redis实现账号登录错误次数限制和锁定功能,通过自定义注解和AOP切面,结合配置文件灵活设置最大尝试次数和锁定时长,感兴趣的朋友跟随小编一起看看吧
2024-12-12