ELK配置转存redis缓存采集nginx访问日志的操作方法

 更新时间:2024年11月05日 12:17:43   作者:weixin_43819738  
本文介绍了在服务器上部署MySQL及如何启动MySQL服务,并详细说明了如何查找安装软件的日志文件位置,通过使用rpm命令查询MySQL服务的日志文件位置,以及通过编辑Logstash配置文件来添加MySQL日志信息,感兴趣的朋友一起看看吧

在136服务器上部署mysql

 启动mysql服务

可通过以下命令查找安装的软件包

怎么查找安装软件的日志文件位置rpm -qc mysql-server,即可显示mysql.log位置

也可通过查找配置文件中的log关键字来查找log文件日志位置

用awk命令,以=切割,输出第二个字段

rpm -ql 也可查找

编辑logstash配置文件

添加mysql日志信息配置文件

重启logstash配置文件

登录前台查看

只采集nginx日志,配置nginx_logs.conf,修改索引

看到9600端口启动成功,即配置启动成功

搜索索引,选择索引模式,添加新的索引

点击创建索引模式

重新访问nginx服务器生成新的nginx日志文件,即可加载出nginx日志文件

以时间字段作为筛选

此时显示日志配置成功,通过135服务器重新访问136nginx服务,前台显示出访问信息

 添加mysql单独索引日志显示服务

但是不能连续重启nginx和mysql日志加载配置文件,需要将其配置日志文件放在一个文件夹下,进行加载显示,配置logstash.yml文件

在配置的目录下创建配置文件

用以下方式重新启动配置文件

修改文件pipelines.yml内容配置文件目录

 加入该配置文件后,etc目录下会生成以下文件内容

在135服务器上安装redis服务,配置监听为全网监听

 启动redis服务

进入redis,查看redis中的键值

在136上配置用redis缓存技术,将logstash采集的日志存储到redis中

重新加载配置文件在config文件夹下,执行../bin/logstash -f nginx_logs.conf

在135服务器上监控redis

虽然有访问数据,但是没有key,不知道哪里原因,重新单独测试,先写入redis中

停掉135上的elk进程,直接停掉java进程即可pkill java

编辑logstash配置文件nginx_log.conf,vim nginx_log.conf,删除之前的写入els服务模块内容

重新加载配置文件../bin/logstash -f nginx_log.conf

访问nginx测试页面

查看redis服务中的键值,即可看到访问信息

至此测试成功,下次测试同时先转存redis,在转存到els,在前台kibana页面显示出来

到此这篇关于ELK配置转存redis缓存,采集nginx访问日志的文章就介绍到这了,更多相关ELK转存redis缓存内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

相关文章

  • 使用Redis实现记录访问次数的三种方案

    使用Redis实现记录访问次数的三种方案

    这篇文章主要介绍了使用Redis实现记录访问次数的三种方案,文中通过代码示例和图文讲解的非常详细,对大家的学习或工作有一定的帮助,需要的朋友可以参考下
    2024-09-09
  • Deepin UOS编译安装Redis的实现步骤

    Deepin UOS编译安装Redis的实现步骤

    本文主要介绍了Deepin UOS编译安装Redis的实现步骤,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2023-01-01
  • Redis实现每日签到功能(大数据量)

    Redis实现每日签到功能(大数据量)

    在面对百万级用户签到情况下,传统数据库存储和判断会遇到瓶颈,使用Redis的二进制数据类型可实现高效的签到功能,示例代码展示了如何调用这些功能,包括当天签到、补签以及查询签到记录,PHP结合Redis二进制数据类型可有效处理大数据量下的签到问题
    2024-10-10
  • Redis中五种数据类型简单操作

    Redis中五种数据类型简单操作

    这篇文章主要介绍了Redis中五种数据类型简单操作的相关资料,需要的朋友可以参考下
    2017-04-04
  • redis中redisson实现锁自动延时

    redis中redisson实现锁自动延时

    redisson作为分布式锁能够解决分布式的加锁解锁问题,还能够实现锁的设置存活时间以及自动续期,本文主要介绍了redis中redisson实现锁自动延时,感兴趣的可以了解一下
    2024-02-02
  • 深入理解Redis内存回收和内存淘汰机制

    深入理解Redis内存回收和内存淘汰机制

    Redis使用多种过期策略和内存淘汰机制来管理内存,本文主要介绍了深入理解Redis内存回收和内存淘汰机制, 具有一定的参考价值,感兴趣的可以了解一下
    2024-06-06
  • 关于Redis的读写一致问题

    关于Redis的读写一致问题

    在项目使用Redis过程中,当数据更新时,我们要保证缓存和数据库的一致性,否则会导致很多脏数据出现,此时我们就要思考如何去进行数据更新,本文就给大家讲讲关于redis的读写一致问题,需要的朋友可以参考下
    2023-08-08
  • Redis缓存异常常用解决方案总结

    Redis缓存异常常用解决方案总结

    Redis缓存异常问题分别是缓存雪崩,缓存预热,缓存穿透,缓存降级,缓存击穿,本文主要介绍了Redis缓存异常常用解决方案总结,具有一定的参考价值,感兴趣的可以了解一下
    2023-12-12
  • Redis中的数据结构跳表详解

    Redis中的数据结构跳表详解

    跳表是一种基于并联的链表结构,用于在有序元素序列中快速查找元素的数据结构,本文给大家介绍Redis中的数据结构跳表,感兴趣的朋友跟随小编一起看看吧
    2024-06-06
  • Redisson分布式限流器RRateLimiter的使用及原理小结

    Redisson分布式限流器RRateLimiter的使用及原理小结

    本文主要介绍了Redisson分布式限流器RRateLimiter的使用及原理小结,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2024-06-06

最新评论