ELK配置转存redis缓存,采集nginx访问日志

时间:2024-11-01 11:20:23

在136服务器上部署mysql

 启动mysql服务

可通过以下命令查找安装的软件包

怎么查找安装软件的日志文件位置rpm -qc mysql-server,即可显示mysql.log位置

也可通过查找配置文件中的log关键字来查找log文件日志位置

用awk命令,以=切割,输出第二个字段

rpm -ql 也可查找

编辑logstash配置文件

添加mysql日志信息配置文件

重启logstash配置文件

登录前台查看

只采集nginx日志,配置nginx_logs.conf,修改索引

看到9600端口启动成功,即配置启动成功

搜索索引,选择索引模式,添加新的索引

点击创建索引模式

重新访问nginx服务器生成新的nginx日志文件,即可加载出nginx日志文件

以时间字段作为筛选

此时显示日志配置成功,通过135服务器重新访问136nginx服务,前台显示出访问信息

 添加mysql单独索引日志显示服务

但是不能连续重启nginx和mysql日志加载配置文件,需要将其配置日志文件放在一个文件夹下,进行加载显示,配置logstash.yml文件

在配置的目录下创建配置文件

用以下方式重新启动配置文件

修改文件pipelines.yml内容配置文件目录

 加入该配置文件后,etc目录下会生成以下文件内容

在135服务器上安装redis服务,配置监听为全网监听

 启动redis服务

进入redis,查看redis中的键值

在136上配置用redis缓存技术,将logstash采集的日志存储到redis中

重新加载配置文件在config文件夹下,执行../bin/logstash -f nginx_logs.conf

在135服务器上监控redis

虽然有访问数据,但是没有key,不知道哪里原因,重新单独测试,先写入redis中

停掉135上的elk进程,直接停掉java进程即可pkill java

编辑logstash配置文件nginx_log.conf,vim nginx_log.conf,删除之前的写入els服务模块内容

重新加载配置文件../bin/logstash -f nginx_log.conf

访问nginx测试页面

查看redis服务中的键值,即可看到访问信息

至此测试成功,下次测试同时先转存redis,在转存到els,在前台kibana页面显示出来