ELK 构建 MySQL 慢日志收集平台本文讲解如何通过一套开源日志存储和检索系统 ELK 构建 MySQL 慢日志收集及分析平台 。
ELK、EFK 简介
想必你对 ELK、EFK 都不陌生 , 它们有一个共同的组件:Elasticsearch(简称ES),它是一个实时的全文搜索和分析引擎 , 可以提供日志数据的收集、分析、存储 3 大功能 。另外一个组件 Kibana 是这套检索系统中的 Web 图形化界面系统,可视化展示在 Elasticsearch 的日志数据和结果 。
ELF/EFK 工具集中还有 l 和 F 这两个名称的缩写,这两个缩写代表的工具根据不同的架构和使用方式而定 。
L 通常是 Logstash 组件 , 它是一个用来搜集、分析、过滤日志的工具。
F 代表 Beats 工具(它是一个轻量级的日志采集器),Beats 家族有 6 个成员,Filebeat 工具,它是一个用于在客户端收集日志的轻量级管理工具 。
F 也可以代表工具 fluentd , 它是这套架构里面常用的日志收集、处理转发的工具 。
那么它们(Logstash VS Beats VS fluentd)有什么样的区别呢?Beats 里面是一个工具集,其中包含了 Filebeat 这样一个针对性的日志收集工具 。Logstash 除了做日志的收集以外,还可以提供分析和过滤功能,所以它的功能会更加的强大 。
Beats 和 fluentd 有一个共同的特点,就是轻量级 , 没有 Logstash 功能全面 。但如果比较注重日志收集性能,Beats 里面的 Filebeat 和 fluentd 这两个工具会更有优势 。
Kafka 是 ELK 和 EFK 里面一个附加的关键组件(缩写 K),它主要是在支持高并发的日志收集系统里面提供分布式的消息队列服务 。
ELK 的优势
在此之前,先介绍 ELK 日志分析会有一些什么样的优势?主要有 3 点:
1、它是一套开源、完整的日志检索分析系统 , 包含收集、存储、分析、检索工具 。我们不需要去开发一些额外的组件去完成这套功能,因为它默认的开源方式就提供了一整套组件,只要组合起来 , 就可以完成从日志收集、检索、存储、到整个展示的完整解决方案了 。
2、支持可视化的数据浏览 。运维人员只要在控制台里选择想关注的某一段时间内的数据,就可以查看相应的报表 , 非常快捷和方便 。
3、它能广泛的支持一些架构平台,比如我们现在讲到的 K8s 或者是云原生的微服务架构 。
Kafka 作为日志消息队列,客户端通过 Filebeat 收集数据(日志)后将其先存入 Kafka,然后由 Logstash 提取并消费,这套架构的好处是:当我们有海量日志同步情况下,直接存入服务端 ES 很难直接应承接海量流量,所以 Kafka 会进行临时性的存取和缓冲,再由 Logstash 进行提取、过滤,通过 Logstash 以后 , 再把满足条件的日志数据存入 ES 。
ES 不再是以单实例的方部署,而是采用集群架构,考虑 Kafka 的集群模式,Logstash 也使用集群模式 。
我们会看到这套架构稍微庞大,大中型的企业往往存储海量数据(上百 T 或 P 级)运维日志、或者是系统日志、业务日志 。
完成ELK服务搭建后,首先我需要开启的是 MySQL 的慢查询配置 , 那么通过 set global slow_query_log=‘ON‘,这样就可以开启慢查询日志 , 还需要设置好慢查询日志标准是大于 1 秒的,那么同样是 set global long_query_time 大于或等于 1 , 它的意思是大于 1 秒的查询语句,才会认为是慢查询,并且做日志的记录 。
那么另外还要设置慢查询日志的位置,通过 set global slow_query_log = 日志文件路径,这里设置到filebeat配置监听的路径下,就完成了慢查询日志的路径设置 。
配置完成以后,需要在 MySQL 终端上,模拟执行一条执行时间较长的语句,比如执行 select sleep(5),这样就会模拟执行一条查询语句,并且会让它休眠 5 秒 。接下来我们看到服务端窗口的 MySQL 这条 sleep 语句已经执行完毕了 , 同时我们可以再打开 filebeat 的推送窗口,发现这里产生了一条推送日志,表示成功地把这条日志推送给了 ES 。
那么接下来我们就可以通过浏览器打开 Kibana 的管理后台,从界面里来看一看检索日志的记录和一些可视化展示的图表,我们可以点击界面上的 Discover 按钮,同时选择好对应的时间周期 , 然后可以增加一个 filter 过滤器,过滤器里面敲入对应的关键字来进行索引 。
这里我敲入的是 slow.query 这个关键字 , 就会匹配出对应的可以检索的项目,点击想要查询的对应项目,展示出想检索的某一个时间周期内对应的一些日志记录,以及它的图表是什么样子的 , 同时在下方会有对应的 MySQL 的日志信息打印出来,通过 Kibana 这样的可视化界面就能够看到的相关信息了 。
如何查找MySQL中查询慢的SQL语句一、MySQL数据库有几个配置选项可以帮助我们及时捕获低效SQL语句
1,slow_query_log
这个参数设置为ON,可以捕获执行时间超过一定数值的SQL语句 。
2,long_query_time
当SQL语句执行时间超过此数值时,就会被记录到日志中,建议设置为1或者更短 。
3 , slow_query_log_file
记录日志的文件名 。
4,log_queries_not_using_indexes
这个参数设置为ON,可以捕获到所有未使用索引的SQL语句,尽管这个SQL语句有可能执行得挺快 。
二、检测mysql中sql语句的效率的方法
1、通过查询日志
(1)、Windows下开启MySQL慢查询
MySQL在Windows系统中的配置文件一般是是my.ini找到[mysqld]下面加上
代码如下
log-slow-queries = F:/MySQL/log/mysqlslowquery 。log
long_query_time = 2
(2)、Linux下启用MySQL慢查询
MySQL在Windows系统中的配置文件一般是是my.cnf找到[mysqld]下面加上
代码如下
log-slow-queries=/data/mysqldata/slowquery 。log
long_query_time=2
mysql的慢查询日志怎么处理MySQL的慢查询日志是MySQL提供的一种日志记录mysql怎么获得慢日志,它用来记录在MySQL中响应时间超过阀值的语句mysql怎么获得慢日志,具体指运行时间超过long_query_time值的SQLmysql怎么获得慢日志 , 则会被记录到慢查询日志中 。
long_query_time的默认值为10,意思是运行10S以上的语句 。默认情况下,Mysql数据库并不启动慢查询日志,需要mysql怎么获得慢日志我们手动来设置这个参数 , 当然,如果不是调优需要的话 , 一般不建议启动该参数,因为开启慢查询日志会或多或少带来一定的性能影响 。慢查询日志支持将日志记录写入文件 , 也支持将日志记录写入数据库表 。
【mysql怎么获得慢日志 mysql的慢日志】关于mysql怎么获得慢日志和mysql的慢日志的介绍到此就结束了,不知道你从中找到你需要的信息了吗 ?如果你还想了解更多这方面的信息,记得收藏关注本站 。
推荐阅读
- 华为鸿蒙手机第一批,华为鸿蒙系统第一批手机
- 小程序播放短视频卡顿,小程序视频播放不了怎么办
- linux系统命令移动,linux 移动指令
- oracle删除某条数据,oracle删除一条数据的sql语句
- java登录系统代码 java编写登录系统
- mongodb查看命令,mongodb查询命令
- 恋爱养成类小游戏经营免费,恋爱养成游戏 手机游戏
- 外星人电脑红外怎么关,外星人电脑红外怎么关闭摄像头
- c语言调用函数的方式 c 语言函数调用的方法