MySQL监控-Datadog数据库监控调研

阿里云官方镜像站:MySQ镜像源

https://developer.aliyun.com/...

前言

MySQL是最流行的数据库之一,在大多系统的后端的存储都有MySQL的身影,MySQL运行的是否健康,直接影响着整个系统的运行,数据库的瓶颈往往也是整个系统的瓶颈,其重要性不言而喻,所以对于MySQL的监控必不可少,及时发现MySQL运行中的异常,可以有效提高系统的可用性和用户体验。
本文主要介绍下MySQL如何做监控,以及对Datadog的Database Monitoring的一些简单调研。

监控类型

Google提出在系统监控中的黄金指标,分别是Latency,Traffic,Saturation,Errors,MySQL一般作为资源类服务系统出现,在MySQL监控中也可以以这些指标为指引来进行指标收集和监控。

黄金指标

  • Latency延迟:比如MySQL中的查询的延迟,一条Select语句的延迟可能会直接影响用户体验,监控SQL语句的平均延迟,P99延迟可以提早发现对系统的影响。
  • Traffic:在MySQL中,查询的QPS是吞吐量的一种指标,比如MySQL服务器每秒可以支持多少查询,多少更新,吞吐量的指标也会影响到用户体验。
  • Saturation饱和度:饱和度是指系统的资源被消耗殆尽的程度,比如在MySQL最大连接数为300,当前连接数已经达到240的情况可能需要引起注意,因为可能在不久的将来会将连接数打满,导致新的连接进不来,影响上层服务的可用性。
  • Errors错误:MySQL中的Aborted_clients和Aborted_connects的增加往往意味了使用方在使用的时候出现了一些错误,需要引起注意,比如客户端在退出时没有调用mysql_close会导致Aborted_clients指标的增加,所以监控这个指标对于问题的排查很有帮助。

    MySQL关键指标类型

    黄金指标对于指标的监控有很大的指导意义,但是选取哪些指标,也是值得考量的,这里借用Datadog的一篇MySQL监控文章来描述MySQL监控中的关键指标。从性能和资源使用角度大致分为4类:

• Query throuput:查询吞吐量,主要包括查询的QPS和更新QPS,用来表示延迟。

• Query performance: 查询性能,主要包括查询的消耗的平均时间,查询错误指标,慢查询数量,分别包含吞吐量和错误。

• Connections: 连接,主要包括当前打开连接数和运行连接数表示饱和度。错误连接数用来表示错误。

• Buffer pool usage: 缓冲池使用情况,innodb_buffer_pool_reads表示InnoDB缓冲池无法满足的请求数,计算出的缓冲池中的页面使用数量使用率可以用表示资源的饱和度。

MySQL监控流程

MySQL的监控跟其他系统的监控类似,一般会包含指标日志类的数据收集,指标的可视化展示,指标告警,问题的排查等流程。

指标收集

MySQL的指标类型有很多,可以通过两种方式获取

• 服务内部状态/内部变量:一般通过show status或者show variable来获取,表示全局的一些指标。

• peformance shema和sys schema,提供了更加底层的运行时的详细的指标信息。

可视化展示

通过Agent将指标数据采集到后端存储中,然后进行可视化展示,可视化仪表盘会将指标的历史值和当前值绘制成曲线,便于查看指标的变化,指标如果有明显的变化,从图表中可以明显的看出来,对于排查问题有一定的参考意义。

指标异常告警

在某个指标出现异常时,可以配置相应的告警,告警监控可以使用阈值设定或者AI算法来自动识别指标的异常,产生的告警可以分不同的严重等级,不同的等级可以配置不同的通知渠道,比如严重度低的发邮件提醒既可以,对于高严重度的指标异常,配置电话通知。
通过仪表盘或者告警,可以找到哪个指标出现了异常,然后根据不同的指标进行不同的排查方式,比如连接数超过最大连接数报警,可以调大数据库的最大连接数或者减少客户端的连接数。对于更复杂的场景,可能需要借助问题发生时其他的日志或者指标进行根因分析。

接下来以Datadog的数据库监控为例,来调研Datadog是如何做数据库监控的,文中图片来自Datadog官网。

Datadog 数据库监控

指标采集

Agent端采集

Datadog的指标采集是通过安装Agent来采集,Agent可以部署在自建机器或者云服务器上,可以连接到服务器即可。

指标数据

通过安装Datadog Agent到数据库所在服务器或者能连接到数据的服务器上,然后创建一个datadog用户,并且给datadog赋予一定的权限如REPLICATION CLIENT,PROCESS和SELECT ON performance_schema.*的权限。Datadog为了收集explain plan还会创建几个存储过程explain_statement,enable_events_statements_consumers。

日志数据

Datadog Agent支持采集MySQL服务器端General日志、错误日志、慢日志等,当然前提是MySQL服务端开启这些日志存储。

仪表盘

总体指标

MySQL总览,主要展示了收集的MySQL指标的整体态势。
MySQL监控-Datadog数据库监控调研_第1张图片

Query Metrics

主要用来展示标准化查询(normalized query)的历史性能指标,可以按照查询数,平均延迟,消耗总时间,返回行数进行排序。
MySQL监控-Datadog数据库监控调研_第2张图片
同时也可以根据标签或聚合维度来展示消耗了最多查询时间的Top查询和延迟。根据不同的维度来分组展示每个组的查询数,平均延迟,消耗总时间。
MySQL监控-Datadog数据库监控调研_第3张图片

Query Details

在Query Metrics页面搜索特定的query,可以查看其Query Detail页面,在其中可以查看语句的平均延迟和查询总时间,同时页面还会展示查询关联的Datadog中标签,
MySQL监控-Datadog数据库监控调研_第4张图片

查询页面除了延迟和消耗时间等,还会展示执行计划,时序和执行这条查询的主机分布。

• 执行计划页面,会展示不同的执行计划及其延迟和平均消耗。
MySQL监控-Datadog数据库监控调研_第5张图片

• 性能指标页面,展示了一些常见指标的性能历史。
MySQL监控-Datadog数据库监控调研_第6张图片

• 执行查询的主机分布页面,会展示执行当前查询的主机分布,通过菜单可以链接到主机的相关页面,这对于排查问题比较方便,比如某个主机上的查询延迟非常高,可以直接跳转到改主机的相关仪表盘页面进行查看。
MySQL监控-Datadog数据库监控调研_第7张图片

Query Samples

主要包含采样查询的性能数据,延迟,消耗和执行计划,同时也支持按照Table来展示Top消耗的查询语句。
MySQL监控-Datadog数据库监控调研_第8张图片

告警

Datadog提供了对于指标的监控告警,主要支持五种监控类型,包括:

• Thresold Alert:阈值监控。

• Change Alert: 事件变更监控。

• Anomaly Dectection:异常检测,使用机器学习算法来判断指标的异常。

• Outlier Alert:离群点检测告警。

• Forecast Alert:预测告警。
MySQL监控-Datadog数据库监控调研_第9张图片

总结

本文首先介绍了数据库监控的关键指标和MySQL监控的一般流程主要包括指标收集,可视化展示,指标异常告警。然后通过对Datadog的数据库监控产品做介绍,除了常规的总体指标展示,Datadog的数据库监控还提供了Query相关的指标,分别包括Query Metrics,Query Detail和Query Samples,从查询的角度进行监控和分析统计,除了Query级别的指标展示,还包括对执行计划的展示,同时也支持从仪表盘Drill down到主机级别查看资源指标,通过这些仪表盘可以比较方便的看出指标的异常。

本文转自:https://developer.aliyun.com/...

你可能感兴趣的