mtail基本使用方法及问题

已于 2025-07-31 16:58:02 修改
阅读量507 收藏 10
点赞数 13
CC 4.0 BY-SA版权
文章标签： 运维 全文检索 golang
于 2025-07-25 15:22:22 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_45409343/article/details/149639865

求救！！！！有没有大佬能解决我下面的问题的！！！

1.概述

​ mtail 是用于从应用程序日志中提取指标以导出到时间序列数据库或时间序列计算器以进行警报和仪表板显示的工具。简单来说，就是实时读取应用程序的日志，并且通过自己编写的脚本实时分析，最终生成时间序列指标的工具。

开源仓库地址：mtail

2、参数详解

Usage:
 -address string # 绑定HTTP监听器的主机或者IP地址
 -alsologtostderr # 记录标准错误和文件
 -block_profile_rate int # 报告goroutine阻塞事件之前的阻塞时间的纳秒数。0表示关闭。
 -collectd_prefix string # 发送给collectd的指标前缀
 -collectd_socketpath string # collectd socket路径，用于向其写入metrics
 -compile_only # 仅禅师编译mtail脚本程序，不执行
 -disable_fsnotify # 是否禁用文件动态发现机制。为true时，不会监听动态加载发现的新文件，只会监听程序启动时的文件。
 -dump_ast # 解析后dump程序的AST（默认到/tmp/mtail.INFO）
 -dump_ast_types # 在类型检查之后dump带有类型注释的程序的AST（默认到/tmp/mtail.INFO）
 -dump_bytecode # dump程序字节码
 -emit_metric_timestamp # 发出metric的记录时间戳。如果禁用（默认设置），则不会向收集器发送显式时间戳。
 -emit_prog_label # 在导出的变量里面展示prog对应的标签。默认为true
 -expired_metrics_gc_interval duration # metric的垃圾收集器运行间隔（默认为1h0m0s）
 -graphite_host_port string # graphite carbon服务器地址，格式Host:port。用于向graphite carbon服务器写入metrics
 -graphite_prefix string # 发送给graphite指标的metrics前缀
 -http_debugging_endpoint # 是否开启调式接口（/debug/*），默认开启
 -http_info_endpoint # 是否开始info接口(/progz,/varz)，默认开启
 -ignore_filename_regex_pattern string # 需要忽略的日志文件名字，支持正则表达式。使用场景：当-logs参数指定的为一个目录时，可以使用ignore_filename_regex_pattern 参数来忽略一部分文件
 -jaeger_endpoint string # 如果设为true，可以将跟踪导出到Jaeger跟踪收集器。使用–jaeger_endpoint标志指定Jaeger端点URL
 -log_backtrace_at value # 当日志记录命中设置的行N时，发出堆栈跟踪
 -log_dir string # mtail程序的日志文件的目录，与logtostderr作用类似，如果同时配置了logtostderr参数，则log_dir参数无效
 -logs value # 监控的日志文件列表，可以使用,分隔多个文件，也可以多次使用-logs参数，也可以指定一个文件目录，支持通配符*，指定文件目录时需要对目录使用单引号。
 -logtostderr # 直接输出标准错误信息，编译问题也直接输出
 -max_recursion_depth int # 以解析的标记来衡量mtail语句的最大长度。过长的mtail表达式可能会导致编译和运行时的性能问题。(默认为100)
 -max_regexp_length int # 一个mtail regexp表达式的最大长度。过长的模式可能会导致编译和运行时的性能问题。(默认为1024)
 -metric_push_interval duration # metric推送时间间隔，单位：秒，默认60秒
 -metric_push_interval_seconds int # 弃用，用--metric_push_interval代替
 -metric_push_write_deadline duration # 在出现错误退出之前等待推送成功的时间。（默认10s）
 -mtailDebug int # 设置解析器debug级别
 -mutex_profile_fraction int # 报告的互斥争夺事件的比例。 0将关闭
 -one_shot # 此参数将编译并运行mtail程序，然后从指定的文件开头开始读取日志（从头开始读取日志，不是实时tail），然后将收集的所有metrics打印到日志中。此参数用于验证mtail程序是否有预期输出，不用于生产环境。
 -one_shot_format string # 与-one_shot一起使用的格式。这只是一个调试标志，不适合生产使用。支持的格式： json, prometheus. (默认为 "json")
 -override_timezone string # 设置时区，如果使用此参数，将在时间戳转换中使用指定的时区来替代UTC
 -poll_interval duration # 设置轮询所有日志文件以获取数据的间隔；必须为正，如果为零将禁用轮询。使用轮询模式，将仅轮询在mtail启动时找到的文件
 -poll_log_interval duration # 设置找到所有匹配的日志文件进行轮询的时间间隔；必须是正数，或者是0来禁用轮询。 在轮询模式下，只有在mtail启动时发现的文件会被轮询。(默认250ms)
 -port string # 监听的http端口，默认3903
 -progs string # mtail脚本程序所在路径
 -stale_log_gc_interval duration # stale的垃圾收集器运行间隔（默认为1h0m0s）
 -statsd_hostport string # statsd地址，格式Host:port。用于向statsd写入metrics
 -statsd_prefix string # 发送给statsd指标的metrics前缀
 -stderrthreshold value # 严重性级别达到阈值以上的日志信息除了写入日志文件以外，还要输出到stderr。各严重性级别对应的数值：INFO—0，WARNING—1，ERROR—2，FATAL—3，默认值为2.
 -syslog_use_current_year # 如果时间戳没有年份，则用当前年替代。（默认为true）
 -trace_sample_period int # 用于设置跟踪的采样频率和发送到收集器的频率。将其设置为100，则100条收集一条追踪。
 -unix_socket string # socket监控地址
 -v value # v日志的日志级别，该设置可能被 vmodule标志给覆盖.默认为0.
 -version # 打印mtail版本
 -vm_logs_runtime_errors # 启用运行时错误的记录到标准日志。 如果设置为false，则只将错误打印到HTTP控制台。(默认为true)
 -vmodule value # 按文件或模块来设置日志级别，如：-vmodule=mapreduce=2,file=1,gfs*=3

3.mtail脚本语法

标准格式为：

COND {
  ACTION
}

其中COND是一个条件表达式。它可以是正则表达式，也可以boolean类型的条件语句。如下：

/foo/ {
  ACTION1
}

variable > 0 {
  ACTION2
}

/foo/ && variable > 0 {
  ACTION3
}

COND表达式可用的运算符如下：

  • 关系运算符：

< , <= , > , >= , == , != , =~ , !~ , || , && , !

  • 算术运算符：

| , & , ^ , + , - , * , /, << , >> , **

  • 导出的指标变量可用的运算符如下：

= , += , ++ , –

4、mtail支持的数据类型（对应prometheus中的指标类型）

counter 单调递增的指标，只增不减

gauge 可以任意变化的指标，可增可减

histogram 数据直方图

5、一些参数与内置变量

修改导出指标名称因为默认指标只支持C类型名称，就是不支持下划线，可通过别名的形式导出

# 原名称：lines_total，变更后导出名称：lines-total
counter lines_total as "lines-total"

导出指标tag新增

# 这里为gauge类型的指标err_count新增两个tag（date、level）
gauge err_count by date, level
/.*/ {
    err_count["date", "level"] # 在一个中括号也行，分开也可以
}

命名提取

# level就是变量名
# 原始日志：
# 2025-07-25 11:32:56.168  WARN 13623 --- [http-nio-9208-exec-225] c.a.druid.pool.DruidAbstractDataSource   : discard long time none received connection. , jdbcUrl
/(?P<level>[A-Z]{4,5})/ {
  counts[$level] += 1
}

删除指标**（感觉没啥用，不清楚是不是用错了）**
PS：有用！！！会自动清理指标

/.*/ {
  err_conut++
  del err_conut after 1h  # 按照官方文档的意思是一小时后清理指标，但是我这里不会清理，不清楚原因，可能是我一直有数据进入？
}

限制指标大小**（同样感觉完全没用）**

counter bytes_total by operation limit 500
# 按照官方文档，当大小限制超过其大小限制的变量时，它将删除最旧的值，直到整个指标再次低于其限制。最旧的值由基准的时间戳选择。
# 同样完全没用

可复用常量

​ 与标准正则一样，小括号()内的内容可以使用$1,$2等方式获取到，mtail脚本中此处MATCH_IP 中使用的?P<ip>则用来代替$1, 2 等，可以直接使用 2等，可以直接使用 2等，可以直接使用ip来获取匹配到的内容.

const IP /\d+(\.\d+){3}/
const MATCH_IP /(?P<ip>/ + IP + /)/
...
# Duplicate lease
/uid lease / + MATCH_IP + / for client .* is duplicate on / {
    duplicate_lease++
}

内置参数 getfilename()

用于获取目录名称

# test.mtail
gauge conuts by files

/.*/ {
  conuts[getfilename()]++
}

# 输出
# HELP conuts defined at tt.mtail:1:7-15
# TYPE conuts gauge
conuts{files="/usr/local/nginx/logs/111/test.log",prog="tt.mtail"} 6

其它内置函数感觉没啥用

6、使用范例

范例日志

2025-07-25 12:18:05.782  INFO 16656 --- [http-nio-9221-exec-1279] c.a.druid.pool.utils.http.HttpClientUtil   : XXXXXXXXXXXXXXXXXXXXXXXXXXXXX
2025-07-25 00:00:00.032  WARN 16656 --- [http-nio-9221-exec-428] c.a.druid.pool.DruidAbstractDataSource   : XXXXXXXXXXXXXXXXXXXXXXXXXXXXX
2025-07-25 00:00:00.190 ERROR 16656 --- [http-nio-9221-exec-441] c.a.druid.pool.JdVopServiceAbstractImpl  : 获取结果异常， ResultJson={XXXXXXXXXXXXXXXXXXXXXX}

mtail文件

/^/ +
/(?P<date>\d{4}-\d{2}-\d{2} )/ +
/(?P<time>\d{2}:\d{2}:\d{2}\.\d{3})( *)/ +
/(?P<level>[A-Z]{4,5}) / +
/(?P<pid>[0-9]{1,5}) / +
/(-*) / +
/(?P<xx>\[.*\]) / +
/(?P<exception>.*:) / +
/(?P<msg>\S+).*/ +
/$/
# 这一部分为将日志完全通过通配符拆分解析


counter err_conut by datetime, errStatus

/^/ +
/(?P<date>\d{4}-\d{2}-\d{2} )/ +
/(?P<time>\d{2}:\d{2}:\d{2}\.\d{3})( *)/ +
/(?P<level>[A-Z]{4,5}) / +
/(?P<pid>[0-9]{1,5}) / +
/(-*) / +
/(?P<xx>\[.*\]) / +
/(?P<exception>.*:) / +
/(?P<msg>\S+).*/ +
/$/ {
  strptime($date, "2006-01-02 ")
  err_conut[$date][$level]++
  del err_conut[$date][$level] after 1h
}

执行命令

# -logs 指定日志文件
# -progs 指定mtail文件路径
# -one_shot 从文件开头读取
# -one_shot_format prometheus  指定输出格式
# -port 指定端口
./mtail -logs './123.log' -progs  ./ -one_shot -one_shot_format prometheus -port 5566

输出结果

# HELP err_conut defined at items-test.mtail:1:9-17
# TYPE err_conut counter
err_conut{datetime="2025-07-25 ",errStatus="ERROR",prog="items-test.mtail"} 1
err_conut{datetime="2025-07-25 ",errStatus="INFO",prog="items-test.mtail"} 1
err_conut{datetime="2025-07-25 ",errStatus="WARN",prog="items-test.mtail"}

7、未解决问题

1、**【已解决】**通过getfilename()获取的目录没法进行分割

​ 原本想法是通过getfilename()函数获取整体路径，例如：/usr/local/nginx/logs/111/test.log，然后通过切割等方式分离出test.log等作为prometheus的tag使用，但是完全不行。

​ 解决方案：
​ 通过修改源码后新增getsvcname(x)函数，该函数通过对文件完成路径的分割来获取具体的服务名称，X为分割索引。

二次编译版本：https://download.csdn.net/download/weixin_45409343/91555774?spm=1001.2014.3001.5503

2、通过解析日志获取日期（不要精确到分秒的那种）

参考日志：

# 需要获取2025-07-25作为tag使用
2025-07-25 12:18:05.782  INFO 16656 --- [http-nio-9221-exec-1279] c.a.druid.pool.utils.http.HttpClientUtil

参考配置文件：

counter err_conut by datetime

/^(?P<date>\d{4}-\d{2}-\d{2}).*/ {
	err_conut[$date]++
}

结局：

​ mtail会自动将"2025-07-25"这玩意儿识别成数字，然后转换失败。

I0725 14:48:48.126296   20475 vm.go:109] Set logging verbosity higher (-v1 or more) to see full VM state dump.
I0725 14:48:48.126315   20475 vm.go:107] tt.mtail: Runtime error: strconv.ParseInt: parsing "2025-07-25": invalid syntax
Error occurred at instruction 23 {s2i, <nil>}, originating in tt.mtail at line 19
Full input text from "/usr/local/nginx/logs/111/test.log" was "2025-07-25 12:18:05.937  INFO 16656 --- [http-nio-9221-exec-1279] c.l.t.api.jd.utils.http.HttpClientUtil"
Biu_diudiu
关注
【FISCO BCOS】十九、区块链浏览器部署
naihe_fish的博客
11-12 2300
如果是手动修改的话，我们直接找到自己想修改的地方即可，我们通常要配置好数据库，这里直接使用root用户，实际环境中，不建议采用root用户部署。区块链浏览器中的合约配置功能较少，因此可以在节点前置进行合约操作，这里略过，选择直接在终端控制台进行HelloWorld合约测试。此时发现区块链浏览器中的交易记录上传了相应的交易记录，这就是区块链浏览器的大致使用流程，更多细节我们一起研究~部署成功后并进入区块链浏览器时，会要求我们新增一个群组，我们可以快速构建一个单机四节点进行测试。发现节点id一致，添加正确。
Prometheus+Grafana（Kubernetes）企业级监控
04-06
本套课程由浅入深地对Prometheus进行了全方位的介绍，内容通俗易懂，理论与实践相结合。首先从监控体系讲起，介绍了关于监控的各种经典理论和方法。然后循序渐进地介绍了Prometheus的各个功能组件和配置方法，包括监控主机和容器、服务发现、警报管理，以及Kubernetes和运行其上的应用程序的监控。后面讲解了kube-prometheus的详细用法。主要讲解prometheus、alertmanager的以下几个方面： 1. Prometheus服务器部署及PromQL的查询及使用案例 2. Alertmanager的使用详解 3. 常见的日志告警，如邮件、钉钉、微信等 4. 在kubernetes中监控的手工部署、应用监控。 5. kube-prometheus在Kubernetes的应用，对k8s的各个组件的监控、告警、和对部署在k8s中应用的监控。注意：本课程学习需要具有一定的Linux基础，网络基础，至少需要您了解网络七层协议，路由等基础知识，并掌握Docker和k8s相关知识点。
mtail详解
热门推荐
凶猛的小蜜蜂
04-20 1万+
文章目录1.概述2.参数详解3.安装启动4.mtail脚本语法 1.概述 mtail 是用于从应用程序日志中提取指标以导出到时间序列数据库或时间序列计算器以进行警报和仪表板显示的工具。简单来说，就是实时读取应用程序的日志，并且通过自己编写的脚本实时分析，最终生成时间序列指标的工具。 官网地址：https://github.com/google/mtail 下载地址：https://github.c...
Google/mtail监控工具与其他系统的集成实践指南
最新发布
gitblog_00356的博客
06-10 392
Google/mtail监控工具与其他系统的集成实践指南 前言 在现代化的监控体系中，Google/mtail扮演着独特的角色——它专门负责从应用程序日志中提取指标数据。本文将深入探讨mtail如何与各类监控组件协同工作，构建完整的监控解决方案。 一、指标导出与收集机制 1.1 主动推送模式 mtail支持向以下时序数据库主动推送指标： Collectd：轻量级系统统计收集器 Graphite：...
mtail 部署介绍
Less Is More
12-15 1348
mtail 部署说明
mtail语法详解
weixin_44533365的博客
11-24 965
mtail是谷歌研发的一款，从应用程序的日志中提取指标到时序库的工具。由于最近要用到夜莺categraf采集器的mtail插件，碍于网络上mtail的资料比较少，所以专门记录一下mtail的语法。
prometheus matil 日志监控错误信息，实现日志报错监控及告警
weixin_47980221的博客
02-05 1391
1、部署Prometheus 2、Mtail 日志监控 简介 mtail日志处理器是由Google的SRE人员编写的，其采用Apache 2.0许可证，并且使用Go语言。mtail日志处理器专门用于从应用程序日志中提取要导出到时间序列数据库中的指标　Mtail的工作原理基于用户定义的正则表达式。用户可以编写自定义的规则，根据这些规则，mtail从日志文件中提取关键信息，并生成指标。这些指...
Go-mtail工具：从应用日志提取指标至时间序列数据库
所以对于使用Go-mtail的用户来说，基本的Go语言知识是必不可少的。同时，由于Go-mtail涉及到日志解析，因此对正则表达式和文本处理的理解也是用户需要具备的技能。另外，因为涉及到时间序列数据库的使用，所以用户还...
AIX环境下multitail工具的编译与使用方法
用户可以自行在网上搜索multitail的使用方法，包括基本的命令行参数、如何配置和使用multitail.conf、如何结合过滤器等功能进行高效的日志分析。掌握这些知识将有助于用户最大化multitail的功能，快速解决各种日志...
Android Fragment
zenmela2011的专栏
12-10 336
fragment，简称碎片，是Android 3.0（API 11）提出的，为了兼容低版本，support-v4库中也开发了一套Fragment API，最低兼容Android 1.6。 过去support-v4库是一个jar包，24.2.0版本开始，将support-v4库模块化为多个jar包，包含：support-fragment, support-ui, support-media-compat等，这么做是为了减少APK包大小，你需要用哪个模块就引入哪个模块。 如果想引入整个support-v4库
小型电动直升机控制与识别实验台研究
直升机的动力学模型由Istec=−×(I)+Mmain+Mgyro+Mtail描述，其中I代表转动惯量矩阵，Mmain、Mgyro和Mtail分别表示主旋翼、陀螺仪和尾桨产生的力矩。这些方程式揭示了直升机运动的基本物理规律，为控制策略的制定...
mtail 监控日志
qq_60271706的博客
10-17 557
日志解析：mtail能够读取应用程序的日志文件，并通过用户定义的正则表达式和规则来解析日志内容，提取出关键信息。指标生成：基于解析出的日志内容，mtail可以生成各种监控指标，如计数器、直方图等，这些指标能够实时反映系统的状态和性能。数据导出：mtail支持将生成的监控指标以多种格式导出，包括HTTP上的JSON/Prometheus接口，以及collectd、StatsD和Graphite等协议的直接推送，方便与其他监控系统集成。
mtail使用
为了忘却的专栏
03-20 627
json.Decoder缓存整个JSON数据到内存，然后才解析成GO值。因此在从io.Reader流读取数据时，或者是从多个流数据解析值时，建议使用json.Decoder.在内存中已经存在json数据时，使用json.Unmarshal.因此在http请求时，使用json.Decoder，因为明显是在读取流数据(stream)pull基础采集 localhost:3903/json。Description="mtail:安全日志采集"获取mtail采集数据，有两种方式。
【云原生•监控】mtail轻量日志监控系统
god_86的专栏
05-31 1412
【云原生•监控】mtail轻量日志监控系统前言「笔者已经在公有云上搭建了一套临时环境，可以先登录体验下：」http://124.222.45.207:17000/login 账号：root/root.2020简介「可观测性平台三大支柱：日志监控、调用链监控和度量指标监控，其中最为大家熟知的是日志监控，因为我们开发系统基本都离不开日志，也是解决问题最为常见的一种方式。日志的特点就是它是一个个离散的事...
Mtail 开源项目详尽指南
gitblog_00779的博客
08-07 796
Mtail 开源项目详尽指南 1、项目介绍 Mtail简介 Mtail是一款由Google设计并开发的开源软件，主要用途是从应用程序日志中实时提取监测指标。它的独特之处在于能够作为应用程序与现有监控系统的桥梁，使得那些原本不提供内部状态暴露机制的应用也能轻松纳入集中监控体系。对于系统管理员而言，这意味着无需对原始应用程序进行修改，也无需为每个特定应用程序单独编写监控逻辑，便可以实现对其性能和健康状...
mtail 编程指北
Less Is More
12-15 1196
mtail 编程介绍，附带项目参考及k8s 部署脚本
Prometheus使用mtail监控日志错误
云原生，DevOps，Kubernetes
07-28 4368
mtail项目地址 mtail :它是一个google开发的日志提取工具，从应用程序日志中提取指标以导出到时间序列数据库或时间序列计算器 用途就是: 实时读取应用程序的日志、 再通过自己编写的脚本进行分析、 最终生成时间序列指标 下载地址 https://github.com/google/mtail/releases 安装 下载二进制文件改名为mtail 给执行权限chmod +x mtail 将其移到/usr/local/bin/目录下 使用 1. 定义配置文件 如error_count.mtail（更
记-Windows环境下Prometheus+alertmanager+windows_exporter+mtail监控部署提起网关日志
希的博客
03-29 2282
1、概述 最近因项目需要统计服务的负载情况及机器的负载情况，但是项目里面却没有相关统计而服务所在的机器也没有相关的监控，因为工期原因就选择了相对轻量级的prometheus方案。其中windows_exporter用来采集机器的负载情况，如CPU、内存、磁盘io、网络等基础信息，使用mtail来采集应用日志统计服务情况(需要业务系统有基础的日志，如请求发起，是否正常结束等，或者通过nginx等中...
CentOS7中使用Prometheus 集成 mtail 实现错误日志采集
JessonLiu_的博客
01-10 1869
mtail日志处理器是由Google的SRE人员编写的，其采用Apache 2.0许可证，并且使用Go语言。mtail日志处理器专门用于从应用程序日志中提取对应的指标存放在时间序列数据库中。mtail日志处理器通过运行“程序”（program）来工作，它定义了日志匹配模式，并且指定了匹配后要创建和操作的指标。Prometheus可以对mtail暴露任何要抓取的指标，也可以配置为将指标发送到collectd、StatsD或Graphite等工具。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值