针对已有基于变分自编码器（ VAE）的多维时间序列（ MTS）异常检测模型无法在隐空间中传播随机变量间的长时依赖性问题，提出了一种融合 Transformer 编码器和 VAE 的随机 Transformer MTS 异常检测模型（ ST-MTS-AD）。在 ST-MTS-AD 的推断网络中， Transformer 编码器产生的当前时刻 MTS 长时依赖特征和上一时刻随机变量的采样值被输入多层感知器，由此生成当前时刻随机变量的近似后验分布，实现随机变量间的时序依
赖。采用门控转换函数（ GTF）生成随机变量的先验分布， ST-MTS-AD 的生成网络由多层感知器重构 MTS 各时刻取值分布，该多层感知器的输入为推断网络生成的 MTS 的长时依赖特征和随机变量近似后验采样值。ST-MTS-AD 基于变分推断技术学习正常 MTS 样本集分布，由重构概率对数似然确定 MTS 异常片段。 4 个公开数据集上的实验表明， ST-MTS-AD 模型比典型相关基线模型的 F1 分数有明显提升。
【随机 Transformer】
随机 Transformer（Stochastic Transformer）是本文中提到的一种新型模型，它结合了Transformer架构和变分自编码器（Variational Autoencoder, VAE），用于解决多维时间序列（Multivariate Time Series, MTS）异常检测中的长时依赖性问题。Transformer是一种在自然语言处理领域广泛应用的序列建模方法，它通过自注意力机制捕获序列内部的远距离依赖关系。在随机 Transformer中，Transformer编码器用于捕捉MTS的长时依赖特征，而这些特征与上一时刻随机变量的采样值一起输入到多层感知器（Multilayer Perceptron, MLP）中，以生成当前时刻随机变量的近似后验分布。
【变分自编码器（VAE）】
变分自编码器是一种深度学习模型，用于生成数据并进行潜在空间的表示学习。在MTS异常检测的背景下，VAE被用来学习正常样本集的分布。通过变分推断，VAE能够估计不可观测的隐变量（即本文中的随机变量）的分布，并通过解码过程重建输入数据。在ST-MTS-AD模型中，VAE的部分被扩展以包含时序依赖，这使得模型能更好地捕捉MTS序列中的异常模式。
【门控转换函数（GTF）】
门控转换函数（Gated Transition Function, GTF）在ST-MTS-AD模型中用于生成随机变量的先验分布。GTF通常是一种控制信息流的机制，类似于LSTM或GRU中的门控单元，它可以根据输入信号动态调整其权重，以控制信息的传递和遗忘，从而更精确地建模时序数据。
【异常检测】
异常检测是识别数据序列中不符合正常模式的离群点的过程。在多维时间序列中，异常可能出现在单个维度或者整个序列的结构中。ST-MTS-AD模型利用重构概率对数似然作为度量标准来识别异常片段。通过比较生成网络重构后的MTS值与原始值的差异，可以确定哪些部分的序列行为异常。
【模型性能】
实验结果表明，ST-MTS-AD模型在四个公开数据集上的F1分数显著优于典型的相关基线模型，这证明了模型在处理多维时间序列异常检测任务时的有效性和优势。F1分数是评估分类模型性能的一个常用指标，它综合了模型的召回率和精确率，提供了一个平衡这两个指标的单一数值。
ST-MTS-AD模型通过融合Transformer的长时依赖捕获能力与VAE的生成能力，以及GTF对随机变量分布的控制，成功解决了MTS异常检测中的长时依赖传播问题，提升了异常检测的准确性和效率。这种模型对于监控复杂系统中的异常行为、预防故障以及保障服务连续性具有重要意义。
