双重注意力机制原理图

### 双重注意力机制原理详解 双重注意力机制是一种结合空间注意力和通道注意力的方法，旨在增强神经网络对输入数据的空间分布和通道特征的理解能力。以下是对其原理及其对应原理图的详细介绍。 #### 1. **双重注意力机制的核心概念** 双重注意力机制由两个主要部分组成：**空间注意力(Spatial Attention)** 和 **通道注意力(Channel Attention)**[^2]。 - 空间注意力关注于图像或特征图中哪些区域更重要，从而动态调整这些区域的权重。 - 通道注意力则聚焦于不同通道之间的关系，通过计算各通道的重要性来重新分配它们的贡献度。 这两种注意力机制可以单独作用，也可以联合起来形成更强的表现力。具体实现通常涉及多个卷积操作、池化层以及逐元素乘法运算。 #### 2. **双重注意力机制的工作流程** ##### （1）空间注意力 空间注意力模块通过对输入特征图进行最大池化(Max Pooling)和平均池化(Average Pooling)，得到两种不同的表示形式。随后将这两个结果沿通道维度拼接(concatenate)，并通过一系列卷积操作生成最终的空间注意图。此过程可表达如下： ```python import torch.nn as nn class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() assert kernel_size in (3, 7), 'Kernel size must be 3 or 7' padding = 3 if kernel_size == 7 else 1 self.conv = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = torch.mean(x, dim=1, keepdim=True) max_out, _ = torch.max(x, dim=1, keepdim=True) out = torch.cat([avg_out, max_out], dim=1) out = self.conv(out) return self.sigmoid(out) ``` ##### （2）通道注意力 对于通道注意力而言，它利用全局平均池化(Global Average Pooling,GAP)提取每条通道上的统计特性，并将其映射到较低维空间后再恢复回原尺寸。这一过程中引入了ReLU激活函数与Sigmoid门控单元以控制信号强度变化趋势。 ```python class ChannelAttention(nn.Module): def __init__(self, in_planes, ratio=16): super(ChannelAttention, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.shared_MLP = nn.Sequential( nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False), nn.ReLU(), nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False) ) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = self.shared_MLP(self.avg_pool(x)) max_out = self.shared_MLP(self.max_pool(x)) out = avg_out + max_out return self.sigmoid(out) ``` 最后，将上述两部分内容结合起来即构成了完整的双重视觉注意力框架。 #### 3. **原理图展示** 由于无法直接绘制图形，在这里提供一种基于伪代码的形式化描述帮助理解整个结构布局： 假设输入张量X具有形状(batch_size,C,H,W)，那么经过依次执行以下步骤后可以获得输出Y同样具备相同大小(Batch_Size,C,H,W): 1. 计算Channel-wise Attention Map M_c； 2. 将M_c广播至原始尺度并与X相乘获得初步加权版本F_1; 3. 接着构建Spatial-wise Attention Map M_s ; 4. 把M_s扩展成匹配像素级位置并施加给前一步所得产物得出终版成果Y. [^2] > 注明：实际应用时需替换占位符链接为真实图片资源地址。 --- ###