【深度学习经典网络架构—10】：注意力模块之CBAM

### CBAM注意力模块的工作原理 CBAM（Convolutional Block Attention Module）是一种轻量级的注意力机制，旨在增强卷积神经网络（CNN）中的特征表达能力。它通过引入两个子模块——**通道注意力模块（Channel Attention Module）**和**空间注意力模块（Spatial Attention Module）**，分别从通道维度和空间维度对特征图进行加权处理[^4]。 #### 1. **通道注意力模块** 通道注意力模块的主要功能是对不同通道的重要性进行建模。具体来说，该模块会计算每个通道的权重，并将其应用于原始特征图中对应的通道上。其实现过程如下： - 首先通过对输入特征图执行全局最大池化操作和全局平均池化操作，提取每条通道的信息。 - 接着将这两种池化的结果送入一个多层感知机（MLP），并通过共享参数的方式生成两组权重向量。 - 最终将这两组权重相加以得到最终的通道注意力建议并作用于原特征图上。 以下是PyTorch实现的一个简单例子： ```python import torch import torch.nn as nn class ChannelAttention(nn.Module): def __init__(self, in_planes, ratio=8): super(ChannelAttention, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.fc1 = nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False) self.relu1 = nn.ReLU() self.fc2 = nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x)))) max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x)))) out = avg_out + max_out return self.sigmoid(out) ``` #### 2. **空间注意力模块** 空间注意力模块则专注于捕捉特征图的空间分布特性。它的核心思想是从水平方向和垂直方向聚合信息，进而决定哪些区域更重要。其主要步骤包括： - 利用沿通道轴的最大池化和平均池化获取二维空间信息。 - 将上述两种方式获得的结果拼接起来形成一个新的张量作为后续卷积运算的基础。 - 使用一个小型卷积核对该新构建的数据进行变换以得出最后的空间掩码。 下面是对应的部分代码片段展示： ```python class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() assert kernel_size in (3, 7), 'kernel size must be 3 or 7' padding = 3 if kernel_size == 7 else 1 self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = torch.mean(x, dim=1, keepdim=True) max_out, _ = torch.max(x, dim=1, keepdim=True) x = torch.cat([avg_out, max_out], dim=1) x = self.conv1(x) return self.sigmoid(x) ``` #### 整体框架集成 当这两个独立运作却相互补充的组件组合在一起时就构成了完整的CBAM结构。它们按照先后次序依次施加到输入数据之上完成整体优化流程[^2]。 完整版CBAM定义可能看起来像这样： ```python class CBAM(nn.Module): def __init__(self, gate_channels, reduction_ratio=16, pool_types=['avg', 'max'], no_spatial=False): super(CBAM, self).__init__() self.ChannelGate = ChannelAttention(gate_channels, reduction_ratio=reduction_ratio) self.no_spatial=no_spatial if not no_spatial: self.SpatialGate = SpatialAttention(kernel_size=7) def forward(self, x): x_out = self.ChannelGate(x) x_out = x * x_out if not self.no_spatial: x_out = self.SpatialGate(x_out) x_out = x_out * x return x_out ``` ### 应用场景分析 由于CBAM能够显著提升模型对于目标物体的关注度，在实际项目中有广泛的应用价值。比如但不限于以下几个方面： - 图像分类任务：帮助区分细微差异较大的类别； - 物体检测领域：改善边界框预测精度； - 语义分割作业：强化像素级别标注准确性； 这些优势都得益于CBAM能够在不增加太多额外计算成本的前提下极大地增强了基础骨干网路的表现力[^3]。