GAM注意力机制模块

GAM（Global Attention Mechanism）全局注意力机制是一种用于自然语言处理任务的注意力机制。它通过对输入序列中的所有位置进行加权，将全局信息引入模型中，以便更好地捕捉全局上下文信息。 SA（Self-Attention）自注意力机制是一种用于序列建模的注意力机制。它通过计算序列中每个位置与其他位置之间的相关性，来为每个位置分配一个权重，从而实现对序列中不同位置的关注程度。 SimAM（Similarity Attention Mechanism）相似性注意力机制是一种用于图像处理任务的注意力机制。它通过计算输入图像中不同位置之间的相似性，来为每个位置分配一个权重，以便更好地捕捉图像中的重要信息。 SK（Selective Kernel）选择性核注意力机制是一种用于图像处理任务的注意力机制。它通过使用不同大小的卷积核来提取图像中不同尺度的特征，并通过注意力机制来选择最具有代表性的特征。 SOCA（Selective Object Context Attention）选择性对象上下文注意力机制是一种用于目标检测任务的注意力机制。它通过对目标周围的上下文信息进行建模，以便更好地理解目标与其周围环境之间的关系。 CBAM（Convolutional Block Attention Module）卷积块注意力模块是一种用于图像处理任务的注意力机制。它通过结合通道注意力和空间注意力，来提高模型对图像中不同通道和空间位置的关注程度，以获得更好的特征表示。

### GAM注意力机制与全局注意力机制的定义及区别 #### 定义 GAM（Global Attention Mechanism）是一种结合了通道注意力和空间注意力的模型，旨在通过减少信息损失并放大全局交互表示来提升深度神经网络的性能[^2]。具体而言，GAM利用3D排列技术以及多层感知机（MLP），在通道维度上保留更多信息，并通过卷积操作实现空间注意子模块的功能[^3]。 全局注意力机制通常指一种能够捕捉输入特征图中任意两个位置之间关系的机制。这种机制允许模型关注整个输入范围内的所有区域，而不仅仅是局部邻域或特定部分。相比传统的局部注意力机制，全局注意力机制更注重于跨尺度的信息融合和长距离依赖性的建模。 #### 区别 1. **作用范围** - GAM注意力机制虽然被称为“Global”，但它主要强调的是通道和空间上的综合优化，而非单纯的空间全局性。它的核心在于通过通道注意子模块和空间注意子模块协同工作，从而增强特征表达能力。 - 全局注意力机制则更加侧重于在整个特征图范围内建立联系，无论是从像素级别还是更高层次的语义级别来看，都能覆盖更大的感受野。 2. **实现方式** - GAM采用3D排列技术和两层MLP结构处理通道间的关系，同时借助卷积操作完成空间注意计算[^3]。这种方式既减少了冗余计算又提高了效率。 - 其他形式的全局注意力可能涉及自回归变换、Transformer架构中的点乘注意力或其他复杂的矩阵运算方法，这些方法往往需要更高的计算资源支持[^4]。 3. **应用场景** - GAM适用于多种计算机视觉任务，尤其是在轻量化需求较高的场景下表现良好，例如移动设备端的应用程序开发[^2]。 - 更广泛的全局注意力机制可能会被应用于那些对精度要求极高但对速度敏感度较低的任务当中，比如医学影像分析或者高分辨率遥感图像分割等领域[^1]。 ```python import torch.nn as nn class ChannelAttention(nn.Module): def __init__(self, in_planes, ratio=8): super(ChannelAttention, self).__init__() self.avg_pool = nn.AdaptiveAvgPool2d(1) self.max_pool = nn.AdaptiveMaxPool2d(1) self.fc1 = nn.Conv2d(in_planes, in_planes // ratio, 1, bias=False) self.relu1 = nn.ReLU() self.fc2 = nn.Conv2d(in_planes // ratio, in_planes, 1, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = self.fc2(self.relu1(self.fc1(self.avg_pool(x)))) max_out = self.fc2(self.relu1(self.fc1(self.max_pool(x)))) out = avg_out + max_out return self.sigmoid(out) class SpatialAttention(nn.Module): def __init__(self, kernel_size=7): super(SpatialAttention, self).__init__() assert kernel_size in (3, 7), 'kernel size must be 3 or 7' padding = 3 if kernel_size == 7 else 1 self.conv1 = nn.Conv2d(2, 1, kernel_size, padding=padding, bias=False) self.sigmoid = nn.Sigmoid() def forward(self, x): avg_out = torch.mean(x, dim=1, keepdim=True) max_out, _ = torch.max(x, dim=1, keepdim=True) x = torch.cat([avg_out, max_out], dim=1) x = self.conv1(x) return self.sigmoid(x) ``` 以上代码展示了如何分别构建通道注意力模块和空间注意力模块的基础框架，这正是构成GAM的核心组件之一。