【Block总结】MCA多维协作注意力模块

【Block总结】MCA多维协作注意力模块

论文介绍

论文连接： 翻译：.2014.001.5502

• 研究背景：深度卷积神经网络（Cs）的性能提升中，注意力机制展现出了巨大潜力。然而，现有方法大多忽视了在通道和空间维度上同时建模注意力，或者引入了更高的模型复杂度和计算负担。
• 研究目的：为了缓解这一困境，本文旨在提出一种轻量级、高效且易于泛化的注意力模块。
• 主要贡献：论文提出了一种名为MCA（Multidimensional Collaborative Attention）的多维协作注意力模块，具有三个分支结构，能够在多个维度上同时推断注意力。

创新点

• 多维协作注意力：MCA模块是首个能够在多个维度（通道、高度、宽度）上同时建模互补注意力的方法，避免了有效信息损失。
• 轻量级且高效：MCA模块设计轻巧，参数少，计算效率高，易于集成到各种C架构中。
• 泛化能力强：MCA模块在不同数据集和C架构上均表现出良好的泛化能力。

方法

• MCA模块结构：MCA模块由三个并行分支组成，分别负责在通道、宽度和高度维度上建模注意力。
• 挤压变换：用于自适应地聚合双跨维度特征响应。
• 激发变换：用于捕捉局部特征交互。

模块作用

• 确定关注内容：MCA模块能够确定模型应该关注什么（在底部分支）以及在哪里关注（在前两个分支）。
• 维度特定三重注意力协作机制：MCA明确引入了一种维度特定的三重注意力协作机制，有助于更精确地定位感兴趣的对象并增强特征表示。

改进的效果

• 性能提升：在CIFAR-10/100数据集上，与SE、CBAM等先进注意力方法相比，MCA模块显著提升了图像分类性能。
• 参数效率：MCA模块在提升性能的同时，保持了较低的模型参数数量，减少了计算负担。
• 可视化结果：通过可视化特征图，可以观察到MCA模块在增强网络对关键区域的响应性方面的有效性。

该论文提出了一种新颖的多维协作注意力模块MCA，通过同时在多个维度上建模注意力，显著提升了深度卷积神经网络的性能。MCA模块具有轻量级、高效且易于泛化的特点，在不同数据集和C架构上均表现出良好的性能提升效果。代码如下：

import torch
from torch import nn
import math

class StdPool(nn.Module):
    def __init__(self):
        super(StdPool, self).__init__()
    def forward(self, x):
        b, c, _, _ = x.size()
        std = x.view(b, c, -1).std(dim=2, keepdim=True)
        std = std.reshape(b, c, 1, 1)
        return std
class MCAGate(nn.Module):
    def __init__(self, k_size, pool_types=['avg', 'std']):
        """Ctructs a MCAGate module.
        Args:
            k_size: kernel size
            pool_types: pooling type. 'avg': average pooling, 'max': max pooling, 'std': standard deviation pooling.
        """
        super(MCAGate, self).__init__()
        self.pools = nn.ModuleList([])
        for pool_type in pool_types:
            if pool_type == 'avg':
                self.pools.append(nn.AdaptiveAvgPool2d(1))
            elif pool_type == 'max':
                self.pools.append(nn.AdaptiveMaxPool2d(1))
            elif pool_type == 'std':
                self.pools.append(StdPool())
            else:
                raise otImplementedError
         = nn.Conv2d(1, 1, kernel_size=(1, k_size), stride=1, padding=(0, (k_size - 1) // 2), bias=False)
        self.sigmoid = nn.Sigmoid()
        self.weight = nn.Parameter(torch.rand(2))
    def forward(self, x):
        feats = [pool(x) for pool in self.pools]
        if len(feats) == 1:
            out = feats[0]
        elif len(feats) == 2:
            weight = torch.sigmoid(self.weight)
            out = 1 / 2 * (feats[0] + feats[1]) + weight[0] * feats[0] + weight[1] * feats[1]
        else:
            assert False, "Feature Extraction Exception!"
        out = out.permute(0, , 2, 1).contiguous()
        out = (out)
        out = out.permute(0, , 2, 1).contiguous()
        out = self.sigmoid(out)
        out = _as(x)
        return x * out
class MCALayer(nn.Module):
    def __init__(self, inp, no_spatial=False):
        """Ctructs a MCA module.
        Args:
            inp: umber of channels of the input feature maps
            no_spatial: whether to build channel dimension interacti
        """
        super(MCALayer, self).__init__()
        lambd = 1.5
        gamma = 1
        temp = round(abs((math.log2(inp) - gamma) / lambd))
        kernel = temp if temp % 2 else temp - 1
        self.h_cw = MCAGate()
        self.w_hc = MCAGate()
        _spatial = no_spatial
        if not no_spatial:
            _hw = MCAGate(kernel)
    def forward(self, x):
        x_h = x.permute(0, 2, 1, ).contiguous()
        x_h = self.h_cw(x_h)
        x_h = x_h.permute(0, 2, 1, ).contiguous()
        x_w = x.permute(0, , 2, 1).contiguous()
        x_w = self.w_hc(x_w)
        x_w = x_w.permute(0, , 2, 1).contiguous()
        if not _spatial:
            x_c = _hw(x)
            x_out = 1 /  * (x_c + x_h + x_w)
        else:
            x_out = 1 / 2 * (x_h + x_w)
        return x_out

if __name__ == '__main__':
    input_data = torch.randn(1, 2, 640, 480)
    mca = MCALayer(2)
    output = mca(input_data)
    # 打印输入和输出形状
    print("Input size:", input_data.size())
    print("Output size:", output.size())

以下是对代码的详细解释：

StdPool 类

• StdPool 是一个自定义的池化层，它计算输入特征图在每个通道上的标准差，并返回这些标准差作为输出。这个池化层没有学习参数，主要用于提取特征的统计信息。

MCAGate 类

• MCAGate 是一个注意力门控模块，它结合了多种池化类型（平均池化、最大池化、标准差池化）来提取特征，并通过一个1xK的卷积层和一个sigmoid激活函数来生成注意力权重。
• k_size 参数定义了1xK卷积层的核大小。
• pool_types 参数指定了使用的池化类型。
• 在前向传播中，MCAGate 对输入特征图应用所有指定的池化操作，然后将得到的特征图融合起来，通过1xK卷积和sigmoid激活后生成注意力权重。
• 注意力权重通过元素乘法应用于原始输入特征图，以实现特征的重加权。

MCALayer 类

• MCALayer 是MCA机制的核心层，它包含了三个 MCAGate 实例，分别用于处理通道-宽度（h_cw）、宽度-通道（w_hc）和通道-高度（c_hw）之间的交互。
• inp 参数指定了输入特征图的通道数。
• no_spatial 参数是一个布尔值，用于指示是否忽略空间维度（高度和宽度）的交互。如果设置为 True，则只考虑通道-宽度和宽度-通道之间的交互。
• 在前向传播中，MCALayer 首先对输入特征图进行三个维度的变换（通过 MCAGate），然后将得到的特征图融合起来。如果 no_spatial 为 False，则融合所有三个维度的特征图；否则，只融合通道-宽度和宽度-通道的特征图。
• 最终，融合后的特征图通过元素乘法与原始输入特征图相乘，得到加权后的输出特征图。

主程序

• 主程序生成了一个随机的输入数据 input_data，其形状为 (1, 2, 640, 480)，表示一个批次中有一个样本，具有2个通道，高度为640，宽度为480。
• 然后，创建了一个 MCALayer 实例 mca，其输入通道数为2。
• 将 input_data 传递给 mca，得到输出 output。
• 最后，打印输入和输出的形状以验证模块的正确性。

应用案例

YoloV9改进策略：Block改进|MCA，用于图像识别的深度卷积神经网络中的多维协同注意力|即插即用

Yolo11改进策略：Block改进|MCA，用于图像识别的深度卷积神经网络中的多维协同注意力|即插即用

.2014.001.5502

.2014.001.5502