YOLOv10涨点改进：注意力魔改 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023

已于 2024-05-30 20:57:17 修改
阅读量1.7k 收藏 48
点赞数 42
CC 4.0 BY-SA版权
分类专栏： YOLOv10魔术师 文章标签： YOLO 深度学习 人工智能 microsoft 目标检测
于 2024-05-29 13:00:39 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/m0_63774211/article/details/139292546
本文介绍了YOLOv10的改进，通过引入动态稀疏注意力的双层路由方法BiLevelRoutingAttention，替代PSA中的多头自注意力模块，提高了目标检测的mAP50，从0.683提升至0.690。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

 💡💡💡本文改进：替换YOLOv10中的PSA进行二次创新，1）BRA注意力替换 PSA中的多头自注意力模块MHSA注意力；2） BRA直接替换 PSA；

 在NEU-DET案列进行可行性验证，mAP50从0.683提升至0.690;

改进1结构图：

改进2结构图： 

 1.YOLOv10介绍

论文： 

了解本专栏 订阅专栏 解锁全文
【YOLOv8改进-注意力机制】MLCA(Mixed local channel attention):混合局部通道注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-28 1547
本项目介绍了一种轻量级的 Mixed Local Channel Attention (MLCA) 模块，该模块同时考虑通道信息和空间信息，并结合局部信息和全局信息以提高网络的表达效果。基于该模块，我们提出了 MobileNet-Attention-YOLO(MAY) 算法，用于比较各种注意力模块的性能。在 Pascal VOC 和 SMID 数据集上，MLCA 相对于其他注意力技术更好地平衡了模型表示效果、性能和复杂度。
YOLOv10涨点改进：如何魔改注意力进行二次创新，高效替换PSA | NEU-DET为案列进行展开
05-28 6315
在NEU-DET案列进行可行性验证，1）mAP50从0.683提升至0.698；2）mAP50从0.683提升至0.695;
YOLOv10改进|爆改模型|涨点|在颈部网络添加结合部分卷积PConv和SDI融合方法的PSDI特征融合层（附代码+修改教程）
m0_51665349的博客
05-31 539
《YOLOv10改进：引入PSDI特征融合模块提升多尺度目标检测性能》 摘要：本文针对YOLOv10在多尺度目标检测任务中的局限性，提出了PSDI（Partial Convolution-based Semantic Decoupled Integration）特征融合模块。该模块在骨干网络后结合部分卷积（PConv）和SDI融合方法，通过选择性忽略无效信息来提升特征提取效率。PSDI模块采用PConv处理不同层级特征图（F1-F3），生成通道一致的特征表示，并通过4个3×3卷积层进行特征融合。实验表明，该
YOLOv8最新改进系列:融合最新顶会提出的HCANet网络中卷积和注意力融合模块(CAFM)，有效提升小目标检测性能，大幅度拉升目标检测效果！遥遥领先！
B站 Ai学术叫叫兽的文案地
04-12 4728
YOLOv8最新改进系列:融合最新顶会提出的HCANet网络中卷积和注意力融合模块(CAFM)，有效提升小目标检测性能，大幅度拉升目标检测效果！遥遥领先！
【YOLOv8改进】 MSDA：多尺度空洞注意力
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
02-21 6771
作为事实上的解决方案，标准的视觉变换器（ViTs）被鼓励模拟任意图像块之间的长距离依赖性，而全局关注的接受域导致了二次计算成本。视觉变换器的另一个分支受到CNNs启发，利用局部注意力，只模拟小邻域内块之间的交互。尽管这样的解决方案降低了计算成本，但它自然会受到小的关注接受域的限制，这可能会限制性能。在这项工作中，我们探索有效的视觉变换器，以追求计算复杂性和关注接受域大小之间的理想折衷。通过分析ViTs中全局注意力的块交互，我们观察到浅层中的两个关键属性，即局部性和稀疏性，表明在ViTs的浅层中全局依赖性建模
【YOLOv8改进】MSFN(Multi-Scale Feed-Forward Network):多尺度前馈网络
专注于图像领域，主要研究内容包括计算机视觉和深度学习，特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。
05-29 841
摘要——高光谱图像（HSI）去噪对于高光谱数据的有效分析和解释至关重要。然而，同时建模全局和局部特征以增强HSI去噪的研究却很少。在本文中，我们提出了一种混合卷积和注意力网络（HCANet），该网络结合了卷积神经网络（CNN）和Transformers的优势。为了增强全局和局部特征的建模，我们设计了一个卷积和注意力融合模块，旨在捕捉长距离依赖关系和邻域光谱相关性。此外，为了改进多尺度信息聚合，我们设计了一个多尺度前馈网络，通过在不同尺度上提取特征来增强去噪性能。
YOLOv8涨点改进：轻量级的 Mixed Local Channel Attention (MLCA)，加强通道信息和空间信息提取能力
12-20 3868
一种轻量级的 Mixed Local Channel Attention (MLCA) 模块，该模块考虑通道信息和空间信息，并结合局部信息和全局信息以提高网络的表达效果
YOLOv12涨点优化：注意力魔改 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023
02-28 161
 BiLevelRoutingAttention方法对小目标检测效果比较好
YOLO11涨点优化：注意力魔改 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023
10-09 457
BiLevelRoutingAttention方法对小目标检测效果比较好。可能是因为BRA模块是基于稀疏采样而不是下采样，一来可以保留细粒度的细节信息，二来同样可以达到节省计算量的目的。
YOLOv10改进：注意力系列篇 | 动态稀疏注意力（BiLevelRoutingAttention） | CVPR2023
会AI的学姐
06-12 547
动态稀疏注意力（BiLevelRoutingAttention），实现更灵活的计算分配和内容感知，使其具备动态的查询感知稀疏性，改进方法：1）动态稀疏注意力替换 PSA中的多头自注意力模块MHSA注意力；2） 动态稀疏注意力直接替换 PSA；
YOLOv13改进：注意力机制 | 动态稀疏注意力的双层路由方法BiLevelRoutingAttention | CVPR2023
最新发布
07-07 715
BiLevelRoutingAttention方法对小目标检测效果比较好。可能是因为BRA模块是基于稀疏采样而不是下采样，一来可以保留细粒度的细节信息，二来同样可以达到节省计算量的目的。
YOLOv10全网最新创新点改进系列：融合GSConv+Slim Neck，双改进、双增强，替换特征融合层实现， 轻量化涨点改进策略，有效涨点神器！
B站 Ai学术叫叫兽的文案地
07-04 3896
YOLOv10全网最新创新点改进系列：融合GSConv+Slim Neck，双改进、双增强，替换特征融合层实现， 轻量化涨点改进策略，有效涨点神器！
YOLOv10涨点改进：自研检测头 | 独家创新（Partial_C_v10Detect）检测头结构创新，实现涨点
06-13 2024
独家创新（Partial_C_v10Detect）检测头结构创新，实现涨点
YOLOv10改进｜采用ADown降采样模块有效融合
“365天深度学习训练营”报名进行中～
06-12 1259
理论上，正确流程应该是：通过理论推导，获取合理的改进方案（即：设计、修改、调整模块等等），通过实验验证方案的有效性，进而将成果转化为科研论文。我们能做的就是基于现有知识，对YOLOv10进行尝试性改进，一旦发现了某个突破口，则对该点进行展开分析，对改进方案进行深入研究探索。还是那句话，不是ADown模块的原理不重要，而是在做创新这件事情上，我们要功利一些。像我在前面提到的那样，现阶段以学习为主，尝试将自己的想法加以实践，进而实验验证。**第一步：**在block.py文件中新增ADown类。
YOLOv7损失函数改进：Wasserstein Distance Loss，助力小目标涨点
10-10 1261
Wasserstein Distance Loss，助力小目标涨点
YOLOv8改进 | 融合篇，YOLOv8添加CA注意力机制+新增小目标检测头，助力涨点
在职AI算法工程师，擅长计算机视觉，YOLO目标检测、分割等，擅长web、pyqt界面可视化，好内容持续更新中，来这里跟大家一起学习，共同进步
07-02 4206
小目标检测难点众多，导致很多算法对小目标的检测效果远不如大中型目标。影响算法性能的主要原因如下:第一，小目标分辨率低、信息量不足，导致神经网络提取到的有效特征较少。第二，小目标在图像中所占的区域较小，易受背景干扰，这对算法的定位性能要求较高。第三，小物体标注困难，训练数据有限，导致模型泛化能力差。例如多尺度学习、无锚机制和生成对抗学习等方法，都能提高小目标检测的准确性和鲁棒性。为了改善小目标漏检现象严重的问题，我在 YOLOv8 中增加了 P2 检测头，相当于有四个检测头，使网络能检测到更小的目标。
YOLOv8 损失函数改进：MPDIoU 新型边界框相似度度量
一直在水些技术小文
09-21 1574
在本篇博客中，我们将重点讨论 YOLOv8 中的一个关键改进：MPDIoU（Modified Precision-Defined Intersection over Union）边界框相似度度量，以及如何将其应用于损失函数中，以提高目标检测的准确性。MPDIoU 是 YOLOv8 中的一项重要改进，它提供了更精确的边界框相似度度量，从而提高了目标检测的性能。与传统的 IoU 相比，MPDIoU 更能够准确地反映目标之间的相对位置和大小关系，从而提高了目标检测的准确性。使用 YOLOv8 进行目标检测。
YOLOv10全网最新创新点改进系列：YOLOv10融合V-Focal Loss全面提升密集目标检测，针对目前样本不平衡问题的独特创新点，有效涨点！
B站 Ai学术叫叫兽的文案地
07-14 3525
YOLOv10全网最新创新点改进系列：YOLOv10融合V-Focal Loss全面提升密集目标检测，针对目前样本不平衡问题的独特创新点，有效涨点！
突破极限：Yolov8损失函数改进与Wasserstein Distance Loss，助力小目标检测涨点
一直在水些技术小文
11-10 1122
Wasserstein Distance Loss的引入为Yolov8带来了损失函数的全新理念，通过更好地考虑目标之间的空间关系，为小目标检测性能提升注入了新的动力。未来，我们可以期待更多类似的损失函数改进技术的涌现，为目标检测领域带来更多的创新。（注：本文中的示例代码仅为演示用途，实际应用中可能需要根据具体情况进行调整和优化。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

AI小怪兽

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值