论文速读Backbone系列一：点云Transformer结合、PointNet++改进、点云卷积核设计

最新推荐文章于 2025-05-17 10:19:58 发布
最新推荐文章于 2025-05-17 10:19:58 发布
阅读量3.5k 收藏 26
点赞数
CC 4.0 BY-SA版权
分类专栏： # 三维点云论文 文章标签： 深度学习 人工智能 点云检测 自动驾驶 3d目标检测
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44751294/article/details/128228053
这篇博客探讨了3D点云处理的最新研究，重点关注点云Transformer的改进，如PCT和Point Transformer，以及PointNet++的优化和卷积核设计，如PointCNN和Kpconv。文章总结了多篇论文的关键思想，包括利用Transformer捕捉全局特征，通过PointNet++提取局部信息，以及设计X变换矩阵和关系形状卷积解决点云的顺序问题。此外，还介绍了Point-Voxel CNN（PVCNN）如何结合体素和点云方法的优点，提高3D深度学习的效率。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

如有错误，恳请指出。

对一些经典论文进行快速思路整理，以下内容主要关注的是3d点云的backbone设计，包括transformer的应用，卷积核的设计，PointNet++网络的改进。

文章目录

一、Transformer改进

1. 《PCT: Point Cloud Transformer》（2020）

在这里插入图片描述

1）提出Offset Atention，在原本的self-attention中的LBR(Fa)改为LBR(Fin-Fa)，同时魔改了norm方法。其中这里的Fin是原始点特征，Fa是进行self-attention变换之后的特征
2）提出Neighbor Embedding，利用attention可以捕获全局特征但是缺少局部特征，所以用PointNet++来提取一些局部特征，作为transformer的输入

2. 《Point Transformer》（2020）

了解本专栏 订阅专栏 解锁全文 超级会员免费看
Pointnet++改进：在特征提取模块加入SegNext_Attention注意力机制，卷积注意力打造高性能点云分割模型
AIcurator的博客
01-04 2023
我们提出了SegNeXt，一个用于语义分割的简单卷积网络架构。近年来，基于变换的语义分割模型由于其在空间信息编码中的自注意性而在语义分割领域占据主导地位。在本文中，我们证明了卷积注意是一种比自注意机制更有效的编码上下文信息的方法。通过重新研究成功的分割模型所具有的特征，我们发现了导致分割模型性能提高的几个关键因素。这促使我们设计一种新颖的卷积注意力网络，使用廉价的卷积运算。
Pointnet++改进72：添加HFERB模块|高频增强残差块
AIcurator的博客
02-09 374
基于 Transformer 的方法在单图像超分辨率（SISR）中展现出了显著的潜力，能够有效地提取长程依赖关系。然而，目前该领域的大多数研究都侧重于设计 Transformer 块以捕获全局信息，却忽视了融合高频先验的重要性，我们认为这可能会带来益处。在我们的研究中，我们进行了一系列实验，发现 Transformer 结构更擅长捕获低频信息，但在构建高频表示方面，与卷积结构相比能力有限。
Pointnet++的改进
qq_27353621的博客
07-04 2923
Pointnet++改进
深入浅出PointNet：点云处理的革命性突破（附代码实战）
最新发布
matrixcode1的博客
05-17 700
不要被传统框架束缚，重新思考问题本质！通过对称函数解决无序性，这个思路后来被广泛应用于图神经网络等领域。刚入门的新手：建议从官方代码跑通第一个demo开始进阶学习者：可以复现论文中的ablation study工业开发者：关注模型压缩和部署优化点云处理没有银弹，理解数据特性比堆砌模型更重要！（这句话我写了删，删了写，最后决定保留这个直白的版本）
#今日论文推荐# 重振PointNet++雄风,PointNeXt：通过改进的模型训练和缩放策略重新审视PointNet++
w1hsxn的博客
06-20 363
本文通过对模型训练和缩放策略的系统研究重新审视了经典的PointNet++，并提供了两个主要贡献，进而提出PointNeXt，表现SOTA！性能优于PointMLP、Point Transformer等网络，代码已开源（5天 90+ star）!
PointNet++改进1：双域混合结构用于多尺度感受
m0_63654706的博客
04-09 373
##论文地址：https://zhuanlan.zhihu.com/p/720777160resl = xif i == 0:else:if i!
论文速读系列五：SASA、BtcDet、CG-SSD、Multi-view framework、Ret3D
Clichong
12-10 983
在2D目标检测中，有很多工作证明过**目标间的关联性**可以提升检测性能。同理，作者认为，在3D目标检测中，目标间的关联性也可以提升检测性能。然而，**现有的lidar-based检测器却鲜有探索目标间的关联性**，大多数检测器都是在**特征层面隐式**的研究目标关联性带来的影响。提出了作者研究2种关联性对3D目标检测的影响：intra-frame relations 和 inter-frame relations。 - **intra-frame**：对于同一帧点云，利用不同目标间的空间距离（预测的目标位
论文速读 - Cleaner Pretraining Corpus Curation with Neural Web Scraping
Turbo.AI,专注AI工程化
10-26 1056
网络包含大规模、多样化和丰富的信息，以满足人类的信息需求。通过精心的数据收集、预处理和整理，网页可以作为语言模型预训练的基本数据资源。然而，面对不断革新和复杂的网页性质，基于规则/基于特征的scraper越来越显得不够用。本文介绍了一种简单、快速且有效的神经网络网页scraper（NeuScraper），以帮助从网页中提取主要和干净的文本内容。实验结果表明，NeuScraper通过实现超过20%的改进，超过了基线scraper，展示了其在提取更高质量数据以促进语言模型预训练方面的潜力。
【Text2SQL 论文】SeaD：使用 Schema-aware 去噪训练的 end2end 的 Text2SQL
VLyb
05-26 699
实验在 test 结果上达到了 93 的准确率，但没有公开 code。但本文提出的思路还是值得学习的。
PointNet++改进策略 ：模块改进 | PAConv，位置自适应卷积提升精度
u012901740的博客
09-04 1902
PAConv，全称为位置自适应卷积（Position Adaptive Convolution），是一种用于处理3D点云数据的通用卷积操作。不同于传统的2D卷积，PAConv通过根据点在三维空间中的位置动态组合卷积核。它的实现依赖于一个称为权重库（Weight Bank）的结构，该结构存储了基本的权重矩阵。这些矩阵通过一个称为ScoreNet的网络动态组合，ScoreNet根据点的位置关系学习如何自适应地组装这些卷积核。动态卷积核组装。
PointNet++改进策略 ：模块改进 | x-Conv | PointCNN， 结合局部结构与全局排列提升模型性能
u012901740的博客
09-10 1995
这篇论文介绍了一种名为PointCNN的方法，旨在从点云（point cloud）数据中学习特征。传统卷积神经网络（CNN）在处理规则网格数据（如图像）时非常有效，但由于点云是无序且不规则的，直接在其上应用卷积操作会导致形状信息丢失，并对点的排列顺序敏感。为了解决这一问题，论文提出了一种X-Conv操作。该方法通过学习一种来重新排列点云中的点并加权输入特征。然后，将典型的卷积操作应用于转换后的特征。这种方法将传统的 CNN 扩展到点云特征学习，并命名为PointCNN。
backbone-deep-model:改进了对具有嵌套属性的模型的支持
05-15
注意：我不再有时间维护此模块。 请查看活动维护项目的分支列表，例如 骨干深度模型 改进了对具有嵌套属性的模型的支持。 允许您使用路径语法获取和设置嵌套属性，例如user.type 。 触发更改事件以更改嵌套属性。 依存关系 骨干> = 0.9.10 安装 在页面/应用程序中包含Backbone及其依赖项。 包括distribution/deep-model.min.js 用法 然后，让您的模型从Backbone.DeepModel而不是Backbone.Model扩展。 示例代码： //Create models with nested attributes var model = new Backbone.DeepModel({ id: 123, user: { type: 'Spy', name: { f
【论文阅读】【点云处理】pointnet++的改进
麒麒哈尔的博客
02-07 6957
文章目录PATs & GSA PATs & GSA 论文：Modeling Point Clouds with Self-Attention and Gumbel Subset Sampling 2019CVPR，上海交大MoE实验室和华为诺亚方舟实验室 本文主要改进了PointNet++中的FPS的部分，使得选取的点更能处理外点，将down sampling的点选取在attent...
PointNet++改进策略 ：模块改进 | Residual MLP | PointMLP，简化原本复杂的局部几何特征提取器，减少计算同时提高效率
u012901740的博客
09-17 1680
这篇论文题为《Rethinking Network Design and Local Geometry in Point Cloud: A Simple Residual MLP Framework》，发表于ICLR 2022。论文的主要内容是提出了一种名为PointMLP的新方法，用于处理点云数据，旨在通过简单的残差多层感知器（Residual MLP）网络替代复杂的几何特征提取器。背景与挑战：点云分析由于数据的不规则性和无序性，一直是计算机视觉中的难题。
【论文笔记】PCT: Point Cloud Transformer
qq_40476957的博客
06-09 2317
这是清华大学在2021年3月上传的关于将transformer应用在点云上的一篇论文。与其同期的还有两篇相似论文。 本篇论文作者认为transformer本身具有很好的顺序不变性，而且在二维视觉任务上表现出了很好的效果，理论上可以代替卷积操作，因此transformer能够很好的应用在点云数据上。 一、PCT的初始版本 相比于文本信息，点云特征中包含了位置特征，因此可以省略位置信息的插入。 对于一个点云P：N×D，N代表点的个数，D代表特征维数。首先经过一个Input Embedding模块，是由两层共享
PointNet++改进策略 ：模块改进 | 双边增强模块 | 自适应融合模块 | ，将多分辨率特征在点级别自适应地融合，确保模型能够充分利用不同分辨率下的特征信息
u012901740的博客
09-18 1417
这篇论文的标题是《Semantic Segmentation for Real Point Cloud Scenes via Bilateral Augmentation and Adaptive Fusion》（通过双边增强和自适应融合进行真实点云场景的语义分割）。文章的核心内容是在处理大规模点云数据的语义分割任务上提出了一个新的网络架构。双边增强（Bilateral Augmentation）：为了减少点云中相邻点之间的歧义，提出了一种双边增强方法，通过几何和语义特征的结合，来扩展点的局部上下文信息。
PointNet++改进策略 ：模块改进 | PointNetXt ，利用训练测量大幅提升PointNet模型性能
u012901740的博客
09-16 1693
这篇名为《PointNeXt: Revisiting PointNet++ with Improved Training and Scaling Strategies》的论文主要讨论了对经典的3D点云网络架构PointNet++进行的改进。作者提出了新的训练策略和模型扩展方法，旨在提高PointNet++的性能。改进训练策略：通过系统地研究数据增强和优化技术，作者发现很多新网络（如PointMLP和Point Transformer）性能提升主要是由于更好的训练策略而非架构上的创新。
PointNet++改进策略 ：模块改进 | OA-CNNs | ， 全自适应3D稀疏卷积神经网络（OA-CNNs），超越基于Transformer的模型，同时显著降低计算和内存成本
u012901740的博客
10-01 1693
这篇论文主要研究了3D语义分割领域中的一种新型稀疏卷积神经网络（CNN），称为全自适应3D稀疏CNN（Omni-Adaptive 3D Sparse CNNs，简称OA-CNNs）。研究的重点是提升传统稀疏CNN的性能，使其在精确度和计算效率上都能与基于Transformer的网络模型相媲美或超越。研究中指出，现有的稀疏CNN在3D语义分割任务上通常不如基于Transformer的模型，原因在于其缺乏足够的自适应性。
PointNet++改进策略 ：模块改进 | PointCAT， 使用交叉注意力机制来提升3D点云任务中提升模型精度
u012901740的博客
09-13 2073
PointCATCross 的核心在于通过多尺度特征提取和跨注意力机制来融合不同分辨率下的几何信息。跨注意力机制能够在全局和局部特征之间建立联系，从而提升模型对复杂三维点云结构的理解能力。借鉴以上思路，可以进行如下改进来增强PointNet++ 对点云多尺度特征、全局信息以及复杂几何关系的捕捉能力，进一步提升了其在点云分类和分割任务中的表现。引入跨尺度注意力机制：利用 PointCATCross 的跨注意力模块，实现多尺度特征的相互交互和增强。引入分类 Token 和多层级特征交互。
《乔治速读记忆法》：提升阅读效率的全息大脑摄像技术
《乔治速读记忆法》是一套旨在提高阅读速度和记忆力的教程，它通过一系列的技巧和方法来训练读者提升信息获取和处理的能力。本教材中提到的关键知识点主要包括以下几个方面： ### 视觉与速读 #### 视知觉范围的...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Clichong

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值