- 博客(5)
- 收藏
- 关注
RSS订阅原创 alphaXiv替代AI公众号
对于追踪最新热点、梳理研究脉络、快速理解论文等等，都比公众号强很多。我已经取关所有公众号了，还将alphaXiv设为了浏览器首页。它还有聊天机器人作为数据库的接口，可以用来总结某个方向最新的进展。总结中自带论文链接，点进去还能有AI自动生成的博客形式的简介，极为友好。过去几年都是从机器之心公众号获悉AI最新的进展。它每天发最新论文的人工翻译，但是因为信息过载，让人很焦虑，好像每天都错过重要内容。alphaXiv的最热论文榜单相对稳定，变化较为缓慢，好的论文会有一段时间出现在榜首。
2025-04-13 22:54:27
181
原创 最近的兴趣是数学
如果现在的AI在整个社会层面自动化了次要任务，人类就有更多时间解决社会的主要任务，也就是研究数学。从前的偶像是Hinton，但他的数学不太好，啥都靠做实验。这也是数学优越性的证明。然后开始精读每一章，从偏微分方程开始，因为这是我最不熟悉的一块儿，也是100年前的物理学家喜欢的老派的数学。在海德格尔的存在论中，此在是追问自身存在的存在，也是在俗世中操心的存在，这操心的形式，在我看来就是数学。我是个爱操心的人，为了更好地操心，所以要学习数学，而不是音乐、文学、体育或哲学那些让人超凡脱俗的东西。
2025-04-11 00:09:46
170
原创 MapTR调试笔记——隐藏层特征可视化添加位点
2和3是隐藏单元，由于模型直接把中间层特征传递到最后一起和真值做损失计算，所以在代码中可以找到损失函数，在损失函数中添加一个可视化中间特征的函数。可以在更多场景应用这种调试方法，对每个有中间层监督信号的模型，都可以在损失函数里面添加对每个重要的中间层特征的可视化函数，来快速定位bug。其中1和4，使用项目中的可视化脚本nusc_vis_pred.py可以直观地看到，如下，1、模型输入（六摄像头+lidar）和地图真值，在预处理的pkl文件中。2、2D特征映射-->2D语义分割和深度图。
2025-03-16 11:00:28
176
原创 RNN梯度公式
DeepSeek:RNN的梯度公式推导是理解其训练机制的核心，其本质是通过时间反向传播（BPTT）算法对权重矩阵的梯度进行链式求导。
2025-03-10 22:18:07
628
原创 MapTR对齐和补全先验地图
Decoder的输入，最初的层次化查询的70x20个256维隐藏向量学会了代表一些均匀分散开的竖直短线条中的点，它们一起构成了矢量地图的雏形。Decoder的每一层输出会经过3层FFN映射为代表地图的分组点列。也许可以把一个弱对齐或者缺失的地图通过3层FFN的伪逆映射为初始的查询嵌入，看看是否能对齐或补全地图，并标记某条特定的折线。与LLM类似的，也许可以将部分矢量地图（以点列表示）通过tokenizer映射为embedding，作为prompt，并使模型可以补全其余的部分。
2025-03-02 21:51:56
275
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人