RuntimeError: Function AddmmBackward returned an invalid gradient at index 1 - got [20, 512] but exp

最新推荐文章于 2024-07-04 15:17:55 发布
最新推荐文章于 2024-07-04 15:17:55 发布
阅读量1.3k 收藏 1
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 笔记 文章标签： 深度学习 神经网络 pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41821067/article/details/122014304

RuntimeError: Function AddmmBackward returned an invalid gradient at index 1 - got [20, 512] but expected shape compatible with [20, 4608]

跟全连接层有关系。

我报错的代码是total_loss.backward()，其中对应的网络最后有一个全连接层
全连接层的代码是

  nn.Linear(512, 1)

我将上面的512改为报错的

  nn.Linear(4608, 1)
【问题记录】PyTorch NaN RuntimeError: Function ‘MulBackward0‘ returned nan values in its 0th output. 深度学习
weixin_45565519的博客
10-17 5888
浅浅记录一下炼丹时的bug。正常训练了十几个epoch，后来突然出现NaN错误，没法训练，记录一下炼丹术
3D高斯光栅化渲染时报错RuntimeError: Function _RasterizeGaussiansBackward returned an invalid gradient
最新发布
m0_57716708的博客
12-06 718
分析了一下自己的点云数据，大概就是自己生成的点云没有进行归一化操作，导致尺度不匹配的问题。具体的操作步骤就是将colmap生成的文件转化成transform.json文件得到场景的中心位置和半径，然后使用对应的尺度进行缩放和平移。# transform.json文件中的world_to_gt。# 2. 将点云转换为齐次坐标（N x 4）# 定义变换矩阵（例如，仿射变换矩阵）# 将点云数据转换为 numpy 数组。# 5. 保存新的点云文件。# 1. 读取点云文件。# 3. 应用变换矩阵。
RuntimeError: Function AddmmBackward returned an invalid gradient at index 1 - got [4, 1024] but exp
kuabiku的博客
09-23 1375
今天做图像检测练习的时候报了这个错，反复调整了好几次参数都没用。 后来反应过来，是因为我是直接加载已经训练过的模型，里面的参数数量已经是确定了的，而这个加载的模型和我现在操作的这个模型的输入大小不一样，所以不管怎么改模型内部的参数都没用。只能把输入大小改成之前那个训练过的模型的输入大小。 ...
RuntimeError: Function AddmmBackward returned an invalid gradient at index 1 -got [64, 256] but expe
CRDarwin的博客
09-25 8903
问题描述：在对loss反向求导的时候报错：RuntimeError: Function AddmmBackward returned an invalid gradient at index 1 -got [64, 256] but expected shape compatible with [64, 2048] 心路历程：首先找度娘，搜索报错内容你应该会看到很多像这样的内容：“RuntimeError: Function AddBackward0 returned an invalid gradient
RuntimeError: Function AddmmBackward returned an invalid gradient at index 1
无穷酱的博客
11-16 4953
问题描述： 将ResNet18修改为ResNet101时报告以下错误 RuntimeError: Function AddmmBackward returned an invalid gradient at index 1 -got [64, 4096] but expected shape compatible with [64,17408] 原因： 看了网上的帖子，主要有两方面的原因。 1.由于反向传播时的device不一致问题。训练过程中，前向传播时我们需要模型、输入位于同一设备上（都在
Function AddmmBackward returned an invalid gradient at index 1报错解决
小姑仔的博客
11-08 4505
最近在写程序的时候，在损失进行反向传播的时候，出现了这样的一个错误 Function MmBackward returned an invalid gradient at index 0 - got [2400, 150] but expected shape compatible with [2400, 768] 为了排查错误，我们首先使用注释法注释掉网络结构的一些内容，然后再接着跑 （排查是哪一个网络结构出现了问题） output = self.dense(output) output = self.
RuntimeError: Function SubBackward0 returned an invalid gradient at index 1 - got [768, 9, 32] but expected shape compatible with [5, 32]
05-10
1. 检查代码中是否有使用不兼容张量的操作。例如，使用torch.squeeze()函数时未正确指定维度，或者使用了错误的维度进行矩阵乘法等操作。 2. 检查代码中的输入张量形状是否正确。如果你使用的是预训练模型，那么...
Tensorflow开源的object detection API中的源码解析（二）：faster_rcnn_meta_arch.py
王某的博客
12-26 7523
“` “”“Faster R-CNN meta-architecture definition.General tensorflow implementation of Faster R-CNN detection models.这里允许两种模式：first_stage_only = True和first_stage_only = False。 在第一种设置中，所有面向用户的方法（例如：预测，后
Datawhale-深入浅出pytorch主要组成模块和基础实战
akriver的博客
06-18 933
Pytorch主要组成模块和基础实战
[DETR] End-to-End Object Detection with Transformers (ECCV. 2020 oral）代码笔记
Ah丶Weii
12-08 1637
End-to-End Object Detection with Transformers 文章目录End-to-End Object Detection with Transformers网络结构detr/models/detr.pydetr/models/backbone.py 论文:https://arxiv.org/pdf/2005.12872.pdf 代码:https://github.com/facebookresearch/detr 网络结构 detr/models/detr.py 代码
多卡训练Runtime Error: Function BroadcastBackward returned an invalid gradient at index XXX
YuhsiHu的博客
11-02 788
代码在单卡训练时没有问题，但是在多卡训练（DP或者DDP模式）时，会在loss.backward()处报错，但是报错并不详细，只停留在loss.backward()，再往后就是pytorch后端C++代码了。可见是反向传播时shape不一致。但是经过检查，我的loss并没有出错，单卡训练测试也没问题，这个就比较棘手了。
用PyTorch进行训练时报错RuntimeError: Function AddBackward0 returned an invalid gradient at index 1
Willjzq1的博客
06-18 5900
在用Pytorch进行训练的时候，进行loss.backward()一步时可能出现如下的问题：会出现以下错误： RuntimeError: Function AddBackward0 returned an invalid gradient at index 1 - expected type TensorOptions(dtype=float, device=cuda:0, layout=Strided, requires_grad=false) but got TensorOptions(dtype=f
解决PyTorch 出现RuntimeError: Function AddBackward0 returned an invalid gradient at index 1 问题
热门推荐
andyL_05的博客
08-12 1万+
解决PyTorch 出现RuntimeError: Function AddBackward0 returned an invalid gradient at index 1 问题 在使用pytorch框架训练中，进行loss.backward()一步时可能出现如下的问题： RuntimeError: Function AddBackward0 returned an invalid gradient at index 1 - expected type TensorOptions(dtype=float,
PyTorch出现RuntimeError: Function AddBackward0 returned an invalid gradient at index 1
maum61的专栏
08-04 1139
感谢下面这篇文章，问题解决了： https://blog.csdn.net/andyL_05/article/details/107952479 报错是这样的： RuntimeError: Function AddBackward0 returned an invalid gradient at index 1 - expected type TensorOptions(dtype=float, device=cuda:0, layout=Strided, requires_grad=false) b
【Pytorch】反向传播为NaN报错的排查解决方法，RuntimeError: Function ‘BmmBackward0‘ returned nan values
qq_41682740的博客
08-12 1万+
【Pytorch】反向传播为NaN报错的排查解决方法，RuntimeError: Function 'BmmBackward0' returned nan values
问题记录 Pytorch Nan Runtime Error ：function‘MulBackward0’returned nan values in its oth output深度学习
meiyongyue的博客
03-29 1435
问题记录 Pytorch Nan Runtime Error ：function‘MulBackward0’returned nan values in its oth output深度学习
RuntimeError: Function CdistBackward returned an invalid gradient
mmmmmm儒丶的博客
09-28 443
原因：调用Pytorch.cdist().sum() 计算Loss有问题 ， 正确的Lorm计算为torch.dist或者torch.norm(x-y)；
RuntimeError：Function MmBackward returned an invalid gradient at index，反向传播维度问题
m0_46089852的博客
07-04 419
前向传播没问题，反向传播出现维度不匹配
PyTorch：常见错误 inplace operation
强劲九
01-30 5957
inplace 操作是 PyTorch 里面一个比较常见的错误，这篇文章记录了一个一些排查这种错误的方法
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Nefelibat

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值