自定义博客皮肤VIP专享

*博客头图：

点击选择上传的图片

格式为PNG、JPG，宽度*高度大于1920*100像素，不超过2MB，主视觉建议放在右侧，请参照线上博客头图

请上传大于1920*100像素的图片！

博客底图：

点击选择上传的图片

图片格式为PNG、JPG，不超过1MB，可上下左右平铺至整个背景

栏目图：

点击选择上传的图片

图片格式为PNG、JPG，图片宽度*高度为300*38像素，不超过0.5MB

主标题颜色：

RGB颜色，例如：#AFAFAF

Hover：

RGB颜色，例如：#AFAFAF

副标题颜色：

RGB颜色，例如：#AFAFAF

预览取消提交

自定义博客皮肤

-+

上一步保存

景唯acr

弱者才在乎耻辱

博客等级

码龄7年

44
原创

815
点赞

3717
收藏

370
粉丝

关注

私信

热门文章

分类专栏

最新评论

pytorch获取nn.Sequential的中间层输出
毛实: (10续/10) # 打印NaN位置信息（如果存在） if f'{key}_nan_location' in outputs: idx = outputs[f'{key}_nan_location'] input_val = outputs.get(f'{key}_input_value', 'N/A') print(f" First NaN at: {idx}, Input value: {input_val}") ``` ### 关键优势与使用场景 1. **精确诊断**： - 可以精确定位NaN首次出现的位置（如 `(0, 174, 0, 0)`） - 记录导致NaN的输入值（如 `16.518325805664062`） - 帮助识别数值不稳定性的根源 2. **灵活启用**： - 通过 `debug` 标志控制是否启用调试 - 不影响正常训练/推理流程 3. **模块化设计**： - 可重用性强，可应用于任何 `nn.Sequential` 模块 - 不改变原始模型结构，只增加调试功能 4. **全面信息**： - 记录每个模块的输出形状、最小值、最大值 - 统计NaN和Inf的数量及比例 - 保存问题状态供进一步分析 ### 实际应用建议 1. **何时使用**： - 训练中出现NaN损失时 - 模型行为不符合预期时 - 需要分析中间层特征表示时 2. **性能考虑**： - 调试模式会增加内存消耗（保存中间结果） - 生产环境中应关闭调试模式 - 可选择性调试特定模块而非整个模型 3. **扩展应用**： - 可修改为记录梯度信息 - 可添加可视化中间特征图的功能 - 可集成到训练循环中自动检测问题这种方法通过创建可调试的包装模块，实现了对 `nn.Sequential` 内部各层输出的全面监控，为模型调试和优化提供了强大工具。
pytorch获取nn.Sequential的中间层输出
毛实: (10/10) # 根据调试标志创建可调试版本 if debug: self.up5 = self._create_debuggable_up5() def _create_debuggable_up5(self): """创建可调试的up5模块""" return DebuggableUp5(self.original_up5_sequential) ``` #### 在前向传播中访问中间结果在模型的前向传播过程中，我们可以访问并打印这些中间结果： ```python def forward(self, x): # ...其他层的前向传播... # 通过可调试模块 d9 = self.up5(x10) # 访问并打印中间结果 if self.debug and hasattr(self.up5, 'intermediate_outputs'): print("\n===== up5 Module Internal Diagnostics =====") outputs = self.up5.intermediate_outputs for key, value in outputs.items(): if 'step_' in key and torch.is_tensor(value): # 打印形状、数值范围等信息 print(f"{key}: shape={tuple(value.shape)}, min={value.min().item()}, ...") # 打印NaN位置信息（如果存在） if f'{key}_nan_location' in outputs: idx = outputs[f'{key}_nan_location'] input_val = outputs.get(f'{
pytorch获取nn.Sequential的中间层输出
毛实: (9/10) # 6. 记录导致NaN的输入值 if i == 0: # 第一层的输入是原始输入x outputs[f'step_{i}_input_value'] = x[first_nan_idx].item() else: # 其他层的输入是前一层的输出 prev_key = f'step_{i-1}_{self.modules_list[i-1].__class__.__name__}' if prev_key in outputs: outputs[f'step_{i}_input_value'] = outputs[prev_key][first_nan_idx].item() # 7. 保存所有中间结果 self.intermediate_outputs = outputs return current ``` #### 在模型中的集成方法在主体模型中，我们按需创建这个可调试模块： ```python class DeepMicroFocusNet128(nn.Module): def __init__(self, img_ch=3, output_ch=1, debug=False): super().__init__() self.debug = debug # 原始Sequential模块 self.up5 = nn.Sequential(...) # 保存原始模块 self.original_up5_sequential = self.up5 # 根据调试标志创建可调试版本 if debug: self.up5 = self._create_debuggable_up5()
pytorch获取nn.Sequential的中间层输出
毛实: (8/10) # 3. 逐步执行每个操作 for i, module in enumerate(self.modules_list): current = module(current) # 4. 保存当前模块的输出 outputs[f'step_{i}_{module.__class__.__name__}'] = current.clone() # 5. 检查NaN并记录详细信息 if torch.isnan(current).any(): nan_indices = torch.isnan(current).nonzero(as_tuple=True) if len(nan_indices[0]) > 0: first_nan_idx = tuple(idx[0].item() for idx in nan_indices) outputs[f'step_{i}_nan_location'] = first_nan_idx # 6. 记录导致NaN的输入值 if i == 0: # 第一层的输入是原始输入x outputs[f'step_{i}_input_value'] = x[first_nan_idx].item() else: # 其他层的输入是前一层的输出 prev_key = f'step_{i-1}_{self.modules_list[i-1].__class__.__name__}' if prev_key in outputs: outputs[f'step_{i}_input_v
pytorch获取nn.Sequential的中间层输出
毛实: (2/10) #### 步骤1：定义可调试模块类 ```python class DebuggableUp5(nn.Module): """可调试的上采样模块""" def __init__(self, original_up5): super().__init__() # 将原始Sequential模块分解为ModuleList self.modules_list = nn.ModuleList() for module in original_up5: # 遍历原始Sequential的子模块 self.modules_list.append(module) # 存储中间结果的字典 self.intermediate_outputs = {} def forward(self, x): outputs = {} # 本次前向传播的中间结果 current = x # 当前层的输入 # 逐层执行计算 for i, module in enumerate(self.modules_list): current = module(current) # 执行当前层计算 # 保存当前层输出（张量） outputs[f'step_{i}_{module.__class__.__name__}'] = current.clone() # 检查当前层输出是否有NaN if torch.isnan(current).any(): nan_indices = torch.isnan(current).nonzero(as_tuple=True) if len(nan_indices[0]) > 0:

Bug

关注

关注数：文章数：9 文章阅读量：181214 文章收藏量：501

作者: 景唯acr

细粒度分类，目标检测，pyqt5

展开

专栏收录文章