ResNet50和ResNet18网络结构图

### ResNet50与ResNet18的网络结构对比 #### 基本概念 ResNet（残差网络）是一种用于解决深层神经网络训练困难问题的设计方案。它通过引入短路连接（skip connections），使得梯度能够更顺畅地向前传播，从而缓解了梯度消失问题并提升了模型性能。 #### ResNet18架构详情 ResNet18是一个相对简单的版本，其主要特点如下： - 输入图像经过一个 $7 \times 7$ 的卷积层处理，步幅为2，通道数为64[^3]。 - 接下来是四个阶段（stage），每个阶段由若干个基本残差块组成。具体来说： - **Stage 1**: 包含两个 $3 \times 3$ 卷积核的基本残差块。 - **Stage 2**: 同样包含两个 $3 \times 3$ 卷积核的基本残差块，特征图尺寸减半。 - **Stage 3 和 Stage 4**: 每一阶段分别有两组这样的残差块，随着层数加深，通道数量逐渐增加到128、256和512。 - 整体上共有18层参数化层（不计池化操作等非参数部分），其中包括16个 $3 \times 3$ 卷积层以及初始的一个较大卷积层和最后的一次全连接映射过程。 #### ResNet50架构详情 相比之下，ResNet50则更加复杂且更深一些： - 它同样始于单个较大的 $7 × 7$ 初始卷积层之后紧接着最大池化步骤来减少空间维度大小[^1]。 - 不同之处在于它的构建单元采用了瓶颈设计（Bottleneck Design）。这意味着大多数卷积不是直接作用于高维数据之上而是先降低维度再恢复原状以便节约计算资源同时保持表达能力不变甚至更强。 具体而言，在每一个block内部存在三个连续执行的不同尺度变换序列即`conv1x1 -> conv3x3 -> conv1x1`, 这种模式重复多次形成不同level上的feature maps提取器集合: - **Conv2_x (Layer Count=3)**: 输出channel数目固定为256. - **Conv3_x (Layer Count=4)**: 输出channels扩展至512. - **Conv4_x (Layer Count=6)**: 此处进一步放大到了1024 channels. - **Conv5_x (Layer Count=3)**: 终端设置维持在2048 channels. 因此总计起来达到了五十多个实际参与学习调整权值更新的有效layer counts, 而不仅仅是名义上的depth count due to residual shortcuts being counted separately from main path layers. #### 主要区别总结 | 特征 | ResNet18 | ResNet50 | |---------------------|-----------------------------------|----------------------------------| | 总层数 | 18 | 50 | | Block 类型 | BasicBlock | Bottleneck | | Conv 层分布 | 多个小卷积层 | 使用 `1×1 → 3×3 → 1×1` 结构 | | 参数量 | 较少 | 显著更多 | 上述表格清晰展示了两者之间显著差异不仅限于理论深度还有具体的实现细节方面如building blocks的选择直接影响整体表现特性及其适用场景范围等方面考虑因素. ```python import torchvision.models as models # 加载预定义好的两种模型实例供后续分析调用方便直观理解它们各自的构成成分关系如何相互关联影响最终效果呈现形式等等... resnet18_model = models.resnet18(pretrained=True) print(resnet18_model) resnet50_model = models.resnet50(pretrained=True) print(resnet50_model) ```