PyTorch快速入门教程【小土堆】之土说卷积操作

目录学习视频地址 —— B站1 pyTorch安装和配置已经测试，速度很慢，30kB/s已经测试，最有效的办法，速度最快,3MB/s2 python 编辑器的安装pyCharm 安装注意事项pyCharm 配置检测是否正常运行新环境中安装jupyterjupyter 使用指南3 为什么 返回 false4 pyhton 学习中的两个 法宝函数 学习视频地址 —— B站 PyTorch深度学习快速入门教程（绝对通俗易懂！）【小土堆】 1 pyTorch安装和配置 anaconda 安装路径：D:\anac

【代码】PyTorch深度学习快速入门(小土堆)

nn.Sequential是PyTorch中一个非常重要的类，用于构建简单的顺序连接模型。可以将其看做一个容器，它允许用户通过顺序堆叠多个层来创建神经网络模型。这个类的主要作用是简化模型的构建过程，使得用户可以通过简单、直观的方式定义复杂的网络结构。CIFAR 10 model结构图如下：最后两步的线性层略有省略，在此补充：# 64个数据，每个数据3个通道，每个通道32×32（每个值都是1.0）# (模型，模型的输入数据)，

博主本人技术力不高，这篇博客可能会因为个人水平问题出现一些错误，但作为小白，还是希望能写下一些碰到的坑，尽力帮到其他小白。

PyTorch 深度学习框架快速入门 (小土堆)

PyTorch快速入门教程【小土堆】-神经网络-卷积层

建议pycharm用视频里的版本，最新版本有些配置用不明白。

关于Sequential的讲解（找不到Sequential可以打开这个网址：https://pytorch.org/docs/stable/generated/torch.nn.Sequential.html#torch.nn.Sequential）。关于神经网络的工具，主要在torch.nn里面（找不到torch.nn可以打开这个网址：https://pytorch.org/docs/stable/nn.html）。打开PyTorch官网（https://pytorch.org/），进入官方文档。

重点注意Environment要选择我们刚刚在anaconda中创建好的名字叫pytorch的环境，这个里面我们刚刚是已经导入了pytorch的，然后create就可以了。这里以最大池化层为例，池化就是用一个核去比对输入，选择其中最大的值（最大池化）作为结果的一个值，这样就可以有效减少数据。如果生成的图像保留了上一次的结果，可以删掉logs里的文件，并且重启tensorbaord即可。的方式查看Dataset的官方解释。可以通过下面的命令查看当前环境下都有哪些基础包，这时候是没有pytorch的。

然而，在这些宏观优化的背后，构成我们代码的每一条基础语句——无论是PyTorch的张量操作还是纯Python的“胶水代码”——都存在其固有的、微小的性能开销。GPU的威力在于其大规模并行性，这点开销在处理大型张量时会被完全摊销，但对于小规模、高频率的操作，延迟是必须考虑的因素。然而，普遍共识和大量测试表明，对于中到大规模的迭代，列表推导式因其在C层面的优化，性能通常会显著优于显式循环。通过量化这些基础操作的固定开销，我们能更深刻地理解代码的真实成本，从而做出更明智的决策，打造出极致性能的AI系统。

为了让大家更好地理解，我们将从零开始，逐步构建 ViT 的各个核心组件，并最终将它们组合成一个完整的模型。我们会以一个在CIFAR-10数据集上应用的实例来贯穿整个讲解过程。

损失函数2：如果没有对σi 的限制 生成的图片会希望噪音对自身生成图片的干扰越小，于是分配给噪音的权重越小，这样只需要将(σ1,σ2,σ3)赋为接近负无穷大的值就好了，直观上也能看出来在σi=0处取最小。把输入数据压缩成隐藏变量的分布参数（均值和方差)，直接输出固定值会导致生成能力变差 输出分布可以随机采样增加多样性。(σ1,σ2,σ3)是控制噪音干扰程度的编码，就是为随机噪音码(e1,e2,e3)分配权重。(m1,m2,m3)是数据经过encoder 得到的编码。还原成数据（如生成新图片）。

本文章会持续更新，目前已包含Flatten层的使用和图示Linear层的使用和图示ReLU层的使用和图示Softmax层的使用和图示之前的文章已经完成了FashionMNIST分类网络的搭建。现在我们来总结一下里面用到的layer，用一个3x28x28的minibatch来看看每一层以及模块的作用是什么。其代表着3张28x28灰度图的照片，作为一个minibatch。现在我会将它传入各种不同的层，看看每个层的作用会是什么。

PyTorch是一个开源的深度学习框架，以其动态计算图、直观API和GPU加速能力著称。核心概念包括张量(Tensor)和多维数组操作，支持与NumPy的互转换。PyTorch通过autograd实现自动求导，为神经网络训练提供梯度计算功能。使用torch.nn模块构建神经网络，包含定义网络结构(init)和前向传播(forward)方法。典型训练流程涵盖数据准备(Dataset/DataLoader)、模型定义、损失函数和优化器设置、训练评估循环等步骤。PyTorch Lightning则进一步简化了训练

如何将一个.gguf文件中的量化权重，准确、高效、甚至自动化地加载到PyTorch模型结构中？本文将为你献上AI模型“骨架重塑”的终极指南。我们将从GGUF文件结构和张量命名规则的底层开始，系统性地学习如何手工构建与LLaMA、UNet、VAE、LoRA等主流模型架构对应的PyTorch nn.Module骨架。你将掌握PyTorch模型命名约定与GGUF层名的精确映射关系，理解各种层（线性层、卷积层、归一化层）在GGUF中的参数存储特点（是否需要转置、偏置如何存储）。

首先打开Anaconda prompt，创建一个虚拟环境，python版本号选3.9激活在当前环境下下载pytorch建议在官网安装，镜像容易装错版本。要选择pip，我装的是11.8，兼容的版本多一点，不容易出错。把复制链接到Anaconda Prompt创建的虚拟环境中安装。然后下载CUDA，版本根据自己的cuda version来，不知道的就查一下，nvidia-smi查看CUDA Version，我的是12.9，所以要去官网装12.9以下的版本，我装的11.8.0。

PyTorch中的torch.norm函数用于计算张量的L2范数（欧几里得范数），公式为向量各元素平方和的平方根。L2范数在机器学习中常用于度量向量长度、正则化防止过拟合、向量归一化等。L2正则化通过在损失函数中加入参数L2范数平方的惩罚项，限制参数大小使模型更稳健。科学计数法如2.6738e+00表示2.6738×10^0，即普通小数2.6738。