图解RNN

最新推荐文章于 2025-06-11 19:54:29 发布
最新推荐文章于 2025-06-11 19:54:29 发布
阅读量1.6k 收藏 5
点赞数 2
CC 4.0 BY-SA版权
分类专栏： NLP 文章标签： RNN 循环神经网络 NLP 深度学习 DeepLearning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wdmlovekerry/article/details/76795050
本文深入探讨了循环神经网络（RNN）的工作原理，通过RNN在语言模型中的应用来阐述其如何处理序列数据。通过图表解析，解释了RNN的网络结构和参数共享，揭示了其在长序列处理上的局限性，并提及了LSTM和GRU等变种网络对此问题的解决方案。此外，文章还简单讨论了RNN模型容量与参数数量的关系。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

循环神经网络（recurrent neural network）或RNN是一类用于处理序列数据的神经网络。就像卷积网络是专门用于处理网格化数据（如一个图像）的神经网络，循环神经网络是专门用于处理序列x1，... xt 的神经网络。本文将通过语言模型中RNN的应用来浅谈自己对RNN的理解。


图1 RNN展开图

上图表示一个RNN的展开图，其中，X为输入，隐层是S，输出是O。RNN输入到隐藏的连接由权重矩阵U 参数化，隐藏到隐藏的循环连接由权重矩阵W 参数化以及隐藏到输出的连接由权重矩阵V 参数化。

如果输入序列是一个句子，那么xi对应的就是输入的每个词，如对于“我们是中国人”这句话，输入将会是：x1="我们"，x2=“是”，x3=“中国人”；不过一般都将这些词处理，变为一个固定维度的词向量输入。我们在看看只有一个输出的RNN


图2 单一输出的RNN

如果xt+1是句子的最后一个词，那么

最低0.47元/天 解锁文章

200万优质内容无限畅学
【图解】RNN模型结构详解、教程
AIcar_lrm的博客
05-10 3202
如果目标是 输入今年1-12月份的房价，输出是预测的明年1月的房价，那此时循环神经网络经过隐含层后，可以接入一个全连接层，也可以将最后时刻隐含层的输出作为网络输出，分别如下图(a)(b)所示。然后，对于每个序列数据，RNN模型将其输入序列数据和当前的隐藏状态进行计算，并输出新的隐藏状态。在这个过程中，隐藏状态。并不会发生实际的改变，而是根据上一个序列的最终隐藏状态重新创建一个新的初始隐藏状态，用于处理下一个序列数据。中的参数是模型在最后一个时间步的隐藏状态值，可以在需要时用于下一个序列的预测或其他操作。
第一章节：完全图解RNN、RNN变体、Seq2Seq、Attention机制
abcdef123456gg的博客
07-03 1005
本文主要讲了N vs N，N vs 1、1 vs N、N vs M四种经典的RNN模型，以及如何使用Attention结构。希望能对大家有所帮助。，写得非常好，推荐阅读。
完全图解RNN、RNN变体、Seq2Seq、Attention机制
周红伟讲AI
09-04 1349
完全图解RNN、RNN变体、Seq2Seq、Attention机制 本文作者：思颖 2017-09-01 18:16 导语：帮助初学者开启全新视角 雷锋网(公众号：雷锋网) AI科技评论按：本文作者何之源，原文载于知乎专栏AI Insight，AI科技评论获其授权发布。 本文主要是利用图片的形式，详细地介绍了
认识RNN-循环神经网络
最新发布
superfreeman的专栏
06-11 1324
摘要 循环神经网络（RNN）是一种专门处理序列数据的神经网络，通过引入时间维度和记忆机制捕捉序列元素间的依赖关系。其核心结构包括隐藏状态传递和展开计算，使用BPTT算法进行训练，但面临梯度消失/爆炸问题。改进方案包括双向RNN、深度RNN及门控结构（LSTM/GRU）。RNN广泛应用于自然语言处理、时间序列分析等领域，但存在长期依赖、计算效率等挑战。示例代码展示了PyTorch实现简单RNN进行时间序列预测的过程。
RNN图解
cloudless_sky的博客
04-11 1012
来自youtube视频 https://www.youtube.com/watch?v=UNmqTiOnRfg 做饭顺序：苹果派、汉堡、鸡 如果天气晴朗就出去玩不做饭，吃昨天剩下的饭；如果下雨，就做一道新菜； 这是个循环结构，昨天的输出（苹果派），结合今天的天气（下雨），就可以得出今天的饭（汉堡）。 箭头的细节是： 如何训练RNN？–通过error函数，梯度下降，不断减小error。 ...
图解 RNN, LSTM, GRU
全性保真，不以物累形。
11-08 1520
动图逐步演示RNN（RNN,LSTM,GRU）的工作流程。
RNN图
stay_zezo的博客
11-17 203
截自台大李宏毅老师的视频
RNN
AI_xue
09-11 391
many to many的第二种情况x部分维encoder,y部分为decoder RNN由于梯度消失的问题，往往不能获取长期的依赖关系（由于梯度消失），GRU可以(因为门的值可能是很小的0.000001) 梯度爆炸 参数nan很容易发现。可以通过梯度修剪的方法解决，即如果梯度向量超过阈值，缩放梯度，避免过大...
RNN原理图
小沙粒看未来
02-26 944
这是我看过的最好的RNN原理图，理解这个就可以了。
RNN的详细结构图Pytorch
不知语冰
06-08 4267
RNN长这样，这个图比较抽象： Pytorch的RNN的调用： rnn_layer = nn.RNN(input_size=2, hidden_size=3, num_layers=2) input_size输入特征的维度，即下图中每一时刻Xt的输入长度，Xt=[x1,x2] ，长度为2 hidden_size隐藏层神经元个数，下图中hidden_size=3 num_layers网络的层数，下图为2层（上下之间，不是左右之间，左右之间是同一层） 输入： X = torch.rand(2, 1, 2)
图解rnn
m0_58109842的博客
09-14 99
rnn
RNN 图示+问题（梯度爆炸or消失）+变形（LSTM+GRU）
weixin_38224810的博客
04-19 447
W，U，V参数在整个过程共享 training
基于PaddlePaddle2.0实现门控循环单元GRU组件
zbp_12138的博客
02-05 1万+
基于PaddlePaddle2.0实现门控循环单元GRU组件一、门控循环单元GRU简介1.重置门和更新门2.候选隐藏状态3.隐藏状态二、门控循环单元GRU的由来1.传统的神经网络NN2.循环神经网络RNNRNN的学习过程3.长短时记忆神经网络LSTM4.门控逻辑单元GRU三、深入理解门控循环单元GRU的工作方式双曲正切tanhS型函数SigmoidRNN的深入理解LSTM的深入理解遗忘门输入门细胞状态输出门GRU的深入理解重置门更新门四、使用Paddle2.0完成GRU组网组网用到的基础APIpaddle.
深度学习笔记（四）——循环神经网络（Recurrent Neural Network, RNN）
ADwenwen的博客
08-07 1万+
深度学习笔记（四）——循环神经网络（Recurrent Neural Network, RNN）
pytorch笔记10--RNN 图片分类
beautiful77moon的博客
03-27 2160
图片如下： # RNN循环神经网络 分类 （时间顺序，图片从上往下读取） import torch import torch.nn as nn import torchvision.datasets import torchvision.transforms as transforms import matplotlib.pyplot as plt import torch.utils....
RNN（循环神经网络）
light169的专栏
04-13 3194
参考：史上最详细循环神经网络讲解（RNN/LSTM/GRU） 一、RNN（循环神经网络） 参考链接 一文搞懂RNN（循环神经网络）基础篇 1、神经网络基础 神经网络可以当做是能够拟合任意函数的黑盒子，只要训练数据足够，给定特定的x，就能得到希望的y，结构图如下： 将神经网络模型训练好之后，在输入层给定一个x，通过网络之后就能够在输出层得到特定的y，那么既然有了这么强大的模型，...
使用RNN进行图像分类
热门推荐
GavinZhou的博客
12-11 2万+
使用CNN进行图像分类是很稀疏平常的，其实使用RNN也是可以的. 这篇介绍的就是使用RNN(LSTM/GRU)进行mnist的分类，对RNN不太了解的可以看看下面的材料: 1. [LSTM的介绍] http://colah.github.io/posts/2015-08-Understanding-LSTMs/ 2. [The Unreasonable Effectiveness of RNN
RNN for Image caption
CJN_UESTC的博客
12-31 1653
RNN for image captionRNN for image caption 训练 输入 训练过程 需要训练的变量 正向传播 整体框架 反向传播 整体框架 测试过程 输入 v1:只记录整体过程，没有数学推理过程，没有图，写的很随便，全凭刚做完cs231n-assignment3的RNN第一感觉写的 2017-12-31 具体的推导过程和一些细节，后边看心情再补吧 图示
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值