生成式模型

于 2025-01-14 11:06:05 发布
阅读量259 收藏
点赞数 3
CC 4.0 BY-SA版权
文章标签： 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/sunck1970/article/details/145134286

生成式模型（Generative Model）是一类能够生成数据样本的模型，通常是通过学习数据的分布或结构来生成新的、类似的数据实例。与判别式模型（Discriminative Model）不同，生成式模型不仅仅关注数据的分类或标签，而是学习数据背后的潜在生成过程，从而能够生成新的样本。

生成式模型的常见应用包括图像生成、文本生成、语音合成等。常见的生成式模型包括：

  1. 生成对抗网络（GAN, Generative Adversarial Networks）：通过两个神经网络（生成器和判别器）对抗训练，生成器生成假数据，判别器判断数据的真假，最终生成器能够生成与真实数据几乎相同的样本。

  2. 变分自编码器（VAE, Variational Autoencoders）：通过编码器将输入数据映射到潜在空间，再通过解码器将潜在空间的表示重构回数据样本，通常用于数据生成和样本重建。

  3. 马尔可夫链蒙特卡洛（MCMC, Markov Chain Monte Carlo）方法：通过构造马尔可夫链，估算复杂的概率分布，用于从潜在分布中生成样本。

生成式模型的优势在于能够生成多样性高、逼真的数据，这使得它们在创作类任务（如艺术创作、文本自动生成、图像合成等）中具有广泛应用。

sunck1970
关注
PyTorch生成式人工智能（6）——生成模型（Generative Model）详解
盼小辉丶的博客
05-07 3262
本节介绍了人工智能的一个重要分支——生成模型，介绍了生成模型理论和应用的最新进展。我们从一个简单的示例开始，了解了生成模型最终关注的是对数据的潜在分布进行建模。通过总结生成模型框架，以理解生成模型的重要属性。然后，介绍了有助于理解生成模型的理论基础和关键概率概念，并概述了生成模型的分类方法。
从零开始大模型开发与微调：生成式模型实战：古诗词的生成
AI天才研究院
06-25 827
从零开始大模型开发与微调：生成式模型实战：古诗词的生成 1.背景介绍 在人工智能领域，生成式模型（Generative Models）近年来取得了显著的进展。特别是基于深度学习的生成式模型，如生成对抗网络（GANs）、变分自编码器（VAEs）和自回归模型（Autoreg
Generative Models
04-10
Goodfellow - Generative Models 深度学习暑期学校2017
Generative Models(生成模型)简介
热门推荐
Sundrops的专栏
04-30 1万+
著名物理学家费曼说过: What I cannot create, I do not understand. 所以我们要真正做到了解图像影音等，就必须要能创造它们。 Pixel RNN 收集一大堆图片，然后利用这些图片开始训练这个图片生成模型，根据前面的像素预测接下来的像素，训练结束后随便给一个(或者若干)初始像素就能生成一幅图片。PixelRNN不仅work，而且在各种生成方法中...
生成/判别式模型
aksjebdjj的博客
10-11 2856
特性生成式模型判别式模型学习目标联合分布 P(x,y)P(x,y)条件分布 $ P(y数据生成能力可以生成新数据无法生成新数据主要任务数据生成、密度估计、异常检测等分类、回归、序列标注等优势适合处理缺失数据、生成任务分类效果好，训练效率高劣势分类任务性能可能不佳，训练复杂无法生成数据，缺失数据处理能力较差典型模型朴素贝叶斯、GAN、VAE、HMM逻辑回归、SVM、神经网络。
生成模型（Generative Model）
大黑山小马哥的博客
02-23 7499
1. 基本概念 目标是学习样本点的分布。学到后可以生成数据，故称为生成模型。 2. 实现步骤 （1） 假设样本点的分布（例如高斯分布） （2） 通过样本点计算均值和方差 通常使用联合分布以减少参数的个数。 共用协方差矩阵后，边界形状发生变化。 （3）分类 P（A|B），读作“在B的条件下A的概率”。 ...
机器学习 李宏毅 L28L29-Deep Generative Model
okgagaga的博客
02-02 1251
生成模型1： Pixel RNN 产生图像时，每次产生一个像素点。也就是，训练一个网络，输入为一个三维的vector，输出为另外一个三维的vector。可以使用Pixel RNN进行图像生成、语音生成等。 如果需要练习，可以提供该课程提供的792个Pokemon突袭那个，图像为20*20大小,数据库地址。实验结果如下图： 生成模型2： VAE (Variational Aut
判别式模型和生成式模型的区别
01-07
其实机器学习的任务是从属性X预测标记Y，即求概率P(Y|X)。 判别式模型 对于判别式模型来说求得P(Y|X)，对未见示例X，根据P(Y|X)可以求得标记Y，即可以直接判别出来，如上图的左边所示，实际是就是直接得到...生成式模型
生成式模型和判别式模型的区别
zhangt766的博客
06-16 9145
机器学习可以分为两大类：生成式模型（Generative Model）、判别式模型（Discriminative Model）。 现在有一堆球，颜色信息已知为绿色和黄色两种，有且仅有这两种颜色，这里，球的颜色为y（目标变量），坐标轴上位置为特征X。我们想要知道，如果在坐标轴的某一位置x新放入一个球，这个球会是什么颜色的？ 1.生成式模型的思想： 生成式模型使用的是联合概率P(X,Y)，若已知x（球的坐标位置信息），通过计算出P(X,Y)我们就可以知道球的颜色。 P(X,Y) = P(Y)*P(X|Y)，其中
生成模型 Generative Model（1）
weixin_43559672的博客
12-19 965
什么是生成模型，概念上的理解是指一类算法或者模型，目标是，从而能够生成新的、看起来与真实数据相似的数据；形式上的定义：给定真实分布px, 训练一个qθ​x，通过神经网络训练逐渐调整参数θ使其不断逼近px的过程，qθ​​x称为生成模型。​。
深度生成模型（Deep Generative Models）
10-26
深度生成模型基本都是以某种方式寻找并表达（多变量）数据的概率分布。有基于无向图模型（马尔可夫模型）的联合概率分布模型，另外就是基于有向图模型（贝叶斯模型）的条件概率分布。前者的模型是构建隐含层(latent)和显示层（visible)的联合概率，然后去采样。
RNN & Generative Model
Ph8_0的博客
08-26 451
Gaze Estimation Segment face, detect landmarks, segment eyes, and put into the algorithm to get : 3D gaze direction and 2D point regard/gaze categorized into Feature-based Appearance-based and Mode...
深度学习（三——生成模型 Generative Model）
Seven
11-07 1799
生成模型是指：一系列用于随机生成可观测数据的模型。包括：自动编码器（Autoencoder）、变分自动编码器（Variational AutoEncoder, VAE）. 1.自动编码器 初始自动编码器作为一种数据压缩方法，特点：只能压缩与训练数据相似的数据；压缩后数据有损（降维导致的信息丢失）； 自动编码器应用：数据去噪、可视化降维； 结构：编码器（Encoder）+ 解码器（Decod...
机器学习-白板推导系列(三十)-生成模型(Generative Model)
Paul_Huang的专栏
07-06 7000
机器学习-白板推导系列(三十)-生成模型(Generative Model) 30.1 生成模型的定义 前面所详细描述的模型以浅层的机器学习为主。本章将承上启下引出后面深度机器学习的部分。本小节，主要讲述的是什么是生成模型，它是不是只是生成样本，生成数据？它的任务是什么？精准的定义是什么？ 这个问题实际上在之前的章节中有过详细的介绍。这里更进一步总结。之前讲过的简单的生成模型，包括： 高斯混合分布（GMM），GMM的主要任务是聚类，属于非监督学习； 而监督学习中的生成模型，最简单的有朴素贝叶斯模型，主要任
generative model and discriminative model
xiaomiguan的博客
11-30 500
判别模型 和 生成模型 【摘要】 - 生成模型：无穷样本==》概率密度模型 = 产生模型==》预测 - 判别模型：有限样本==》判别函数 = 预测模型==》预测【简介】 简单的说，假设o是观察值，q是模型。 如果对P(o|q)建模，就是Generative模型。其基本思想是首先建立样本的概率密度模型，再利用模型进行推理预测。要求已知样本无穷或尽可能的大限制。 这种方法一般
机器学习19：Generative Model
qqqinrui的博客
04-17 1264
讲解三种Generative Model：PixelRNN、Variation Auto-encoder、Generative Adversavial Network 一、PixelRNN 利用前面已知的像素和预测的像素逐一对后面的像素进行预测。如图所示，输入是变化的，第一次使用一个像素预测后面的像素，随后使用前面两个像素预测再后面的像素。。。 以下是声信号的预测，RNN逐一根据前面的n...
机器学习笔记9_Generative Model(GAN)
爱技术的小白
03-22 1029
本文是李宏毅机器学习的笔记，这是第九节，介绍了GAN网络。 文章目录1. GAN概述GeneratorDiscriminator流程2. GAN原理3. Tips for GAN4. Conditional Generation5. Learning from Unpaired Data6. Evaluation of Generation 1. GAN概述 Generator Generator可以利用一个简单的分布数据生成一个复杂的分布数据。 为什么不做成输入和输出相互对应的方式，而要将简单的分布当作
Generative Model 与 Discriminative Model（一）
RYP_S 的专栏
01-15 1133
原文：http://blog.sina.com.cn/s/blog_6742eecd0100iqcv.html 【摘要】     - 生成模型(Generative Model) ：无穷样本==》概率密度模型 = 产生模型==》预测     - 判别模型(Discriminative Model)：有限样本==》判别函数 = 预测模型==》预测 【简介】 简单的说，假设o是观
生成式模型的基本原理
最新发布
01-02
### 生成式模型的工作原理及基本概念 #### 基本定义与分类 生成式模型是一类统计学上的机器学习方法，旨在捕捉数据分布的本质特征并能基于此生成新的样本。这类模型可以分为两大主要类别：自回归模型（Autoregressive Models, AR）和扩散模型（Diffusion Models），以及其他变体。 #### 自回归模型 (AR Model) 自回归模型是一种特定类型的生成式模型，其工作方式是从左至右逐个预测序列中的元素[^1]。具体来说，该模型利用先前已知的信息来推断后续未知的部分；例如，在自然语言处理领域内，这意味着通过分析前几个词语从而推测出下一个可能出现的单词是什么。这种特性使得AR非常适合于诸如文本创作之类的任务，因为它能够有效地模拟人类写作过程中逐步构建句子的方式[^2]。 #### 扩散模型 (Diffusion Model) 相比之下，扩散模型采用了一种完全不同的策略来进行数据合成。这些模型首先向原始干净的数据添加随机噪声，逐渐将其转换成看似无意义的状态。接着，训练一个去噪过程——即所谓的“denoise module”，它试图逆转上述加噪操作，恢复初始清晰版本的内容[^4]。这一双向变换的过程不仅有助于提高最终输出的质量，而且还能增强系统的鲁棒性和泛化能力。 #### Transformer架构下的应用实例 现代许多先进的生成式AI系统都采用了Transformers结构作为核心组件之一。以BERT为例，这是一种预训练语言表示模型，能够在大规模语料库上进行自我监督式的参数调整优化。借助多头注意力机制以及位置编码技术的支持，此类框架可以在不牺牲效率的前提下大幅改善上下文理解能力和表达力。 ```python import tensorflow as tf from transformers import TFBertModel model = TFBertModel.from_pretrained('bert-base-uncased') input_ids = tf.constant([[7112, 6391, ...]]) # 输入token ID列表 outputs = model(input_ids) last_hidden_states = outputs.last_hidden_state ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值