- 综合排序
- 最热优先
- 最新优先
- 来自专栏数据科学和人工智能
深度生成模型
本次课将首先介绍生成模型的概念以及适用场景。进一步讲解基于能量的模型，包括受限玻尔兹曼机（RBM）和深度玻尔兹曼机等。它们既是早期的神经网络模型，也是经典的生成模型。 接着介绍目前常见的深度生成模型，包括自编码器和变分自编码器。最后，介绍生成对抗网络（GAN）及其变种。 这给模型的求解带来很大的方便。 RBM主要是作为构建深度波尔兹曼机的一个组件。怎么构建呢?输入数据是可见层。在这上面堆叠多层RBM。每一层代表对原始数据的抽象表示。 还有一点，它与我们接下来要讲的GAN相比，生成的图像往往比较模糊，质量不是特别高。 4 生成对抗网络 接下来，我们讲解深度生成模型的典型代表：生成对抗网络（简称GAN）。 但是如果你只用它来去做生成，GAN做比较好。 GAN发明之后，有一些在GAN基础上生成质量更好图像的做法。第一个是深度卷积生成式对抗网络(DCGAN)，它把生成器的结构做了一些改变。
1.3K10编辑于 2022-03-31 - 来自专栏DrugOne
AAAI | 深度生成模型—NEVAE
作者基于VAE提出一种新的分子图生成模型NEVAE，其编码器和解码器经过特殊设计，通过多种技术创新来解决目前生成模型存在的缺点。 近年来，有大量工作致力于开发用于自动分子设计的深度生成模型。 主要遵循两种策略，第一种是用文本序列来表示分子，利用深度生成模型来生成用于分子设计的文本，但是SMILE字符串无法捕获分子之间的结构相似性并且一个分子可以具有多个SMILES表示形式，如此导致生成的分子缺乏多样性和有效性 第二种策略是基于分子图的深度生成模型，但是，当前的分子图生成模型存在一些问题导致其无法发挥模型的所有潜力。 3 实验 (1)生成分子优秀程度 作者首先通过比较该模型生成的分子与几种性能最佳的方法生成的分子，对模型进行定量分析，即有效性、新颖性和唯一性，使用八个基线进行比较：GraphVAE，GrammarVAE
1K50发布于 2021-02-02 - 来自专栏DrugOne
arXiv | 药物组合的深度生成模型
deep generative models for designing drug combinations as graph sets ”，德州农机大学的Yang Shen课题组首次提出药物组合的深度生成模型 面对计算药物组合设计中存在的巨大化学空间中“药物组合爆炸”问题，Yang Shen课题组首次提出使用生成模型来加速发现抗耐药性的药物组合。 ? 模型是利用不同的奖励机制、疾病集合和动作空间，将提出的强化模型分为三个阶段进行训练，利用HVGAE生成的疾病表征，逐渐关注目标疾病。 第一阶段生成遵循化学有效性奖励、亲脂性奖励以及针对单个化合物的新对抗奖励机制的高亲脂性的类药物小分子；第二阶段在第一阶段的模型预训练的基础上使其在所有疾病中产生良好的药物组合，模型添加了基于网络原理的化合物组合的奖励 表 5 基于强化学习的消融研究 5 结论 作者提出将药物组合设计问题设计为图集生成问题，并开发了一个具有新型的对抗奖励和基于网络原则的药物组合奖励的深度生成模型，此外还设计了分层变分图自编码器联合嵌入基因
85650发布于 2021-02-01 - 来自专栏深度学习
【深度学习】序列生成模型（三）：N元统计模型
N元统计模型 N元模型（N-Gram Model）是一种常用的序列建模方法，尤其是在处理数据稀疏问题时。该模型基于马尔可夫假设，即假设当前词的生成只依赖于其前面的 N-1 个词。 当 N = 1 时，称为一元（Unigram）模型。 每个词的生成只与它自身有关，与前面的任何词无关。 当 N = 2 时，称为二元（Bigram）模型。 每个词的生成仅依赖于其前一个词。 当 N = 3 时，称为三元（Trigram）模型。 每个词的生成依赖于其前两个词。 以此类推，当 N 增大时，模型考虑的历史信息也随之增加。 一元模型 1.1 概述 定义： 一元模型是N元统计模型中的特例，其中每个词的生成概率独立于其他词，无关上下文。 1.2 生成概率 多项分布假设： 词的生成概率符合多项分布，参数为每个词的概率。 在一元模型中，每个词的概率仅取决于该词在整个词表中的出现频率。
50810编辑于 2024-07-30 - 来自专栏媒矿工厂
使用深度生成模型进行物理建模
本次演讲主要讲述使用深度生成模型进行物理建模。 Aswin C. Sankaranarayanan提出可以使用一个深度生成模型来迭代地解决这些线性逆问题。 然后，Aswin C. Sankaranarayanan讲解了物体形状和反射属性的建模。 Sankaranarayanan讲解了总的图像建立模型，测量的像素强度由入射光的光谱、物体的几何着色属性以及物体的反射谱决定，Aswin C. Sankaranarayanan使用深度生成模型来学习输入图像的反射、光照和几何属性，使用可微分渲染来估计物体形状。 最后，Aswin C. Sankaranarayanan讲解了一个基于物理感知建模的图像压缩框架，使用一个编码器将场景布局、光照、几何形状以及反射属性编码到较小的隐空间，然后再用一个物理感知解码器将这些编码后的内容进行可微分渲染，这是一个可解释的图像模型
62510发布于 2019-12-05 - 来自专栏深度学习
【深度学习】序列生成模型（四）：评价方法
一、困惑度（Perplexity） 困惑度（Perplexity）是一种用来衡量序列生成模型性能的指标。 实例 【深度学习】序列生成模型（五）：评价方法计算实例：计算BLEU-N得分【理论到程序】 main_string = 'the cat sat on the mat' string1 = 'the cat ROUGE-N可用于评估模型生成的文本与参考文本之间的相似性，尤其在文本摘要等任务中常被使用。 3. 实例 【深度学习】序列生成模型（六）：评价方法计算实例：计算ROUGE-N得分【理论到程序】 main_string = 'the cat sat on the mat' string1 = 'the 在实际应用中，通常会综合使用多个评价指标，以全面评估生成模型的性能。
54510编辑于 2024-07-30 - 来自专栏深度学习
【深度学习】序列生成模型（二）：束搜索
序列生成 在进行最大似然估计训练后的模型 p_\theta(x | \mathbf{x}_{1:(t-1)}) ，我们可以使用该模型进行序列生成。生成的过程是按照时间顺序逐步生成序列样本。 是在给定前缀序列的条件下，由模型生成的当前时刻的词。 这个过程可以迭代进行，直到生成完整的序列样本。在每一步，模型根据已经生成的前缀序列生成当前时刻的词，然后将当前时刻的词添加到前缀序列中，用于生成下一个时刻的词。 这个过程是根据训练得到的模型对数据分布进行采样，从而生成新的符合训练数据分布的序列。 训练模型时，这有助于模型学习何时停止生成。在测试时，一旦生成了结束符号 \langle \text{EOS} \rangle ，模型就会中止生成过程。
44510编辑于 2024-07-30 - 来自专栏AI科技评论
大规模计算时代：深度生成模型何去何从
如果该模型涉及深度神经网络，则该模型是深度生成模型（Deep Generative Models, 简称 DGMs）。 最终希望启发大家去思考一个共同的主题：如何在大规模预训练时代推进或应用深度生成模型。 随着深度学习的兴起，生成模型通过和深度神经网络的结合，逐渐形成了一个新的家族：深度生成模型。他们这个家族有个共同的特点，就是利用神经网络来模拟数据生成的过程。 图1：我们考虑了三种流行的深度生成模型类型：蓝色的自动回归模型（神经语言模型，或NLM），绿色的可变自动编码器（VAE）和橙色的生成对抗网络（GAN）。 这些结果标明，深度生成模型合成的样品可用于预训练，并且可以提高其模型的通用性。
1.2K30发布于 2020-04-16 - 来自专栏智能生信
PMLR｜基于片段的分子深度生成模型
一、研究背景 分子生成是化学信息学中一个具有挑战性的开放问题。目前，应对这一挑战的深度生成方法以分子的表示方式不同，可以分为两大类。 而基于字符串表示的方法训练与采样方面效率更高，但在生成时却往往产生大量化学无效与重复的分子。在本文中，作者解决了基于字符串表示的生成模型的两个主要缺点。避免了生成化学无效的分子和重复分子。 2.4 模型训练 与其他语言模型相似，作者采用了一种编码器-解码器架构，两者之间有生成模型。体系结构和训练过程如下。 图3展示了从ZINC数据集与模型生成的分子中随机提取的30个分子，用于可视化比较。 ? 表2. 文中模型与其他模型的性能比较 ? 图3. 从ZINC数据集与模型生成的分子中随机提取的30个分子 评估生成模型的另一个基本方面是确定生成的样本在多大程度上类似于训练数据。
1.8K10发布于 2021-02-04 - 来自专栏机器学习算法与Python学习
115页PPT带你领略深度生成模型全貌
本文为大家带来了斯坦福大学PH.D Aditya Grover同学的深度生成模型tutorial，希望对大家的学习有所帮助。 本教程的前半部分，将全面介绍深度生成模型，包括生成对抗网络、变分自编码器以及自回归模型。对于每一个模型，我们都将深入探讨各自的概率公式、学习算法、以及与其他模型的关系。 后半部分将演示一组具有代表性的推理任务，展示深度生成网络在其中的应用。最后，我们将讨论堂前领域面临的挑战，并展望未来的研究方向。 目录 第一部分： 生成模型的动机，以及与判别模型的对比 生成模型的定义、特征、估计密度、模拟数据、学习表示 传统生成模型方法，以及深度网络在参数化方面的作用 基于学习算法的生成模型分类，基于相似点的学习和无相似点的学习 深度生成模型的实例 半监督学习 模仿学习 对抗样本 压缩感知 关于生成模型未来研究的主要挑战和展望。
63100发布于 2018-07-31 - 来自专栏数据结构和算法
使用Python实现深度学习模型：语言模型与文本生成
语言模型是自然语言处理中的核心任务之一，它们用于预测文本中的下一个单词或生成与输入文本相关的新文本。本文将详细介绍如何使用Python实现一个语言模型，并通过这个模型进行文本生成。 语言模型简介 语言模型是用来估计一个句子（或一个单词序列）概率的模型。简单地说，语言模型试图预测下一个单词。基于深度学习的语言模型，如GPT-2和BERT，已经在自然语言处理领域取得了显著的成果。 1.1 GPT（生成式预训练变换器） GPT是一种基于Transformer的生成模型，它通过自回归（autoregressive）方式生成文本，即模型在生成下一个单词时，基于之前生成的单词。 我们将定义一个函数，使用GPT-2模型生成文本。 = tokenizer.encode(prompt_text, return_tensors='tf') # 使用模型生成文本 output = model.generate
28310编辑于 2024-06-26 - 来自专栏痴者工良
C# 深度学习：对抗生成网络(GAN)训练头像生成模型
通过生成对抗网络(GAN)训练和生成头像 简介 本教程将通过一个示例介绍生成对抗网络(DCGAN)，在教程中，我们将训练一个生成对抗网络 (GAN) 模型来生成新的名人头像。 什么是 GAN GANs 是一种教深度学习模型捕捉训练数据分布的框架，这样我们可以从相同的分布生成新的数据。 它们由两个不同的模型组成，一个是生成器，另一个是判别器。生成器的任务是生成看起来像训练图像的“假”图像。判别器的任务是查看图像，并输出它是否是真实训练图像或来自生成器的假图像。 Radford 等人在论文《利用深度卷积生成对抗网络进行无监督表示学习》中首次描述了这种方法。判别器由步幅卷积层、批量归一化层以及LeakyReLU激活函数组成。 ngf - 与通过生成器传递的特征图的深度有关。 ndf - 设置通过判别器传播的特征图的深度。 num_epochs - 要运行的训练 epoch 数。
35010编辑于 2025-03-26 - 来自专栏智能生信
RELATION：基于结构的新药设计深度生成模型
| 庞超 编辑 | 赵晏浠 论文题目 RELATION：A Deep Generative Model for Structure-Based De Novo Drug Design 论文摘要 基于深度学习的从头分子设计近年来获得了相当大的关注 许多基于DL的生成模型已经成功用于设计新分子，但这些方法大多数以配体为中心，靶点口袋的三维几何结构在分子生成中尚未得到很好的利用。在这里，作者提出了一种新的基于3D的生成模型RELATION。 在RELATION中，BiTL算法被专门设计用于提取和转移蛋白质配体复合物的几何特征到一个隐空间进行生成。 结果表明，该模型能够有效地生成具有良好结合亲和力和药效团特征的新分子。 论文链接 https://pubs.acs.org/doi/10.1021/acs.jmedchem.2c00732
52010编辑于 2022-12-29 - 来自专栏Python深度学习
使用Python实现深度学习模型：语言模型与文本生成
语言模型是自然语言处理中的核心任务之一，它们用于预测文本中的下一个单词或生成与输入文本相关的新文本。本文将详细介绍如何使用Python实现一个语言模型，并通过这个模型进行文本生成。 语言模型简介语言模型是用来估计一个句子（或一个单词序列）概率的模型。简单地说，语言模型试图预测下一个单词。基于深度学习的语言模型，如GPT-2和BERT，已经在自然语言处理领域取得了显著的成果。 1.1 GPT（生成式预训练变换器）GPT是一种基于Transformer的生成模型，它通过自回归（autoregressive）方式生成文本，即模型在生成下一个单词时，基于之前生成的单词。 ，使用GPT-2模型生成文本。 通过本文的教程，希望你能够理解语言模型的工作原理和实现方法，并能够应用于自己的任务中。随着对语言模型和自然语言处理技术的理解加深，你可以尝试实现更复杂的生成任务，如对话系统、诗歌生成等。
76100编辑于 2024-06-25 - 来自专栏DotNet NB && CloudNative
C# 深度学习：对抗生成网络(GAN)训练头像生成模型
(DCGAN)，在教程中，我们将训练一个生成对抗网络 (GAN) 模型来生成新的名人头像。 什么是 GAN GANs 是一种教深度学习模型捕捉训练数据分布的框架，这样我们可以从相同的分布生成新的数据。 它们由两个不同的模型组成，一个是生成器，另一个是判别器。生成器的任务是生成看起来像训练图像的“假”图像。判别器的任务是查看图像，并输出它是否是真实训练图像或来自生成器的假图像。 Radford 等人在论文《利用深度卷积生成对抗网络进行无监督表示学习》中首次描述了这种方法。判别器由步幅卷积层、批量归一化层以及LeakyReLU激活函数组成。 • ngf - 与通过生成器传递的特征图的深度有关。 • ndf - 设置通过判别器传播的特征图的深度。 • num_epochs - 要运行的训练 epoch 数。
72310编辑于 2025-03-27 - 来自专栏有三AI
【AI初识境】深度学习模型评估，从图像分类到生成模型
4 图像生成评价指标 当我们要评估一个生成模型的性能的时候，有2个最重要的衡量指标。 (1) 确定性：生成模型生成的样本一定属于特定的类别，也就是真实的图像，而且必须要是所训练的图片集，不能用人脸图像训练得到了手写数字。 除此之外，还会考虑分辨率等，因此评价生成模型也需要从这几个方向着手。 不过Inception Score也有缺陷，因为它仅评估图像生成模型，没有评估生成的图像与原始训练图像之间的相似度，因此虽然鼓励模型学习了质量好，多样性好的图像，但是却不能保证是我们想要的图像。 重新解释“季”划 & 为什么我不是在搞培训 总结 深度学习模型的评价方法实在是太多了，本文以计算机视觉领域为例，给大家介绍了最广泛使用的一部分指标。
2K10发布于 2019-07-26 - 来自专栏人工智能LeadAI
深度学习的三大生成模型：VAE、GAN、GAN
本章将为读者介绍基于深度学习的生成模型。 在深度学习之前已经有很多生成模型，但苦于生成模型难以描述难以建模，科研人员遇到了很多挑战，而深度学习的出现帮助他们解决了不少问题。 本章介绍基于深度学习思想的生成模型——VAE和GAN，以及GAN的变种模型。 01 VAE 生成式模型 本节将为读者介绍基于变分思想的深度学习的生成模型——Variational autoencoder，简称VAE。 读者估计知道很多判别式模型。 也就是用深度卷积网络进行对抗生成网络的建模。
2.8K80发布于 2018-03-08 - 来自专栏IT派
深度学习的三大生成模型：VAE、GAN、GAN
导语：本章将为读者介绍基于深度学习的生成模型。 在深度学习之前已经有很多生成模型，但苦于生成模型难以描述难以建模，科研人员遇到了很多挑战，而深度学习的出现帮助他们解决了不少问题。 本章介绍基于深度学习思想的生成模型——VAE和GAN，以及GAN的变种模型。 VAE 本节将为读者介绍基于变分思想的深度学习的生成模型——Variational autoencoder，简称VAE。 生成式模型 前面的章节里读者已经看过很多判别式模型。 也就是用深度卷积网络进行对抗生成网络的建模。
12.2K100发布于 2018-03-28 - 来自专栏新智元
如何生成「好」的图？面向图生成的深度生成模型系统综述｜TPAMI2022
最近在用于图生成的深度生成模型方面的进展是提高生成图的保真度的重要一步，并为新类型的应用铺平了道路。本文对用于图生成的深度生成模型领域的文献进行了广泛的概述。 深度生成模型的最新进展，如变分自编码器(VAE)[22]和生成对抗网络(GAN)[23]，已被提出用于生成图的许多深度学习模型，这些模型形式化了用于生成图的深度生成模型的有前途的领域，这是本综述的重点。 此外，缺乏标准和全面的评估程序来验证所开发的图的深度生成模型。为此，本文对用于图生成的深度生成模型进行了系统的综述。 对用于图生成的深度生成模型以及基础的深度生成模型进行了详细的描述、分析和比较。 我们总结和分类现有的评估程序和指标，基准数据集和对应的图生成任务的深度生成模型的结果。 用于图生成的无条件深度生成模型 无条件深度图生成的目的是通过深度生成模型从真实分布p(G)中抽样的一组观察到的真实图来学习分布pmodel(G)。
1.1K10编辑于 2022-10-11 - 来自专栏数据结构和算法
使用Python实现深度学习模型：序列建模与生成模型的博客教程
引言深度学习是一种强大的机器学习方法，广泛应用于图像处理、自然语言处理等领域。本文将介绍如何使用Python实现深度学习模型，重点关注序列建模和生成模型。我们将详细说明每个步骤，并提供相应的代码示例。 目录序列建模的基本概念使用Python和Keras构建序列建模模型序列建模模型的训练与评估生成模型的基本概念使用Python和TensorFlow构建生成模型生成模型的训练与生成新的序列总结与展望1. 生成模型的基本概念生成模型是一种用于生成新的数据样本的技术。它基于已有的数据样本，学习其分布和模式，并生成与原始数据类似的新样本。在深度学习中，生成模型通常使用生成对抗网络（GAN）来实现。 生成模型的训练与生成新的序列在定义模型之后，我们需要准备训练数据和标签。然后，我们可以训练GAN模型，并使用生成器生成新的序列数据。 latent_dim))generated_sequence = generator.predict(noise)print(generated_sequence)总结与展望本文介绍了使用Python实现深度学习模型的序列建模和生成模型的步骤
58110编辑于 2024-07-02
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号