首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏深度学习自然语言处理

    长文实践 | 详述文文本生成任务之营销文本生成

    ---- 编辑:AI算法小喵 写在前面 在《一文详解生成文本摘要经典论文Pointer-Generator》中,我们已经详细地介绍过长文本摘要模型 PGN+Coverage。 引言 文本生成(Text Generation)可进一步细分为文本摘要、机器翻译、故事续写等任务。本项目主要用到文本摘要技术。 抽取式摘要是选取其中关键的句子摘抄下来。 相反,生成式摘要则是希望通过学习原文的语义信息后相应地生成一段较短但是能反映其核心思想的文本作为摘要。 生成式摘要相较于抽取式摘要更加灵活,但也更加难以实现。 熟练掌握如何实现 Beam Search 算法来生成文本。 熟练掌握文本生成任务的评估方法。 掌握深度学习训练的一些优化技巧,如:Scheduled sampling、Weight tying等)。 项目任务简介 文本生成任务中,通常将作为输入的原文称为 source,将待生成的目标文本称为 target 或者 hypothesis,将用来作为 target 好坏的参考文本称之为reference。

    1.1K42编辑于 2022-09-13
  • 来自专栏大数据智能实战

    textgenrnn 文本生成实战

    文本生成是一件很神奇的自然语言处理任务,深度学习给文本生成带来的全新的技术途径,如这篇文章The Unreasonable Effectiveness of Recurrent Neural Networks textgenrnn就是采用RNN的方式来实现文本生成的一个简洁高效的库,代码量非常少,又非常易于理解。其架构是采用了LSTM+Attention的方式来实现。如下图所示: ? 源码实践: (1)默认的测试,生成新闻。 ? (2)电脑领域的新闻生成 ? 在上述参数中,可见有个temperatures,它可以用来代表生成文本的温度(从结果来看,似乎可以认定为文本带的感情色彩强烈与否,其中0.2一般为偏负面,0.5代表偏中性,1.0代表相对正能量一些。) 如训练语料至少2000-5000个之间,且生成文本不稳定,需要一些人工编辑等。 textgen = textgenrnn('.

    99930发布于 2019-05-26
  • 来自专栏AI分享

    90分钟生成10万Token,新框架实现3倍无损加速超长文本生成

    生成10万Token的文本,传统自回归模型需要近5个小时,现在仅需90分钟! 在人工智能领域,大语言模型(LLMs)的应用日益广泛,但生成超长序列(如长达100K Token)却面临着耗时长的难题。 传统的推测解码方法在扩展生成限制时并不能有效加速,甚至可能损害生成效果。 四、应用场景 文学创作与内容生成 对于需要生成长篇文本的场景,如小说创作、报告撰写等,TOKENSWIFT能够帮助创作者快速生成高质量的内容,大大提高创作效率。 **跨领域应用**:探索TOKENSWIFT在更多领域的应用潜力,如医疗、金融等,为各行业提供更强大的文本生成支持。 TOKENSWIFT框架作为超长序列生成领域的创新技术,具有重要的理论价值和广阔的应用前景。它不仅为当前的文本生成任务提供了高效的解决方案,也为未来人工智能技术的发展奠定了坚实的基础。

    3.7K11编辑于 2025-03-12
  • 来自专栏杨熹的专栏

    如何自动生成文本摘要

    /github.com/llSourcell/How_to_make_a_text_summarizer/blob/master/vocabulary-embedding.ipynb 今天学习的是自动生成文本摘要 接着我们需要把整个文章变成一个一个的单词,并且一个词一个词的生成总结。 decoder,和encoder一样的 lstm 结构,权重矩阵也是用同样的提前训练好的 glove embeddings,它用来生成 summary。 decoder 会先生成一个单词,然后把这个单词投入到下一层中,就会生成下一个单词,一直到生成一句标题。 Will Make You Smarter for Your App" samples = gensamples(X, skips=2, batch_size=batch_size, k=10

    2K50发布于 2018-04-03
  • 来自专栏AI算法能力提高班

    AnyText | 广告营销文本生成

    ⚡ AnyText | 广告营销文本生成 本文介绍AnyText文本生成文本编辑,适合广告电商图片生成,降本增效。 辅助潜在模块:这个模块使用文本字形、位置和遮蔽图像等输入来生成用于文本生成或编辑的潜在特征。它通过将这些信息编码到潜在空间中,帮助模型在图像中生成或修改文本。 AnyText能够生成多种语言的字符,据作者所知,这是第一个解决多语言视觉文本生成的工作。 辅助潜在模块: 该模块使用文本字形(glyph)、位置(position)和遮蔽图像(masked image)作为输入,生成用于文本生成或编辑的潜在特征。 文本嵌入模块: 该模块使用光学字符识别(OCR)模型将笔画数据编码为嵌入,这些嵌入与分词器生成的图像标题嵌入融合,以生成与背景无缝融合的文本

    82510编辑于 2024-01-05
  • 来自专栏AI小白入门

    【NLP】机器如何生成文本

    haha,仅仅使用两行代码我们就可以利用GPT2生成一个简短文本。从生成结果可以看到,根据上下文生成的单词是合理的,但是模型很快就会开始重复。 换句话说,作为人类,我们希望生成文本使我们感到惊讶,而不是无聊或者可预测的,作者通过绘制概率图很好地证明了这一点。 ? 哈哈,既然这样,那让我们停止无聊并加入一些随机性! GPT2就是采用了这种采样方案,这也是其生成故事效果不错的原因之一。 我们将上面示例中两个采样步中使用的单词范围从3个扩展到10个,以更好地说明Top-K采样。 ? 这个结果可以说是我们一路下来最真实的文本生成。但是在使用Top-K采样时需要注意的一个问题是,它不会动态适应从下一个单词概率分布 。 Top-P更流畅的文本; 在论文Consistency of a Recurrent Language Model With Respect to Incomplete Decoding[10]中指出,

    4.8K30发布于 2020-04-25
  • 来自专栏壳屋栏博客专栏

    Win10如何修改文本缩放比例?Win10修改文本缩放比例的方法

    Win10系统可以说是一款比较常见的操作系统,有不少小伙伴都在使用,但是在使用的时候却觉得字体太小看不清,想要去调整的时候却不知应该如何操作,那么遇到这种情况要如何解决呢? 下面就和小编一起来看看要如何修改文本缩放比例。 Win10修改文本缩放比例的方法 1、点击桌面左下角的开始菜单,点击设置面板。 2、找到系统板块一栏。 3、点击屏幕选项。 4、最后在右侧的缩放与布局板块中,就文本项目大小的比例改为100%即可。

    2.5K10编辑于 2022-06-24
  • 来自专栏DeepHub IMBA

    通过短文本生成图像

    文本到图像(Text-to-Image, TTI)是深度学习的新兴学科之一,专注于从基本文本表示生成图像。 从文本生成图像:挑战和注意事项 有几个相关的挑战传统上阻碍了TTI模型的发展,但它们中的大多数可以归类为以下类别之一? 1)挑战:TTI模型高度依赖文本和可视化分析技术,尽管近年来它们取得了很大进展,但要实现主流方法,仍有很多工作要做。从这个角度来看,TTI模型的功能通常会受到底层文本分析和图像生成模型的具体限制。 为了反映给定的叙述,TTI模型不仅要生成正确的对象,还要生成它们之间的关系。在文本到图像的生成技术中,生成包含多个具有语义意义的对象的更复杂的场景仍然是一个重大的挑战。 gan通常由两种机器学习模型组成——一个生成器从文本描述生成图像,另一个判别器使用文本描述判断生成图像的真实性。生成器试图让假照片通过鉴别器;另一方面,辨别器不希望被愚弄。

    1.2K20发布于 2021-08-20
  • 来自专栏AI技术探索和应用

    AIGC之文本和图片生成向量

    文本和图片生成向量的方式一般是通过已有的模型进行生成,在流行的模型托管平台上已有大量开源的Embedding模型,如国外的HuggingFace平台和国内的ModelScope平台。 接下来将对文本生成向量和图片生成向量在不同平台SDK下使用方式进行简单介绍。 文本生成向量 OpenAI(官方收费) 安装依赖。 pip install -U openai 文本生成向量示例如下。 pip install -U transformers 文本生成向量示例如下。若本地缓存不存在该模型,默认会从HuggingFace上下载该模型到本地。 ModelScope封装了统一的接口对外提供单句向量表示、双句文本相似度、多候选相似度计算功能。 安装依赖。 pip install -U modelscope 文本生成向量示例如下。 pip install -U towhee 文本生成向量示例如下。

    2.9K31编辑于 2024-03-13
  • 来自专栏深度学习自然语言处理

    文本生成魔改方案汇总!

    文本生成是NLP中较难的点,应用场景多且广泛。 VAE在文本生成界应用已经开始有点边缘了,不过对于seq2seq的系列文本生成,似然求解偏置问题导致的生成文本单一问题,VAE有天然优势。 【一些魔改方案】 VAE-seq2seq[10] 在VAE中直接引入attention时,attention会绕过隐变量空间而使得隐变量无效(如下图中b,c), 因此作者提出了将attention也改造成 ,同时作者认为多层特征抽取能捕捉到更细节的语义方便长文本生成。 dialog models using conditional variational autoencoders: https://www.aclweb.org/anthology/P17-1061 [10

    2.1K20发布于 2021-01-04
  • 来自专栏智能生信

    用于文本生成的GAN模型

    GAN的基本结构 二、GAN在文本生成中遇到的困境 传统的GAN只适用于连续型数据的生成,对于离散型数据效果不佳。文本数据不同于图像数据,文本数据是典型的离散型数据。 三、几种用于生成文本的GAN模型 3.1 Seq-GAN SeqGAN的核心思想是将GAN与强化学习的Policy Gradient算法结合到一起,出发点是意识到了标准的GAN在处理离散数据时会遇到的困难 3.2 LeakGAN 基于GAN生成文本的方法大多数场景是生成文本,对于长文本来说还是存在很多挑战。 先前的GAN中判别器的标量指导信号是稀疏的,只有在完整生成文本后才可用,缺少生成过程中的文本结构的中间信息。当生成文本样本长度很长时效果不好。 LeakGAN通过泄露判别器提取的特征作为引导信号,指导生成器更好地生成文本。同时,借助分层强化学习从判别器向生成器提供更丰富的信息。 图3.

    4.9K20发布于 2021-10-08
  • Sora——最强文本视频生成模型!

    引言以ChatGPT闻名海外的OPENAI,最近推出首个**文本视频生成模型——Sora**,其效果极其流畅程度令人叹为观止! 先来感受一下Sora依据文本生成的视频:提示词: A stylish woman walks down a Tokyo street filled with warm glowing neon and Sora根据提示词,生成60s镜头,不仅主要人物动作流畅,切近镜头时还可以看到主角的脸上皮肤细节,后面的场景还可以自如切换。 根据OpenAI给出的技术报告,Sora的技术特色:将视觉数据转换为Patch视频压缩网络时空潜在补丁转换变换器以生成视频变化的持续时间、分辨率、宽高比对语言的理解图像、视频、文本均可作为提示词视频拼接图像生成能力涌现的模拟能力就像 但是,对于很多人说,未来可能是输入小说直接生成对应的视频图像我仍然持保留态度。因为自我观点,Sora只是通过大量输入数据的学习,对文本处理后进行图像模拟,还远远达不到对真实物理世界的智能理解。

    40000编辑于 2024-03-04
  • 来自专栏自然语言处理(NLP)论文速递

    【NLP论文速递】文本生成、中文诗歌生成、邮件主题生成、感知对话生成、文摘生成、会话响应生成

    正文开始 1 文本生成原理(Char-RNN) 相信很多人应该看过这篇文章,它是Andrej Karpathy(不知道他是谁的同学,可以翻下我上一篇文章)的发的一篇blog,但是我还是把它拿过来了, 因为太经典了,对于一个新手来说能快速理解文本生成的原理。 该篇文章主要讲述了最基本的Char-RNN文本生成原理,具体如下图所示。以要让模型学习写出“hello”为例,Char-RNN的输入输出层都是以字符为单位。 然后,我们开发了一种新的深度学习方法,并将其与几种基线以及最新的最先进的文本摘要系统进行了比较。我们还研究了几种基于人类判断相关性的自动评价指标的有效性,并提出了一种新的自动评价指标。 据我们所知,我们的方法是第一个将BERT应用于文本生成任务的方法。作为这一方向的第一步,我们评估了我们提出的方法对文本摘要任务。

    1.8K10发布于 2021-11-26
  • 来自专栏图形学与OpenGL

    实验10 Bezier曲线生成

    1.实验目的: 了解曲线的生成原理; 掌握几种常见的曲线生成算法,利用VC+OpenGL实现Bezier曲线生成算法。 2.实验内容: (1)结合示范代码了解曲线生成原理与算法实现,尤其是Bezier曲线。 (2)调试、编译、修改示范程序。 3.实验原理: Bezier曲线是通过一组多边形折线的顶点来定义的。 图A.10(a)Bezier曲线 5.实验提高 模仿上述代码,以( 10, 5, 0 ),( 5, 10, 0 ),( -5, 15, 0 ),( -10, -5, 0 ),( 4, -4, 0 ) ,( 10, 5, 0 ), ( 5, 10, 0 ), ( -5, 15, 0 ), ( -10, -5, 0 ),( 10, 5, 0 )为控制点,将其转变为B样条曲线生成算法,见图A.10(b)。 图A.10(b)B样条曲线

    1.3K40发布于 2020-10-29
  • 来自专栏DeepHub IMBA

    使用扩散模型从文本生成图像

    需要占用的资源更少,这样我们也可以在自己的电脑中使用它生成高质量的图片。 在这篇文章中,将展示如何使用抱脸的扩散包通过文本生成图像,还有就一个一个不好的消息,因为这个模型的出现google的colab可能又要增加一些限制了。 使用diffusers 从文本生成图像 首先,使用扩散器包从文本生成图像我们首先要有一个GPU,这里就是用google 的colab,但是可能colab以后会对这样的应用进行限制了,这个我们在最后加以说明 拿 Pro 来说,每一个月只需要缴纳10美元,你就可以随便使,保障随时都有 GPU 可以用。 但是最近,Google 修改了服务条款。 OPEN AI的报价是大概0.15美元一张图片,而Colab只需要10美元就可以随便用,利用 Gradio 等开放框架提供 Web APP 界面进行服务,那你的成本几乎是0.

    1.8K10编辑于 2022-11-11
  • 来自专栏vue学习

    comfyui+animatediff实现文本生成动画

    文本生成动画 下载下面的JSON文件后在comfui中加载即可 工作流文件下载

    1.9K30编辑于 2023-10-16
  • 来自专栏一点人工一点智能

    ACM MM 2021 | 多文本人脸生成

    摘要 文本人脸合成指的是基于一个或多个文本描述,生成真实自然的人脸图像,并尽可能保证生成的图像符合对应文本描述,可以用于人机交互,艺术图像生成,以及根据受害者描述生成犯罪嫌疑人画像等。 该方法首次实现多个文本输入的人脸合成,与单输入的算法相比生成的图像更加接近真是人脸。 图 1 不同方法的文本到人脸图像生成结果 背景 相较于文本到自然图像的生成文本到人脸生成是一个更具挑战性的任务,一方面,人脸具有更加细密的纹理和模糊的特征,难以建立人脸图像与自然语言的映射,另一方面, 此外,目前基于文本的人脸生成方法[1,2,3,4]都是基于一个文本输入,但一个文本不足以描述复杂的人脸特征,更重要的是,由于文本描述的主观性,不同人对于同一张图片的描述可能会相互冲突,因此基于多个文本描述的人脸生成具有很重大的研究意义 方法 针对该问题,团队提出了一个基于多输入的文本人脸生成算法。

    76440编辑于 2022-12-27
  • 来自专栏数据派THU

    使用扩散模型从文本生成图像

    来源:DeepHub IMBA本文约1400字,建议阅读5分钟本文将展示如何使用抱脸的扩散包通过文本生成图像。 在这篇文章中,将展示如何使用抱脸的扩散包通过文本生成图像,还有就一个一个不好的消息,因为这个模型的出现google的colab可能又要增加一些限制了。 使用diffusers 从文本生成图像 首先,使用扩散器包从文本生成图像我们首先要有一个GPU,这里就是用google 的colab,但是可能colab以后会对这样的应用进行限制了,这个我们在最后加以说明 拿 Pro 来说,每一个月只需要缴纳10美元,你就可以随便使,保障随时都有 GPU 可以用。 但是最近,Google 修改了服务条款。 OPEN AI的报价是大概0.15美元一张图片,而Colab只需要10美元就可以随便用,利用 Gradio 等开放框架提供 Web APP 界面进行服务,那你的成本几乎是0.

    1.8K10编辑于 2022-09-20
  • 来自专栏企鹅号快讯

    人工智能之文本摘要自动生成

    而这需要的就是“文本摘要自动生成”技术! (Google开源的Textsum人类/机器摘要结果对比) 主流的文本摘要方式 目前主流的文本摘要自动生成有两种方式,一种是抽取式(extractive),另一种是生成式 (abstractive)。 伴随着深度学习的研究,生成式摘要的质量和流畅度都有很大的提升,但目前也受到原文本长度过长、抽取内容不佳等的限制。 目前Self-Attention仅用在了翻译任务中,但这样的思想,在文本摘要自动生成的任务中,也是可以参照的。 总的来说,文本摘要自动生成是个非常具有前景但也非常具有挑战性的技术。

    3.8K70发布于 2018-01-11
  • 来自专栏杨熹的专栏

    用 RNN 训练语言模型生成文本

    ---- cs224d Day 8: 项目2-用 RNN 建立 Language Model 生成文本 课程项目描述地址。 ---- 什么是 Language Model? 例如,输入一个起始文本:'in palo alto',生成后面的100个单词。 其中 Palo Alto 是 California 的一个城市。 再用训练好的模型去生成文本。 , 用模型作用在输入的初始文本生成后面的单词。 用 RNN 训练语言模型生成文本 Day 9. RNN与机器翻译 Day 10. 用 Recursive Neural Networks 得到分析树 Day 11. RNN的高级应用

    1.3K40发布于 2018-04-02
领券