- 综合排序
- 最热优先
- 最新优先
- 来自专栏媒矿工厂
LLMZip:使用大语言模型实现无损文本压缩
文章结果显示，利用最新的大语言模型进行文本压缩不仅可以提高压缩率，还能更准确地估计语言的熵，为未来文本处理技术的发展提供了新的可能性。 他们的方案仍然没有超过如BSC和ZPAQ等最先进的文本压缩算法。 因此，现在研究使用如LLaMA-7B这样的大语言模型是否可以获得更好的压缩结果和更精确的英语熵估计是很自然的。 本文展示了当使用LLaMA-7B大语言模型作为预测器时，使用text8数据集的1MB部分估计得出的熵的渐进上界为0.709比特/字符。这个数值与最先进的文本压缩算法之间仍存在一定差距。 这些发现表明，对于需要高效压缩的应用场景，如移动设备和网络通信，采用基于大语言模型的压缩方法可能是一个值得探索的方向。同时，这也提示在实际应用中应考虑不同压缩算法对不同文本长度的适应性。 结论 本文的结论指出，利用大语言模型（如LLaMA-7B）进行文本压缩能够显著提高压缩效率，并且可以达到比传统文本压缩算法（如BSC、ZPAQ和paq8h）更优的压缩比。
2.2K10编辑于 2024-05-11 - 来自专栏圆圆的算法笔记
利用大模型打造文本摘要训练新范式
这篇文章主要讨论的是生成式文本摘要的方法，如何利用对比学习和大模型实现最新的生成式文本摘要训练范式。 这部分对比学习loss的计算方式如下： 4、大模型优化文本摘要 随着GPT等大模型的兴起，人们发现用大模型生成的摘要甚至比人工生成的质量还要好。 这篇文章提出了3种利用大模型生成训练样本的方式。 第一种是直接使用大模型生成的摘要，替代人工生成的摘要，相当于直接用下游模型拟合大模型的摘要生成能力，训练方式仍然是MLE。 GPTScore是Gptscore: Evaluate as you desire（2023）中提出的一种基于大模型评估生成文本质量的方法。 5、总结 大模型在摘要生成上的能力得到越来越广泛的认可，因此利用大模型作为摘要模型拟合目标的生成器，取代人工标注结果，将成为未来的发展趋势。
3.4K50编辑于 2023-08-17 卷土重来的大模型越狱 - 长文本才是那个罪人
最近一段时间，大模型的"长文本"，成了最炙手可热的词。 从20万token的Claude3，到200万字的Kimi。 再到通义千问的1000万字，360的500万字。 但在这一路狂奔之时，Anthropic，也就是造Claude的公司，今天，给长文本，泼了一盘冷水。 一句话总结就是： 直接利用长文本的特性，量大管饱，给大模型灌海量的有害问答对，从而实现越狱。 越狱其实跟Prompt有一点像，只不过视角不同，Prompt是人们挖掘大模型的潜力而做的提示词工程，是“积极使用者”的视角；而“越狱”则是使用Prompt让大模型做出违背开发者意志的行为，是“黑客攻击者 但是随着大模型和Agent的逐步结合，进入到生活中的方方面面，这样的例子和风险可能会越积越多，直到挑战到人类道德底线。 越狱这个词，在去年大模型疯狂做安全对齐之后，已经越来越少有人提起了，毕竟，难度真的越来越大。 但是这次，在长文本的军备竞赛之上，越狱这玩意，又卷土重来。
26500编辑于 2025-04-14- 来自专栏大模型应用
大模型应用：TTA文本驱动音频：MusicGen大模型参数调优+音频情绪可视化.23
一、引言 随着语音大模型的普及，不管是TTS还是ASR，都与音频处理有着紧密的联系，AIGC的蓬勃发展，也催生了文本到音频（Text-to-Audio, TTA）的落地场景，音乐生成也走进了我们的实际应用 基于传统的信号合成技术凭借完全可控、轻量化的优势，在场景化音效补充中不可替代；而声乐大模型也是雨后勃发，以 MusicGen 为代表的 TTA 大模型，则通过海量数据训练实现了文本意图驱动的创意生成。 今天我们围绕声音的本质深度解析音频合成的核心逻辑，深度的理解一套融合MusicGen 大模型（创意核心）+ 传统信号合成（场景增强）+ 多维度可视化（效果验证） 的音频生成系统，涵盖模型原理、参数配置、 核心采用MusicGen大模型从文本描述生成基础音乐，再通过分形噪声合成和数字混响等传统方法增强场景效果，实现了“AI创意生成+人工精细化调整”的协作模式。 TTA大模型生成核心音频 print("\n 步骤1: 初始化TTA大模型") tta_generator = TTAAudioGenerator()
41632编辑于 2026-02-20 - 来自专栏大数据文摘
LLM Accelerator：使用参考文本无损加速大语言模型推理
目前的大语言模型大多是自回归模型。自回归是指模型在输出时往往采用逐词输出的方式，即在输出每个词时，模型需要将之前输出的词作为输入。而这种自回归模式通常在输出时制约着并行加速器的充分利用。 在许多应用场景中，大模型的输出常常与一些参考文本有很大的相似性，例如在以下三个常见的场景中： 1. 检索增强的生成。 图1：大模型的输出与参考文本存在相似性的常见场景 基于以上观察，研究员们以参考文本与模型输出的重复性作为突破自回归瓶颈的着力点，希望可以提高并行加速器利用率，加速大语言模型推理，进而提出了一种利用输出与参考文本的重复性来实现一步输出多个词的方法 图2：LLM Accelerator 解码算法 具体来说，在每一步解码时，让模型先匹配已有的输出结果与参考文本，如果发现某个参考文本与已有的输出相符，那么模型很可能顺延已有的参考文本继续输出。 以上方法能够保证解码结果与基准方法完全一致，并可以提高每个解码步骤的输出词数，从而实现大模型推理的无损加速。
72530编辑于 2023-05-22 - 来自专栏人工智能前沿讲习
【强基固本】大模型的四种文本解码策略
在大型语言模型（LLM）的迷人世界中，模型架构、数据处理和优化常常成为关注的焦点。但解码策略在文本生成中扮演着至关重要的角色，却经常被忽视。 在这篇文章中，我们将通过深入探讨贪婪搜索和束搜索的机制，以及采用顶K采样和核采样的技术，来探索LLM是如何生成文本的。 我们将文本“I have a dream”输入到GPT-2模型中，并让它生成接下来的五个词（单词或子词）。 通过这些策略，我们可以更好地理解GPT-2是如何生成文本的。 人们常常误解认为像GPT-2这样的大型语言模型（LLM）直接生成文本。实际上并非如此。 最终，模型生成logits，这些logits通过softmax函数转换为概率。
84210编辑于 2024-06-05 - 来自专栏Dance with GenAI
用阶跃星辰AI大模型批量识别图片中的文本
国内大模型公式阶跃星辰推出的Step-1V是一款千亿参数的多模态大模型， 该模型在多个领域表现出色，特别是在图像理解、多轮指令跟随、数学能力、逻辑推理和文本创作等方面。 多模态大模型在文本大模型的基础上，增加了多模输入能力，如语音、图像、视频等，并将它们融合在一起，以实现更全面、更准确的理解和推理。 step-1v该模型拥有强大的图像理解能力，暂时只开放文本和图像输入，且仅支持文本生成。上下文长度分别为8k和32k。 中输入提示词： 写一个Python脚本，完成一个OCR的任务，具体步骤如下： 打开文件夹：D:\downloads\世界人工智能大会WAIC2024展商名录 读取里面所有的png图片； 用step-1v-8k大模型将图片中的表格内容识别出来 step-1v-8k大模型的api_key为："XXX" step-1v-8k大模型的代码示例： # -*- coding: utf8 -*- import base64 import requests
1K10编辑于 2024-07-31 - 来自专栏数据分析与挖掘
LLM（大语言模型）解码时是怎么生成文本的？
use_cache (bool, optional, defaults to True) - 模型是否应该使用过去最后的键/值注意力（如果适用于模型）来加速解码。 在论文中，建议的值在3e-4到 9e-4之间，取决于模型的大小。 在论文中 ，建议值从3e-4到2e-3不等，取决于模型的大小。 草 坪 和 远 处 的 大 海 。 但是， n-gram 惩罚使用时必须谨慎，如一篇关于 纽约 这个城市的文章就不应使用 2-gram 惩罚，否则，城市名称在整个文本中将只出现一次！
6.3K30编辑于 2023-04-27 - 来自专栏开源服务指南
玩转大语言模型：文本生成和模型控制的革新之道 | 开源日报 0901
它允许您以一种简单直观的语法，基于 Handlebars 模板，实现文本生成、提示和逻辑控制的混合，产生清晰和易于理解的输出结构。 此外，Guidance 还提供了模型加速功能，可在处理多个生成或 LLM（大型语言模型）控制流语句时显着提高推理性能，从而提供更快的结果。 支持基于角色的聊天模型（如 ChatGPT ）的轻松集成。 与 Hugging Face 模型的轻松集成，包括提供模型加速、边界优化和正则表达式模式引导等功能。 Guidance 的目标是使文本生成和模型控制更加灵活、高效，为开发者和团队提供更多自由度和便利性。它适用于多种用途，包括自然语言生成、文本处理和实时流式处理。 允许用户自动生成数据集，用于训练模型。 提供训练和评估模型的功能。 Nougat 项目的出现极大地简化了学术文档处理的流程，为研究人员和开发者提供了更多便利。
50220编辑于 2023-09-14 - 来自专栏Soul Joy Hub
ASR文本纠错模型
文本纠错任务是一项NLP基础任务，其输入是一个可能含有错误字词的句子，输出是一个正确的中文句子。ASR（语音识别）文本的错误类型很多，有多字、少字、错别字、同音近音字等等。 1. /github.com/shibing624/pycorrector/blob/master/pycorrector/macbert/README.md 本项目是 MacBERT 改变网络结构的中文文本纠错模型 spm=1001.2014.3001.5502 上述模型考虑到了文本错字进行纠错，但在中文ASR的场景下，很多情况是由于中文拼音读音相同或相近导致的识别错误。 FastCorrect 上述模型都是在自编码模型上进行检错与纠错。也就是说，文本的输入输出序列长度是不变的，且输出纠错结果的token位置必须是与输入位置对齐的。 这就使得模型无法很好的纠正文本中多字、少字的错误。
3.3K20编辑于 2022-11-30 - 来自专栏DeepHub IMBA
Chonkie：面向大语言模型的轻量级文本分块处理库
Chonkie是一个专为大语言模型（LLM）应用场景设计的轻量级文本分块处理库，提供高效的文本分割和管理解决方案。该库采用最小依赖设计理念，特别适用于现实世界的自然语言处理管道。 文本分块概述 文本分块是将大型文本文档分解为更小、更易于管理的文本片段的过程，这些片段可以有效应用于检索增强生成（RAG）应用程序和大语言模型处理。 文档分块的必要性分析 在大语言模型应用中，将整个文档作为单一输入存在多个限制因素。 首先是上下文窗口限制。 所有大语言模型都有固定的上下文长度限制，这个限制决定了模型在单次推理中能够处理的最大token数量。文本分块技术能够将超长文档分解为符合模型处理能力的token片段。 其次是计算效率考量。 总结 Chonkie作为一个专业的文本分块处理库，为大语言模型应用提供了全面而高效的解决方案。
57111编辑于 2025-08-20 - 来自专栏人工智能极简应用
【机器学习】Whisper：开源语音转文本（speech-to-text）大模型实战
一、引言 上一篇对ChatTTS文本转语音模型原理和实战进行了讲解，第6次拿到了热榜第一。今天，分享其对称功能（语音转文本）模型：Whisper。 二、Whisper 模型原理 2.1 模型架构 Whisper是一个典型的transformer Encoder-Decoder结构，针对语音和文本分别进行多任务（Multitask）处理。 2.3 文本处理 Whisper文本处理：文本token包含3类：special tokens（标记tokens）、text tokens（文本tokens）、timestamp tokens（时间戳 ），基于标记tokens控制文本的开始和结束，基于timestamp tokens让语音时间与文本对其。 __": main() 这里采用argparse处理命令行参数，将mp3音频文件输入后，经过speech2text语音转文本函数处理，返回对应的文本，结果如下： 3.5 模型部署 如果想将该服务部署成语音识别
7.4K20编辑于 2024-08-13 - 来自专栏YO大数据
【AI大模型】Embedding模型解析 文本向量知识库的构建和相似度检索
目录导航 1 什么是Embedding 2 为什么使用Embedding 3 数据向量化的处理流程 4 Embedding实战 1 什么是Embedding 在大模型中，"embedding"指的是将某种类型的输入数据 切块 对于大型文档，直接处理可能会因为模型的输入限制（如Token数量限制）而变得不可行。在这种情况下，需要将大文档分割成更小的部分。这些部分应该尽可能保持语义的完整性，例如按段落或章节切分。 切块的目的是确保每块文本的大小适合模型处理，同时尽量减少上下文信息的丢失。 3. 嵌入 在切块后，每个文本块将被转换为数值向量，即通过OpenAI的embedding API进行嵌入。 当我们使用向量化模型（如OpenAI的text-embedding-ada-002模型）将文本转化为向量后，每个向量的维度表示某种语义特征，向量中的值反映了相应特征的强度。 Tiktoken 是 OpenAI 开发的一个库，用于从模型生成的文本中计算 token 数量。
14.1K21编辑于 2024-05-25 - 来自专栏大模型应用
大模型应用：文本转语音实践：Tacotron2预训练模型和SpeechT5模型应用.19
模型的判断指标不管是简单的工具还是复杂的大模型，我们都能通过这三个问题快速判断它的水平，这也是后续理解技术的关键：表述的清晰度：能不能读对，清晰度是最基础的要求：比如“银行（háng）”不能读成“银行（ 核心组件2.1 Tacotron2 声学模型Tacotron2 是一个序列到序列的神经网络模型，负责将文本转换为声学特征（梅尔频谱图）。 应用实例import torchimport torchaudioimport soundfile as sfdef simple_tts_demo(): print("第一步：检查TTS大模型的可行性 SpeechT5 整体架构SpeechT5 采用 “编码器 - 解码器” 的端到端架构，核心目标是实现从文本序列到语音声学特征的直接映射，整体分为三大核心组件：文本处理器（SpeechT5Processor ）：负责文本的预处理（分词、字符转 ID、长度归一化等），将人类可读的文本转换为模型可理解的张量（Tensor）格式，是连接自然语言和模型输入的桥梁。
28832编辑于 2026-02-16 - 来自专栏Soul Joy Hub
中文文本纠错模型
中文文本纠错任务是一项NLP基础任务，其输入是一个可能含有语法错误的中文句子，输出是一个正确的中文句子。语法错误类型很多，有多字、少字、错别字等，目前最常见的错误类型是错别字。 1. /github.com/shibing624/pycorrector/blob/master/pycorrector/macbert/README.md 本项目是 MacBERT 改变网络结构的中文文本纠错模型 ，可支持 BERT 类模型为 backbone。 在通常 BERT 模型上进行了魔改，追加了一个全连接层作为错误检测即 detection， 与 SoftMaskedBERT 模型不同点在于，本项目中的 MacBERT 中，只是利用 detection spm=1001.2014.3001.5502 ErnieCSC PaddleNLP模型库实现了百度在ACL 2021上提出结合拼音特征的Softmask策略的中文错别字纠错的下游任务网络，并提供预训练模型
1.9K40编辑于 2022-05-10 - 来自专栏深度学习自然语言处理
Meta无限长文本大模型来了：参数仅7B，已开源
长文本是大语言模型一直在努力的方向。 几乎就在同时，Meta 也提出了一种无限长文本技术。 然而，更新门 φ 引入了更多的模型参数，当模型规模扩大到 70 亿时，不稳定问题仍然存在。 对于 LLAMA2 模型，该研究使用 Flash-Attention V2 加速全注意力的计算。 指令微调 表 3 总结了 7B 模型在 MT-Bench 上的性能。
44310编辑于 2024-04-19 - 来自专栏大模型应用
大模型应用：语音转文本（ASR）实践：OpenAI Whisper精准转录解析.21
一、前言 前面我们详细介绍了文本转语音的细节和实践，今天我们继续探讨一下语音转文本（ASR），初次接触，OpenAI Whisper 是最易上手、效果最均衡的开源大模型，它无需复杂的专业知识 Whisper模型特征Whisper 是 OpenAI 开源的 ASR 大模型，新手只需记住 3 个核心特点：端到端设计：无需手动处理音频特征（比如传统 ASR 要做的 MFCC 特征提取），直接输入音频就能输出文本 Whisper与传统ASR的差异维度传统 ASR（如 MFCC+HMM）Whisper 大模型语言支持需单独训练单语言模型原生支持 99 种语言，无需额外适配噪声鲁棒性噪声场景 WER 飙升至 30%+ 音频转录：执行核心的音频转文本处理：音频预处理（降噪、归一化）、特征提取（MFCC, Mel频谱）、模型推理、解码输出5. 实用性方面，可直接套用场景化配置：CPU 用户优先用 base 模型处理通用短音频，GPU 用户可选 medium 模型提升长音频/专业场景精度；噪声/口音场景调大 beam_size 与 best_of
1.3K32编辑于 2026-02-18 - 来自专栏图灵人工智能
Meta无限长文本大模型来了：参数仅7B，已开源
长文本是大语言模型一直在努力的方向。 几乎就在同时，Meta 也提出了一种无限长文本技术。 然而，更新门 φ 引入了更多的模型参数，当模型规模扩大到 70 亿时，不稳定问题仍然存在。 对于 LLAMA2 模型，该研究使用 Flash-Attention V2 加速全注意力的计算。 指令微调 表 3 总结了 7B 模型在 MT-Bench 上的性能。
35410编辑于 2024-04-19 - 来自专栏大模型应用
大模型应用：基于本地大模型驱动的 MapReduce 文本总结与分类系统全解析.13
一、引言 随着大模型技术在本地化部署场景的普及，处理大规模中文文本任务（如超长文本总结、海量新闻分类）时，单进程执行面临算力不足、内存溢出、效率低下等核心问题。 在本地化大模型文本处理中的体现形式、核心作用与技术实现，梳理关键知识点与执行流程，为本地化处理大规模中文文本任务提供可复用的架构参考。 输出：带序号的子文本总结（如 “第 1 段总结：大模型部署硬件推荐 NVIDIA A10 24G 显卡…”）。 拆分后得到 4 个子文本 子文本1（字符数：987）：《大模型部署实战指南》第1章 部署环境准备 大模型本地部署的硬件要求核心为显卡... 文本总结系统” 和 “BERT 新闻分类系统” 为双案例，深度解析了 MapReduce 范式在本地化大模型文本处理中的落地路径。
18721编辑于 2026-02-10 - 来自专栏机器学习与统计学
把大模型烧进芯片，推理速度飞升，文本生成眨眼之间
把大模型直接"烧"进了芯片里 奇效就是：1.7 万 Token/s的生成速度 我试了一下翻译任务：只有网络延迟，生成是眨眼之间 我自己做过测试，跟这个差远了：DeepSeek 8B 极限测试，200 Tokens 每秒，眼球跟不上了 简介 我们平时跑大模型，不管是用 GPU 还是用各种推理框架，本质上都是软件在通用硬件上模拟。 看看现在的数据中心是什么样的——成排的液冷机架、先进封装、HBM 堆叠内存、高速 IO 线缆……本质上就是一堆通用 GPU 在用蛮力跑模型。成本高、功耗大、延迟高，完全不可持续。 而 Taalas 的解法是三个字：极致专用 核心技术：三大设计原则 1. 完全专用化（Total Specialization） 计算历史上，深度专用化一直是提升效率的确定性路径。 尤其是在复杂推理任务上 不过 Taalas 的官方说法是：从收到一个新模型到芯片流片只需要两个月。如果这个速度是真的，那迭代问题就不算大。但芯片制造的成本和良率问题，依然值得关注。
67310编辑于 2026-03-02
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号