- 综合排序
- 最热优先
- 最新优先
AI模型解码海豚语言通信技术
DolphinGemma：AI如何帮助解码海豚通信数十年来，理解海豚的咔嗒声、哨声和爆发脉冲一直是一个科学前沿。如果我们不仅能倾听海豚的声音，还能充分理解它们复杂通信的模式以生成逼真的回应，会怎样？ 这项观察工作的最终目标是理解这些自然声音序列中的结构和潜在含义——寻找可能指示语言的模式和规则。这种对自然通信的长期分析构成了WDP研究的基石，并为任何AI分析提供了必要的背景。 该模型基于Gemma的见解构建，Gemma是某机构一系列轻量级、最先进的开源模型，由为Gemini模型提供动力的相同研究和技术构建而成。 DolphinGemma在大西洋斑点海豚的声学数据库上进行了大量训练，作为一个音频输入、音频输出模型，它处理自然海豚声音序列，以识别模式、结构，并最终预测序列中可能的下一个声音，这类似于人类语言的大型语言模型预测句子中的下一个词或标记 CHAT是一个水下计算机系统，其设计目的不是直接破译海豚复杂的自然语言，而是建立一个更简单的共享词汇表。
17410编辑于 2026-01-09- 来自专栏TechLead
一文解码语言模型：语言模型的原理、实战与评估
一、语言模型概述 什么是语言模型？ 语言模型（Language Model，简称 LM）是一个用于建模自然语言（即人们日常使用的语言）的概率模型。 尽管面临着高维度和稀疏性的挑战，但通过各种策略和优化，如链式法则和条件概率，语言模型已经能在多个 NLP 应用中取得显著成效。 在接下来的部分，我们将探讨如何通过预训练来进一步提升模型性能。 ---- 训练语言模型 自然语言处理领域基于预训练语言模型的方法逐渐成为主流。 return_tensors="pt") # 生成文本 with torch.no_grad(): output = model.generate(input_ids, max_length=50) # 解码生成的文本 因此，在评估语言模型时，我们应该采取多维度、多角度的评估策略，综合不同的评价指标来获取更全面、更深入的理解。
1.6K40编辑于 2023-10-21 - 来自专栏TechLead
一文解码语言模型：语言模型的原理、实战与评估
一、语言模型概述 什么是语言模型？ 语言模型（Language Model，简称 LM）是一个用于建模自然语言（即人们日常使用的语言）的概率模型。 尽管面临着高维度和稀疏性的挑战，但通过各种策略和优化，如链式法则和条件概率，语言模型已经能在多个 NLP 应用中取得显著成效。 在接下来的部分，我们将探讨如何通过预训练来进一步提升模型性能。 ---- 训练语言模型 自然语言处理领域基于预训练语言模型的方法逐渐成为主流。 return_tensors="pt") # 生成文本 with torch.no_grad(): output = model.generate(input_ids, max_length=50) # 解码生成的文本 因此，在评估语言模型时，我们应该采取多维度、多角度的评估策略，综合不同的评价指标来获取更全面、更深入的理解。
3.4K30编辑于 2023-10-21 - 来自专栏猿人谷
大语言模型的微调策略
尽管大语言模型展示出强大的能力，但在特定任务领域，它们往往无法达到最佳效果。 本文章讲大语言模型的微调策略及基于 ChatGPT 的微调。 一.大语言模型的微调策略 微调是让预训练的大语言模型适应特定领域任务的关键技术。根据不同的需求和资源用户可以选择全面微调或参数高效微调。 下面详细介绍这两种策略： 1.全面微调 全面微调是指对预训练模型的所有参数进行调整，通过合理的数据准备、训练、评估和策略调整，使模型在特定领域的数据集或任务上表现得更出色。 这种微调方法不仅能有效提升模型效果，还能节省训练时间和资源，因而受到广大学者的喜爱和研究。下面我们重点介绍参数高效微调策略。 这种方法在计算资源受限的情况下，能够显著提高预训练模型的微调效率，广泛应用于各种自然语言处理任务中。
62510编辑于 2025-10-21 - 来自专栏人工智能前沿讲习
【强基固本】大模型的四种文本解码策略
在大型语言模型（LLM）的迷人世界中，模型架构、数据处理和优化常常成为关注的焦点。但解码策略在文本生成中扮演着至关重要的角色，却经常被忽视。 接下来我们将深入探讨各种解码策略，包括贪婪搜索、束搜索以及采用顶K采样和核采样的技术。通过这些策略，我们可以更好地理解GPT-2是如何生成文本的。 人们常常误解认为像GPT-2这样的大型语言模型（LLM）直接生成文本。实际上并非如此。相反，LLM会计算对其词汇表中每个可能的词元分配的分数，这些分数称为logits。 unsetunset贪婪搜索（Greedy Search）unsetunset 贪婪搜索是一种解码方法，在每一步中选择最可能的词元作为序列中的下一个词元。 sequencescore' 'token'"_{length}_{j}" # Recursive call unsetunset顶K采样（Top-k Sampling）unsetunset 顶K采样是一种利用语言模型生成的概率分布
84810编辑于 2024-06-05 大语言模型集成策略对比研究
这是集成方法的关键问题有效利用多样性已被证明能够提升包括大语言模型（LLM）在内的各种机器学习模型的性能。然而，如何最有效地使用多样性仍然是一个挑战。 本研究比较了两种用于回答二元问题的LLM多样性方法：模型多样性：依赖多个模型回答同一问题问题解释多样性：依赖同一模型以不同方式表述的同一问题在这两种情况下，都采用多数投票作为集成共识启发式方法来确定最终答案 在boolq、strategyqa和pubmedqa数据集上的实验表明，与模型多样性相比，问题解释多样性始终能够带来更好的集成准确率。 此外，对GPT和LLaMa的分析显示，模型多样性通常产生的结果介于最佳和最差集成成员之间，而没有明显的改进。 主题分类：计算与语言（cs.CL）人工智能（cs.AI） 机器学习（cs.LG）MSC分类：68T50 ACM分类：I.2.7; I.2.0
13500编辑于 2025-09-03- 来自专栏AI智能体从入门到实践
构建AI智能体：语言模型的“解码策略”：一文读懂AI文本生成的采样方法
这背后的奥秘，就是基于语言模型的采样方法在做决策。采样方法决定了AI在每一步思考时，是做一个严谨的学霸，只认唯一答案；还是成为一个奔放的诗人，在词海中自由徜徉。 二、AI是怎么说话的 想象一下，让一个语言模型完成这句话：“今天的天气真好啊，我们一起去...”。 如果我们每次都只选择概率最高的“公园”，那么模型生成的文本就会非常机械和可预测，缺乏惊喜和创造力。采样或者说解码策略，就是我们从这些概率分布中选择下一个词的一系列规则和方法。 采样，也叫解码策略，就是我们教AI如何从这份“候选词清单”里挑词的方法。不同的挑法，会让AI变成不同的角色，是严谨的科学家，还是天马行空的诗人？全看我们怎么掌舵这个方向。 低温度 + Top-p创意写作：中高温度 + Top-p翻译/摘要：束搜索 或 低温度采样开放式对话：中温度 + Top-p + 重复惩罚 这些示例展示了如何将Faiss检索与Qwen大模型的不同采样策略结合使用
60922编辑于 2025-11-18 - 来自专栏人工智能
解码器架构：构建智能语言模型的核心设计
在现代自然语言处理领域，Decoder-only（解码器）架构是构建语言模型的重要设计之一。这种架构尤其适合生成任务，例如对话生成、自动摘要、代码补全等。 每层解码器由多个 TransformerDecoderLayer 组成，使用自注意力机制调整生成过程。最终通过 fc_out 将隐藏层表示转化为词汇表中每个单词的概率分布。 以 GPT-3 为例，它使用 1750 亿个参数，通过大规模的预训练和微调，展现了卓越的自然语言生成能力。 翻译与总结：提供不同语言之间的即时翻译和长文本的概括。一个真实的使用案例是某电商平台的智能客服系统。通过部署 GPT 模型，该平台将用户问题的响应时间缩短了 40%，显著提升了用户体验。 例如，结合知识图谱、引入更多领域的预训练数据、优化模型推理速度等，都可能使其在更广泛的应用场景中发挥作用。未来，我们可以期待更高效、更智能的语言生成模型，为人类生活和工作带来更多便利。
85210编辑于 2025-01-12 - 来自专栏数据分析与挖掘
LLM（大语言模型）解码时是怎么生成文本的？
对于像mBART这样的多语言模型，第一个生成的标记需要是目标语言的标记，这很有用。 要启用这种解码策略，需要指定num_beams（又称要跟踪的假说数量）大于1。 """ 11Beam-search multinomial sampling 顾名思义，这种解码策略结合了集束搜索和多指标采样。 你需要指定num_beams大于1，并设置do_sample=True来使用这种解码策略。 """ 12Diverse beam search decoding 多样化集束搜索解码策略是对集束搜索策略的扩展，可以生成更多样化的集束序列供人们选择。
6.3K30编辑于 2023-04-27 - 来自专栏DrugOne
Science | 解码免疫的语言
在一项小鼠模型研究中，降低依赖肌苷-34的密码子频率导致抗体产量下降，证实了肌苷-34依赖的密码子偏差和肌苷tRNA丰度协同作用是增强抗体生物合成的机制。 细胞和载体工程等策略都已用于增加表达并提高这些细胞工厂的稳定性。尽管这些策略提高了稳定性和产量，但对控制ASCs中抗体分泌的自然过程的更深入理解可能会带来重大进展。 解码ASCs中控制tRNA重塑的复杂信号通路和调控因子网络至关重要；理解tRNA修饰如何影响翻译的忠实性、效率和蛋白折叠过程中的抗体合成值得进一步研究。
33810编辑于 2024-01-30 谷歌AI模型解码海豚通信
DolphinGemma：AI如何帮助解码海豚通信数十年来，理解海豚的咔哒声、哨声和脉冲声一直是科学前沿。 这个约4亿参数的模型经过优化，可直接在WDP野外使用的Pixel手机上运行。该模型基于Gemma系列的见解，并在WDP的声学数据库上进行了广泛训练。 DolphinGemma作为一个音频输入、音频输出的模型，处理自然海豚声音序列以识别模式和结构，最终预测序列中接下来可能出现的声音，类似于人类语言大语言模型预测句子中的下一个词。 与研究社区共享DolphinGemma计划在今年夏天将DolphinGemma作为开放模型共享。 虽然该模型是在大西洋斑海豚声音上训练的，但预计它对研究其他鲸类物种（如宽吻海豚或长吻飞旋海豚）的研究人员也有用。针对不同物种的发声可能需要进行微调，而模型的开放性有助于这种适应。FINISHED
9310编辑于 2026-04-07- 来自专栏自然语言处理
大模型生成解码参数速查
控制输出长度的参数 控制所使用的生成策略的参数 用于操作模型输出 logits 的参数 定义“generate”输出变量的参数 可以在生成时使用的特殊字符
24610编辑于 2024-01-09 - 来自专栏计算机工具
LLM最后怎么输出值 解码语言模型：从权重到概率的奥秘
LM Head Weights（语言模型头部权重）：左侧的“LM Head Weights”表示语言模型头部的权重矩阵，它是模型参数的一部分。权重矩阵与输入数据进行运算。 Logits是模型输出的未经过归一化处理的数值，代表各个类别（token ）的得分。 输出：最终输出各个类别（这里用A、B、C表示不同token ）对应的概率值，比如图中展示了多个类别，模型根据概率来预测最可能的输出。
60310编辑于 2025-05-20 - 来自专栏开源技术小栈
N系列 | 基于元模型的访问控制策略描述语言
摘要列表 中文摘要 为了保护云资源的安全，防止数据泄露和非授权访问，必须对云平台的资源访问实施访问控制.然而，目前主流云平台通常采用自己的安全策略语言和访问控制机制。 从而造成两个问题： （1）云用户若要使用多个云平台，则需要学习不同的策略语言，分别编写安全策略； （2）云服务提供商需要自行设计符合自己平台的安全策略语言及访问控制机制，开发成本较高。 对此，提出一种基于元模型的访问控制策略描述语言PML及其实施机制PML-EM.PML支持表达BLP、RBAC、ABAC等访问控制模型.PML-EM实现了3个性质：策略语言无关性、访问控制模型无关性和程序设计语言无关性 ，从而降低了用户编写策略的成本与云服务提供商开发访问控制机制的成本.在OpenStack云平台上实现了PML-EM机制.实验结果表明，PML策略支持从其他策略进行自动转换。 资源RBAC基于角色 模型（Model） [request_definition] r = sub, obj, act [policy_definition] p = sub, obj, act
97410发布于 2020-03-20 - 来自专栏Golang语言开发栈
Golang语言之JSON解码函数Unmarshal
前言 工作中我们经常会遇到解码JSON格式的数据，本文通过4个示例介绍工作中常用到的四种 JSON格式。 在 Golang语言中，通常是使用标准库的encoding/json包中的函数Unmarshal解码JSON格式的数据，下面我们先介绍一下该函数如何使用，再通过4个示例代码来演示一下如何在Golang中解码常见的 此时，函数将指针设为nil；否则，函数将json数据解码写入指针指向的值；如果指针本身是nil，函数会先申请一个值并使指针指向它。 要将json数据解码写入一个接口类型值，函数会将数据解码为如下类型写入接口： bool, for JSON booleans float64, for JSON numbers string, for JSON的null值解码为go的接口、指针、切片时会将它们设为nil，因为null在json里一般表示“不存在”。 解码json的null值到其他go类型时，不会造成任何改变，也不会产生错误。
29K22发布于 2019-11-26 - 来自专栏有三AI
【图像分割模型】编解码结构SegNet
1 编解码结构 分割任务中的编码器encode与解码器decode就像是玩“你来比划我来猜”的双方：比划的人想把看到的东西用一种方式描述出来，猜的人根据比划的人提供的信息猜出答案。 因此，解码器的不同在很大程度上决定了一个基于编解码结构的分割网络的效果。 SegNet就讨论了这种不同，并在道路和室内两个场景下比较了不同解码器下，各个算法的表现。 ? 3 解码器变体 前文已经提到，编解码结构中，解码器的效果和复杂程度对于整个分割网络的影响是非常大的。这里我们就一起来看一下不同解码器结构和它们的效果。 SegNet中一共尝试了8种不同的解码结构，先上结果： ? 这些变体共用相同的编码器结构，只是在解码器结构上有所不同。 比如，将解码器的结构单纯减少层数，改变解码器最后一层通道数，改变编解码器对应结构之间的连接方式（只连接池化信息、保留特征层内信息或全部保留），改变采样方式等。
1.2K30发布于 2019-07-25 Go语言策略模式
在Go语言中，可以使用策略模式来实现一种灵活的代码结构，以便根据不同的策略来执行相应的行为。策略模式允许我们在运行时动态地选择算法或行为，而无需修改主要的业务逻辑。 下面是一个使用策略模式的具体例子：假设我们正在开发一个电商平台，需要实现不同的支付方式，如支付宝、微信支付和银行卡支付。我们可以使用策略模式来实现这些支付方式的灵活切换。 例如，我们实现了支付宝支付策略AlipayStrategy、微信支付策略WechatPayStrategy和银行卡支付策略BankCardPayStrategy：type AlipayStrategy 通过创建不同的支付策略对象，并将其传递给支付上下文，我们可以在运行时选择不同的支付方式，并调用相应的支付方法。这种方式使得代码更加灵活，可以方便地扩展和切换支付方式。 总结：策略模式是一种在Go语言中实现灵活代码结构的方式。通过定义接口和不同的策略实现，我们可以在运行时选择不同的策略，并执行相应的行为。
29010编辑于 2024-01-14- 来自专栏搜狗测试
测试策略模型探索
测试策略是什么 维基百科对于测试策略（test strategy）的定义 我们可以得出测试策略的最终目的是通过定义项目会采用的测试活动，尽可能得暴露和消除产品缺陷，减轻产品风险。 测试策略的理解 ”测试策略“即：”测什么“和”怎么测”。具体可以按照以下6点问题进行回答，分别是： ① 测试的对象和范围是什么？ ② 测试的目标是什么？ 测试策略的制定思路 实际项目中，以上6个问题看起来不难，但是想回答好却并不简单。小编借鉴书中的一种思路，通过模型化的方法来指导策略制定，具体模型图是： ? 测试策略项目落地实践 测试质量目标的落地 测试质量的目标围绕的是刚刚好的状态。 小编结合所在的业务线，结合书中介绍的方法，设计出测试策略分析表如下： ?
1K50发布于 2020-07-24 - 来自专栏数据科学（冷冻工厂）
解码自然语言处理之 Transformers
最近，随着 OpenAI 的 ChatGPT、GPT-4 和 Meta 的 LLama 等大型语言模型的出现，Transformer 的受欢迎程度进一步飙升。 这些引起了巨大关注和兴奋的模型都是建立在 Transformer 架构的基础上的。通过利用 Transformer 的力量，这些模型在自然语言理解和生成方面取得了显着的突破。 通常，我们希望使用各种过滤策略来减少潜在选项的数量，一些最常见的方法是： Temperature调整：Temperature是一个应用于 SoftMax 操作内部的参数，它会影响生成文本的随机性。 编码器-解码器架构 最初，Transformer 是作为机器翻译的架构提出的，并使用编码器和解码器来实现这一目标；在使用解码器转换为所需的输出格式之前，使用编码器创建中间表示。 编码器-解码器架构的主要区别在于解码器使用编码器-解码器注意力，它在注意力计算期间同时使用编码器的输出（作为 K 和 V）和解码器块的输入（作为 Q）。
46120编辑于 2023-10-22 - 来自专栏漫谈测试
性能测试成熟模型策略模型
策略模型的概述策略建模作为性能测试方案的重要组成部分之一，通过设置不同的策略来实现不同的测试目的和需求。 在对业务模型中的功能点或接口进行策略的设置时，其核心目的是在测试策略方面保障测试执行场景的多样性。这里介绍的策略模型内容基于前期的性能测试的类型，在企业实际建设过程中对其他性能测试类型方面进行补充。 策略模型建模的方法以下针对每一个模型的内容进行具体说明，包括模拟场景、测试目的、负载压力、执行方法、指标要求和测试结果分析几个维度，基础测试如下表所示。单场景测试如下表所示：负载测试场景如下图所示。 性能测试策略模型优缺点有哪些？金字塔模型 (Pyramid Model)优点:侧重于早期阶段的单元测试，有助于尽早发现问题，减少后期修复的成本。 选择适合的性能测试策略模型应当基于项目特性、开发方法学、预算限制以及对软件质量的具体要求。每种模型都有其独特的优势和局限性，理想情况下，综合运用多种测试策略可以获得最佳效果。
28210编辑于 2024-11-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号