- 综合排序
- 最热优先
- 最新优先
- 来自专栏DeepHub IMBA
零样本和少样本学习
d(img1, img2) =图像间差异程度，若d(img1, img2) <= r:相同;若d(img1, img2) > r:不同 零样本学习 首先，让我们看看为什么零样本学习很重要。 零样本学习是人类可以做到的，但是经典的机器学习不能。例如跨语言字典归纳(每一对语言，每个单词是一个类别)。 从监督到零样本的模式识别 我们以前在经典的分类模型中的做法是这样的: 但当出现新的类别时，该怎么做呢?关键是零样本学习。零样本学习的主要思想是将类别嵌入为向量。 “监督”来源:(1)类属性的手工标注，(2)分类类层次的矢量编码 “无监督”来源:现有的非结构化数据(Word2Vec就是一个例子) 零样本学习的一些问题 1、领域转移时零样本学习需要重新训练/测试 3、深度网络能够进行零样本学习 将许多经典的和最新的迁移学习算法作为特殊情况目前还无法验证否有好处 目前零样本学习的进展和应用 1、将其用于音频识别|无人机视觉类向量=>上下文向量，通过上下文向量对任何新的上下文进行泛化例如在无人机视觉中
1.3K20编辑于 2022-11-11 对话系统中零样本与少样本学习技术解析
获奖论文《面向任务型对话系统的零样本与少样本知识寻求轮次检测》由应用科学家Di Jin、Shuyang Gao、首席应用科学家Seokhwan Kim、Yang Liu以及高级首席科学家Dilek Hakkani-Tür 难以保证所有用户查询与训练数据保持完全相同的分布API基于常见用户查询设计，需要增强模型以检测域外数据并将这些查询路由到其他处理模块解决方案：REDE模型研究团队设计了名为REDE的创新模型，该模型通过自适应表示学习和密度估计实现 但这需要大量正负样本，而开放域对话系统允许用户提出任意问题，难以收集足够数量的域外样本。" 性能优势实验结果显示：REDE模型在低资源和高资源设置下，对标准请求和域外请求的性能均优于传统二元分类器在零样本和少样本场景中，REDE模型相比BERT等传统分类器获得更大性能优势技术价值Seokhwan
14110编辑于 2025-10-07- 来自专栏用户2276240的专栏（4）
Zero-Shot Learning（零样本学习）
Zero-Shot Learning（零样本学习）是一种机器学习范式，它允许模型在没有任何特定任务的标注数据的情况下，通过利用已有的知识来推断和完成新任务。 对抗训练 引入对抗性损失函数，强迫模型更加关注重要特征，减少对噪声或无关信息的依赖，从而提升其在零样本情况下的鲁棒性和泛化能力。 4. - 上下文学习：模型可以通过上下文中的提示来推断出用户的需求，即使没有专门针对该任务的训练数据。 - 多模态融合：结合视觉、听觉等多种感知通道的信息，进一步增强模型的理解和推理能力。
1.1K10编辑于 2025-04-05 - 来自专栏AI科技评论
今日 Paper | 小样本学习；机器学习；单幅图像去雾 ；零样本目标检测等
目录 提高小样本学习对全新分类的识别能力 机器学习的“学习如何遗忘” 复杂城市背后简单的空间尺度规则 FD-GAN：具有融合鉴别器的生成对抗网络用于单幅图像去雾 GTNet：用于零样本目标检测的生成迁移网络 id=SJl5Np4tPr 推荐原因 这篇论文研究的是小样本学习，也就是如何在每个类别只有几个、甚至一个样本的情况下学习如何分类。 现有的基于指标的小样本分类算法，都是通过一个学习到的指标函数，把要预测的样本的特征嵌入和给定的样本进行对比。 GTNet：用于零样本目标检测的生成迁移网络 论文名称：GTNet: Generative Transfer Network for Zero-Shot Object 在公共数据集上的评估表明这篇论文提出的GTNet优于当前最佳的零样本目标检测方法。
78510发布于 2020-02-21 《零样本学习：突破瓶颈，开启智能新征程》
在人工智能领域，零样本学习正逐渐成为一个备受瞩目的研究方向。它旨在让机器在没有见过特定类别的样本的情况下，通过学习现有知识和推理能力来识别新的类别。 零样本学习的技术瓶颈数据匮乏与知识表示零样本学习最大的挑战之一在于数据的匮乏。传统的机器学习方法依赖大量的训练数据来构建模型，而零样本学习恰恰缺乏这样的条件。 而零样本学习由于没有足够的样本，很难构建出具有良好泛化能力的模型。这就导致模型在面对新的类别时，无法准确地进行预测和分类。语义理解与推理零样本学习需要对语义进行深入理解和推理。 零样本学习的未来展望零样本学习作为人工智能领域的重要研究方向，具有广阔的发展前景。随着技术的不断进步和创新，零样本学习将逐渐克服其技术瓶颈，实现更加智能化和高效的学习。 未来，零样本学习有望在各个领域得到广泛应用，为人类社会带来更多的价值和创新。总之，零样本学习的技术瓶颈是一个复杂而又具有挑战性的问题。
25300编辑于 2024-12-28零样本学习与对比训练提升Logo识别技术
零样本学习与对比训练提升Logo识别技术Logo识别是识别特定Logo及其在图像或视频中位置的任务citation:2。这项技术有助于创造安全可信的购物体验，例如识别包含冒犯性符号或企业商标的图像。 在零样本Logo识别场景下，模型训练时无法接触到所有可能的Logo类型，这进一步增加了难度citation:2。 标准解决方案标准的零样本Logo识别解决方案包含两个阶段citation:2：区域检测：检测图像中所有可能包含Logo的区域。原型匹配：将检测到的区域与一个不断更新的Logo原型库进行匹配。 该方法通过在训练数据中挖掘困难负样本，并在训练时显式地将正样本与其困难负样本配对，从而促使模型学习区分文本相似的Logocitation:2。对比学习机制在传统的对比学习中，负样本通常是随机选择的。 技术意义这项研究展示了结合对比训练和困难负样本选择的方法，能够有效解决Logo识别中的核心挑战，特别是在处理文本相似Logo和零样本场景方面取得了突破性进展citation:2。
17910编辑于 2025-12-18- 来自专栏未来先知
提升CLIP性能，IntCoOp联合学习在零样本学习中的优势 ！
图像文本对比模型，如CLIP，学习可迁移且健壮的表示，以便在零样本转移至各种下游任务时使用。然而，为了获得强大的下游性能，需要精心设计提示，这可能是项繁琐的工程任务。 利用这些成分，视觉语言模型在零样本分类、图像文本检索以及对分布变化的鲁棒性方面取得了强大的性能。 对于所有这些任务，如CLIP这样的对比模型使零样本推理成为可能：给定一个图像和一个文本提示集，通过最大化和之间的图像文本相似性，识别出最相关的文本提示。 将图像文本对比模型适应于下游任务是复杂的。 对于由 个类别组成的下游数据集进行零样本推理，这些类别的名称为 ，CLIP使用手工制作的提示来生成文本类别嵌入。 作者在各种数据集上的全面测试强调了IntCoOp在零样本性能上取得的显著提升。
78610编辑于 2024-08-08 - 来自专栏Y-StarryDreamer
NLP在零样本学习的应用：从原理到实践
NLP中的零样本学习：突破传统限制的创新1. 引言随着自然语言处理（NLP）领域的不断发展，零样本学习作为一种创新性的方法引起了广泛关注。 本文将深入研究NLP领域中零样本学习的应用，包括原理、挑战以及实际案例，展示零样本学习是如何推动NLP领域的创新。2. 什么是零样本学习？ 零样本学习的核心思想是在模型遇到未见过的类别时，仍然能够进行有效的学习和推理。在NLP中，零样本学习的应用通常涉及到对新领域、新主题或新词汇的处理。 NLP中的零样本学习方法3.1 元学习（Meta-Learning）元学习是零样本学习中的一种重要方法。其基本思想是通过在许多不同任务上学习，使模型能够快速适应新任务。 结语零样本学习为NLP领域带来了新的可能性，使模型能够在面对未知领域时仍能表现出色。元学习和转移学习等方法为解决零样本学习问题提供了有效途径。
79220编辑于 2023-11-28 - 来自专栏目标检测和深度学习
新加坡南洋理工最新37页《零样本学习综述》论文
【导读】近年来，零样本学习（ZSL，zero-shot learning）已经在大量的任务中受到了广泛的关注。本文为大家带来了南洋理工大学的零样本学习最新综述，希望对大家有所帮助。 零样本学习是一种非常强大的学习范式，在本文中，我们为零样本学习提供一个全面的调研综述。 首先，我们概述了零样本学习，根据学习过程中使用到的数据模型，我们将其划分为三种学习类型；第二，我们描述了零样本学习过程中所采用的不同语义空间；第三，我们对现有零样本学习方法进行了分类，并在每个类别下介绍了具有代表性的方法 ；第四，我们讨论了零样本学习的不同应用方向；最后，我们介绍了零样本学习的未来研究方向。 一般的零样本学习思路是，将训练集中的特征知识迁移至测试样本的分类任务上，因此可以认为，零样本学习是迁移学习的一个子领域。在迁移学习中，源域的知识被迁移至目标域的任务中。
1.5K30发布于 2019-04-30 - 来自专栏数据STUDIO
时间序列预测的零样本学习：TimeGPT vs. TiDE
我们通过使用TimeGPT进行零样本学习并对模型的性能进行了彻底分析。然后将TimeGPT的性能与TiDE[2]进行比较（TiDE是一种在预测用例中击败了Transformer的简单的多层感知机)。 现在我们回到TimeGPT ，它号称利用迁移学习在零样本推理设置中表现出色。 这些挑战为模型提供了许多学习的场景，提高了其鲁棒性和泛化能力。 网络架构 TimeGPT 是一个基于变换器的模型，专为时间序列预测而设计，在编码器-解码器架构中加入了自注意力机制。 TimeGPT的零样本学习能力并没有打败我们的微调模型，并且这个模型是23年4月发布的，到现在已经有将近1年的时间了。 总结 在本文中，我们探讨了时间序列预测的最新创新之一——基础模型的发展。 lightgbm还是xgboost，都是目前时间序列预测的sota：这点可以从时间序列发布的论文中看到，所有论文的结果展示没有和它们进行对比的，而对比对象的都是一些前辈（transformer类的深度学习模型
1.1K10编辑于 2024-04-11 - 来自专栏CV学习史
小样本学习介绍
基本概念 在大多数时候，你是没有足够的图像来训练深度神经网络的，这时你需要从小样本数据快速学习你的模型。 Few-shot Learning 是 Meta Learning 在监督学习领域的应用。 如果K值很小（通常K<10），我们称这种分类任务为极少样本分类任务（当K=1时，变成单样本分类任务）。 元学习算法 元学习模型可以用于解决一个少样本分类的任务，解决方案有多种。 度量学习 度量学习的基本思想是学习数据点（如图像）之间的距离函数。 为了清楚起见，让我们详细说明度量学习算法是如何解决少样本分类任务的（以下定义为带标签样本的支持集，以及我们要分类的查询图像集）： 我们从支持集和查询集的所有图像中提取特征（通常使用卷积神经网络）。 在元训练期间，MAML学习初始化参数，这些参数允许模型快速有效地适应新的少样本任务，其中这个任务有着新的、未知的类别。 MAML目前在流行的少样本图像分类基准测试中的效果不如度量学习算法。
2.1K21发布于 2019-09-05 - 来自专栏深度学习自然语言处理
NeurIPS 2022 | 如何实现表格数据上的迁移学习和零样本学习？
表格学习（tabular learning）顾名思义也就是在表格上的学习（废话）。 每一个样本按列分成若干个 partition，来自同一个类别的 partition 互为正样本。 实验发现，这种 supervised CL 获得更好的预训练模型。 5.2 零样本预测 ▲ TransTab零样本预测结果 我们尝试了在上游数据上 supervised learning 然后在下游表格上不训练直接预测。上图的 x 轴是上下游表格列之间重合的比例。 这说明了 TransTab 具有一定的零样本推断能力。 总结 总体来说，这篇文章的方法属于 simple and effective （高情商）。 我们希望能够让 deep learning 在表格领域发光发热，就需要发挥 deep learning 做表征学习的能力。这篇文章初步探索了做表格学习的迁移和零样本预测。
1.8K20编辑于 2022-10-08 - 来自专栏DeepHub IMBA
使用孪生网络和零样本学习进行文本分类
首先，我将介绍Chris所服务的领域和话语，然后我们将讨论用孪生网络（Siamese Networks）和零样本（Zero-Shot ）学习进行文本分类。 NLP 最近的工作集中在更广泛环境中的零样本学习，零样本学习 NLP 现在意味着训练一个模型来完成它没有明确训练的任务。例如GPT-3 就是一个零样本学习器。 然后我开始尝试 ood 并发现我们的 domain.action 类命名方案（music.play、navigation.start 等）确实非常适合零样本学习。 将标签和话语嵌入同一空间 零样本文本分类的一种常见方法是将意图名称和话语嵌入到同一空间中。通过这种方式，零样本算法可以通过语义组学习意图名称和话语之间的语义关系。 用于零样本文本分类的孪生网络 上面的EDA向我们展示了意图名称和话语之间的语义相似性是非常明显和可学习的。然后我们可以让 Siamese NN 学习意图名称和话语之间的相似性。
79930发布于 2021-10-09 - 来自专栏生信情报站
从零开始学统计 06 | 样本容量和有效样本容量
一、样本容量 ? 研究不同个体的表达量，样本容量（Sample size）：N=3 ? 研究一个方法的准确性，样本容量（Sample size）：N=4 二、有效样本容量 ? 假设，蓝色小人是一对双胞胎，他们有着高度相似的基因组，但很明显又是两个不同的个体。 那么现在不能简单的用样本容量，需要用到有效样本容量来评价。 假设，双胞胎的相关性为0.7，有效样本容量公式： ? 代入数值，发现相关性高，有效样本容量就会很小，也就是说，两个高相似度的样本更能看做是一个样本： ? 计算上面的样本容量：N=3.18 假设一个很低的相关性 0.1，代入计算，会发现更接近2，更像两个样本： ?
1.5K20发布于 2021-01-12 - 来自专栏我爱计算机视觉
小样本学习最新综述
什么是小样本学习？它与弱监督学习等问题有何差异？其核心问题是什么？来自港科大和第四范式的这篇综述论文提供了解答。 数据是机器学习领域的重要资源，在数据缺少的情况下如何训练模型呢？ 小样本学习是其中一个解决方案。来自香港科技大学和第四范式的研究人员综述了该领域的研究发展，并提出了未来的研究方向。 什么是小样本学习？ FSL 是机器学习的子领域。 我们先来看机器学习的定义： 计算机程序基于与任务 T 相关的经验 E 学习，并得到性能改进（性能度量指标为 P）。 ? 基于此，该研究将 FSL 定义为： 小样本学习是一类机器学习问题，其经验 E 中仅包含有限数量的监督信息。 ? 下图对比了具备充足训练样本和少量训练样本的学习算法： ? 文章最后从问题设置、技术、应用和理论四个层面探讨了小样本学习领域的未来发展方向。 END
1.5K32发布于 2020-05-26 - 来自专栏云+分享
深度学习 | 小样本学习基础概念
小样本学习 人类非常擅长通过极少量的样本识别一个新物体，比如小孩子只需要书中的一些图片就可以认识什么是“斑马”，什么是“犀牛”。 在人类的快速学习能力的启发下，研究人员希望机器学习模型在学习了一定类别的大量数据后，对于新的类别，只需要少量的样本就能快速学习，这就是 Few-shot Learning 要解决的问题。 ，而机器学习算法通常需要成千上万个有监督样本来保证其泛化能力。 image.png 小样本学习的主要思想是利用先验知识使其快速适用于只包含少量带有监督信息的样本的任务中。 2. 小样本学习常用数据集 小样本常用Benchmark图像数据集： Omniglot Mini-Imagenet CU-Birds
7.1K31编辑于 2022-01-28 - 来自专栏AI科技大本营的专栏
Facebook增强版LASER开源：零样本迁移学习，支持93种语言
研究者表示，通过零样本迁移学习，LASER 能够将 NLP 模型从一种语言 (如英语) 迁移到其他语言 (包括训练集中的有限语种)。 性能和功能亮点 在包含 14 种语种的 XNLI 语料库中，LASER 工具通过零样本迁移学习，为其中 13 种语言实现跨语种的自然语言处理，并获得当前最佳的推断准确率。 上表展示了 LASER 在 XNLI 语料库上进行零样本迁移学习的性能表现。其中，BERT 模型的结果是从其他 github 项目中提取的。 研究者采用零样本迁移学习的方法，即先在英语上训练 NLI 分类器，在没有任何模型微调或其他目标语言数据的情况下，将训练好的分类器应用于其他目标语言。 最后，LASER 方法在 14 种语言中有 13 种语言都取得了优于其他零样本迁移学习方法的表现。
1.2K20发布于 2019-05-06 - 来自专栏大数据文摘
AI角 | AI challenger零样本学习算法大赛报名开启，数据集开放
今年的AIC预热赛零样本学习（zero-shot learning）竞赛即日起开始。 零样本学习竞赛同样发布大规模图像属性数据集，包含78017张图片、230个类别、359种属性。 最经典的零样本学习方法是Lampert 提出的直接属性预测模型(DAP)。 近年来深度特征的使用大幅提高了零样本识别的准确率。 最具挑战的AI识别方法 零样本学习是当前最具挑战的AI识别方法之一。 因此，零样本学习具有重要的研究意义和广泛的应用场景。受人类学习能力的启发，零样本学习希望借助辅助知识（如属性、词向量、文本描述等）学习从未见过的新概念。 零样本学习与之类似，在没有任何训练样本的情况下，借助辅助知识（如属性、词向量、文本描述等）学习一些从未见过的新概念（类别）。
92620发布于 2018-05-23 - 来自专栏目标检测和深度学习
CVPR 2018：阿里提出新零样本学习方法，有效解决偏置问题
大多数现有的零样本学习（Zero-Shot Learning，ZSL）方法都存在强偏问题：训练阶段看不见（目标）类的实例在测试时往往被归类为所看到的（源）类之一。 归纳式和直推式零样本学习 在大规模的训练数据集的支撑下，计算机视觉中的物体识别算法在近几年取得了突破性的进展。但是人工收集和标注数据是一项十分耗费人力物力的工作。 零样本学习是一类可以用于解决以上问题的可行方法。零样本学习区分2种不同来源的类，源类(source)和目标类(target)，其中源类是有标注的图像数据，目标类是没有标注的图像数据。 为了能够识别新的目标类（无标注），零样本学习假定源类和目标类共享同一个语义空间。图像和类名都可以嵌入到这个空间中。语义空间可以是属性(attribute)、词向量（word vector）等。 本论文的主要贡献总结如下： 提出了准全监督学习的方法来解决零样本学习中的强偏问题。据我们所知，这是第一个采用直推式学习方法来解决广义设定下零样本学习问题。
1.4K20发布于 2018-07-20 - 来自专栏PPV课数据科学社区
【学习】怎样分析样本调研数据
从一个群体样本中获取群体的整体特征是许多研究设计和统计方法发展的基础。根据数据收集的算法、调研问题的类型和调研的目标，分析样本调研数据的方法各不相同。 典型的做法是根据调查者/事件在样本中被选中概率来赋予相应的权重。 2、变量重组：这种方法将在原有变量的基础上，通过重新定义和重新分类的方法产生新的变量。 我们需要确认图形信息是能反映真实情况的，因此我们需要不确定性预测，比如通过标准误差或置信区间来预测样本采集中的误差。从这个角度讲我们需要统计性分析。 如果调研者专注于研究主要发现或者样本调研目标，那么交叉列表在展示中将非常有效。交叉列表通常是总结报告和对比分析中的重要组成部分。
1.4K70发布于 2018-04-23
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号