- 综合排序
- 最热优先
- 最新优先
- 来自专栏Lauren的FPGA
学习笔记：神经元模型（2）
神经元模型的另一个重要部分是激活函数，激活函数的本质是向神经网络引入非线性因素，使得神经网络可以拟合各种曲线。
51220发布于 2020-03-12 - 来自专栏机器之心
三四行代码打造元学习核心，PyTorch元学习库L2L现已开源
在本文中，我们介绍了这两天新开源的元学习库 learn2learn，它是用 PyTorch 写的，只需要三四行代码就能构建元学习最为核心的部分。 learn2learn 是一个用于实现元学习的 Pytorch 库，我们只需要加几行高层 API，就能为一般的机器学习流程添加元学习能力。 例如在元学习 MNIST 案例中，我们可以用 PyTorch 构建整个流程，但只要加上三行 L2L 代码就能打造元学习模型。这三行代码只干三件事：获取元数据集、生成元学习任务、定义元学习模型。 L2L 有什么特性 L2L 是一个元学习库，可以为用户提供 3 个级别的功能。在最高级别上，它有很多使用元学习算法在大量数据集/环境上训练的示例。 L2L 实现 MAML 元学习算法的局部源代码，它的源码拥有大量的注释，可以帮助理解实现过程。
79420发布于 2019-09-17 - 来自专栏磐创AI技术团队的专栏
元学习
我们不会从以前的经验或学到的知识中学习。 元学习 那么什么是元学习？我们试图将其定义为“学习如何学习”。但是实际上，我们还不知道确切的定义或解决方案。因此，它仍然是一个宽松的术语，指的是不同的方法。 在这个例子中，元学习的重点是学习对象分类的秘密。一旦我们学习了上百个任务，我们就不应该只关注单个的类。相反，我们应该发现对象分类的一般模式。 如果我们能从经验中学习，我们会学得更好。 学习优化器 在第二种元学习方法中，我们试图更有效地优化模型。在每个任务的训练之后，我们可以使用这些信息来更新模型。 ? 度量学习 我们将讨论的第三种元学习方法是度量学习。你还记得逐像素的图片吗?不。为了学习，我们需要用最少的内存获取最多的信息。因此，第三种元学习方法关注的是我们如何提取特征，但不要过度提取。 这些方法使模型更准确，但不一定更有效的学习较少的样本。所以我们不会在元学习的讨论中进一步讨论。 想法 学习如何更好地学习不仅是对机器的挑战，也是对人类的挑战。
83720发布于 2020-03-04 - 来自专栏机器学习算法与理论
元学习
Meta学习的初衷十分令人着迷：不仅仅构建能够学习的机器, 更重要的是让它学会如何去学习。 具体来说: 很多的强化学习算法需要多于人类学习时间的很多倍才能完成学习任务; 例如在Atari游戏中, 近期的算法需要花费约83小时(1800万帧)才能达到人类玩家的中等水平, 而这种水平人类仅需要玩几小时游戏就能达到 这些参数有: 学习速率, 惯性, 自适应学习算法的权值。 在这里, 我们将沿着用一种有限的, 参数化的修正算法的方向进行学习。 对于任一给定的任务分布来说, 任务之间的差异可真是大相径庭(例如: 学习正弦波的不同振幅和学习不同的Atari游戏就大不一样)。 Few-shot classification是监督学习领域中元学习的实例。
51350发布于 2019-07-08 - 来自专栏相约机器人
三四行代码打造元学习核心，PyTorch元学习库L2L现已开源
在本文中，我们介绍了这两天新开源的元学习库 learn2learn，它是用 PyTorch 写的，只需要三四行代码就能构建元学习最为核心的部分。 learn2learn 是一个用于实现元学习的 Pytorch 库，我们只需要加几行高层 API，就能为一般的机器学习流程添加元学习能力。 例如在元学习 MNIST 案例中，我们可以用 PyTorch 构建整个流程，但只要加上三行 L2L 代码就能打造元学习模型。这三行代码只干三件事：获取元数据集、生成元学习任务、定义元学习模型。 L2L 有什么特性 L2L 是一个元学习库，可以为用户提供 3 个级别的功能。在最高级别上，它有很多使用元学习算法在大量数据集/环境上训练的示例。 L2L 实现 MAML 元学习算法的局部源代码，它的源码拥有大量的注释，可以帮助理解实现过程。
1.9K10发布于 2019-09-16 - 来自专栏怀英的自我修炼
元学习-02
取得技能的意思是说不需要学成这个领域所有的东西，但是在该技能或者说本阶段的技能学习结束后能有可以拿得出手的东西可以用。而学会技能的意思是学习结束的时候，对该学习期内所有的知识点了若指掌，融会贯通。 在学习一样技能的时候，要先区分什么是这项技能的取得技能，什么又是这项技能的学会技能。两者的心态以及起步方法是完全不一样的，因此在学习中内心承受的压力也是完全不一样的。 当get到粗浅得模式之后，再用左脑进行精细地分析学习。此时的学习也是以取得技能为前提，逐步往前进。 大脑的运作原理 说完了背后原理，就有必要谈谈大脑的运作原理，这样就能更好地理解“背后原理”了。 多数人学习学到的东西都是存在外部的记忆体上，比如书、课件、笔记。 一些新手在开始学习的时候盲从专家的记忆，于是便很快取得高效的学习成果。由于取得了高效的学习成果，就觉得自己是天才，后面也不再下功夫了。但是在学完真正需要用的时候却发现自己使不出来，做得一团糟。
76490发布于 2018-03-12 - 来自专栏怀英的自我修炼
元学习-03
这一篇主要是两个部分，分别是境界的划分和学习的悖论。 境界的划分 首先说一下程序员的分级，这个是根据德雷福斯模型来的，具体见下图。 在这里，我们重新对经验进行下定义。 学习的悖论 大师们的学习并不是我们想象的苦巴巴的坚持，而是一种上瘾的状态，一种根本停不下来来的内心感受。而他们达到状态的这个过程与玩游戏上瘾的过程类似，所以称为游戏化。 那如果把这套机制用在学习上呢，也就是如何人工制造“学习上瘾”。 我自己就是个健身族，去年健身了一年，今年换工作之后加班比较多，就不能做到天天健身。 健身组会迷恋自己的身材，沉迷学习的coder会享受自己超帅的大脑。健身每次照镜子就能得到反馈，那coder该如何享受自己的大脑呢，可以写博客注点击量。
720110发布于 2018-03-12 - 来自专栏怀英的自我修炼
元学习-01
元学习——学习怎么学习。用一句话概括的话——元学习是学习他爸。 首先先扯一个题外话，李笑来曾经说过一段话，我觉得很对：在中国，若是一个人没有英语障碍，能自如地使用计算机这个工具。 元学习这个概念还是有些虚，为了更好地说明这个概念，就以编程为例。 如果将编程转变为一个公式的话，就是要先观察这件事的输入是什么，然后再观察这件事情的输出是什么，然后想办法让这件事重复地去做。 这样是把学习当成了登山，认为必须把基础打牢固了才能进行下一步的学习。这个认知不对，因为学习更应该像玩拼图一样。你可以这里拼一块，那里拼一块。慢慢来，假以时日最终把图给拼出来。 因此在学习时，学习者会不由自主地开启分析模式，试图去找到与过往经验所匹配的模式，此时如果匹配不到，或者是匹配错误，学习者就会自己绊倒自己。 这样就可以激励自己继续学习英语和编程。利用这样的方法，就可以抢在自己放弃之前建立起学习的正循环。
816130发布于 2018-03-12 - 来自专栏企鹅号快讯
元学习（一）
学习 麒麟之角的第14篇原创文章 1.什么是元学习? 很多人在学习编程的时候，都会在网上找各种各样的入门书籍，从入门到精通的教程，但大部分人都是直接从入门到放弃，原因何在呢？ 编程在这个行业属于必备知识，以前没怎么写过代码，所以对于编程的学习，我一直都是弱势群体刚好，在这段时间，碰到了Xdite的元学习课，非常系统的讲解了学习编程的基础理念，所以准备根据听课记录，以及自己的一些理解 什么是元学习，元学习就是**学习如何学习的方法**，有很多人甚至大学毕业之后，都没有掌握太多的自学能力。 即使在网上有很多教程，但是很少有一门课程是教**学习如何学习的课程**，所以元学习就出来了，我会通过学习编程为例子，让大家学会如何学习。> 2.编程是什么？ 写在最后 1.学习一般技能的三个理论基石：拼图理论，成就感，持续刻意练习 2.对于初学者，学习一项新技能的时候应该关闭左脑的分析模式，利用右脑快速建立起关于这个技能的框架 3.对于编程初学者，最好的方法就是模仿别人写代码
1.8K100发布于 2018-01-09 - 来自专栏绿盟科技研究通讯
元学习——让机器学习学会学习
（13）其他 元学习涉及的范围非常广，作为非常有潜力的方向之一，我们还可以元学习新的激活函数等符号。 2、元优化器（Meta-Optimizer） 优化器的选择，即元学习应该如何学习？ （2）强化学习 当基学习器包含不可微步骤或元目标本身不可微时，强化学习可以使用策略梯度来解决，但是由于其包含了任务模型优化而非常低效。 （1）多样本或小样本 根据目标是多样本还是小样本，元学习可以在每个任务中设置样本数量。 （2）快速或渐进性能 元训练既可以渐进式地在基模型上表现优异，也可以快速学习，大多数强化学习使用后一种设置。 2、元强化学习 强化学习为元学习提供了一个丰富的应用领域，在任务分布上的元学习可以显著提高样本效率，比如在强化学习中的探索、优化、在线元强化学习、策略等方面都发挥了重要作用。 2、元泛化 元学习对不同任务之间的泛化提出了新的挑战，一方面是将元训练推广到从任务家族中的其他训练任务，另一方面是推广到不同分布的元测试任务。
2.9K10编辑于 2022-06-06 - 来自专栏学习
【机器学习】---元强化学习
在本文中，我们将从以下几个部分对元强化学习展开详细讨论： 元学习简介 强化学习基础 元强化学习的概念与工作原理 元强化学习的主要算法 代码示例 元强化学习的挑战与未来发展方向 1. 元学习简介 1.1 什么是元学习？ 元学习，又称“学习的学习”，是一种让机器在不同任务之间快速适应和泛化的学习方式。 元学习分为三大类： 基于优化的元学习：学习一种优化算法，使模型能够在新任务上快速优化。 基于模型的元学习：学习模型本身的结构和动态，使其在少量任务数据下快速调整。 元强化学习的概念与工作原理 3.1 元强化学习是什么？ 元强化学习结合了元学习和强化学习的概念，目标是构建一种能够在不同任务之间迅速适应的强化学习算法。 实例 接下来实现 RL^2 算法，基于循环神经网络的强化学习模型。
90410编辑于 2024-09-25 - 来自专栏AI科技大本营的专栏
元学习的崛起
元数据学习算法控制模拟中的训练数据分布，即自动域随机化（ADR），从而推动了从块定向到解决魔方的演变。 域随机化—数据增强 域随机化是一种用于解决Sim2Real传输的数据扩充问题的算法。 元学习的研究通常集中在数据和模型架构上，元学习优化器也属于模型优化的范畴。诸如自动域随机化之类的数据空间中的元学习已经以数据增强的形式进行了大量研究。 课程学习（Curriculum Learning）是另一种数据级优化，涉及数据呈现给学习模型的顺序。例如，让学生先从简单的例子开始，如2 + 2 = 4，然后再介绍更困难的概念，如2³= 8。 迁移与元学习 不同于AutoML被用来描述模型或数据集的优化，元学习经常被用来描述转移和少镜头学习的能力。这种定义与用自动域随机化方法解决的Sim2Real的域适应问题是一致的。 这种转移元学习是策略网络中用于训练机械手控制的LSTM层的结果。我认为与自动优化相比，元学习的这种使用更像是记忆增强网络的一个特征。我认为这说明了统一元学习和确定术语的单一定义的困难。
1K20发布于 2019-10-31 - 来自专栏产品经理的人工智能学习库
元学习 – Meta learning
元学习是人工智能领域里一个较新的方向，被认为是实现通用人工智能的关键。 为什么他如此重要？如何快速简单的理解元学习的精髓？本文将详细给大家介绍一下元学习。 为什么元学习很重要？ 元学习的核心是具备自学能力。那为什么需要自学能力？ 元学习：具备自学能力，能够充分利用过去的经验来指导未来的任务。被认为是实现通用人工智能的关键。 什么是元学习？ 元学习的思想是学习「学习（训练）」过程。 John Biggs（1985）后来使用元学习的概念来描述“意识到并控制自己的学习”的状态。您可以将元学习定义为对学习本身现象的认识和理解，而不是学科知识。 在这种背景下，元学习取决于学习者的学习观念，认识论信念，学习过程和学术技能，在此总结为一种学习方法。具有高水平元学习意识的学生能够评估她/他的学习方法的有效性，并根据学习任务的要求对其进行管理。
1.3K32发布于 2019-12-18 - 来自专栏决策智能与机器学习
基于元学习的小样本训练「元学习」「AI工程落地」
问题 现在有个需求，要求区分图片是否相似，我训练集可以有几千类，但是每一类只有2张图。 再补充一下，其实我是做匹配，每一类相似的图只有2张。 高赞回答 介绍介绍两篇基于元学习方法在现实场景的应用论文。 在元学习范式中，可转移知识被视为MPFN的模型参数初始化，从不同的源段 学习。此外，我们将数据驱动的分段表示与分段知识图表示相结合来获取分段关系，并根据分段关系定制可转换模型参数的初始化。 RMLDP结合了一个具有元学习范式的多 模式融合网络。在元学习范式中，进一步提取片段关系以定制模型参数初始化。并将所提出的方法应用于 在线平台。 具体来说，我们提出的模型被设计成一个具有元学习范式的时空网 络。元学习范式学习时空网络的广义初始化，可以有效地适应目标城市。此外，还设计了一种基于模式的 时空存储器来提取长期的时间信息（即周期性）。
1.5K20发布于 2020-11-26 - 来自专栏NLP/KG
深度学习应用篇-元学习：基于度量的元学习：SNAIL、RN、PN、MN
深度学习应用篇-元学习[15]：基于度量的元学习：SNAIL、RN、PN、MN 1.Simple Neural Attentive Learner(SNAIL) 元学习可以被定义为一种序列到序列的问题， 在现存的方法中，元学习器的瓶颈是如何去吸收同化利用过去的经验。 因此这种方法对于之前输入的访问更粗略，且他们的有限的能力和位置依赖并不适合元学习器， 因为元学习器应该能够利用增长数量的经验，而不是随着经验的增加，性能会被受限。 1.1.2 Meta-Learning 在元学习中每个任务 \mathcal{T}_{i} 都是独立的， 其输入为 x_{t} ，输出为 a_{t} ，损失函数是 \mathcal{L} 在测试阶段，元学习器在新任务分布 \widetilde{\mathcal{T}}=P\left(\widetilde{\mathcal{T}}_{i}\right) 上被评估。
1.2K40编辑于 2023-10-11 - 来自专栏NLP/KG
深度学习应用篇-元学习：元学习概念、学习期、工作原理、模型分类等
# 深度学习应用篇-元学习13：元学习概念、学习期、工作原理、模型分类等 1.元学习概述 1.1元学习概念 元学习 (Meta-Learning) 通常被理解为“学会学习 (Learning-to-Learn 元训练集和元验证集中的任务用来训练元学习模型， 元测试集中的任务用来衡量元学习模型完成任务的效果。 外部优化问题和内部优化问题通常分别称为上层优化问题和下层优化问题， 如图2所示的MAML。 图片 图2 双层优化元学习 MAML。 两层优化问题涉及两个参与器： 1) 上层的参与者是元学习器， 2) 下层的参与者是基学习器。 元学习器的最优决策依赖于基学习器的反应，基学习器自身会优化自己内部的决策。 基学习器和元学习器的作用对象及功能如图3所示。 图片 图3 基学习器和元学习器。元学习器总结任务经验进行任务之间的共性学习，同时指导基学习器对新任务进行特性学习。
21.3K53编辑于 2023-06-14 - 来自专栏学习
机器学习——元学习（Meta-learning）
元学习（Meta-learning）：学习如何学习的机器学习 元学习（Meta-learning），即“学习如何学习”，是机器学习领域中一个令人兴奋且极具潜力的研究方向。 本文将深入探讨元学习的概念、关键方法及其应用场景，并通过代码示例展示如何实现元学习的核心思想。 1. 什么是元学习？ 元学习的核心思想是通过让模型从不同的任务中进行学习，最终具备快速适应新任务的能力。 基于度量的方法：通过度量学习，判断新样本与训练样本之间的相似性，从而更好地进行预测。 2. 4.2 未来方向 大规模元学习：研究如何在大规模数据集和任务集上实现高效的元学习。 自适应元学习：探索可以自适应调整学习速率和优化策略的元学习方法，以提高在不同任务上的适应能力。 元学习与其他技术的结合：将元学习与迁移学习、强化学习等其他机器学习技术相结合，以应对更复杂的任务场景。 5.
2.2K10编辑于 2024-11-21 - 来自专栏C++领域相关博客
【机器学习】元学习（Meta-learning）
这篇博客将深入探讨元学习的基本概念、常见算法、应用场景，以及如何用代码实现元学习算法。希望能够帮助读者更好地理解元学习，并将其应用到实际问题中。 一、元学习的基本概念 1.1 什么是元学习？ 计算成本：训练一个能够进行元学习的模型通常需要复杂的计算，特别是在任务数目和任务复杂度较高的情况下。 三、元学习的常见方法 元学习有多种不同的实现方法，下面是几种常见的元学习算法。 Meta-training: Initialize meta-model meta_model = initialize_model() # 2. __init__() self.fc1 = nn.Linear(28*28, 64) self.fc2 = nn.Linear(64, 10) def forward (self, x): x = x.view(-1, 28*28) x = torch.relu(self.fc1(x)) x = self.fc2(x)
2.4K10编辑于 2024-12-29 - 来自专栏AI科技时讯
机器学习：更多关于元学习
目录 Meta Learning vs Self-supervised Learning 自监督学习——找初始化的参数 MAML 自动学出合适的参数 MAML：不断的学初始化参数 MAML的初始化参数来自 使用了大量未标注的数据 二者结合可能会有更好的效果 Meta Learning vs Knowledge Distillation 老师模型不是最擅长教育学生模型的 老师模型和学生模型之间有gap 能让老师模型学习如何去教吗 所有的domain都来一遍，然后期望在新的domain上有好的表现 Meta Learning可以用来进行不同任务的领域学习 Meta Learning可能自身也需要领域适应 Meta Learning
15610编辑于 2024-06-19 - 来自专栏CreateAMind
deepmind 强化学习的元学习
deepmind 一篇很难懂的文章，但是又很重要：元学习。 also learning a distribution学习共性，学习结构，学习分布 ? ? ? ? ? ? ? ? ? ? ? ? ?
30920发布于 2018-07-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号