- 综合排序
- 最热优先
- 最新优先
- 来自专栏机器学习算法工程师
fine-gained image classification
我们在路边看到萌犬可爱至极，然后却不知道这个是哪种狗；看见路边的一个野花却不知道叫什么名字，吃着一种瓜，却不知道是甜瓜还是香瓜傻傻分不清……
52820发布于 2018-08-06 - 来自专栏机器学习实践二三事
fine-tuning的二三事
考虑到这样的几个事实: 通常我们自己的数据集都不会大(<1w) 从头开始训练耗时 解决方法就是fine-tuning. 固定前几层的参数，只对最后几层进行fine-tuning Pretrained models. pre-trained model作为初始化，fine-tuning整个网络 数据集小，相似度低 小数据集没有办法进行多层或者整个网络的fine-tuning，建议保持前几层不动，fine-tuning Caffe中如何进行fine-tuning Caffe做fine-tuning相对tensorflow很简单，只需要简单修改下配置文件就行了. (3) 训练 其实就已经改好了，是不是很简单，按照之前标准化的训练测试就好了 知乎上fine-tuning的介绍上有更加详细的介绍，可以移步去看.
793100发布于 2018-01-02 - 来自专栏炼丹笔记
No Fine-Tuning, Only Prefix-Tuning
炼丹笔记干货 作者：十方 说起fine-tuning，大家再熟悉不过了，NLP和CV领域基本都是各种预训练模型了。 使用预训练模型最重要的一步就是fine-tuning，因为下游任务是多种多样的，所以每种下游任务都要有个副本，并且finetune会改变所有的参数。 如下图所示: Prefix-Tuning prefix-tuning在生成式任务中可以替代fine-tuning，方法就是在自回归模型前加个prefix,z=[PREFIX;x;y]或者再encoder
1.1K40编辑于 2022-01-05 - 来自专栏云时之间
深度学习的fine-tuning过程
5) 最后是使用caffe的工具将fine-tuning的网络跑起来进行训练。 ?
1.6K60发布于 2018-04-11 - 来自专栏游戏测试开发
就用Fine uploader吧！
微信图片_20190102184533.jpg 然后就开始鞭打度娘和谷哥，然后就发现了一个开源神器，官网如下： https://fineuploader.com/ fine uploader 是一个功能强大的上传插件 使用给好的例子其中要注意代码中js文件地址要根据下载的fineuploader实际设置，甩个Demo的链接： https://fineuploader.com/demos 然后就要设置一下服务器接受喽，人性的fine 哈哈，后来请教了小伙伴给我提了两种方法： 1、在PHP服务器代码中找到新建UUID文件夹这一步，然后注销掉…… 2、fine uploader提供了获得相关UUID的接口，可以在网页的callback模块中获取相应的
2.1K20发布于 2019-01-02 - 来自专栏计算机视觉理论及其实现
迁移学习和fine-tune的区别
3）Fine-tune：冻结预训练模型的部分卷积层（通常是靠近输入的多数卷积层），训练剩下的卷积层（通常是靠近输出的部分卷积层）和全连接层。 而fine-tune只是其中的一种手段，更常用于形容迁移学习的后期微调中。三、三种迁移学习方式的对比1）第一种和第二种训练得到的模型本质上并没有什么区别，但是第二种的计算复杂度要远远优于第一种。 如果表现不错，还想看看能不能进一步提升，就可以试试Fine-tune，进一步解锁卷积层以继续训练模型。 但是不要期待会有什么质的飞跃。 2.Fine-tune 也可以有三种操作方式 注：其实基本思路都是一样的，就是解锁少数卷积层继续对模型进行训练。 场景1：已经采用方法一的方式，带着冻僵的卷积层训练好分类器了。 场景3：刚上手，想要 Transfer Learning + Fine-tune一气呵成。如何做：和方法一里的操作一样，唯一不同的就是只冻僵一部分卷积层训练。
11.8K20编辑于 2022-09-04 - 来自专栏陶士涵的菜地
再谈Fine-tunning和Embedding的区别
如果你想了解Fine-tunning和Embedding的区别，推荐看一下这个视频，讲的比较清楚。 原始视频：www.youtube.com/watch? v=9qq6HTr7Ocw Fine-tuning和Embedding是两种完全不同的技术，各自适用于不同的场景。Fine-tuning更适合于教授模型新的任务或模式，而不是新的信息。 例如，你可以使用Fine-tuning来训练模型生成特定风格的文本，或者执行特定的NLP任务。然而，Fine-tuning并不适合于作为知识存储，也不适合于问答任务。 此外，与Fine-tuning相比，语义搜索更快、更容易，也更便宜。 然而，如果你的目标是教模型执行特定的任务，比如生成特定风格的文本，那么你可能会发现Fine-tuning更有用。
74410编辑于 2023-05-18 - 来自专栏架构驿站
Fine-Tuning Vs RAG ，该如何选择？
— 01 —高效赋能 LM 的利器—Fine-Tuning 什么是 Fine-Tuning （微调）？ — 03 —评估 Fine-Tuning & RAG 5 要素解析 在评估和应用 Fine-Tuning （微调）与 RAG（检索增强生成）等语言 AI 技术时，我们需要全面审视和深入权衡诸多关键因素 反观传统的 Fine-Tuning （微调）方式，其知识获取能力受到了诸多束缚。 相比之下， Fine-Tuning （微调）技术可以在很大程度上提高小型模型的效率和性能。 这是 Fine-Tuning （微调）技术的一大优势。 与 RAG 系统需要依赖较大模型的限制相比， Fine-Tuning （微调）可以充分利用小型模型的优势。
48210编辑于 2024-11-01 - 来自专栏炼丹笔记
Prompt：Fine-tune之后的新范式
研究者基于底层语言模型的参数是否需要调整、是否有额外的 prompt 参数和这些额外的 prompt 参数是否需要调整这三个方面总结以下 5 种调整策略，如下表 6 所示，它们分别为： Promptless Fine-tuning Tuning-free Prompting Fixed-LM Prompt Tuning Fixed-prompt LM Tuning Prompt+LM Fine-tuning 应用 根据研究者的调研
90921编辑于 2022-10-27 RAG VS Fine-Tuning模型微调详解
为了解决这些问题，RAG和Fine-Tuning技术应运而生。 Fine-Tuning的功能点：定制化：通过Fine-Tuning，预训练模型可以更好地适应企业的特定知识领域和语言风格，生成更加准确且上下文一致的答案。 Fine-Tuning的优缺点：优点：高定制化：通过Fine-Tuning，模型可以更好地适应特定任务或领域，生成更加准确和上下文一致的答案。 Fine-Tuning的底层原理：Fine-Tuning的底层原理基于迁移学习，它通过对预训练好的大型模型进行小规模的参数调整，使其快速适应新任务或特定领域。 Fine-Tuning的Java代码模拟：由于Fine-Tuning涉及深度学习模型的参数调整，我们无法在Java中直接实现模型的训练过程。
50421编辑于 2024-11-22- 来自专栏技术圈
Universal Language Model Fine-tuning for Text Classification
参考论文：Universal Language Model Fine-tuning for Text Classification 迁移学习最早是应用于机器视觉方向的，迁移学习是从general 到specific的过程，在general过程中在大型语料库中进行预训练(pre-training),在specific过程中在specific task领域中进行微调(fine-tunning). 这篇论文提出的预训练方法和之前的迁移学习中微调方法在nlp中的不同点如下，这个在ELMO中也提到过： 使用task数据fine-tuning词向量（如glove这种），只更改模型的第一层 Discriminative fine-tuning，即对layer1，layer2和layer3采用不同的学习速率,η(l−1) =ηl/2.6 ,ηl为第l层的学习率。 为了避免全部fine-tuning导致语言模型对之前学到的general知识的遗忘，引入 Gradual unfreezing，从后往前（从layer3到layer1方向）逐步的添加。
77520发布于 2019-08-21 - 来自专栏做数据的二号姬
教程 | 五分钟带你上手Fine BI
原创内容 No.696 教程 | 五分钟带你上手Fine BI 跟别人学可能需要三天，但是跟我学只需要五分钟~ 图片由海艺AI绘制 我知道很多人看到这个标题的时候一定在想，夸张了，这年头营销号这么嚣张的么 但是作为Fine BI的培训讲师，Fine BI认证考试的出题人，大家猜猜我一共用了多长时间去学习这个软件？ 处理完数据之后就是做一些好看的图表啦，类似在excel表中新增一个sheet页的操作，在fine bi的最下面有一些新增页面的按钮。 这里一共有三类，分别是添加组件、添加仪表板和添加分析文档。
56910编辑于 2024-11-25 - 来自专栏Datawhale专栏
大模型微调（Fine-Tuning）全流程思考
比如如果没有好好构建数据集，最后发现微调模型效果不佳是数据集的问题，就事倍功半了。
1.9K10编辑于 2024-12-20 - 来自专栏人工智能
Fine-Tuning 详解：理论与实践的结合
Fine-Tuning既有理论上的深厚基础，也在实践中被广泛应用，以实现更好的模型性能和更高效的资源利用。接下来将深入探讨什么是Fine-Tuning，以及它的实际用途。 Fine-Tuning的基本概念Fine-Tuning是在一个预训练模型的基础上进行优化的过程。预训练模型通常是在大规模数据集上经过长时间训练的，这使得它学会了丰富的特征表示。 Fine-Tuning的基本思想是分阶段训练神经网络。 Fine-Tuning的优势和挑战优势高效利用计算资源：通过使用预训练模型进行Fine-Tuning，可以显著减少模型训练的时间和所需的计算资源。 自动化Fine-Tuning：AutoML和NAS（神经架构搜索）等自动化机器学习方法也可以应用于Fine-Tuning过程，以实现自动化的超参数调优和层的选择，减少人工的参与，提高Fine-Tuning
15510编辑于 2026-03-07 - 来自专栏算法私房菜
Tensorflow笔记：模型保存、加载和Fine-tune
相比之下checkpoint只能在Session内读取模型，对Fine-tune来说就比较麻烦。 Fine-tune 最后不管保存还是加载模型，多数情况都是为了能够进行迁移学习。其实大部分无非就是将模型加载进来之后，使用某一个节点的值，作为我们后续模型的输入呗。 比如这里的new_pred就没有name，那我想要基于这个新模型再次进行Fine-tune的时候，就不能获取这个new_pred，就无法进行Fine-tune。 的时候不会变化，而通过checkpoint模式导入进来的参数是variables，在后续Fine-tune的时候是会发生变化的。 因为只有pb模式在加载的时候，可以在Session外进行加载，方便Fine-tune。所以个人建议，如果要进行迁移学习，先将模型转化为pb模式。 其他的想起来在写
2.3K41发布于 2021-09-24 - 来自专栏AI科技大本营的专栏
干货 | 谷歌BERT模型fine-tune终极实践教程
奇点机智技术团队将结合利用BERT在AI-Challenger机器阅读理解赛道的实践表现以及多年的NLP经验积累，为大家奉上BERT在中文数据集上的fine tune全攻略。 另一个是训练具体任务(task)的fine-tune部分。 因此在我们可以比较方便地在自己的数据集上进行fine-tune。 下载预训练模型 对于中文而言，google公布了一个参数较小的BERT预训练模型。 我们以分类任务的为例，介绍如何修改processor来运行自己数据集上的fine-tune。 我们还可以发现，在create_model的函数里，除了从modeling.py获取模型主干输出之外，还有进行fine-tune时候的loss计算。
2.2K10发布于 2018-12-18 - 来自专栏Reinvent Data Science
手把手教你使用 Towhee 进行 fine-tune
但是，如果用户有自己的数据集，是否可以 fine-tune 这个 operator 呢？ 答案是肯定的。 接下来是一个保姆级教程，手把手教你如何 fine-tune 一个 Towhee 的 operator。 Interpretability for PyTorch: https://captum.ai/ [7]Quick Start | Towhee Docs: https://docs.towhee.io/fine-tune
1.8K40编辑于 2023-01-10 - 来自专栏我还不懂对话
Fine-tuning过时啦，NLG生成任务如何Tuning？
XiangLi1999/PrefixTuningFine-tuning范式大家肯定都再熟悉不过，微调所有语言模型参数，而从gpt3出现之后提出的in-context learning，还是越来越火的prompt，fine-tuning 同时，最近也有lightweight fine-tuning，即固定语言模型大部分参数，微调2-4%任务相关的参数，但是作者认为还是太多。 [image-20220516000951329.png]如图，prefix-tuning每个任务有少量prefix的参数，约占整体0.1%，远小于lightweight fine-tuning的2-4%
1.5K60编辑于 2022-09-06 - 来自专栏医学和生信笔记
Fine-Gray检验、竞争风险模型、列线图绘制
本文目录： 加载数据和R包 Fine-Gray检验（单因素分析） 图形展示结果 ggplot2 竞争风险模型（多因素分析） 列线图 参考资料 加载数据和R包 探讨骨髓移植和血液移植治疗白血病的疗效，结局事件定义为复发 # 竞争风险分析需要用的R包 library(cmprsk) ## Loading required package: survival Fine-Gray检验（单因素分析） 在普通的生存分析中，可以用 log-rank检验做单因素分析，在竞争风险模型中，使用Fine-Gray检验进行单因素分析。 传统生存单因素分析和竞争风险单因素分析 比如现在我们想要比较不同疾病类型（D）有没有差异，可以进行Fine-Gray检验： bmtcrr$Status <- factor(bmtcrr$Status)
2K30编辑于 2023-02-14 - 来自专栏AI科技评论
实战 | BERT fine-tune 终极实践教程
以下是奇点机智技术团队对 BERT 在中文数据集上的 fine tune 终极实践教程。 在自己的数据集上运行 BERT BERT 的代码同论文里描述的一致，主要分为两个部分。 另一个是训练具体任务( task )的fine-tune 部分。 因此在我们可以比较方便地在自己的数据集上进行 fine-tune。 下载预训练模型 对于中文而言，google 公布了一个参数较小的 BERT 预训练模型。 我们以分类任务的为例，介绍如何修改processor来 运行自己数据集上的 fine-tune。 因此，如果对于 fine-tune 的结构有自定义的要求，可以在这部分对代码进行修改。
2.5K50发布于 2018-12-19
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号