- 综合排序
- 最热优先
- 最新优先
LLaMA3-8B-Instruct Lora 微调
本节我们简要介绍如何基于 transformers、peft 等框架，对 LLaMA3-8B-Instruct 模型进行 Lora 微调。 Lora 是一种高效微调方法，深入了解其原理可参见博客：知乎|深入浅出 Lora。 这个教程会在同目录下给大家提供一个 nodebook 文件，来让大家更好的学习。 https://www.codewithgpu.com/i/datawhalechina/self-llm/self-llm-LLaMA3 在本节教程里，我们将微调数据集放置在根目录 /dataset ', cache_dir='/root/autodl-tmp', revision='master') 指令集构建 LLM 的微调一般指指令微调过程。 所谓指令微调，是说我们使用的微调数据形如： { "instruction": "回答以下用户问题，仅输出答案。", "input": "1+1等于几?"
65110编辑于 2025-07-21- 来自专栏AI
微调
在高层次上，微调包括以下步骤：准备并上传训练数据训练一个新的微调模型评估结果，如果需要，返回到步骤 1使用您的微调模型访问我们的定价页面，了解有关微调模型训练和使用的更多信息。 可以进行微调的模型有哪些？GPT-4的微调目前处于实验性访问计划中 - 符合条件的用户可以在创建新的微调任务时在微调界面上申请访问权限。 创建微调模型在确保您的数据集具有正确的数量和结构，并且已经上传文件之后，下一步是创建微调作业。我们支持通过微调UI或以编程方式创建微调作业。 您可以使用suffix参数自定义微调模型的名称。要设置额外的微调参数，比如validation_file或超参数，请参考微调的API规范。启动微调作业后，可能需要一些时间才能完成。 我可以继续微调已经微调过的模型吗？是的，您可以在创建微调作业时将已微调模型的名称传递给模型参数。这将以已微调模型为起点开始一个新的微调作业。我如何估计微调模型的成本？请参考上文中的成本估算部分。
71010编辑于 2024-04-20 - 来自专栏数据库相关
binlog2sql在MySQL8下的微调
binlog2sql 默认的requirements中的依赖包版本比较低，不适合mysql8， 需要用如下的几个包： $ cat .. '' for block in reversed_blocks(fin): if PY3PLUS: block = block.decode("utf-8" ,"ignore") # 修改后的写法 #block = block.decode("utf-8") # 原先是这个写法 for c in reversed
53020编辑于 2022-01-11 - 来自专栏计算机视觉战队
650亿参数，8块RTX 3090 GPU就能全参数微调
在 LLM 模型调优过程中通常又需要昂贵的 GPU 资源，例如 8×80GB 的 GPU 设备，这使得小型实验室和公司很难参与这一领域的研究。 然而，这些方法并没有为全参数微调提供实用的解决方案，而全参数微调已被公认为是比参数高效微调更强大的方法。 因此，新方法能够在一台具有 8×RTX 3090 的机器上对 65B 模型进行全参数微调，每个 RTX 3090 具有 24GB 内存。 至于 13B 模型，由于内存的限制，它无法在现有的 8 个 RTX 3090 GPU 上用 AdamW 训练。 最后，研究者使用 8 个 RTX 3090 GPU 成功训练了 65B 模型，实现了 4.93 TGS 的吞吐量。
99120编辑于 2023-08-24 - 来自专栏数据冰山
7-8月食品行业快报 | 行业快报
冰山君盘点了近期行业趋势及品类矩阵，乳制品霸榜依旧，饮料、方便速食表现喜人，明星效应持续拉动并助力品牌效益。 此外，中秋佳节期间，又有哪些创新月饼受到追捧？ 本期行业快报，冰山君带你一览7-8月食品行业动向及亮点。 数据处理/关山 陈睿篇 白珊祖 文章撰写/关山 陈睿篇 白珊祖 编辑排版/关山 陈睿篇 白珊祖 林小满 特别感谢/曾静怡 王黛妮 本报告由一面数据制作完成，行业数据来源于一面数据自行开发的产品所监测。
42620发布于 2021-10-20 - 来自专栏NLP/KG
人工智能大语言模型微调技术：SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法
人工智能大语言模型微调技术：SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法 1.SFT 监督微调 1.1 SFT 监督微调基本概念 SFT（Supervised P-tuning v2 微调方法 3.1 P-tuning v2 微调方法的相关技术 传统的微调方法需要微调整个预训练语言模型，对于大语言模型的微调需要大量的资源和时间，急需更加高效的微调方法。 对于 Transformer 的每一层结构，自注意力层的参数量为4⋅d2，即WQ、WQ、WQ和WQ ∈Rd×d；FF 层的参数量为8⋅d2，即W1∈Rd×4d,W2∈Rd×4d。 4.3 Freeze 微调方法的优势 大量减少了大语言模型的微调参数，是一种参数高效的微调方法； 由于只需微调高层特征，加快了模型的收敛，节约了微调的时间； 最大程度地保留了大语言模型预训练所学习到的语言的 5.关键知识点总结 SFT监督微调时监督微调时，学习率通常会设置得很小 常见误区：1.监督微调需要大量的训练时间和数据 2.监督微调将复制源模型的所有参数至目标模型 3.监督微调只需要几十条监督数据即可
10.1K66编辑于 2023-10-11 XTuner 微调
指令跟随微调 PATTERN: internlm2 ------------------------------- internlm2_1_8b_full_alpaca_e3 internlm2_1_8b_full_custom_pretrain_e1 xtuner train 命令用于启动模型微调进程。该命令需要一个参数：CONFIG 用于指定微调配置文件。 对于全量微调的模型（full）其实是不需要进行整合这一步的，因为全量微调修改的是原模型的权重而非微调一个新的 Adapter ，因此是不需要进行模型整合的。 增量预训练微调 定义一些基本方法。 在 PART 2 的部分，由于我们复制的配置文件是全参数微调的配置，而我们希望使用 QLoRA 算法进行微调，所以可以添加 QLoRA 算法的配置。
47810编辑于 2024-10-10- 来自专栏AI理论与前沿
对于大模型，到底微调还是不微调？
QLoRA 这样的算法使得使用有限资源对大模型进行微调变得更加可行。作为示例，表 1 显示了 Llama 2 7B 的三种微调模式（全微调、LoRA 和 QLoRA）的峰值 GPU 内存。 我们提供三个示例：微调 LLM 以更好地使用或忽略来自检索器的上下文微调 LLM 评审模型来评估其他 LLM 的指标，如扎根性、合规性或有用性微调 LLM 来增加上下文窗口2 微调与其他领域适应技术的比较 2.1 微调 vs. 这种担忧在微调时也存在。 2.2 微调 V.S RAG共识是，当 LLM 的基础性能不令人满意时，你可以“从 RAG 开始，评估其性能，如果不够理想，再转向微调”，或者“RAG 可能比微调更有优势” (来源)。
93000编辑于 2024-09-17 - 来自专栏对白的算法屋
当我在微调的时候我在微调什么？
微调效果到底好不好，微调之后的词向量表示是否有效，可以直接用针对下游任务的分类器的准确度来衡量。只有微调效果足够好时，分类效果才够准。 DIRECTPROBE 基于聚类的探针。 通过比较微调前后不同簇之间的距离，可以量化微调之后的词向量表示的变化。 分类器探针接到BERT输出层，跟着BERT一起微调。为了降低微调过程中不稳定性的影响，同一个任务作者使用不同的初始化参数进行了五次微调。 微调后性能反而降低？ 上图中红色框出，发现微调后BERT~small~在PS-fxn任务上反而准确率降低了。为了进一步研究这一问题，如下图作者将原训练集按8:2划分为subtrain和subtest。 使用原始train对BERT~small~进行微调，微调前后均只使用subtrain训练分类器。分类器的训练不参与微调。 如下图所示，微调前分类器在subtest和test上的学习曲线一致。
2.1K10编辑于 2022-04-01 行业微调破局之道：用数据清洗与知识增强驯服大模型“幻觉”
本文以开源项目Chinese-LLaMA-Alpaca为例，系统解析如何通过可信度标记语料库、动态知识增强架构和渐进式微调策略，构建高精度行业大模型。 背景：垂直领域大模型的三大痛点在GIS遥感分析等专业场景中，大模型面临特殊挑战：数据荒漠化：公开语料中专业术语占比不足0.3%（如遥感影像元数据标注）知识时效性陷阱：行业标准每年迭代超20%（如2024 渐进式微调框架# 分阶段训练策略trainer = Trainer( model=model, train_dataset=stage1_dataset, # 通用领域数据 eval_dataset args=TrainingArguments( per_device_train_batch_size=4, gradient_accumulation_steps=8, 的坐标偏移幻觉总结与展望通过Chinese-LLaMA-Alpaca项目的实践验证，我们构建了三重体系：技术层幻觉抑制率数据利用率语料可信度分级34%↑节约67%标注成本动态知识增强51%↑知识更新延迟＜1h渐进式微调
71210编辑于 2025-03-06- 来自专栏云同步
ms-swift 微调 internlm3-8b-instruct（论文分类任务）
微调框架：ms-swift 训练方式：（预训练 + SFT）Lora 目标 对 InternLM 系列模型 进行微调，使其能够完成论文分类任务，然后进行打榜 Docs 安装 ms-swift 1）创建 /bin/bash ############ 可自定义 # 指定基础模型，可以是模型路径 model="Shanghai_AI_Laboratory/internlm3-8b-instruct" # " # 模型作者 model_author="fei" # 训练后的模型名称 model_name="InternLM3-8B-Lora" # 创建日志目录 LOG_DIR="logs" mkdir eval_oc_data_val.csv 注意：我下面不是用的这个评测集进行评测的，我把他移动到 /root/datasets/eval，并改名为 newformat_sft_test_data_val.csv 微调前 {"general_mcq": {"local_path": "/root/datasets/eval", "subset_list": ["newformat_sft_test_data"]}}' 微调后
70410编辑于 2025-08-01 - 来自专栏NLP/KG
人工智能大语言模型微调技术：SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法
人工智能大语言模型微调技术：SFT 监督微调、LoRA 微调方法、P-tuning v2 微调方法、Freeze 监督微调方法 1.SFT 监督微调 1.1 SFT 监督微调基本概念 SFT（Supervised P-tuning v2 微调方法 3.1 P-tuning v2 微调方法的相关技术 传统的微调方法需要微调整个预训练语言模型，对于大语言模型的微调需要大量的资源和时间，急需更加高效的微调方法。 对于 Transformer 的每一层结构，自注意力层的参数量为4⋅d2，即WQ、WQ、WQ和WQ ∈Rd×d；FF 层的参数量为8⋅d2，即W1∈Rd×4d,W2∈Rd×4d。 4.3 Freeze 微调方法的优势 大量减少了大语言模型的微调参数，是一种参数高效的微调方法； 由于只需微调高层特征，加快了模型的收敛，节约了微调的时间； 最大程度地保留了大语言模型预训练所学习到的语言的 5.关键知识点总结 SFT监督微调时监督微调时，学习率通常会设置得很小 常见误区：1.监督微调需要大量的训练时间和数据 2.监督微调将复制源模型的所有参数至目标模型 3.监督微调只需要几十条监督数据即可
25.6K07编辑于 2023-07-16 - 来自专栏蓝天
Ubuntu系统微调
参阅 syslogd(8) 和 syslog.conf(5)。 硬件存取优化 有一部分硬件优化的配置工作 Ubuntu 留给了系统管理员。 hdparm 硬盘存取优化。效果显著。 危险。 务必先阅读 hdparm(8)。 hdparm -tT /dev/hda 测试硬盘存取速度。 hdparm -q -c3 -d1 -u1 -m16 /dev/hda 加速新型 IDE 系统。 参阅 fstab(5) 和 mount(8)。 通过 proc 文件系统，Linux 内核可直接调节某些硬件参数。参阅 通过 proc 文件系统调整内核, 第 7.3 节。 更多信息参阅 inetd(8)、inetd.conf(5)、protocols(5)、services(5)、tcpd(8)、hosts_access(5) 和 hosts_options(5)。 有关 Sun-RPC 的更多信息参阅 rpcinfo(8)、portmap(8) 和 /usr/share/doc/portmap/portmapper.txt.gz。
1.1K30发布于 2018-08-07 - 来自专栏AI
大模型微调
，是最原始、最基础的微调方式。 二、第二类：部分微调（Partial Fine-tuning） 底层核心原理 基于预训练模型的特征分层特性，冻结模型底层/中层的通用特征参数，仅微调上层的任务特定特征参数，是全量微调的轻量化改进版。 常见细分方式 微调顶层MLP层：仅更新Transformer每一层的MLP前馈网络，冻结自注意力层； 微调输出层+顶层若干层：在冻结主体模型的基础上，新增任务专属输出层（如分类头、翻译头），并微调顶层2 -3层； 微调嵌入层+顶层：针对低资源语言/领域，微调词嵌入层（适配任务专属词汇）+顶层特征层。 补充 全量微调：需64卡以上超大规模GPU集群，仅适合大厂； 部分微调：需8-32卡，中等算力； LoRA（PEFT）：仅需1-8卡，单卡即可完成小模型微调，完全贴合中小算力场景的研究与实验，也是你论文中
55210编辑于 2026-02-09 - 来自专栏DeepHub IMBA
在16G的GPU上微调Mixtral-8x7B
Mixtral-8x7B是最好的开源llm之一。但是消费级硬件上对其进行微调也是非常具有挑战性的。因为模型需要96.8 GB内存。而微调则需要更多的内存来存储状态和训练数据。 这时我们就想到了QLoRA，它将模型大小除以4，同时通过仅调整LoRA适配器进行微调来减小优化器状态的大小。但是即使使用QLoRA，然需要32 GB的GPU内存来微调Mixtral-8x7B。 在本文中，我将展示如何仅使用16 GB的GPU RAM对使用AQLM进行量化的Mixtral-8x7B进行微调。我还讨论了如何优化微调超参数，以进一步减少内存消耗，同时保持良好的性能。 用AQLM对2位LLM量化进行微调 AQLM的作者已经在Hugging Face发布了量化版本的Mixtral-8x7B: ISTA-DASLab/Mixtral-8x7b-AQLM-2Bit-1x16 optim: paged_adamw_8bit性能良好，同时比原始AdamW实现消耗的内存少得多。缺点是它减慢了微调速度，特别是如果你有一个旧的CPU。
80110编辑于 2024-03-20 一文读懂如何用LoRA高效微调打造专属行业大模型
一文读懂如何用LoRA高效微调打造专属行业大模型摘要：本文深度解析LoRA微调技术如何以10%训练成本实现行业大模型定制化，通过HuggingFace+魔搭社区实战案例，对比全参数微调与LoRA在医疗、 你将获得：1）LoRA数学原理图解2）Qwen-7B模型微调完整代码3）行业知识注入技巧4）模型蒸馏部署方案。 实测显示，经LoRA优化的行业模型在专业任务中准确率提升37%，推理速度提高5倍引言：为什么需要专属行业模型？ 更棘手的是，全量微调130亿参数模型需8块A100训练3天，成本超2万元。而采用LoRA技术后，仅用1块A3090显卡3小时即完成医疗模型定制，术语识别准确率从58%→95%！ 附录：完整代码包结构展开代码语言：TXTAI代码解释├──lora_config.yaml#微调参数模板├──data_builder.py#行业数据处理器├──train_peft.py#训练脚本└─
16410编辑于 2026-02-11- 来自专栏点滴科技资讯
36家企业将颠覆8大行业
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
3.2K60发布于 2018-04-28 - 来自专栏区块链领域
（8月27日）| 区块链行业热点资讯
据人民网-人民创投报道，在对2018年3月底通过对国家企业信用信息公示系统相关数据统计，国内约42%“区块链”公司是最近一年注册的，主要集中在深圳市和广州市。其中贵州最近1年成立的区块链公司占本省相关公司的93%，广州占88%，山东占80%，浙江和江苏分别占78%。结合上述我国区块链投融资情况，预计未来两年大量区块链初创公司将面临“断粮”危机，竞争烈度会越来越大。
82110发布于 2018-09-20 - 来自专栏AI技术探索和应用
ChatGLM模型微调
ChatGLM3: https://github.com/THUDM/ChatGLM3微调前建议将模型下载到本地。微调前还需要安装依赖。 全量微调时，. 若尝试后发现显存不足，可以考虑尝试降低 DEV_BATCH_SIZE 并提升 GRAD_ACCUMULARION_STEPS尝试添加 --quantization_bit 8 或 --quantization_bit PRE_SEQ_LEN=128, DEV_BATCH_SIZE=1, GRAD_ACCUMULARION_STEPS=16, MAX_SEQ_LEN=1024 配置下，--quantization_bit 8 epoch': 3.93}{'loss': 0.3045, 'learning_rate': 0.0001, 'epoch': 3.93}{'loss': 0.357, 'learning_rate': 8e
1.7K21编辑于 2025-09-26 - 来自专栏相约机器人
PyTorch模型微调实例
其实就是为了我们进行微调使用的。 什么是微调 针对于某个任务，自己的训练数据不多，那怎么办？ 我个人的理解，微调应该是迁移学习中的一部分。微调只能说是一个trick。 如何微调 对于不同的领域微调的方法也不一样，比如语音识别领域一般微调前几层，图片识别问题微调后面几层，这个原因我这里也只能讲个大概，具体还要大神来解释： 对于图片来说，我们CNN的前几层学习到的都是低级的特征 微调实例 这里面我们使用官方训练好的resnet50来参加kaggle上面的 dog breed 狗的种类识别来做一个简单微调实例。 boston_bull 0 1 001513dfcb2ffafc82cccf4d8bbaba97 dingo 1 2 001cdf01b096e06d78e9e5112d419397 pekinese
2K10发布于 2020-02-19
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号