- 综合排序
- 最热优先
- 最新优先
- 来自专栏大模型&AIGC
6种大模型微调技术
值得一提的是，通过使用T5模型进行模型大小的消融实验，我们展示了提示微调随着规模的增加变得更加具有竞争力：当模型参数超过数十亿时，我们的方法“缩小了差距”并达到了模型微调（即调整所有模型权重）的强大性能 input和target，则使用原始的input embedding(5) 使用方式离散和连续template token混合时，显示地插入一下anchor（离散的token）有助于template的优化(6) ，无需verbalizer(4) 特点在小、大模型上，效果均优于P-tuning。 当参数量达10B，效果相当于FT6.LoRA（2021）(1) 论文信息来自论文：《LORA: LOW-RANK ADAPTATION OF LARGE LANGUAGE MODELS》（2）摘要自然语言处理的一个重要范式包括在通用领域数据上进行大规模预训练 Model)，学习目标为而加入LoRA后，学习目标为：(6) 配置在多个部位$(Q/K/V/Output)$同时添加$\bigtriangleup W$ ，会比只在单一部分上添加权重$\bigtriangleup
2.6K00编辑于 2025-05-08 - 来自专栏6G
6G，AI , 与大模型?
6G与AI融合的未来方向 6G 网络的内生 AI 设计将赋能网络的AI大模型，同时使网络能够支持 AI 大模型的训练和服务。 另外，从小模型到大模型，生产效率跨越式提升基础通用大模型具有泛化性，网络智能化将从用例驱动转变为能力驱动，迅速降低应用开发门槛，加速 AI 工程化、规模化落地。 6G 网络将承担数据采集、预处理等数据服务，为云AI训练提供更好的支持。此外，6G 网络的分布式部署将使得 AI 大模型更靠近用户侧，从而在时延方面具有潜在优势。 在数据获取和处理方面，与 ChatGPT 不同，网络中存在大量结构化数据，且网络不同问题间的共性不清晰，网络 AI 大模型面临较大挑战。6G 网络面临如何有效采集适合AI大模型训练的数据的挑战。 而在构建 AI 大模型的路径上，需要分阶段探索，从离线小规模模型开始，逐步过渡到实时大规模模型，最终实现统一的网络 AI 大模型。 本文摘自于中国移动的“6G内生AI架构及AI大模”汇报材料。
40810编辑于 2024-04-24 大模型的2025：6个关键洞察
以下为卡帕西年度回顾全文：《2025年大语言模型年度回顾》2025年是大语言模型领域大步跨越且充满变数的一年。 通过在数学、代码谜题等大量可自动验证奖励的环境中训练大语言模型，模型会自发形成人类视角下近似“推理”的策略。 Cursor与大语言模型应用的新层级Cursor最引人关注的点（除了其2025年的爆发式增长），在于它清晰揭示了大语言模型应用的一个全新层级，人们开始普遍讨论“某领域的Cursor模式”。 2025 年，行业内围绕这一新应用层的“厚度”展开了大量讨论：大语言模型实验室是否会通吃所有应用场景？还是说垂直领域的大语言模型应用仍有广阔蓝海？ 我个人的观点是，大语言模型实验室更倾向于培育“通识能力极强的大学生”式模型，而大语言模型应用则通过整合私有数据、传感器、执行器及反馈闭环，对这些“大学生”进行针对性组织、微调，最终驱动它们成为特定垂直领域的
58110编辑于 2025-12-24- 来自专栏啄木鸟软件测试
多模态大模型技术原理及实战(6)
中小型公司大模型构建之路 如何选择 自己建立 二次开发 重新训练，消耗非常巨大 现有的大模型体系已经非常丰富 对话大模型已经白热化 •三天产生一个小应用 •两天产生一个新模型 中小公司的技术实力相对薄 微调 用 LoRA((Low-Rank Adaptation低秩适配) 2022年 Edward J.Hu PLM(Pre-trained Language Model 预训练语言模型) Redundancy Optimizer，ZeRO） •优化器状态分区(ZeRO-1） •梯度分区 (ZeRO-2） •参数分区(ZeRO-3) 压缩 剪枝 剪枝技术通过理结果产生重要影响，需要剔除冗余参数以提高模型训练效率 步骤 •1、训练一个原始模型，该模型具有较高的性能但运行速度较慢。 •2、确定哪些参数对输出结果的贡献较小，并将其设置为零。 •4、评估模型的大小、速度和效果等指标，如果不符合要求，那么继续进行剪枝操作直至满意为止。
29810编辑于 2024-09-10 - 来自专栏猫头虎博客专区
ChatGLM-6B 大模型的前世今生
为了方便下游开发者针对自己的应用场景定制模型，我们同时实现了基于 P-Tuning v2 的高效参数微调方法 (使用指南) ，INT4 量化级别下最低只需 7GB 显存即可启动微调。 ChatGLM-6B 开源模型旨在与开源社区一起推动大模型技术发展，恳请开发者和大家遵守开源协议，勿将开源模型和代码及基于开源项目产生的衍生物用于任何可能给国家和社会带来危害的用途以及用于任何未经过安全评估和备案的服务 尽管模型在训练的各个阶段都尽力确保数据的合规性和准确性，但由于 ChatGLM-6B 模型规模较小，且模型受概率随机性因素影响，无法保证输出内容的准确性，且模型易被误导（详见局限性）。 ： 更强大的性能：基于 ChatGLM 初代模型的开发经验，我们全面升级了 ChatGLM2-6B 的基座模型。 将模型下载到本地之后，将以上代码中的 THUDM/chatglm-6b 替换为你本地的 chatglm-6b 文件夹的路径，即可从本地加载模型。 Optional 模型的实现仍然处在变动中。
1.4K10编辑于 2024-04-08 - 来自专栏MavenTalk
ChatGLM-6B大模型微调实战总结
上篇我们已经具备了 ChatGLM-6B 初步的运行环境，这为实现完全属于自己的模型奠定了基础（快速部署ChatGLM-6B大模型实战总结），接下来将针对模型进行微调，以便让它真正成为一个定制化智能助手 在这个过程中，我将直接使用官方的P-Tuning v2工具对ChatGLM-6B模型进行参数微调。 /THUDM/chatglm-6b \ # 加载模型文件地址 --output_dir output/adgen-chatglm-6b-pt-$PRE_SEQ_LEN-$LR \ # 保存训练模型文件地址 在实践中，我们使用了 ChatGLM-6B 模型，并经历了模型的训练和推理过程。训练模型消耗了相当多的时间，但也让我们体会到了模型训练的复杂性和挑战性。 —扩 展 阅 读— 正在发生或即将发生的AI大模型应用，立帖为证 ChatGPT、Claude和Bard，三足鼎立之势已成 WPS Office AI实战总结，智能化办公时代已来 你对 ChatGPT
4.2K43编辑于 2023-09-06 - 来自专栏量子位
大模型恋爱神器！16种MBTI自由定制，北大ChatLaw团队出品
Jiaxi 投稿自 凹非寺 量子位 | 公众号 QbitAI 北大团队新作，让大模型拥有个性！ 而且还是自定义那种，16种MBTI都能选。 这样一来，即便是同一个大模型，不同性格下的回答都不一样。 ENFP的大模型会说：喜欢参加社交活动，结识新朋友。 INFJ的大模型则回答：喜欢独自读过。 这样能干啥呢？北大的童鞋们列出来了一些情景 ： 在特殊节日，给你的男/女朋友寻找心仪的礼物。 深入理解大模型的定制化、个性化的方式及可能性。 在做出重大决策时，考虑不同情境下的个性特征。 通过深入了解人性的复杂性，促进个人成长和相互理解。 行为数据集的目的是为了让大模型可以表现出不同性格的回应，这部分是对Alpaca数据集进行个性化修改实现。 行为数据集中MBTI四个维度的比例如下： 自我意识数据集是为了让大模型能够意识到自己的个性特征。 通过一个两阶段的有监督训练微调过程，最后可以得到对应人格的大模型。
98010编辑于 2024-01-17 - 来自专栏MavenTalk
快速部署ChatGLM-6B大模型实战总结
近期，IT界掀起了大模型的热潮，各种百模争霸的局面出现。 然而，当开源的大模型 ChatGLM 面世时，我却遇到了一些困扰，但幸运的是，腾讯云给了我一个难得的机会。 下载模型文件 https://github.com/THUDM/ChatGLM-6B 官方网站 从ChatGLM的官方库中下载，将模型文件我放到工程的 ChatGLM-6B/THUDM 目录下面。 huggingface.co/THUDM/chatglm-6b 模型文件比较大(25G)，这里下载需要的时间很长，请耐心等待，以下是目录下载后模型目录下的文件： 测试 终端运行 Demo 进入ChatGLM server.port 27777 --server.address 0.0.0.0 执行成功的效果如下： 打开浏览器可见到如下界面： 跟它对话一下，看看效果： —扩 展 阅 读— 正在发生或即将发生的AI大模型应用
1.9K20编辑于 2023-09-06 - 来自专栏卓越笔记
软件质量模型的 6 大特性 27 个子特性
软件质量模型的 6 大特性 27 个子特性 一、功能性： 1、适合性：软件是否提供了相应的功能 2、准确性：软件提供的功能是否正确（用户需要的） 3、互操作性：产品与产品之间交互数据的能力
1.2K30编辑于 2023-02-18 - 来自专栏AiCharm
训练开销骤减，10%成本定制专属类GPT-4多模态大模型
本文来自新加坡国立大学和清华大学的研究者提出了一个名为 VPGTrans 框架，以极低成本训练高性能多模态大模型。 多模态大模型定制：通过我们的 VPGTrans 框架可以根据需求为各种新的大语言模型灵活添加视觉模块。 比如，LLM 在多模态理解领域掀起了一股从传统预训练视觉语言模型 (VLM) 到基于大语言模型的视觉语言模型 (VL-LLM) 的变革。 b) TaS 场景下，越小的语言模型上训练的 VPG，迁移到大模型时效率越高，最终效果越好。c) TaT 场景下，越小的模型之间迁移的 gap 越大。 我们发现，这样不仅可以避免掉点情况，还能够进一步加速 VPG 收敛 (图 6)。
48320编辑于 2023-06-07 - 来自专栏实验盒
NBT｜BioChatter：为生物医学量身定制的开源大语言模型应用平台
引言 近年来，生成式人工智能尤其是大语言模型（LLM）取得了显著进展，但在生物医学研究中的应用仍处于起步阶段。 BioChatter是一个开源的Python框架，旨在遵循开放科学原则，开发定制的生物医学研究软件。 它还促进了在简单性/经济性与安全性之间的定制部署，用户可以根据自己的需求在公共数据库、自托管云数据库和本地数据库之间进行选择，平衡安全性与成本。 系统提示与多智能体系统 BioChatter的可定制平台允许用户通过系统提示将其与自己的上下文对齐，并使用基于智能体的系统进行高级工作流程。 基准测试框架在所有模型和相关参数上运行这些测试，并通过BioChatter网站向社区报告结果。
49510编辑于 2025-02-05 - 来自专栏机器之心
训练开销骤减，10%成本定制专属类GPT-4多模态大模型
本文来自新加坡国立大学和清华大学的研究者提出了一个名为 VPGTrans 框架，以极低成本训练高性能多模态大模型。 多模态大模型定制：通过我们的 VPGTrans 框架可以根据需求为各种新的大语言模型灵活添加视觉模块。 比如，LLM 在多模态理解领域掀起了一股从传统预训练视觉语言模型 (VLM) 到基于大语言模型的视觉语言模型 (VL-LLM) 的变革。 b) TaS 场景下，越小的语言模型上训练的 VPG，迁移到大模型时效率越高，最终效果越好。c) TaT 场景下，越小的模型之间迁移的 gap 越大。 我们发现，这样不仅可以避免掉点情况，还能够进一步加速 VPG 收敛 (图 6)。
55920编辑于 2023-05-22 - 来自专栏AI SPPECH
63_模型定制：领域微调技术
引言：为什么需要模型定制与微调 ├── 2. 微调技术体系：从全参数到参数高效 ├── 3. 全参数微调：深度定制的经典路径 ├── 4. 参数高效微调：资源受限下的优化选择 ├── 5. 指令调优：让模型更好地理解任务 ├── 6. RLHF：基于人类反馈的强化学习 ├── 7. 数据工程：微调成功的基础 ├── 8. 评估与优化：确保微调效果 └── 9. 行业应用与最佳实践 1. 引言：为什么需要模型定制与微调 在2025年的AI生态系统中，通用大语言模型（LLM）如ChatGPT、LLaMA 4、Claude 4等已经展现出惊人的通用能力。 然而，当面对特定行业或场景的专业需求时，通用模型往往表现出局限性：术语理解不准确、领域知识不足、任务适配性差等问题。这正是模型定制与微调技术应运而生的背景。 return trained_model 6.
38810编辑于 2025-11-16 - 来自专栏机器学习
瑞莎星睿 O6 (Radxa Orion O6) 运行大模型
那么如何使用CIXP1NPUSDK运行基于NPU加速推理的人工智能模型和应用，如果你已经拥有了一个硬件设备，NPUSDK包含NOECompiler与CIXAIModelHub,要获取SDK需要通过申请CIX )在编译的同时，我们可以去魔搭社区去下载GGUF格式的模型，为后面的体验做准备新开一个终端，然后运行下面的命令进行模型的拉取这里我们以[通义千问3-8B-GGUF·模型库](https://www.modelscope.cn /models/Qwen/Qwen3-8B-GGUF展开代码语言：TXTAI代码解释等待模型完成下载。于此同时我们之前的build工作也完成了! --qSOXX00tZ-LHgtH3UXjWNkk4FiKxGCGeYl7WzppRj1wIB4KwLb0)##推理测试当我们的模型下载完成后如下! /models/Qwen/Qwen3-8B-GGUF/Qwen3-8B-Q5_K_M.gguf展开代码语言：TXTAI代码解释>-m后面接的是你模型保存的位置!
65410编辑于 2025-11-14 - 来自专栏帅云霓的技术小屋
大模型与AI底层技术揭秘 (6) 分割与征服
所谓的分治，就是将一个大而复杂的问题，拆分为小而容易解决的问题。
41620编辑于 2023-10-25 - 来自专栏科学最Top
2024年NIPS中6篇时序大模型研究汇总
该预测器与任何仅解码器的大型语言模型都兼容，展现出回溯长度的灵活性，而且随着大型语言模型规模的增大，其可扩展性也得以体现。 (NIPS24) 大型语言模型（LLMs）正被应用于时间序列预测。但语言模型对时间序列真的有用吗？ 在对三种近期流行的基于大型语言模型的时间序列预测方法进行的一系列消融研究中，我们发现移除大型语言模型组件或者用一个基本的注意力层代替它，并不会降低预测性能 —— 在大多数情况下，结果甚至有所提高！ 我们还发现，尽管预训练的大型语言模型计算成本很高，但它们并不比从头开始训练的模型表现更好，它们无法体现时间序列中的顺序依赖关系，在少样本情境下也没有帮助。 6、论文标题：Tiny Time Mixers (TTMs): Fast Pre-trained Models for Enhanced Zero/Few-Shot Forecasting of Multivariate
1.2K10编辑于 2024-10-31 - 来自专栏AI科技评论
为每个用户提供专属定制服务，OPPO 安第斯大模型的新卷法
OPPO大模型团队认为，有了大模型技术加持的智能助手，将给用户带来全新的智能体验。 在大模型以前，各个公司也会涉及AI板块，但根据应用的不同，可能会泛化出各类不同的小组，比如，对话一个AI团队，视频一个AI团队。 而在大模型之后，一个通用大模型能解决所有问题。 刘海锋表示，OPPO大模型在模型的规格方面，希望做由不同规格组成的一系列大模型，既能够跟设备端更紧密的结合解决简单的任务，又可以部署在云端满足一些更复杂的需求。 安第斯大模型基于端云协同架构构建。 可以看出OPPO安第斯大模型主打知识与问答能力，显著提升了大语言模型知识与百科能力的覆盖面和准确性。 在各项测试榜单上，OPPO安第斯大模型能优于同行表现20%。 大模型加载的小布整个月活超过了1.4亿，每天产生的交互数据以亿计算。 用户对安第斯大模型的反馈在数据上得到了实实在在的反馈。
72820编辑于 2023-10-27 标题：金融风控大模型在腾讯云的定制化支持与技术指南
摘要： 本文旨在解析金融风控大模型技术能力，并提供基于腾讯云产品的定制化支持方案。文章将深入探讨技术核心价值、实施挑战、操作指南以及增强方案，并以结构化格式呈现，确保逻辑清晰、易于阅读。 3大关键挑战 数据隐私与安全：在处理敏感金融数据时，如何确保数据安全和隐私保护是一大挑战。 模型泛化能力：模型需要在不同的金融场景下保持高准确率，对模型的泛化能力提出了高要求。 实时性要求：金融风控需要实时或近实时的风险评估，对模型的响应速度和处理能力是一大考验。 操作指南 实施流程 数据准备与预处理 原理说明：数据是金融风控大模型的基础，需要从多个数据源收集并预处理数据以供模型训练。 在某银行客户实践中，通过腾讯云AI平台的定制化服务，成功将信用卡欺诈检测的准确率提高了20%。 通过本文的技术指南，您可以深入了解金融风控大模型的定制化支持方案，并利用腾讯云产品实现技术落地。
54810编辑于 2025-07-29- 来自专栏深度学习自然语言处理
VPGTrans: 10%的成本定制你自己的类GPT-4多模态大模型
多模态大模型定制 通过我们的VPGTrans框架可以根据需求为各种新的大语言模型灵活添加视觉模块。比如我们在LLaMA-7B和Vicuna-7B基础上制作了VL-LLaMA和VL-Vicuna。 为代表的大语言模型(LLM)大火。 比如，LLM在多模态理解领域掀起了一股从传统预训练视觉语言模型(VLM)到基于大语言模型的视觉语言模型(VL-LLM)的变革。 b) TaS场景下，越小的语言模型上训练的VPG，迁移到大模型时效率越高，最终效果越好。c) TaT场景下，越小的模型之间迁移的gap越大。 我们发现，这样不仅仅可以避免掉点情况，还能够进一步加速VPG收敛(图6)。
38320编辑于 2023-08-22 - 来自专栏NLP/KG
大模型应用：大模型AI Agent在企业应用中的6种基础类型，企业智慧升级必备
大模型应用：大模型AI Agent在企业应用中的6种基础类型，企业智慧升级必备 AI Agent 智能体在企业应用中落地的价值、场景、成熟度做了分析，并且探讨了未来企业 IT 基础设施与架构如何为未来 知识助手通常借助于大模型的 **RAG（检索增强生成）**方案来实现，其本质上也是一种提示工程：**借助于在大模型输入时携带相关的私有知识上下文，让大模型理解、总结、整理并回答用户问题。 在大模型出现以后，给这一类 RPA 智能也带来了新的优化空间。 6.自定义流程助手 最后一种 AI Agent 严格来说是上面的几种基础 Agent 能力的组合。 这样的具有 LLM 流程可视化编排能力的框架或平台，可以更加直观简单地定制任务流程 借助类似 SuperAGI 这样可快速简单化定制 LLM 流程的 Agent 框架来实现 以上，对企业应用中的大模型
3.1K33编辑于 2024-05-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号