- 综合排序
- 最热优先
- 最新优先
- 来自专栏AiCharm
训练开销骤减，10%成本定制专属类GPT-4多模态大模型
本文来自新加坡国立大学和清华大学的研究者提出了一个名为 VPGTrans 框架，以极低成本训练高性能多模态大模型。 极低训练成本：通过我们提出的 VPGTrans 方法，可以快速 (少于 10% 训练时间) 将已有的多模态对话模型的视觉模块迁移到新的语言模型，且达到类似或更优效果。 多模态大模型定制：通过我们的 VPGTrans 框架可以根据需求为各种新的大语言模型灵活添加视觉模块。 比如，LLM 在多模态理解领域掀起了一股从传统预训练视觉语言模型 (VLM) 到基于大语言模型的视觉语言模型 (VL-LLM) 的变革。 b) TaS 场景下，越小的语言模型上训练的 VPG，迁移到大模型时效率越高，最终效果越好。c) TaT 场景下，越小的模型之间迁移的 gap 越大。
48320编辑于 2023-06-07 - 来自专栏机器之心
训练开销骤减，10%成本定制专属类GPT-4多模态大模型
本文来自新加坡国立大学和清华大学的研究者提出了一个名为 VPGTrans 框架，以极低成本训练高性能多模态大模型。 极低训练成本：通过我们提出的 VPGTrans 方法，可以快速 (少于 10% 训练时间) 将已有的多模态对话模型的视觉模块迁移到新的语言模型，且达到类似或更优效果。 多模态大模型定制：通过我们的 VPGTrans 框架可以根据需求为各种新的大语言模型灵活添加视觉模块。 比如，LLM 在多模态理解领域掀起了一股从传统预训练视觉语言模型 (VLM) 到基于大语言模型的视觉语言模型 (VL-LLM) 的变革。 b) TaS 场景下，越小的语言模型上训练的 VPG，迁移到大模型时效率越高，最终效果越好。c) TaT 场景下，越小的模型之间迁移的 gap 越大。
55920编辑于 2023-05-22 - 来自专栏深度学习自然语言处理
VPGTrans: 10%的成本定制你自己的类GPT-4多模态大模型
极低训练成本 通过我们提出的VPGTrans方法，可以快速(少于10%训练时间)将已有的多模态对话模型的视觉模块迁移到新的语言模型，且达到类似或更优效果。 多模态大模型定制 通过我们的VPGTrans框架可以根据需求为各种新的大语言模型灵活添加视觉模块。比如我们在LLaMA-7B和Vicuna-7B基础上制作了VL-LLaMA和VL-Vicuna。 为代表的大语言模型(LLM)大火。 比如，LLM在多模态理解领域掀起了一股从传统预训练视觉语言模型(VLM)到基于大语言模型的视觉语言模型(VL-LLM)的变革。 b) TaS场景下，越小的语言模型上训练的VPG，迁移到大模型时效率越高，最终效果越好。c) TaT场景下，越小的模型之间迁移的gap越大。
38320编辑于 2023-08-22 - 来自专栏技术趋势
windows10搭建llama大模型
背景 随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。 LLAMA介绍 llama全称：Large Language Model Meta AI是由meta（原facebook）开源的一个聊天对话大模型。 ~all~sobaiduend~default-1-106591160-null-null.142^v88^control,239^v2^insert_chatgpt&utm_term=windows10% Linux图： 下载羊驼模型（有点大） 先建一个文件夹：path_to_original_llama_root_dir 在里面再建一个7B文件夹并把tokenizer.model挪进来。 -f prompts/alpaca.txt -ins -c 2048 --temp 0.2 -n 256 --repeat_penalty 1.3 结果 最后 我知道很多同学可能觉得学习大模型需要懂
1.5K30编辑于 2023-09-12 - 来自专栏喔家ArchiSelf
大模型应用的10个架构挑战
基于笔者近年来的探索与实践，这里列举了面向大模型应用系统架构设计的10个挑战。 1. 生产环境的挑战——推理框架的选择 对于大模型应用而言，生成环境的运行时是一个推理架构。 大模型应用需要一个针对产品级大型语言模型的高效管理系统。 尽管我们已经有了一些探索，例如《大模型应用的10个架构模式》(https://mp.weixin.qq.com/s? 适用性挑战——大模型的应用边界 大模型在人工智能领域确实展现出了强大的能力，它们在各种控制平面和应用场景中都发挥着重要作用。然而，尽管大模型的应用范围广泛，但并不意味着它们是无所不能的。 虽然大模型在人工智能领域具有广泛的应用前景，但并不是所有场景都适合使用大模型。在设计系统架构时，我们需要根据具体需求和技术挑战来判断是否需要引入大模型，以确保系统的高效性和可靠性。 10.
1.2K10编辑于 2024-12-24 - 来自专栏喔家ArchiSelf
大模型应用设计的10个思考
技术不是万能的，但没有技术却可能是万万不能的，对于大模型可能也是如此。 基于大模型的应用设计需要聚焦于所解决的问题，在自然语言处理领域，大模型本身在一定程度上只是将各种NLP任务统一成了sequence 到 sequence 的模型。 利用大模型， 我们是在解决具体的生产和生活中的问题，产品和技术上的设计仍然不可或缺。 那么，如果大模型正在重新构建软件工程的未来，我们是否应该遵循一些基本原则呢？ 1. 因此，只要我们对模型进行适当的控制和引导，它就能成为我们工作中得力的“助手”。而这种控制的基础，就是我们对模型内部机制和特点的深入了解和掌握。 10. 因此，我们在使用大模型时，应该保持理性和谨慎的态度，既要欣赏它们所带来的便利和进步，也要警惕它们的局限性和潜在风险。这样，才能更好地利用这些模型，推动基于大模型应用的健康发展。
61410编辑于 2023-12-04 - 来自专栏机器学习/数据可视化
机器学习分类模型10大评价指标
公众号：尤而小屋作者：Peter编辑：Peter大家好，我是Peter~机器学习分类模型的评价指标是在衡量模型在未知数据集上的性能表现，通常基于混淆矩阵和相关的评价指标。 样本的真实类别是负类，但模型将其识别为正类。True Negative（TN）：真负类。样本的真实类别是负类，并且模型将其识别为负类。 ，精确率越高，表示模型越好。 ，也就是说精确率是模型在某个类别上的判断。 下图是来自维基百科对ROC-AUC的解释：图片通过对分类阈值$\theta$（默认情况下是0.5，范围是0到1）从大到小或者从小到大排列，就可以得到多组TPR和FPR的取值，在二维坐标系中绘制出来就可以得到一条
1.5K10编辑于 2023-10-13 - 来自专栏大模型应用
大模型应用：大模型性能评估指标：CLUE任务与数据集详解.10
，应运而生，它就像一把精准的尺子，为中文大模型的性能评估提供了标准化方案。 同样，没有CLUE这样的基准，我们也难以比较不同大模型的优劣。CLUE不仅填补了中文自然语言处理评估的空白，更为模型研发提供了明确的方向指引。二. CLUE基准概述1. label] = metrics['f1-score'] if f1_scores: labels = list(f1_scores.keys())[:10 : 完整的评估流程8.2 完整的评估指标准确率、精确率、召回率、F1分数精确匹配率（阅读理解）NER任务的序列标注指标置信度分析七、总结 CLUE基准作为中文大模型评估的重要标准，不仅为技术发展提供了明确的导向 随着人工智能技术的不断演进，CLUE基准也将持续完善，更好地服务于大模型的研发和应用。 正如一句古语所说："工欲善其事，必先利其器。"CLUE基准就是我们评估和提升大模型能力的利器。
42132编辑于 2026-02-07 - 来自专栏喔家ArchiSelf
大模型应用的10种架构模式
作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。 2.大模型代理模式 想象一个生态系统，其中多个专门针对特定任务的生成式AI模型各自作为其领域内的专家，并行工作以处理查询。 这就像一个多功能工具，可以根据需求选择和激活不同的功能模块，对于需要为各种客户需求或产品需求定制解决方案的企业来说，这是非常有效的。 10. 双重安全模式 围绕大型语言模型（LLM）的核心安全性至少包含两个关键组件：一是用户组件，我们将其称为用户Proxy代理；二是防火墙，它为模型提供了保护层。 随着我们们继续探索和创新，还会涌现出很多新的架构模式，而且这里的10个架构模式以及新涌现的架构模式可能成为人工智能服务的表现形态。
5.1K11编辑于 2024-04-03 - 来自专栏对白的算法屋
AI 大模型创业的 10 个灵魂拷问
下面就这 10 个灵魂拷问，分享一些我自己的观点。 做不做基础大模型？ 如果做基础大模型，需要上亿美金的前期投入，如何融到这么多资，如何招到靠谱的算法、数据和 infra 团队？ 但这样的模型推理成本会很高，就像现在 GPT-4 读一篇论文要 10 美金，只有高净值客户和探索科学前沿的场景才消费得起。 为什么 16 年这波 AI 浪潮不是移动互联网级别的机会，而大模型这波就是呢？首先，16 年的 CV 和 NLP 都是单点技术，很难泛化到通用场景，每个场景都需要大量定制成本。 第一，如果读一篇论文还是像 GPT-4 那样需要 10 美金，生成一段 7.5 分钟的视频还是像 Runway ML 一样需要 95 美金，大多数人就不可能用得起大模型。 上一波 AI 主要是 to B 的市场，而且解决方案通用性不强，因此经常需要针对客户需求进行定制。大模型的特点就是通用性强，因此如果要做到 scale，一定需要做通用的产品。
63230编辑于 2023-09-01 - 来自专栏深度学习与python
大模型应用的 10 种架构模式
作为一位老码农，我在这里整理总结了一些针对大模型应用的设计方法和架构模式，试图应对和解决大模型应用实现中的一些挑战，如成本问题、延迟问题以及生成的不准确性等。 1. 大模型代理模式 想象一个生态系统，其中多个专门针对特定任务的生成式 AI 模型各自作为其领域内的专家，并行工作以处理查询。 通过将大模型与基于规则的逻辑结合，我们能够融合结构化的精确性，旨在创造出既富有创意又遵循规范的解决方案。 这就像一个多功能工具，可以根据需求选择和激活不同的功能模块，对于需要为各种客户需求或产品需求定制解决方案的企业来说，这是非常有效的。 10. 双重安全模式 围绕大型语言模型（LLM）的核心安全性至少包含两个关键组件：一是用户组件，我们将其称为用户 Proxy 代理；二是防火墙，它为模型提供了保护层。
86610编辑于 2024-04-12 - 来自专栏TechLead
大模型应用曙光 - 10X压缩技术
拥有10+年AI领域研究经验、复旦机器人智能实验室成员，国家级大学生赛事评审专家，发表多篇SCI核心期刊学术论文，上亿营收AI产品研发负责人。 如何在不牺牲性能的情况下将大语言模型缩小十倍？ 不用说，大多数消费设备（如手机、平板电脑、笔记本电脑）无法处理如此庞大的模型。但……如果我们可以让模型变小呢？ 模型压缩 模型压缩旨在在不牺牲性能的前提下减少机器学习模型的大小。 量化——使用更低精度的数据类型表示模型 剪枝——从模型中删除不必要的组件 知识蒸馏——通过较大的模型训练较小的模型 _注意_：这些方法是相互独立的。 知识蒸馏 知识蒸馏是将知识从一个（较大的）教师模型传递到一个（较小的）学生模型。一种方法是通过教师模型生成预测，并使用这些预测来训练学生模型。 令人惊讶的是，训练结束时，学生模型在所有评估指标上都超过了教师模型！ 接下来，我们可以在独立的验证集上评估模型，即未用于训练模型参数或调整超参数的数据。
48510编辑于 2024-09-24 - 来自专栏量子位
大模型恋爱神器！16种MBTI自由定制，北大ChatLaw团队出品
Jiaxi 投稿自 凹非寺 量子位 | 公众号 QbitAI 北大团队新作，让大模型拥有个性！ 而且还是自定义那种，16种MBTI都能选。 这样一来，即便是同一个大模型，不同性格下的回答都不一样。 ENFP的大模型会说：喜欢参加社交活动，结识新朋友。 INFJ的大模型则回答：喜欢独自读过。 这样能干啥呢？北大的童鞋们列出来了一些情景 ： 在特殊节日，给你的男/女朋友寻找心仪的礼物。 深入理解大模型的定制化、个性化的方式及可能性。 在做出重大决策时，考虑不同情境下的个性特征。 通过深入了解人性的复杂性，促进个人成长和相互理解。 行为数据集的目的是为了让大模型可以表现出不同性格的回应，这部分是对Alpaca数据集进行个性化修改实现。 行为数据集中MBTI四个维度的比例如下： 自我意识数据集是为了让大模型能够意识到自己的个性特征。 通过一个两阶段的有监督训练微调过程，最后可以得到对应人格的大模型。
98010编辑于 2024-01-17 - 来自专栏喔家ArchiSelf
10个构建Agent的大模型应用框架
LangChain LangChain是目前最受欢迎的大模型应用开发框架之一，几乎成为了构建大模型应用的行业标准。 增强的大模型推理 API优化大语言模型的推理性能，同时降低成本。 Autogen 特别适合与 开源系统 和 微软生态系统 结合使用，是构建 Agentic AI 和大模型应用的理想选择。 总的来说，Spring AI是一个为 Java 开发者量身定制的 GenAI 开发框架，既降低了入门门槛，又提供了强大的功能和灵活性，非常适合企业级应用开发。 10. 大模型应用的10个架构挑战 浅析面向场景的大模型应用框架选择 解读小模型——SLM 大模型应用系列：从Ranking到Reranking 大模型应用系列：Query 变换的示例浅析 初探大模型压缩 解读大模型应用的可观测性 大模型应用的10种架构模式 LLM运行框架对比：ollama与vllm浅析
12.1K30编辑于 2025-03-24 - 来自专栏实验盒
NBT｜BioChatter：为生物医学量身定制的开源大语言模型应用平台
引言 近年来，生成式人工智能尤其是大语言模型（LLM）取得了显著进展，但在生物医学研究中的应用仍处于起步阶段。 BioChatter是一个开源的Python框架，旨在遵循开放科学原则，开发定制的生物医学研究软件。 它还促进了在简单性/经济性与安全性之间的定制部署，用户可以根据自己的需求在公共数据库、自托管云数据库和本地数据库之间进行选择，平衡安全性与成本。 系统提示与多智能体系统 BioChatter的可定制平台允许用户通过系统提示将其与自己的上下文对齐，并使用基于智能体的系统进行高级工作流程。 基准测试框架在所有模型和相关参数上运行这些测试，并通过BioChatter网站向社区报告结果。
49510编辑于 2025-02-05 - 来自专栏AI SPPECH
63_模型定制：领域微调技术
引言：为什么需要模型定制与微调 ├── 2. 微调技术体系：从全参数到参数高效 ├── 3. 全参数微调：深度定制的经典路径 ├── 4. 参数高效微调：资源受限下的优化选择 ├── 5. 引言：为什么需要模型定制与微调 在2025年的AI生态系统中，通用大语言模型（LLM）如ChatGPT、LLaMA 4、Claude 4等已经展现出惊人的通用能力。 然而，当面对特定行业或场景的专业需求时，通用模型往往表现出局限性：术语理解不准确、领域知识不足、任务适配性差等问题。这正是模型定制与微调技术应运而生的背景。 全参数微调：深度定制的经典路径 全参数微调（Full Fine-tuning）是最传统的微调方法，通过更新预训练模型的所有参数来适应特定任务。 通过科学的数据工程、合理的技术选型和系统的评估优化，任何团队都可以构建出高性能、专业化的定制模型。
38810编辑于 2025-11-16 - 来自专栏量子位
清华大模型人才遭哄抢！盘点5大学术重镇10大产业玩家
国内大模型力量百家争鸣：5大学术重镇，10大产业巨头 清华不是这轮浪潮中唯一的宠儿。随着AIGC和类ChatGPT产品相关话题日益高涨的热度，国内大模型人才市场好不热闹。 为此，量子位梳理了百家争鸣的国内产学研界大模型重镇，代表性机构和代表性人物，共计5支学术界团队和10大产业界力量，排名不分先后。当然极有可能挂一漏万，欢迎在评论区中补充。 △太乙根据提示次“小桥流水人家，水彩”生成的画作 接下来聊聊10家极具代表性的产业界力量： 01：百度 提起百度的NLP技术，最被人熟知的是文心大模型。 澜舟科技给予Transformer的“孟子”大模型，走轻量化路线，仅包含10亿参数量，可处理多语言、多模态数据，同时支持多种文本理解和文本生成任务。 10：浪潮信息 去年年中，浪潮信息推出了4个技能大模型（SkillModel），分别为对话模型“源晓问”、问答模型“源晓搜”、翻译模型“源晓译”、古文模型“源晓文”，它们4个都基于“源1.0”大模型生成
1.9K20编辑于 2023-02-24 - 来自专栏AI科技评论
VPGTrans：10% 的成本定制你自己的类 GPT-4 多模态对话模型
本工作提出一个VPGTrans框架，帮助小伙伴们实现极低成本训练一个高性能多模态大模型。 极低训练成本: 通过我们提出的VPGTrans方法，可以快速(少于10%训练时间)将已有的多模态对话模型的视觉模块迁移到新的语言模型，且达到类似或更优效果。 多模态大模型定制: 通过我们的VPGTrans框架可以根据需求为各种新的大语言模型灵活添加视觉模块。比如我们在LLaMA-7B和Vicuna-7B基础上制作了VL-LLaMA和VL-Vicuna。 为代表的大语言模型(LLM)大火。 比如，LLM在多模态理解领域掀起了一股从传统预训练视觉语言模型(VLM)到基于大语言模型的视觉语言模型(VL-LLM)的变革。
73320编辑于 2023-05-12 - 来自专栏AI科技评论
为每个用户提供专属定制服务，OPPO 安第斯大模型的新卷法
OPPO大模型团队认为，有了大模型技术加持的智能助手，将给用户带来全新的智能体验。 在大模型以前，各个公司也会涉及AI板块，但根据应用的不同，可能会泛化出各类不同的小组，比如，对话一个AI团队，视频一个AI团队。 而在大模型之后，一个通用大模型能解决所有问题。 刘海锋表示，OPPO大模型在模型的规格方面，希望做由不同规格组成的一系列大模型，既能够跟设备端更紧密的结合解决简单的任务，又可以部署在云端满足一些更复杂的需求。 安第斯大模型基于端云协同架构构建。 可以看出OPPO安第斯大模型主打知识与问答能力，显著提升了大语言模型知识与百科能力的覆盖面和准确性。 在各项测试榜单上，OPPO安第斯大模型能优于同行表现20%。 大模型加载的小布整个月活超过了1.4亿，每天产生的交互数据以亿计算。 用户对安第斯大模型的反馈在数据上得到了实实在在的反馈。
72820编辑于 2023-10-27 标题：金融风控大模型在腾讯云的定制化支持与技术指南
摘要： 本文旨在解析金融风控大模型技术能力，并提供基于腾讯云产品的定制化支持方案。文章将深入探讨技术核心价值、实施挑战、操作指南以及增强方案，并以结构化格式呈现，确保逻辑清晰、易于阅读。 3大关键挑战 数据隐私与安全：在处理敏感金融数据时，如何确保数据安全和隐私保护是一大挑战。 模型泛化能力：模型需要在不同的金融场景下保持高准确率，对模型的泛化能力提出了高要求。 实时性要求：金融风控需要实时或近实时的风险评估，对模型的响应速度和处理能力是一大考验。 操作指南 实施流程 数据准备与预处理 原理说明：数据是金融风控大模型的基础，需要从多个数据源收集并预处理数据以供模型训练。 在某银行客户实践中，通过腾讯云AI平台的定制化服务，成功将信用卡欺诈检测的准确率提高了20%。 通过本文的技术指南，您可以深入了解金融风控大模型的定制化支持方案，并利用腾讯云产品实现技术落地。
54810编辑于 2025-07-29
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号