- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI专栏
论AI大模型的落地实践与思考
(开玩笑)本文探讨一下AI给当下业务能够带来哪些流程化工程化的价值AI落地模型分类虽然模型种类有很多，但是在笔者看来主要的逻辑经验为以下两类：模型训练与RAG+AI处理模型训练核心：将某一个重复性动作 AI遵守什么样的流程规范经典案例:针对于模型训练，公司内已经有很多主流的落地实践经验1) 腾讯会议小助手:功能定位：高效总结会议纪要，回答会议内问题这里我们可以发现，它针对于用户输入问题，能够给出非常简要的回答 , "output": "晋江南音演唱节"}总结分析以上简单分析了两个AI模型落地的经验，总结看来，如果要将模型训练落地到业务，首先要明确几个要点：1、完成动作：是否为重复性的简单行为，例如文段提取，文本校验等等 仿照这个，再构造一些json数据，AI很擅长做模仿操作最后人工校验逐条筛查3、是否需要较少的外部数据：我们能够发现模型训练都依托于较少的外部数据，只需要让AI针对当前信息进行处理4、推理能力要求不高：模型训练需要显卡资源 ，但是一定要会用AI，从提升自己的编码效率，到落地应用给业务赋能等，一定要通过AI提升自己的核心竞争力对于产品人员：提升应用AI的敏锐洞察力，我见过很多AI落地的经验，例如百果园落地AI，实现AI销冠：
70310编辑于 2025-08-26 - 来自专栏个推技术实践
AI大模型迈入应用时代，每日互动推动“可控大模型”落地
ChatGPT的推出引爆了一场波及全球科技领域的“AI飓风”，越来越多的企业入局大模型赛道，推动AI全面迈进应用时代。 图片垂直行业更需要可控大模型当下，大模型正在不断精进，以GPT-4、文心一言为代表的大模型（LLM）表现出了强大的逻辑推理能力，并能够很好地处理复杂任务，使得社会生产力得到了飞跃式提升。 面对大模型热度的持续狂飙，很多企业跃跃欲试，希望在发展和应用大模型的道路上抢占先机。 然而在实际落地大模型的过程中，企业发现目前的大模型多是通用大模型（GLM），这些通用大模型未经过相应专业领域知识的系统性训练和学习，无法很好地满足垂直领域的专业需求；而如果考虑结合所在行业的细分需求、专业 每日互动正是基于DMP的闭环路径开展可控大模型的行业落地实践，把大模型“大脑”的能力输出给各行各业使用，并结合行业客户的应用反馈持续进行大模型的训练迭代。
73820编辑于 2023-06-20 AI大模型算法-从大模型原理剖析到训练(微调)落地实战
这些大模型不仅能够理解和生成高质量的自然语言文本，还能适应多种下游任务，极大地推动了AI技术的落地应用。然而，大模型的训练和微调涉及复杂的算法、庞大的计算资源和精细的优化策略。 本文将从大模型的基本原理出发，深入剖析其核心算法，并探讨如何在实际业务中进行训练和微调，最终实现AI大模型的落地应用。2. 大模型的落地挑战与解决方案4.1 计算资源限制大模型的推理成本高昂，解决方法包括：模型量化（Quantization）：将FP32模型转换为INT8或INT4，减少计算开销。 未来展望随着AI技术的演进，大模型的发展趋势包括：多模态大模型（如GPT-4V、PaLM-E）融合文本、图像、视频等多种模态。更高效的训练方法（如MoE架构、稀疏训练）降低计算成本。 AI民主化：开源社区（如LLaMA、Falcon）推动大模型普及。6. 结论AI大模型正在重塑人工智能的应用范式，从原理到落地涉及算法、数据、计算资源等多方面挑战。
2.5K20编辑于 2025-07-07AI大模型算法-从大模型原理剖析到训练(微调)落地实战
AI大模型算法：从原理剖析到训练微调落地实战全景指南我们正站在一个历史性的拐点上。以ChatGPT、GPT-4、Llama、文心一言等为代表的AI大模型，正以前所未有的力量重塑各行各业。 一、 核心概念：什么是大模型？为什么需要微调？大模型：通常指基于“Transformer”架构、在海量多源数据上训练而成的、参数规模达到数十亿乃至数千亿的深度学习模型。 QLoRA：LoRA的进一步升级，将预训练模型量化为4bit，然后再添加LoRA适配器。 四、 落地实战篇：手把手构建你的第一个行业大模型理论最终需要付诸实践。一个典型的微调落地流程如下：第一步：明确任务与数据准备定义任务：是要做文本分类、问答、对话生成还是代码补全？ 使用bitsandbytes进行4bit量化配置。第四步：开始训练与监控编写训练脚本，加载模型、配置量化、添加LoRA适配器、加载数据。
1.1K11编辑于 2025-08-28- 来自专栏AI科技评论
大模型「进化手册」：AI 原生应用该如何落地？
据 AI 科技评论观察，大模型应用的落地有两堵围墙： 其一，许多企业虽然希望借助 AI 原生应用来解决过往业务中的难题，但由于信息的快速迭代和交互壁垒，他们并没有很好的路径得以了解、触达到已经诞生的大模型应用 其二，对于缺少技术培训赋能、资本及产业落地支持的初创企业，百度智能云推出了 AI 加速器。 浪潮之中，百度的态度很鲜明，首先是做出能力更强的通用大模型，恰如此次百度世界 2023 所亮相的“综合能力与 GPT-4 相比毫不逊色”的文心大模型 4.0，并迅速完成一批应用的重构，打出大模型技术的可行性 更重要的是，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”给出包括AI原生应用开发平台在内的全套服务方案。 同时推出大模型全链路生态支持体系，加速企业 AI 原生应用落地和商业化。 接下来的竞赛，不再是局限于大模型的追逐，更是如何对应用产品进行自我优化、革新。
77920编辑于 2023-10-24 - 来自专栏AI科技评论
大模型「进化手册」：AI 原生应用该如何落地？
据 AI 科技评论观察，大模型应用的落地有两堵围墙： 其一，许多企业虽然希望借助 AI 原生应用来解决过往业务中的难题，但由于信息的快速迭代和交互壁垒，他们并没有很好的路径得以了解、触达到已经诞生的大模型应用 其二，对于缺少技术培训赋能、资本及产业落地支持的初创企业，百度智能云推出了 AI 加速器。 浪潮之中，百度的态度很鲜明，首先是做出能力更强的通用大模型，恰如此次百度世界 2023 所亮相的“综合能力与 GPT-4 相比毫不逊色”的文心大模型 4.0，并迅速完成一批应用的重构，打出大模型技术的可行性 更重要的是，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”给出包括AI原生应用开发平台在内的全套服务方案。 同时推出大模型全链路生态支持体系，加速企业 AI 原生应用落地和商业化。 接下来的竞赛，不再是局限于大模型的追逐，更是如何对应用产品进行自我优化、革新。
42630编辑于 2023-10-24 - 来自专栏机器之心
GPT4规模大模型落地，Meta提ExFM框架：万亿参数基础大模型的工业级落地成为可能
近年来，随着 GPT-4、 DeepSeek、 Llama 等万亿参数基础模型的成功，工业界和学术界开始探索通过模型规模化（Scaling）的方式建立基础大模型来提升推荐效果。 本周，在 Meta AI 研究团队提交的一篇论文中，研究团队提出 External Large Foundation Model（ExFM）框架，首次系统性地解决了上述问题，成功支持万亿参数大模型在广告推荐中的高效服务 据文章描述，ExFM 框架实现了以下 SOTA 成果： 规模化大模型及线上模型的迭代部署：ExFM 解耦了教师模型和学生模型的迭代和部署，在接近于 0 服务成本的情况下成功部署万亿级别参数的工业级大模型 （类 GPT-4 规模），显著降低了工业界受益于大模型的门槛和成本。 模块消融实验 辅助头（AH）贡献主要性能增益，使学生模型 NE 降低 4%（图 7）。
23500编辑于 2025-03-13 - 来自专栏深度学习|机器学习|歌声合成|语音合成
java落地AI模型案例分享:xgboost模型java落地
xgboost模型java落地 1. 看到这里可能有些读者会头晕了，这么多公式，我在这里只做一个简要式的讲解，具体的算法细节和公式求解请查看这篇博文，讲得很仔细：通俗理解kaggle比赛大杀器xgboost XGBoost的核心算法思想不难 4. input_data) output = load_and_run_onnx_model(model_path, input_data) print(output) 6. java推理 import ai.onnxruntime / Load and preprocess the input image inputTensor long[] feature = new long[8]; feature = {1, 2, 3, 4,
1.7K10编辑于 2024-10-01 - 来自专栏服务端技术杂谈
如何实现大模型后训练帮助AI在企业落地
当前产业共识是，大模型后训练不再是简单的模型优化，而是AI落地的必经之路。 企业需要将通用基座模型，训练成深度理解自身业务、具备领域知识、能执行复杂策略的智能引擎。 2、Model：选择合适的基座模型，降低工程门槛； 比如选择千问模型，其尺寸广泛满足不同场景对于成本和性能的需求。 再用海量高质量数据对千问大模型进行预训练，使其具备强大的内容理解能力。 最后，蒸馏到一个更轻量级的模型上。 这样既获得了大模型的效果，又可以更低的成本实现业务效果。 4、Evaluation：构建可量化的模型评测，挂钩业务指标； 模型评估师衡量后训练成效的最终标尺，核心在于用客观、可量化的结果证明技术投入的商业价值。 AI在企业中的落地，来自于如何用好企业独有的场景、数据和业务的理解。
22210编辑于 2026-03-11 2026大模型备案落地指南
大模型登记：纯API调用型AI应用核心技术特征：项目全程不触碰大模型权重、不进行模型训练与微调、不修改底层算法架构。 技术落地优势：无需投入人力编写模型算法评估报告、数据集合规说明等专业文档，无国家级技术复审环节，无需改造模型底层，开发与合规成本最低，是轻量化AI应用的主流合规方案。 大模型备案：自研/二次改造型AI应用核心技术特征：只要对大模型进行底层改造，均需走备案流程。 适配开发场景：行业定制专属大模型、私有化部署AI系统、企业专属微调模型、具备模型迭代优化能力的AI平台级产品。 、数据集说明、算法安全评估报告审核核心重点接口调用合规性、应用层风控落地有效性模型算法安全性、训练数据合规性、迭代安全机制整体落地周期3-4个月，适配快速上线需求6-8个月，适配深度定制项目大模型登记：
40210编辑于 2026-05-22- 来自专栏机器之心
大模型进入「落地战」，腾讯云下手「行业」大模型
正如每项落地的 AI 技术一样，作为使用者，企业首先清楚自身行业需求，然后将这些需求转化为大模型解决的课题，这其中不能一概而论，也是大模型最终能否为企业带来效益的先决条件。 一站式 MaaS 服务 为企业减负 在利用 AI 技术的方式上，我们经历了多轮迭代。过去几个月，模型即服务（MaaS）的概念成为主流，被认为是加速实现大模型技术及 AI 应用落地产业的重要途径。 大模型进入「落地战」 自 ChatGPT 发布的这段时间以来，大模型成为了绕不过去的话题，很多厂商都在发力，希望训练出一个类似 ChatGPT 的通用 AI。 腾讯云，背靠腾讯优图实验室、腾讯 AI Lab 等顶级实验室的产品和技术能力，加上自身多年产业实践经验，提供了从底层算力、算法开发、AI 应用到全场景数智化的四级全链条服务，全力推动行业大模型落地。 此外，我们了解到，面向更广泛、更多样化的产业落地需求，腾讯云未来将继续依托算力算法创新、更弹性的算力部署、更深入的场景融合、更开放的 AI 生态，让包括大模型在内的 AI 变得「唾手可得」，把行业的实际需求作为技术发展的驱动力
1.5K40编辑于 2023-08-07 - 来自专栏澜舟科技 NLP
大模型落地实践：同花顺大模型技术应用及优化
所以最初在业务角度并不够重视，然而近期随着大模型技术的快速发展，我们也在逐步尝试将大模型在业务中落地，目前大模型在自然语言处理相关的业务里都取得了比传统模型更优的效果，下面详细介绍相关工作。 图片图 4 右侧是问财系统的框架示意图，其中“通用语义识别”之前是基于大量规则做的，投入人力非常大，标注人员有几十人，做了十年左右。 前**两年我们采用的是常规深度学习模型 TextCNN 准确率为 88%，后来和澜舟合作使用了孟子Mengzi 轻量化预训练模型，从图 4 左下角表格看，效果有显著的提升。 ** 考虑到线上耗时问题，我们使用的是参数较少的模型来做，比如孟子BERT-base准确率可以达到 94.16%，Electra-small 模型提升了 4% 是因为做了数据迭代，加了更多数据，进一步提升了效果 图片以 NER 任务为例，我们尝试用常规的深度模型 LSTM + CRF 串联的 F1 值只有 92% 左右，使用大模型之后，F1 值可以达到 96～97%，提升了4～5% 。
3.1K20编辑于 2022-08-11 2026 AI 元年：大模型到智能体的技术落地革命
摘要2026年被公认为AI元年，核心标志是AI发展重心从大模型的理论探索转向智能体的规模化落地。 目录一、序章：2026AI元年的核心标志——从大模型到智能体的跃迁二、技术演进：大模型到智能体的四大核心能力突破三、产业落地：智能体赋能多行业的转型实践四、革命内核：从大模型到智能体的三大落地逻辑变革五 安全化：强化数据安全、模型安全技术防护，完善伦理规范与监管体系，保障健康发展。七、结语2026AI元年的智能体落地革命，是大模型技术沉淀的必然结果，实现了AI从“理解”到“行动”的关键跨越。 因这一跃迁实现AI从被动辅助到主动行动的质变，让AI真正融入产业全流程，重构应用逻辑并推动全域普及，是AI进入规模化落地阶段的核心特征。2.智能体与大模型的核心区别是什么？ 智能时代：企业智能体规模化落地实践指南[R].2026.[4]工业和信息化部。新一代人工智能发展规划（2024-2030年）[Z].2024.
4.7K10编辑于 2026-01-29- 来自专栏科技云报道
大模型进化论：AI产业落地将卷向何方？
回顾2024年大模型产业发展，我们看到了一条逐渐清晰的演进路径：低成本降低了大模型落地的门槛；AI Agent提供了大模型绝佳的应用方式；多模态直接拓宽了大模型的能力边界，这一切都为大模型产业落地按下了加速键 大模型产业落地又将卷向何方？ 成本 打通大模型落地的卡点 过去一年，大模型来到了更务实的落地阶段，但落地始终绕不过一个卡点——成本。 AI Agent 大模型应用的场景化突破 伴随AI产业竞争进入“落地赛”的下半场，业界将目光从模型本身投向了AI应用。 视频生成模型Sora的诞生，OpenAI多模态AI大模型GPT-4o的到来，百度百舸支持国内第一个全自研视频大模型Vidu的发布等代表性事件，都让业界看到了AI发展的新方向，多模态一下跃升为全球大模型厂商竞争的重点 展望2025年多模态大模型的发展趋势，或许可以用一句话来总结：离幻觉更远，离落地更近。 AI落地 从产业到行业 过去一年的激荡，让人们充分感受到，2024年是大模型改变世界的一年。
30400编辑于 2025-03-04 - 来自专栏深度学习与python
企业落地 AI 大模型，一个 DeepSeek 远远不够
这一优势对中小企业尤其友好，能够加速 AI 大模型在企业应用场景中的落地。 模型思考，深度如人：R1 模型是一个深度思考模型，不仅提供问题的答案，还展示了推理过程，类似于数学题的解题步骤。 最终目标是让大模型在企业应用场景中落地，帮助企业实现增收降本和提升办公效率。 客户需求和市场需求的变化正在深刻地引导整个 AI 市场格局的演变，尤其是 ToB（企业服务）领域。 这种大模型的通用能力与小模型的专业能力相结合，将有力推动企业 AI 的落地应用。 这些行业对 AI 技术的需求大，市场空间广阔，但同时也面临着较高的开发成本和门槛。通过我们提到的技术落地方案，如模型微调、数据蒸馏等，结合平台工程能力，可以大幅降低开发门槛，释放行业潜力。 InfoQ：神州数码是否有已经落地的金融大模型相关应用，或者在这一领域有什么研究方向？ 谢国斌： 在金融领域，我们已经有了一些大模型的应用案例。
53710编辑于 2025-03-03 LLMOps：大模型落地的关键推手
当很多大型的模型从实验室之中走了出来。以往仅仅只是出现在论文以及演示当中的大语言模型（LLM），当下正在迅速地进入到企业真实的业务场景之中。但是仅仅只有模型可不行。 LLMOps，即大型语言模型之操作也。其乃针对大语言模型之运维与管理实践者也。其非独将技术简单堆叠而已，实乃一套使人工智能从可用到好用且可靠运用之工程方法也。 在过去的这一年里，企业对于大模型的热情已经从去尝试一些新鲜的事物转变成为了去进行深入的钻研。 LLMOps的本质从根本上来说并不是去对AI进行控制，反而是给人类赋予能力。它使得开发者不再如同救火队员一般地忙碌，而是可以变为设计师。它让用户不再仅仅只是被动地接受，而是能够主动地参与其中。 这是因为在人工智能落地的漫长路途当中，起跑的时候快比不上稳稳地去奔跑，而LLMOps就是那可以信赖的跑鞋。
15010编辑于 2026-03-31- 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 }") 什么是大模型？ 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战，包括： 以下是与大模型相关的一些代码示例： 计算资源需求： import tensorflow as tf # 指定使用GPU进行训练 with tf.device
1.6K30编辑于 2023-10-10 Java 企业 AI 开发核心：大模型统一接入与高效落地
面向Java生态的企业级AI应用开发框架JBoltAI，恰好提供了这样的统一处理能力，其深度整合了20+主流AI大模型平台，兼容OpenAI、文心一言等公共大模型及私有化部署模型，通过标准化的接口封装， Java团队在接入大模型后，需结合业务场景进行能力落地：通过提示词工程实现文案生成、代码编写等基础应用；借助私有知识库（RAG）提升行业专属知识的精准匹配与生成能力；针对现有系统进行模块改造，让AI智能调用系统暴露的接口 这需要借助标准化的开发工具与培训体系，比如JBoltAI提供的脚手架代码能让工程师快速上手AI开发关键流程，搭配系统化的课程培训，帮助团队快速构筑AI应用开发能力，减少4-6个月的研发试错成本，让转型过程更高效 四、兼顾灵活扩展，适配未来演进AI技术与大模型生态处于持续发展中，新的模型、新的能力不断涌现。Java企业的AI架构设计需具备前瞻性，支持模型的灵活扩展与能力升级。 JBoltAI作为深耕Java生态的企业级AI应用开发框架，从统一大模型接入到全流程开发支撑，从团队能力建设到业务价值落地，为Java企业提供了契合生态特性的一站式解决方案。
27410编辑于 2026-01-20- 来自专栏腾讯云智能·AI公有云
对标GPT-4o，腾讯混元再升级，大模型加速落地！
大模型落地持续加速中。 4o，且第三方测评居国内第一。 最近半年，产业界对AI大模型的关注重点，开始从模型技术本身，转到智能应用落地上。用人工智能在已有业务场景中降本增效，提高经营效率，是行稳致远的可靠路径。 ，大模型的落地场景变得更丰富、更纵深。 一、大模型工具持续升级，更便捷、更易用 为了让企业更快更便捷地开发AI原生应用，腾讯云在今年5月推出了知识引擎、图像创作引擎和视频创作引擎三款PaaS产品，加速应用落地。
87910编辑于 2024-09-06 - 来自专栏量子位
AI的大模型时代 ≠ 只有大模型的AI时代
从这个规律来看，大语言模型（简称LLM）出现后虽然霸占了所有与AI相关的关键词，吸引了所有人的注意力，但这并不代表“LLM之前无AI”。 所以，AI不是只有大模型。AI的大模型时代也 ≠ 只有大模型的AI时代。 成熟的AI，早就已经上岗了 或许你还不敢相信，现在哪怕小小的快递背后，都已经有AI技术在加持了。 除了核心硬件平台外，实际情况中帮助这些行业实战AI应用落地的，还有一系列英特尔“亲生”但不“私享”的AI软件工具。 因此，英特尔就祭出了一款增强型的“减（量）重（化）神（工）器（具）”，可以让一个十亿参数的大语言模型瘦身3/4，增强其准确性，还能有效地提升大模型在英特尔®️ 平台上的推理性能。 更多《英特尔平台上的行业AI实战与大模型优化》相关内容，可扫描下方海报中的二维码获取。点击原文链接，阅读英特尔《最“in”大模型》专栏的所有文章。 — 完 —
75010编辑于 2023-09-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号