- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI专栏
论AI大模型的落地实践与思考
(开玩笑)本文探讨一下AI给当下业务能够带来哪些流程化工程化的价值AI落地模型分类虽然模型种类有很多，但是在笔者看来主要的逻辑经验为以下两类：模型训练与RAG+AI处理模型训练核心：将某一个重复性动作 AI遵守什么样的流程规范经典案例:针对于模型训练，公司内已经有很多主流的落地实践经验1) 腾讯会议小助手:功能定位：高效总结会议纪要，回答会议内问题这里我们可以发现，它针对于用户输入问题，能够给出非常简要的回答 , "output": "晋江南音演唱节"}总结分析以上简单分析了两个AI模型落地的经验，总结看来，如果要将模型训练落地到业务，首先要明确几个要点：1、完成动作：是否为重复性的简单行为，例如文段提取，文本校验等等 ，但是一定要会用AI，从提升自己的编码效率，到落地应用给业务赋能等，一定要通过AI提升自己的核心竞争力对于产品人员：提升应用AI的敏锐洞察力，我见过很多AI落地的经验，例如百果园落地AI，实现AI销冠： ，输入数据，指令等分开，保证AI识别准确性4、S - Step By Step(链式思考/逐步推理)直接要求：提示词加入"请逐步思考"，或者提示词添加：按照A-B-C的内容进行思考5、P - Example
70310编辑于 2025-08-26 - 来自专栏个推技术实践
AI大模型迈入应用时代，每日互动推动“可控大模型”落地
ChatGPT的推出引爆了一场波及全球科技领域的“AI飓风”，越来越多的企业入局大模型赛道，推动AI全面迈进应用时代。 通过与行业知识结合，大模型能从海量的数据中提取出有价值的信息，为业务决策提供智能支持，但现阶段大模型缺乏对价值观的判断。在实际的业务场景中，垂直行业更需要“可控大模型”。 面对大模型热度的持续狂飙，很多企业跃跃欲试，希望在发展和应用大模型的道路上抢占先机。 然而在实际落地大模型的过程中，企业发现目前的大模型多是通用大模型（GLM），这些通用大模型未经过相应专业领域知识的系统性训练和学习，无法很好地满足垂直领域的专业需求；而如果考虑结合所在行业的细分需求、专业 每日互动正是基于DMP的闭环路径开展可控大模型的行业落地实践，把大模型“大脑”的能力输出给各行各业使用，并结合行业客户的应用反馈持续进行大模型的训练迭代。
73820编辑于 2023-06-20 AI大模型算法-从大模型原理剖析到训练(微调)落地实战
这些大模型不仅能够理解和生成高质量的自然语言文本，还能适应多种下游任务，极大地推动了AI技术的落地应用。然而，大模型的训练和微调涉及复杂的算法、庞大的计算资源和精细的优化策略。 本文将从大模型的基本原理出发，深入剖析其核心算法，并探讨如何在实际业务中进行训练和微调，最终实现AI大模型的落地应用。2. 大模型的落地挑战与解决方案4.1 计算资源限制大模型的推理成本高昂，解决方法包括：模型量化（Quantization）：将FP32模型转换为INT8或INT4，减少计算开销。 未来展望随着AI技术的演进，大模型的发展趋势包括：多模态大模型（如GPT-4V、PaLM-E）融合文本、图像、视频等多种模态。更高效的训练方法（如MoE架构、稀疏训练）降低计算成本。 AI民主化：开源社区（如LLaMA、Falcon）推动大模型普及。6. 结论AI大模型正在重塑人工智能的应用范式，从原理到落地涉及算法、数据、计算资源等多方面挑战。
2.5K20编辑于 2025-07-07AI大模型算法-从大模型原理剖析到训练(微调)落地实战
AI大模型算法：从原理剖析到训练微调落地实战全景指南我们正站在一个历史性的拐点上。以ChatGPT、GPT-4、Llama、文心一言等为代表的AI大模型，正以前所未有的力量重塑各行各业。 然而，对于大多数企业和开发者而言，从头开始训练一个千亿级参数的大模型是遥不可及的。真正的价值在于——如何深入理解其原理，并掌握对现有大模型进行定制化训练（微调）的能力，让其为我所用，解决实际业务问题。 一、 核心概念：什么是大模型？为什么需要微调？大模型：通常指基于“Transformer”架构、在海量多源数据上训练而成的、参数规模达到数十亿乃至数千亿的深度学习模型。 四、 落地实战篇：手把手构建你的第一个行业大模型理论最终需要付诸实践。一个典型的微调落地流程如下：第一步：明确任务与数据准备定义任务：是要做文本分类、问答、对话生成还是代码补全？ 现在，就从选择一个开源模型（如Llama 2-7B）和一个具体的任务（如构建一个IT运维知识问答机器人）开始你的大模型实战之旅吧！
1.1K11编辑于 2025-08-28- 来自专栏AI科技评论
大模型「进化手册」：AI 原生应用该如何落地？
从开发、产品落地到商业化，企业需要的服务在百度智能云里闭环了。 作者 | 黄 楠 编辑 | 陈彩娴 狂奔两百多天后，大模型战役进入了第二幕。 据 AI 科技评论观察，大模型应用的落地有两堵围墙： 其一，许多企业虽然希望借助 AI 原生应用来解决过往业务中的难题，但由于信息的快速迭代和交互壁垒，他们并没有很好的路径得以了解、触达到已经诞生的大模型应用 其二，对于缺少技术培训赋能、资本及产业落地支持的初创企业，百度智能云推出了 AI 加速器。 更重要的是，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”给出包括AI原生应用开发平台在内的全套服务方案。 同时推出大模型全链路生态支持体系，加速企业 AI 原生应用落地和商业化。 接下来的竞赛，不再是局限于大模型的追逐，更是如何对应用产品进行自我优化、革新。
77920编辑于 2023-10-24 - 来自专栏AI科技评论
大模型「进化手册」：AI 原生应用该如何落地？
从开发、产品落地到商业化，企业需要的服务在百度智能云里闭环了。 作者 | 黄 楠 编辑 | 陈彩娴 狂奔两百多天后，大模型战役进入了第二幕。 据 AI 科技评论观察，大模型应用的落地有两堵围墙： 其一，许多企业虽然希望借助 AI 原生应用来解决过往业务中的难题，但由于信息的快速迭代和交互壁垒，他们并没有很好的路径得以了解、触达到已经诞生的大模型应用 其二，对于缺少技术培训赋能、资本及产业落地支持的初创企业，百度智能云推出了 AI 加速器。 更重要的是，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”给出包括AI原生应用开发平台在内的全套服务方案。 同时推出大模型全链路生态支持体系，加速企业 AI 原生应用落地和商业化。 接下来的竞赛，不再是局限于大模型的追逐，更是如何对应用产品进行自我优化、革新。
42630编辑于 2023-10-24 - 来自专栏全栈测试技术
大模型工程实现全解：5大落地路径从入门到实战
玩过大模型API、试过对话聊天的人很多，但真正懂大模型工程落地的人其实很少。很多同学只会在线网页点点、调用个接口，一旦面临企业私有化、知识库问答、定制话术、智能体开发就彻底懵了。 简单区分：AIGC=帮你生成内容的工具AGI=拥有和人差不多通用智商的AI生命体二、普通人接触大模型的3种方式在做工程开发前，先说说我们平时能用大模型的三种途径：1.在线平台直接用就是各家官方网页，打开就能聊天 三、大模型绕不开的致命问题：模型幻觉不管多强的大模型，都逃不开幻觉这个通病，做工程落地必须首先正视它。什么是模型幻觉大模型输出看着逻辑通顺、语气笃定，但事实错误、凭空编造、引用造假，这就是幻觉。 四、大模型工程落地5大核心模块这是重点，所有大模型项目，都逃不开这五种实现方式，按从简单到复杂、低成本到高成本梳理。 5.智能体Agent开发：最高阶落地形态提示词、RAG、微调都搞不定多步骤复杂任务、需要工具调用、自主规划的场景，就上智能体。智能体=大模型+记忆+任务规划+工具调用+环境交互。
8920编辑于 2026-06-02 - 来自专栏深度学习|机器学习|歌声合成|语音合成
java落地AI模型案例分享:xgboost模型java落地
xgboost模型java落地 1. 看到这里可能有些读者会头晕了，这么多公式，我在这里只做一个简要式的讲解，具体的算法细节和公式求解请查看这篇博文，讲得很仔细：通俗理解kaggle比赛大杀器xgboost XGBoost的核心算法思想不难 predictions accuracy = accuracy_score(y_test, predictions) print("Accuracy: %.2f%%" % (accuracy * 100.0)) 5. input_data) output = load_and_run_onnx_model(model_path, input_data) print(output) 6. java推理 import ai.onnxruntime Load and preprocess the input image inputTensor long[] feature = new long[8]; feature = {1, 2, 3, 4, 5,
1.7K10编辑于 2024-10-01 - 来自专栏服务端技术杂谈
如何实现大模型后训练帮助AI在企业落地
当前产业共识是，大模型后训练不再是简单的模型优化，而是AI落地的必经之路。 企业需要将通用基座模型，训练成深度理解自身业务、具备领域知识、能执行复杂策略的智能引擎。 首先通过模型自动过滤掉不合规、回答错误的数据，然后利用大模型自动校正文本中的错别字、口语化、重复的表达，大幅减轻人工校对的成本。 再对人工话术进行润色和优化，提升话术质量。 2、Model：选择合适的基座模型，降低工程门槛； 比如选择千问模型，其尺寸广泛满足不同场景对于成本和性能的需求。 再用海量高质量数据对千问大模型进行预训练，使其具备强大的内容理解能力。 最后，蒸馏到一个更轻量级的模型上。 这样既获得了大模型的效果，又可以更低的成本实现业务效果。 AI在企业中的落地，来自于如何用好企业独有的场景、数据和业务的理解。
22210编辑于 2026-03-11 2026大模型备案落地指南
大模型登记：纯API调用型AI应用核心技术特征：项目全程不触碰大模型权重、不进行模型训练与微调、不修改底层算法架构。 技术落地优势：无需投入人力编写模型算法评估报告、数据集合规说明等专业文档，无国家级技术复审环节，无需改造模型底层，开发与合规成本最低，是轻量化AI应用的主流合规方案。 大模型备案：自研/二次改造型AI应用核心技术特征：只要对大模型进行底层改造，均需走备案流程。 适配开发场景：行业定制专属大模型、私有化部署AI系统、企业专属微调模型、具备模型迭代优化能力的AI平台级产品。 、数据集说明、算法安全评估报告审核核心重点接口调用合规性、应用层风控落地有效性模型算法安全性、训练数据合规性、迭代安全机制整体落地周期3-4个月，适配快速上线需求6-8个月，适配深度定制项目大模型登记：
40210编辑于 2026-05-22- 来自专栏机器之心
大模型进入「落地战」，腾讯云下手「行业」大模型
正如每项落地的 AI 技术一样，作为使用者，企业首先清楚自身行业需求，然后将这些需求转化为大模型解决的课题，这其中不能一概而论，也是大模型最终能否为企业带来效益的先决条件。 一站式 MaaS 服务 为企业减负 在利用 AI 技术的方式上，我们经历了多轮迭代。过去几个月，模型即服务（MaaS）的概念成为主流，被认为是加速实现大模型技术及 AI 应用落地产业的重要途径。 大模型进入「落地战」 自 ChatGPT 发布的这段时间以来，大模型成为了绕不过去的话题，很多厂商都在发力，希望训练出一个类似 ChatGPT 的通用 AI。 腾讯云，背靠腾讯优图实验室、腾讯 AI Lab 等顶级实验室的产品和技术能力，加上自身多年产业实践经验，提供了从底层算力、算法开发、AI 应用到全场景数智化的四级全链条服务，全力推动行业大模型落地。 此外，我们了解到，面向更广泛、更多样化的产业落地需求，腾讯云未来将继续依托算力算法创新、更弹性的算力部署、更深入的场景融合、更开放的 AI 生态，让包括大模型在内的 AI 变得「唾手可得」，把行业的实际需求作为技术发展的驱动力
1.5K40编辑于 2023-08-07 - 来自专栏澜舟科技 NLP
大模型落地实践：同花顺大模型技术应用及优化
但在同花顺业务场景中最初使用大模型的时候，发现用大模型的效果与传统方法差距不大，甚至有时候逊于原先传统的方法。 所以最初在业务角度并不够重视，然而近期随着大模型技术的快速发展，我们也在逐步尝试将大模型在业务中落地，目前大模型在自然语言处理相关的业务里都取得了比传统模型更优的效果，下面详细介绍相关工作。 目前问财的用户每日问句数量大概在 1000 万左右，累计不同问句数量约 5 亿。用户量也很大，大约 300+万。这个问句量和用户量在问答系统中应该算非常大的。 我们现在对NER，用得比较多的是时间、机构、地址、人名和数量 5 种。 图片以 NER 任务为例，我们尝试用常规的深度模型 LSTM + CRF 串联的 F1 值只有 92% 左右，使用大模型之后，F1 值可以达到 96～97%，提升了4～5% 。
3.1K20编辑于 2022-08-11 2026 AI 元年：大模型到智能体的技术落地革命
摘要2026年被公认为AI元年，核心标志是AI发展重心从大模型的理论探索转向智能体的规模化落地。 目录一、序章：2026AI元年的核心标志——从大模型到智能体的跃迁二、技术演进：大模型到智能体的四大核心能力突破三、产业落地：智能体赋能多行业的转型实践四、革命内核：从大模型到智能体的三大落地逻辑变革五 、挑战与破局：规模化落地的核心路径六、未来趋势：2026年后智能体发展方向七、结语八、FAQ九、参考文献一、序章：2026AI元年的核心标志——从大模型到智能体的跃迁2026年，AI产业正式迈入“元年” 安全化：强化数据安全、模型安全技术防护，完善伦理规范与监管体系，保障健康发展。七、结语2026AI元年的智能体落地革命，是大模型技术沉淀的必然结果，实现了AI从“理解”到“行动”的关键跨越。 因这一跃迁实现AI从被动辅助到主动行动的质变，让AI真正融入产业全流程，重构应用逻辑并推动全域普及，是AI进入规模化落地阶段的核心特征。2.智能体与大模型的核心区别是什么？
4.7K10编辑于 2026-01-29- 来自专栏科技云报道
大模型进化论：AI产业落地将卷向何方？
回顾2024年大模型产业发展，我们看到了一条逐渐清晰的演进路径：低成本降低了大模型落地的门槛；AI Agent提供了大模型绝佳的应用方式；多模态直接拓宽了大模型的能力边界，这一切都为大模型产业落地按下了加速键 大模型产业落地又将卷向何方？ 成本 打通大模型落地的卡点 过去一年，大模型来到了更务实的落地阶段，但落地始终绕不过一个卡点——成本。 “小记者们投来5万多篇投稿，宁波晚报的记者老师眼睛都要看花了，好在现在有了百度智能云的千帆ModelBuilder平台开发的智能作文批改系统，可以直接提高作文的筛选和批改效率，还可以对作文进行AI点评， AI Agent 大模型应用的场景化突破 伴随AI产业竞争进入“落地赛”的下半场，业界将目光从模型本身投向了AI应用。 百度数据显示，截至11月初，百度文心大模型的日均调用量超15亿，相较5月披露的2亿，增长7.5倍，相较一年前首次披露的5000万次，更是增长约30倍。
30400编辑于 2025-03-04 - 来自专栏深度学习与python
企业落地 AI 大模型，一个 DeepSeek 远远不够
这一优势对中小企业尤其友好，能够加速 AI 大模型在企业应用场景中的落地。 模型思考，深度如人：R1 模型是一个深度思考模型，不仅提供问题的答案，还展示了推理过程，类似于数学题的解题步骤。 最终目标是让大模型在企业应用场景中落地，帮助企业实现增收降本和提升办公效率。 客户需求和市场需求的变化正在深刻地引导整个 AI 市场格局的演变，尤其是 ToB（企业服务）领域。 这种大模型的通用能力与小模型的专业能力相结合，将有力推动企业 AI 的落地应用。 最后将问题和这 5 个最相关的片段一起输入到大模型（如 V3 或 R1）中，由大模型理解并生成最终答案。只有这最后一步真正利用了大模型的能力，而前两步主要依赖于向量运算，与大模型关系不大。 这些行业对 AI 技术的需求大，市场空间广阔，但同时也面临着较高的开发成本和门槛。通过我们提到的技术落地方案，如模型微调、数据蒸馏等，结合平台工程能力，可以大幅降低开发门槛，释放行业潜力。
53710编辑于 2025-03-03 - 来自专栏《三桥君 | AI产品方法论》
掌握这5大要素，开启AI项目落地的成功之门
你好，我是 三桥君引言在AI浪潮席卷全球的今天，大模型正成为企业转型升级的“超级引擎”。从智能客服到精准营销，AI技术的应用场景不断扩展。然而，AI项目的落地却并非一帆风顺。 AI项目成功落地的五大要素三桥君认为，要让AI项目在企业中成功落地，仅仅依赖技术团队是远远不够的。以下是五个关键要素，帮助企业在AI项目中取得突破：1. 5. 老板的耐心AI项目的落地往往需要时间，领导层的耐心支持是项目持续发展的保障。企业需要为AI项目设定合理的预期，避免急于求成。同时，领导层应定期关注项目进展，及时提供资源和支持。 这些任务通常有明确的目标和标准，便于AI模型的训练和优化。3. 拆解复杂任务将复杂任务分解为小块，逐步实现，是AI项目落地的有效策略。 让AI学习“顶尖高手”利用AI学习优秀员工的经验，可以显著提升整体效率。比如，企业可以收集优秀销售人员的沟通记录，训练AI模型生成高质量的销售话术。
31200编辑于 2025-07-19 - 来自专栏《三桥君 | AI产品方法论》
掌握这5大要素，开启AI项目落地的成功之门
你好，我是 三桥君 引言 在AI浪潮席卷全球的今天，大模型正成为企业转型升级的“超级引擎”。从智能客服到精准营销，AI技术的应用场景不断扩展。然而，AI项目的落地却并非一帆风顺。 AI项目成功落地的五大要素 三桥君认为，要让AI项目在企业中成功落地，仅仅依赖技术团队是远远不够的。以下是五个关键要素，帮助企业在AI项目中取得突破： 1. 5. 老板的耐心 AI项目的落地往往需要时间，领导层的耐心支持是项目持续发展的保障。企业需要为AI项目设定合理的预期，避免急于求成。同时，领导层应定期关注项目进展，及时提供资源和支持。 这些任务通常有明确的目标和标准，便于AI模型的训练和优化。 3. 拆解复杂任务 将复杂任务分解为小块，逐步实现，是AI项目落地的有效策略。 让AI学习“顶尖高手” 利用AI学习优秀员工的经验，可以显著提升整体效率。比如，企业可以收集优秀销售人员的沟通记录，训练AI模型生成高质量的销售话术。
37710编辑于 2025-08-28 LLMOps：大模型落地的关键推手
当很多大型的模型从实验室之中走了出来。以往仅仅只是出现在论文以及演示当中的大语言模型（LLM），当下正在迅速地进入到企业真实的业务场景之中。但是仅仅只有模型可不行。 LLMOps，即大型语言模型之操作也。其乃针对大语言模型之运维与管理实践者也。其非独将技术简单堆叠而已，实乃一套使人工智能从可用到好用且可靠运用之工程方法也。 在过去的这一年里，企业对于大模型的热情已经从去尝试一些新鲜的事物转变成为了去进行深入的钻研。 LLMOps的本质从根本上来说并不是去对AI进行控制，反而是给人类赋予能力。它使得开发者不再如同救火队员一般地忙碌，而是可以变为设计师。它让用户不再仅仅只是被动地接受，而是能够主动地参与其中。 这是因为在人工智能落地的漫长路途当中，起跑的时候快比不上稳稳地去奔跑，而LLMOps就是那可以信赖的跑鞋。
15010编辑于 2026-03-31- 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 应用领域 首先来谈一谈大模型的·成就 大模型已经在许多应用领域取得了显著的成果，包括： 自然语言处理： import torch from transformers import T5Tokenizer , T5ForConditionalGeneration # 加载预训练模型和分词器 model = T5ForConditionalGeneration.from_pretrained('t5-base 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。
1.6K30编辑于 2023-10-10 Java 企业 AI 开发核心：大模型统一接入与高效落地
在人工智能技术深度渗透各行业的当下，Java作为企业级应用开发的主流技术栈，自然成为承载AI能力落地的核心载体。 面向Java生态的企业级AI应用开发框架JBoltAI，恰好提供了这样的统一处理能力，其深度整合了20+主流AI大模型平台，兼容OpenAI、文心一言等公共大模型及私有化部署模型，通过标准化的接口封装， Java团队在接入大模型后，需结合业务场景进行能力落地：通过提示词工程实现文案生成、代码编写等基础应用；借助私有知识库（RAG）提升行业专属知识的精准匹配与生成能力；针对现有系统进行模块改造，让AI智能调用系统暴露的接口 四、兼顾灵活扩展，适配未来演进AI技术与大模型生态处于持续发展中，新的模型、新的能力不断涌现。Java企业的AI架构设计需具备前瞻性，支持模型的灵活扩展与能力升级。 JBoltAI作为深耕Java生态的企业级AI应用开发框架，从统一大模型接入到全流程开发支撑，从团队能力建设到业务价值落地，为Java企业提供了契合生态特性的一站式解决方案。
27410编辑于 2026-01-20
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号