- 综合排序
- 最热优先
- 最新优先
- 来自专栏AI专栏
论AI大模型的落地实践与思考
(开玩笑)本文探讨一下AI给当下业务能够带来哪些流程化工程化的价值AI落地模型分类虽然模型种类有很多，但是在笔者看来主要的逻辑经验为以下两类：模型训练与RAG+AI处理模型训练核心：将某一个重复性动作 , "output": "晋江南音演唱节"}总结分析以上简单分析了两个AI模型落地的经验，总结看来，如果要将模型训练落地到业务，首先要明确几个要点：1、完成动作：是否为重复性的简单行为，例如文段提取，文本校验等等 仿照这个，再构造一些json数据，AI很擅长做模仿操作最后人工校验逐条筛查3、是否需要较少的外部数据：我们能够发现模型训练都依托于较少的外部数据，只需要让AI针对当前信息进行处理4、推理能力要求不高：模型训练需要显卡资源 ，但是一定要会用AI，从提升自己的编码效率，到落地应用给业务赋能等，一定要通过AI提升自己的核心竞争力对于产品人员：提升应用AI的敏锐洞察力，我见过很多AI落地的经验，例如百果园落地AI，实现AI销冠： ：尽量精确表述 长文-1500字2、R - Role(角色扮演)指定角色：告诉模型你是谁，你在干什么，处理什么事情，你有什么能力等等，让模型生成的答案能够更贴切场景，具有针对性3、I - Instruction
70310编辑于 2025-08-26 - 来自专栏个推技术实践
AI大模型迈入应用时代，每日互动推动“可控大模型”落地
ChatGPT的推出引爆了一场波及全球科技领域的“AI飓风”，越来越多的企业入局大模型赛道，推动AI全面迈进应用时代。 通过与行业知识结合，大模型能从海量的数据中提取出有价值的信息，为业务决策提供智能支持，但现阶段大模型缺乏对价值观的判断。在实际的业务场景中，垂直行业更需要“可控大模型”。 面对大模型热度的持续狂飙，很多企业跃跃欲试，希望在发展和应用大模型的道路上抢占先机。 然而在实际落地大模型的过程中，企业发现目前的大模型多是通用大模型（GLM），这些通用大模型未经过相应专业领域知识的系统性训练和学习，无法很好地满足垂直领域的专业需求；而如果考虑结合所在行业的细分需求、专业 每日互动正是基于DMP的闭环路径开展可控大模型的行业落地实践，把大模型“大脑”的能力输出给各行各业使用，并结合行业客户的应用反馈持续进行大模型的训练迭代。
73820编辑于 2023-06-20 AI大模型算法-从大模型原理剖析到训练(微调)落地实战
这些大模型不仅能够理解和生成高质量的自然语言文本，还能适应多种下游任务，极大地推动了AI技术的落地应用。然而，大模型的训练和微调涉及复杂的算法、庞大的计算资源和精细的优化策略。 本文将从大模型的基本原理出发，深入剖析其核心算法，并探讨如何在实际业务中进行训练和微调，最终实现AI大模型的落地应用。2. 2.3 大模型的优化策略由于大模型的参数量巨大（如GPT-3有1750亿参数），训练过程面临计算资源、内存和优化效率的挑战。 3. 大模型的训练与微调实战3.1 数据准备大模型的训练依赖高质量数据，通常需要：大规模无监督数据（如Common Crawl、Wikipedia）用于预训练。 AI民主化：开源社区（如LLaMA、Falcon）推动大模型普及。6. 结论AI大模型正在重塑人工智能的应用范式，从原理到落地涉及算法、数据、计算资源等多方面挑战。
2.5K20编辑于 2025-07-07AI大模型算法-从大模型原理剖析到训练(微调)落地实战
AI大模型算法：从原理剖析到训练微调落地实战全景指南我们正站在一个历史性的拐点上。以ChatGPT、GPT-4、Llama、文心一言等为代表的AI大模型，正以前所未有的力量重塑各行各业。 然而，对于大多数企业和开发者而言，从头开始训练一个千亿级参数的大模型是遥不可及的。真正的价值在于——如何深入理解其原理，并掌握对现有大模型进行定制化训练（微调）的能力，让其为我所用，解决实际业务问题。 一、 核心概念：什么是大模型？为什么需要微调？大模型：通常指基于“Transformer”架构、在海量多源数据上训练而成的、参数规模达到数十亿乃至数千亿的深度学习模型。 四、 落地实战篇：手把手构建你的第一个行业大模型理论最终需要付诸实践。一个典型的微调落地流程如下：第一步：明确任务与数据准备定义任务：是要做文本分类、问答、对话生成还是代码补全？ 模型选择：从Hugging Face选择开源基础模型，如：Llama 2 / 3：Meta发布，综合能力强，开源社区的宠儿。ChatGLM3：清华大学发布，中英文双语能力优异，更适合中文场景。
1.1K11编辑于 2025-08-28- 来自专栏AI科技评论
大模型「进化手册」：AI 原生应用该如何落地？
据 AI 科技评论观察，大模型应用的落地有两堵围墙： 其一，许多企业虽然希望借助 AI 原生应用来解决过往业务中的难题，但由于信息的快速迭代和交互壁垒，他们并没有很好的路径得以了解、触达到已经诞生的大模型应用 3 打造全链路生态支持体系 通过建一座大模型应用商店，搭建交易平台、瞄准商业化，百度关注的是实实在在的问题。但大模型应用的落地还离不开模型训练、推理、计算还有运维、系统、工程等方面的投入。 今年3月百度智能云推出千帆大模型平台，它是全球首个一站式的企业级大模型生产平台，不仅提供基于文心一言或者第三方开源大模型的大模型服务，还提供全套工具链和开发环境，帮助企业开发自己的专属大模型。 更重要的是，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”给出包括AI原生应用开发平台在内的全套服务方案。 同时推出大模型全链路生态支持体系，加速企业 AI 原生应用落地和商业化。 接下来的竞赛，不再是局限于大模型的追逐，更是如何对应用产品进行自我优化、革新。
77920编辑于 2023-10-24 - 来自专栏AI科技评论
大模型「进化手册」：AI 原生应用该如何落地？
据 AI 科技评论观察，大模型应用的落地有两堵围墙： 其一，许多企业虽然希望借助 AI 原生应用来解决过往业务中的难题，但由于信息的快速迭代和交互壁垒，他们并没有很好的路径得以了解、触达到已经诞生的大模型应用 3 打造全链路生态支持体系 通过建一座大模型应用商店，搭建交易平台、瞄准商业化，百度关注的是实实在在的问题。但大模型应用的落地还离不开模型训练、推理、计算还有运维、系统、工程等方面的投入。 今年3月百度智能云推出千帆大模型平台，它是全球首个一站式的企业级大模型生产平台，不仅提供基于文心一言或者第三方开源大模型的大模型服务，还提供全套工具链和开发环境，帮助企业开发自己的专属大模型。 更重要的是，面向客户落地大模型的五类需求，百度智能云基于千帆大模型平台打造的“大模型超级工厂”给出包括AI原生应用开发平台在内的全套服务方案。 同时推出大模型全链路生态支持体系，加速企业 AI 原生应用落地和商业化。 接下来的竞赛，不再是局限于大模型的追逐，更是如何对应用产品进行自我优化、革新。
42630编辑于 2023-10-24 - 来自专栏韩曙亮的移动开发专栏
【AI 大模型】Meta Llama 3 大模型 ( Llama 3 大模型简介 | Ollama 软件下载安装 | Llama3 模型下载 | Llama 3 大模型 在线 离线 使用 )
首先 , 安装 Ollama 软件 , 到 https://ollama.com/ 下载安装 ; 然后 , 运行 ollama run llama3 命令 , 即可开始使用 Llama3 大模型 ; 一 、Meta Llama 3 大模型安装 1、Llama 3 大模型简介 Llama 3 大模型 是 Meta 公司 发布的 大模型 , Meta 公司 就是 Facebook ; Llama 3 大模型 Llama3 大模型 ; 下载的模型放在了 C:\Users\用户名.ollama 目录中 , 在我的电脑上的路径是 C:\Users\octop.ollama ; 这个模型很大 , 有 4.7 G 安装完成后的效果 for help) 二、Meta Llama 3 大模型使用 1、Llama 3 大模型在线使用 在命令行中 , 可以直接进行对话 , 下面是对话内容 : D:\Llama>ollama run llama3 for help) 2、Llama 3 大模型离线使用 Llama 3 大模型 联网时 , 可以访问云端服务 , 可以生成更加丰富的文本 ; Llama 3 大模型 在 断网后也可以使用 , 下面是断开网络后
1.8K12编辑于 2024-08-09 - 来自专栏深度学习|机器学习|歌声合成|语音合成
java落地AI模型案例分享:xgboost模型java落地
xgboost模型java落地 1. 看到这里可能有些读者会头晕了，这么多公式，我在这里只做一个简要式的讲解，具体的算法细节和公式求解请查看这篇博文，讲得很仔细：通俗理解kaggle比赛大杀器xgboost XGBoost的核心算法思想不难 3. 为什么XGBoost要用泰勒展开，优势在哪里？ XGBoost使用了一阶和二阶偏导, 二阶导数有利于梯度下降的更快更准. input_data) output = load_and_run_onnx_model(model_path, input_data) print(output) 6. java推理 import ai.onnxruntime java推理onnx模型
1.7K10编辑于 2024-10-01 - 来自专栏服务端技术杂谈
如何实现大模型后训练帮助AI在企业落地
当前产业共识是，大模型后训练不再是简单的模型优化，而是AI落地的必经之路。 企业需要将通用基座模型，训练成深度理解自身业务、具备领域知识、能执行复杂策略的智能引擎。 2、Model：选择合适的基座模型，降低工程门槛； 比如选择千问模型，其尺寸广泛满足不同场景对于成本和性能的需求。 再用海量高质量数据对千问大模型进行预训练，使其具备强大的内容理解能力。 最后，蒸馏到一个更轻量级的模型上。 这样既获得了大模型的效果，又可以更低的成本实现业务效果。 3、Reward：设计有效的奖励机制； 奖励机制的核心，是将复杂的商业目标和人类偏好，转化为模型在训练过程中能够学习和优化的数值信号。 AI在企业中的落地，来自于如何用好企业独有的场景、数据和业务的理解。
22210编辑于 2026-03-11 2026大模型备案落地指南
大模型登记：纯API调用型AI应用核心技术特征：项目全程不触碰大模型权重、不进行模型训练与微调、不修改底层算法架构。 大模型备案：自研/二次改造型AI应用核心技术特征：只要对大模型进行底层改造，均需走备案流程。 适配开发场景：行业定制专属大模型、私有化部署AI系统、企业专属微调模型、具备模型迭代优化能力的AI平台级产品。 、数据集说明、算法安全评估报告审核核心重点接口调用合规性、应用层风控落地有效性模型算法安全性、训练数据合规性、迭代安全机制整体落地周期3-4个月，适配快速上线需求6-8个月，适配深度定制项目大模型登记： 3.应用层内容风控技术方案（核心加分项）官方审核重点核查团队是否具备自主可控的风控能力，仅依赖大模型原生风控会直接判定为合规不达标，需完整落地四层技术机制：输入前置拦截：本地部署自定义敏感词库+轻量语义校验逻辑
40210编辑于 2026-05-22- 来自专栏机器之心
大模型进入「落地战」，腾讯云下手「行业」大模型
一轮是 2020 年 GPT-3 开启的炼大模型，百亿、千亿甚至万亿的「参数量」成为大模型角逐的重心；另一轮则是最近 ChatGPT 引领的新一轮生成式大模型热潮，短短几个月就火出了圈。 正如每项落地的 AI 技术一样，作为使用者，企业首先清楚自身行业需求，然后将这些需求转化为大模型解决的课题，这其中不能一概而论，也是大模型最终能否为企业带来效益的先决条件。 一站式 MaaS 服务 为企业减负 在利用 AI 技术的方式上，我们经历了多轮迭代。过去几个月，模型即服务（MaaS）的概念成为主流，被认为是加速实现大模型技术及 AI 应用落地产业的重要途径。 腾讯云为大模型准备的基础设施包含高性能计算集群 HCC，算力性能较前代提升 3 倍，为大模型训练提供高性能、高带宽和低延迟的智算能力支撑；自研星脉高性能计算网络为新一代 HCC 计算集群带来 3.2Tbps 大模型进入「落地战」 自 ChatGPT 发布的这段时间以来，大模型成为了绕不过去的话题，很多厂商都在发力，希望训练出一个类似 ChatGPT 的通用 AI。
1.5K40编辑于 2023-08-07 - 来自专栏澜舟科技 NLP
大模型落地实践：同花顺大模型技术应用及优化
但在同花顺业务场景中最初使用大模型的时候，发现用大模型的效果与传统方法差距不大，甚至有时候逊于原先传统的方法。 所以最初在业务角度并不够重视，然而近期随着大模型技术的快速发展，我们也在逐步尝试将大模型在业务中落地，目前大模型在自然语言处理相关的业务里都取得了比传统模型更优的效果，下面详细介绍相关工作。 3. 信息抽取信息抽取应用场景主要是知识图谱构建和金融数据库构建两个方面。 比如“用户问句相似问生成”这个任务，我们用到了知识蒸馏技术，将 10 层以上的大模型蒸馏成 3 层的小模型，性能上会有很大的提升，同时保证准确率不会有大幅下降的情况，GPT2-chinese-12 层单样本 CPU 生成耗时约为 1s，蒸馏为 3 层之后，耗时降为 100ms。
3.1K20编辑于 2022-08-11 2026 AI 元年：大模型到智能体的技术落地革命
摘要2026年被公认为AI元年，核心标志是AI发展重心从大模型的理论探索转向智能体的规模化落地。 目录一、序章：2026AI元年的核心标志——从大模型到智能体的跃迁二、技术演进：大模型到智能体的四大核心能力突破三、产业落地：智能体赋能多行业的转型实践四、革命内核：从大模型到智能体的三大落地逻辑变革五 安全化：强化数据安全、模型安全技术防护，完善伦理规范与监管体系，保障健康发展。七、结语2026AI元年的智能体落地革命，是大模型技术沉淀的必然结果，实现了AI从“理解”到“行动”的关键跨越。 因这一跃迁实现AI从被动辅助到主动行动的质变，让AI真正融入产业全流程，重构应用逻辑并推动全域普及，是AI进入规模化落地阶段的核心特征。2.智能体与大模型的核心区别是什么？ 大模型需人工调用，智能体可自主完成全流程任务。3.中小企业应用智能体的核心障碍与解决办法？核心障碍是成本与技术门槛。可通过低代码平台、标准化服务套餐降低投入，借助产业生态获取轻量化解决方案。
4.7K10编辑于 2026-01-29- 来自专栏科技云报道
大模型进化论：AI产业落地将卷向何方？
回顾2024年大模型产业发展，我们看到了一条逐渐清晰的演进路径：低成本降低了大模型落地的门槛；AI Agent提供了大模型绝佳的应用方式；多模态直接拓宽了大模型的能力边界，这一切都为大模型产业落地按下了加速键 大模型产业落地又将卷向何方？ 成本 打通大模型落地的卡点 过去一年，大模型来到了更务实的落地阶段，但落地始终绕不过一个卡点——成本。 AI Agent 大模型应用的场景化突破 伴随AI产业竞争进入“落地赛”的下半场，业界将目光从模型本身投向了AI应用。 过去一年，基于多模态大模型技术的创业公司如雨后春笋般诞生，文生图片、文生视频、文生3D、文生音乐、文生代码等多模态应用层出不穷，智能硬件更是基于多模态焕发了新生，为市场带来了巨大的想象空间。 展望2025年多模态大模型的发展趋势，或许可以用一句话来总结：离幻觉更远，离落地更近。 AI落地 从产业到行业 过去一年的激荡，让人们充分感受到，2024年是大模型改变世界的一年。
30400编辑于 2025-03-04 - 来自专栏深度学习与python
企业落地 AI 大模型，一个 DeepSeek 远远不够
通过 MLA 等技术，推理成本降至之前的约 3%，降低了 97%。这一优势对中小企业尤其友好，能够加速 AI 大模型在企业应用场景中的落地。 最终目标是让大模型在企业应用场景中落地，帮助企业实现增收降本和提升办公效率。 客户需求和市场需求的变化正在深刻地引导整个 AI 市场格局的演变，尤其是 ToB（企业服务）领域。 这种大模型的通用能力与小模型的专业能力相结合，将有力推动企业 AI 的落地应用。 最后将问题和这 5 个最相关的片段一起输入到大模型（如 V3 或 R1）中，由大模型理解并生成最终答案。只有这最后一步真正利用了大模型的能力，而前两步主要依赖于向量运算，与大模型关系不大。 这些行业对 AI 技术的需求大，市场空间广阔，但同时也面临着较高的开发成本和门槛。通过我们提到的技术落地方案，如模型微调、数据蒸馏等，结合平台工程能力，可以大幅降低开发门槛，释放行业潜力。
53710编辑于 2025-03-03 LLMOps：大模型落地的关键推手
当很多大型的模型从实验室之中走了出来。以往仅仅只是出现在论文以及演示当中的大语言模型（LLM），当下正在迅速地进入到企业真实的业务场景之中。但是仅仅只有模型可不行。 LLMOps，即大型语言模型之操作也。其乃针对大语言模型之运维与管理实践者也。其非独将技术简单堆叠而已，实乃一套使人工智能从可用到好用且可靠运用之工程方法也。 在过去的这一年里，企业对于大模型的热情已经从去尝试一些新鲜的事物转变成为了去进行深入的钻研。 LLMOps的本质从根本上来说并不是去对AI进行控制，反而是给人类赋予能力。它使得开发者不再如同救火队员一般地忙碌，而是可以变为设计师。它让用户不再仅仅只是被动地接受，而是能够主动地参与其中。 这是因为在人工智能落地的漫长路途当中，起跑的时候快比不上稳稳地去奔跑，而LLMOps就是那可以信赖的跑鞋。
15010编辑于 2026-03-31- 来自专栏小洁叫你mysql
【AI大模型】训练Al大模型
大模型超越AI 目前所指的大模型，是“大规模深度学习模型”的简称，指具有大量参数和复杂结构的机器学习模型，可以处理大规模的数据和复杂的问题，多应用于自然语言处理、计算机视觉、语音识别等领域。 本文将探讨大模型的概念、训练技术和应用领域，以及与大模型相关的挑战和未来发展方向。 大模型是指具有庞大参数数量的机器学习模型。传统的机器学习模型通常只有几百或几千个参数，而大模型则可能拥有数亿或数十亿个参数。 训练大模型的挑战 训练大模型需要应对一系列挑战，包括： 以下是与大模型相关的一些代码示例： 计算资源需求： import tensorflow as tf # 指定使用GPU进行训练 with tf.device 更智能的模型压缩技术：模型压缩和加速技术将继续发展，以减小大模型的计算和存储开销。 更好的计算平台支持：为了支持训练和部署大模型，计算平台将继续改进，提供更强大的计算资源和工具。
1.6K30编辑于 2023-10-10 Java 企业 AI 开发核心：大模型统一接入与高效落地
在人工智能技术深度渗透各行业的当下，Java作为企业级应用开发的主流技术栈，自然成为承载AI能力落地的核心载体。 面向Java生态的企业级AI应用开发框架JBoltAI，恰好提供了这样的统一处理能力，其深度整合了20+主流AI大模型平台，兼容OpenAI、文心一言等公共大模型及私有化部署模型，通过标准化的接口封装， Java团队在接入大模型后，需结合业务场景进行能力落地：通过提示词工程实现文案生成、代码编写等基础应用；借助私有知识库（RAG）提升行业专属知识的精准匹配与生成能力；针对现有系统进行模块改造，让AI智能调用系统暴露的接口 四、兼顾灵活扩展，适配未来演进AI技术与大模型生态处于持续发展中，新的模型、新的能力不断涌现。Java企业的AI架构设计需具备前瞻性，支持模型的灵活扩展与能力升级。 JBoltAI作为深耕Java生态的企业级AI应用开发框架，从统一大模型接入到全流程开发支撑，从团队能力建设到业务价值落地，为Java企业提供了契合生态特性的一站式解决方案。
27410编辑于 2026-01-20- 来自专栏量子位
AI的大模型时代 ≠ 只有大模型的AI时代
从这个规律来看，大语言模型（简称LLM）出现后虽然霸占了所有与AI相关的关键词，吸引了所有人的注意力，但这并不代表“LLM之前无AI”。 所以，AI不是只有大模型。AI的大模型时代也 ≠ 只有大模型的AI时代。 成熟的AI，早就已经上岗了 或许你还不敢相信，现在哪怕小小的快递背后，都已经有AI技术在加持了。 除了核心硬件平台外，实际情况中帮助这些行业实战AI应用落地的，还有一系列英特尔“亲生”但不“私享”的AI软件工具。 因此，英特尔就祭出了一款增强型的“减（量）重（化）神（工）器（具）”，可以让一个十亿参数的大语言模型瘦身3/4，增强其准确性，还能有效地提升大模型在英特尔®️ 平台上的推理性能。 更多《英特尔平台上的行业AI实战与大模型优化》相关内容，可扫描下方海报中的二维码获取。点击原文链接，阅读英特尔《最“in”大模型》专栏的所有文章。 — 完 —
75010编辑于 2023-09-27 - 来自专栏NewBeeNLP
业界分享 | NVIDIA大语言模型落地实践
NeMo Framework 是 NVIDIA 大语言模型的全栈解决方案，它通过不同组件完成生成式 AI 各个环节的任务，包括数据预处理、分布式训练、模型微调、模型推理加速及部署（TensorRT-LLM 3. 第三部分是关于 RAG（Retrieval Augmented Generation），即检索增强生成。在使用大语言模型时，存在一个问题，即模型在某些未掌握领域可能出现胡言乱语。 生成式AI 不仅仅局限于大语言模型，还涵盖了与深度神经网络相关的部分以及更广泛的内容。 涉及知识库、向量库以及 Agent，与大模型的最终落地息息相关。 第六，Guardrails，主要充当守门员的角色。对于一些常见的问题，比如对时政等问题首先进行过滤。 第五步，将这些 chunk 作为输入，与 prompt 一起传递给大语言模型，得到更加精准且匹配的反馈和回答。 这样大语言模型就能够真正实现落地，更贴近于当前的使用场景。
95210编辑于 2024-03-25
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号