- 综合排序
- 最热优先
- 最新优先
- 来自专栏人工智能
大模型生命周期管理及LLMOps
大模型生命周期大模型五个关键阶段：开发、训练、部署、监控、维护开发LLMOps生命周期的首个阶段是模型开发，涉及为特定应用场景选择、配置与准备LLM。该过程始于数据收集，随后进行数据清洗与预处理。 训练模型训练作为下一阶段，是通过迭代评估、调试与改进LLM的过程。持续学习与自适应能力对维持模型性能至关重要。此阶段需多次迭代训练模型、评估性能并调整参数以提升精度与效率。 维护LLMOps生命周期的最终阶段是模型维护，包括更新模型、修复缺陷与性能优化。需通过版本控制追踪变更并确保结果可复现。数据时效性与持续学习是维持模型相关性的关键。 什么是LLMOpsLLMOps 代表“large language modeloperations”，是指在 AI 模型的整个生命周期中加速 AI 模型开发、部署和管理的专业实践和工作流程。 LLMOps通过迭代式、持续化的管理方法，为LLM的成功实施与长期价值创造提供保障。从开发到维护的每一阶段均不可或缺。对希望高效应用LLM的组织而言，掌握LLMOps实践与工具是核心能力。
83732编辑于 2025-02-19 - 来自专栏机器学习AI算法工程
数据挖掘模型生命周期管理
为成功地利用数据挖掘模型，我们需要从开发阶段直至生产环境对模型进行全面跟踪管理与评估。挖掘模型生命周期过程是由以下阶段组成的高效交替过程。 确定所需模型以及模型的应用类型，制定策略保证模型部署后，业务单位了解模型的使用方法。 典型模型包括用于客户行为、风险管理和信用评分的预测建模模型。 建立模型 选择和应用不同的模型技术，调整模型参数到最佳值。一般，有些技术可以解决一类相同的数据挖掘问题。有些技术在数据形成上有特殊要求，因此需要经常跳回到数据准备阶段。 这个过程涉及采用挖掘统计和虚拟化技术、变量转换、过滤异常、数据替换、细分、聚合、预测建模运算和模型验证等。 模型评估 在最后部署模型之前，重要的事情是较彻底地评估模型。 这种情况促使越来越多的企业将模型验证作为常规业务流程。 结果发布 通常，模型的创建不是项目的结束。模型的作用是从数据中找到知识，获得的知识需要便于用户使用的方式重新组织和展现。
1.9K70发布于 2018-03-09 - 来自专栏数据派THU
详解：7大经典回归模型
来源：csdn 深度学习爱好者本文约2900字，建议阅读5分钟本文给大家介绍机器学习建模中7大经典的回归分析模型。 什么是回归分析？ 4.它需要大的样本量，因为在样本数量较少的情况下，极大似然估计的效果比普通的最小二乘法差。 5.自变量不应该相互关联的，即不具有多重共线性。 7.如果因变量是多类的话，则称它为多元逻辑回归。 3. Polynomial Regression多项式回归 对于一个回归方程，如果自变量的指数大于1，那么它就是多项式回归方程。 7. ElasticNet回归 ElasticNet是Lasso和Ridge回归技术的混合体。它使用L1来训练并且L2优先作为正则化矩阵。当有多个相关的特征时，ElasticNet是很有用的。 除了这7个最常用的回归技术，你也可以看看其他模型，如Bayesian、Ecological和Robust回归。 如何正确选择回归模型？ 当你只知道一个或两个技术时，生活往往很简单。
1.7K41编辑于 2023-04-18 - 来自专栏喔家ArchiSelf
大模型系列：提示词管理
既然大模型应用的编程范式是面向提示词的编程，需要建立一个全面且结构化的提示词库， 对提示词进行持续优化也是必不可少的，那么如何在大模型应用中更好的管理提示词呢？ 1. 3.什么是提示词管理 大模型应用需要一个针对产品级大型语言模型的高效管理系统。 此外，有效的提示词管理还涉及持续的监控和优化过程，能够根据模型性能反馈及时调整提示词策略，确保与大模型的交互保持在最佳状态。 它提供了一组健壮的工具，用于管理各种应用程序组件与 大模型 之间的交互，包括 API 调用管理、多步逻辑编排以及在复杂场景中对大模型的优化利用，详见《解读LangChain》。 尽管LangChain 引入了 LangSmith，旨在填补监视和优化大模型应用在其生命周期中的空白，但它并没有提供全面的工具来进行提示词管理、工作流分析或详细的模型使用和成本跟踪。
1.7K10编辑于 2024-06-17 - 来自专栏机器学习与统计学
基于大模型、SKills 的知识管理
今天不聊新工具，聊点更高级的东西——三个巨佬的知识管理哲学 还有我自己的知识管理及内容生成工作流 Karpathy 昨天 Andrej Karpathy（斯坦福 PhD、OpenAI 创始成员、前特斯拉 整个系统的架构可以拆成五个模块： Karpathy 知识库系统：五大模块 1. 数据导入（Data Import） 把各种原始素材——论文、文章、代码库、数据集、图片——统统丢进 raw/ 目录。 这点我必须插一嘴——40 万字对现在的长上下文模型来说真不算什么。 Gemini 的百万 token 窗口，Claude 的 200K 上下文，处理这个量级的知识库绑绑有余。 最炸裂的用法——跑步语音播客：Lex 会让系统为特定主题生成一个临时的迷你知识库，加载进 LLM，然后在 7-10 英里的长跑中开启语音模式。 40 万字知识库微调一个专属的小模型，让它从骨子里"理解"你的领域知识和思考方式。
22820编辑于 2026-04-13 - 来自专栏ElasticSearch
索引生命周期管理
索引生命周期管理通用步骤 创建索引管理策略 这个策略可以应用于索引模板，在创建索引时，关联到索引模板，按新的策略进行管理。 { "user": { "id": "8a4f500d" }, "message": "Login successful" } {"create":{ }} { "user": { "id": "l7gk7f82 这是重点 } } POST /my-data-stream/_update_by_query { "query": { "match": { "user.id": "l7gk7f82 "index.refresh_interval": "30s" } } } GET /_resolve/index/new-data-stream* 索引生命周期管理转为数据流管理 " } GET _data_stream/my-data-stream POST my-data-stream/_rollover 数据流管理转回索引生命周期管理 PUT _data_stream/my-data-stream
36510编辑于 2024-09-27 - 来自专栏chimchim要努力变强啊
生命周期管理矩阵
ETL临时表 ETL 临时表是指 ETL 处理过程中产生的临时表数据，一般不建议保留，最多7天。 这类数据不建议保留很长时间，生命周期默认设置为 93天，可以根据实际情况适当减少保留天数。 三、生命周期管理矩阵 生命周期管理矩阵 P0 P1 P2 P3 ODS层 事件型流水表（增量表） 永久保留 3年 365天 180天 事件型镜像表（增量表） 永久保留 3年 365天 180天 33天+极限存储 33天+极限存储 33天+极限存储 33天+极限存储 普通全量表 3年 365天 365天 180天 DWS层 各粒度数据 永久保留 3年 3年 3年 临时存储区 ETL临时表 7天 3天 3天 3天 TT 临时表 7天 7天 7天 7天 应用层 运营报表 永久保留 ─── ─── ─── 对外数据 7年 ─── ─── ─── 内部产品 3年 ─── ─── ───
55630编辑于 2023-10-17 - 来自专栏刘晓杰
Glide生命周期管理
return applicationManager; } ApplicationLifecycle里面就调用了onStart方法，也就是子线程无法进行生命周期管理 class ApplicationLifecycle mainHandler.post(addSelfToLifecycle); } else { lifecycle.addListener(this);//这样就算是这是开启生命周期管理 } 总结：其实with就是用来进行生命周期管理的（不能写在子线程中，不然不会管理）
1.1K80发布于 2018-05-18 - 来自专栏大模型应用
大模型应用：大模型参数调优：结合本地模型对比多种组合探索差异.7
引言 在大模型的应用中，参数调优是连接模型潜力与实际效能的关键桥梁。与传统的软件参数不同，大模型的生成参数更像是一组精密的调控旋钮，它们不改变模型的基础知识，而是影响模型如何思考和表达。 理解这些参数的本质，不仅能够提升模型输出的质量，更是将大模型从玩具转变为工具的关键一步。 今天我们将从理论基础到实践应用，全面解析大模型的核心参数体系，详细的介绍大模型推理中常用的参数项，并通过本地模型示例展示参数调整对模型效能的影响。常见参数项：max_length：生成文本的最大长度。 智能城的居民分为两类：一类是人类，他们拥有智慧和创造力，是城市的创造者和领导者；另一类是AI，他们拥有强大的计算能力和学习能力，是城市的执行者和管理者。 分步调优流程图五、总结 大模型的参数调优本质上是在控制与释放之间寻找平衡的艺术。
70932编辑于 2026-02-04 【项目生命周期与十大管理知识域 】
项目生命周期与十大管理知识域 项目生命周期是项目从启动到收尾的完整过程，通常分为启动、规划、执行、监控和收尾五个阶段。 项目管理十大知识领域则覆盖了项目管理的核心内容，每个领域包含若干过程组（共49个过程），每个过程组有输入（Inputs）、工具与技术（Tools & Techniques）、输出（Outputs）（ITTO 以下是核心内容概述： 十大知识领域及49个过程概述 整合管理（7个过程） 制定项目章程：输入包括商业论证、协议；输出为项目章程。 监督沟通：输入包括项目管理计划、工作绩效数据；输出为变更请求、更新的文件。 风险管理（7个过程） 规划风险管理：输入包括项目管理计划、项目章程；输出为风险管理计划。 总结 项目管理的十大知识领域通过49个过程组覆盖了项目全生命周期的管理需求，ITTO结构为每个过程提供了清晰的执行框架。
55310编辑于 2025-12-18腾讯云大模型全生命周期安全解决方案概要
一、产品定位与核心亮点 腾讯云安全大模型解决方案提供全生命周期端到端安全保障技术框架。核心属性包括覆盖AI基础设施安全加固、开发阶段检测、训练推理阶段数据安全、部署后输入输出安全及应用阶段持续运营。 AI基础设施安全保护：基于AI-SPM模型管理攻击面、检测漏洞与处置风险。 AI模型与应用安全保护：聚焦LLM应用防火墙与MCP安全网关，防输入输出攻击。 AI-SPM大模型态势管理：提供资产测绘、网络指纹测绘和暴露路径分析功能；利用AI风险情报实时检测漏洞（原文强调基础设施风险发现与处置）。 大模型MCP安全网关：构建统一身份和权限管控体系；防范AI智能体决策中的攻击风险；支持一站式身份管理以控风险。 荣誉背书 原文未提及任何具体技术奖项或荣誉，故此部分省略。 总结 腾讯云安全解决方案提供AI全生命周期保障，核心优势在于数据脱敏、基础设施防护和模型防火墙功能，帮助企业应对数据泄露、模型越狱等风险。
18710编辑于 2026-04-01- 来自专栏GiantPandaCV
星辰AI大模型TeleChat-7B评测
前言 受中电信 AI 科技有限公司的邀请，为他们近期开源的TeleChat-7B大模型做一个评测。 最后，我们可以从TeleChat-7B开源项目在文创方面展示的例子看到它具有不错的文创能力和一定的代码能力，可以作为开发者来使用的一个不错的基础大模型。 在评论评语方面，TeleChat7B可能是因为SFT的缘故会拒答一些问题，以及对于上面的第二个prompt回答的质量比较低。而对于上面的第一个问题，也出现了经典的大模型幻觉问题。 总结 总的来说，TeleChat-7B具有一定的文创能力和代码能力，对于本次测试的大多数prompt可以生成较为合理的答案。但模型本身也存在大模型幻觉，指令跟随能力一般以及回答有概率重复的问题。 此外，TeleChat-7B在开源方面是相当有诚意的，将清洗之后的训练数据进行开源是在之前的大模型开源中比较难见到的，如果想了解更多的数据清洗细节以及模型训练的细节可以阅读官方放出的技术报告：https
67320编辑于 2024-02-22 大模型下半场：7个趋势判断
推理模型能力的持续提升，推动大模型迎来“可用”到“好用”的拐点。推理强化和应用拓展启动了大模型下半场的新赛程。个人智能体潜力初步显现，行业应用渐次走深，开源开放日益成为大模型的核心竞争力组成。 用更大算力去探索大模型的能力上限，仍是行业共识。预计今年上半年国外将推出GPT-5、Llama 4级别大模型。 虽然去年以来，我国AI高端芯片企业数量和能力均有提升，华为、燧原科技、摩尔线程、海光、壁仞等多家企业已设计出对标英伟达A100单卡性能的国产芯片，但由于台积电暂停7nm产能供应及HBM禁令等限制，国产高端芯片的制造仍面临挑战 受DeepSeek效应刺激，国内外大模型公司正加速推出下一代大模型，如OpenAI的基础大模型GPT-4.5，推理模型o3；Anthropic整合了深度思考和快速输出的混合推理模型Claude 3.7； 大模型的数据通信开放协议则可以让大模型更方便地调用各种工具，从而自主完成各类任务。
59620编辑于 2025-04-02- 来自专栏Datawhale专栏
《开源大模型食用指南》发布，7个小时，一杯奶茶速通大模型！
Datawhale开源 开源贡献：Datawhale self-llm团队 前 言 《开源大模型食用指南》是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置 、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。 大模型（LLM）狭义上指基于深度学习算法进行训练的自然语言处理（NLP）模型，主要应用于自然语言理解和生成等领域，广义上还包括机器视觉（CV）大模型、多模态大模型和科学计算大模型等。 同时，本项目对本地硬件基本没有要求，全程都需要在云服务器上运行，AutoDL租一台3090服务器，每小时需要1.66元，一杯奶茶就可以租一块3090愉快的学习7个小时！ 理论上7小时就可以将本项目的所有教程全部跑通一遍（除全量微调外），一杯奶茶速通大模型，掌握开源大模型部署的核心科技。 文章最后 为什么要做这样一个开源项目？
1.6K21编辑于 2024-04-24 - 来自专栏流川疯编写程序的艺术
《书生·浦语大模型实战营》第7课 学习笔记：OpenCompass 大模型评测实战
其主要特点如下： 开源可复现：提供公平、公开、可复现的大模型评测方案 全面的能力维度：五大维度设计，提供 70+ 个数据集约 40 万题的的模型评测方案，全面评估模型能力 丰富的模型支持：已支持 20+ 想要自定义更高级的任务分割策略，甚至接入新的集群管理系统？OpenCompass 的一切均可轻松扩展！ 评测对象 本算法库的主要评测对象为语言大模型与多模态大模型。 C-Eval 数据集上的性能 其他学习内容 参考文献 本人学习系列笔记 《书生·浦语大模型实战营》第1课 学习笔记：书生·浦语大模型全链路开源体系 《书生·浦语大模型实战营》第2课 学习笔记：轻松玩转书生 ·浦语大模型趣味 Demo 《书生·浦语大模型实战营》第3课 学习笔记：搭建你的 RAG 智能助理(茴香豆) 《书生·浦语大模型实战营》第4课 学习笔记：XTuner 微调 LLM:1.8B、多模态、Agent 《书生·浦语大模型实战营》第5课 学习笔记：LMDeploy 量化部署 LLM 实践 《书生·浦语大模型实战营》第6课 学习笔记：Lagent & AgentLego 智能体应用搭建 《书生·浦语大模型实战营
76810编辑于 2024-07-01 - 来自专栏Se7en的架构笔记
Elasticsearch 索引生命周期管理
引入索引生命周期的作用 在 Elasticsearch的日常管理中，有很多如系统日志，行为数据等方面的应用场景，这些场景的特点是数据量非常大，并且随着时间的增长索引的数量也会持续增长，然而这些场景基本上只有最近一段时间的数据有使用价值或者会被经常使用 （热数据），而历史数据几乎没有作用或者很少会被使用（冷数据），这个时候就需要对索引进行一定策略的维护管理甚至是删除清理，否则随着数据量越来越多除了浪费磁盘与内存空间之外，还会严重影响 Elasticsearch 在 Elastic Stack 6.6 版本后推出了新功能 Index Lifecycle Management(索引生命周期管理)，支持针对索引的全生命周期托管管理，并且在 Kibana 上也提供了一套 索引生命周期常见的阶段 hot: 索引还存在着大量的读写操作。 warm:索引不存在写操作，还有被查询的需要。 cold:数据不存在写操作，读操作也不多。 注意：以上只是索引生命周期阶段的常见定义，具体策略可以根据实际业务情况来定义。
1K30发布于 2021-05-18 - 来自专栏杨建荣的学习笔记
任务生命周期管理设计
对于任务系统的整体流程，今天和同事聊了下一些实现细节，发现里面有不少的细节，关于任务的ID在不同的流程设计中看起来相似，但是实现的时候还是有很多差异。
1.4K20发布于 2019-05-14 - 来自专栏JavaEdge
Tomcat的生命周期管理
即Tomcat需动态管理这些组件的生命周期。 当我们设计一个较大系统或框架时，也需要考虑： 如何统一管理组件的创建、初始化、启动、停止和销毁？ 如何做到代码逻辑清晰？ 如何方便地添加或者删除组件？ 组件有大有小，大组件管理小组件，比如Server管理Service，Service又管理连接器和容器。 这两层关系决定了系统在创建组件时应该遵循一定的顺序： 先创建子组件，再父组件，子组件需要被“注入”到父组件中 先创建内组件，再外组件，内组件要被“注入”到外组件 因此，最直观的做法就是将图上所有的组件按照先小后大、 这个思路其实很有问题： 代码逻辑混乱、组件遗漏 不利于后期的功能扩展 为了解决这个问题，我们希望找到一种通用的、统一的方法来管理组件的生命周期，就像汽车“一键启动”那样的效果。 StandardWrapper是相应容器组件的具体实现类，因为它们都是容器，所以继承了ContainerBase抽象基类，而ContainerBase实现了Container接口，也继承了LifecycleBase类，它们的生命周期管理接口和功能接口是分开的
87410发布于 2021-10-18 - 来自专栏运维小路
Docker-生命周期管理
Docker容器的生命周期里分为五种状态，其分别代表着： Created：容器已经被创建，容器所需的相关资源已经准备就绪，但容器中的程序还未处于运行状态。 Deleted：容器已删除，相关占用的资源及存储在Docker中的管理信息也都已释放和移除。 这里我们其实最常用的状态就是Running和Stopped，其他使用相对较少。 此图来源于互联网 容器生命周期命令 docker create : 创建一个新的容器但不启动它(一般不单独使用)。 [root@localhost ~]# docker create 192.168.31.43:5000/centos:7 4635cab4613b7b210315de4f999470fe1c55b71f35b63816b8a0967a7e1ce96f CREATED STATUS PORTS NAMES 4635cab4613b 192.168.31.43:5000/centos:7
37010编辑于 2024-11-26 - 来自专栏一个执拗的后端搬砖工
Spring bean生命周期管理
Spring把bean分为基础组件和自定义业务类型,对于基础组件类型的bean有的是在框架层直接实例化(类似BeanFactoryProcessor或Scanner等),也有一些和普通bean一样交给上下文统一管理 ,我们今天主要分析普通业务bean的生命周期管理,我们都知道Spring对于bean的管理主要分为类加载或者扫描解析成BeanDefinition,然后实例化前置处理、实例化、实例化后置处理,使用和销毁 一、使用 使用Spring作为应用的基础架构,我们都或多或少了解过其强大的扩展性,举个例子,我们可以在任何一个bean的生命周期的任何节点做自定义或者定制化逻辑处理(基础组件类除外),比如我们会在一些业务 InitDestroyAnnotationBeanPostProcessor类,实现了DestructionAwareBeanPostProcessor和InstantiationAwareBeanPostProcessor接口,拥有对bean生命周期管理的能力 那把初始化和销毁串联起来我们就可以得出如下图更清晰完整的bean生命周期节点: 图注:lifecycle 总结 通过本篇文章的分析,我们了解了@PostConstruct/@PreDestroy
1K30发布于 2021-09-30
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号