首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏人工智能

    模型生命周期管理及LLMOps

    模型生命周期模型五个关键阶段:开发、训练、部署、监控、维护开发LLMOps生命周期的首个阶段是模型开发,涉及为特定应用场景选择、配置与准备LLM。该过程始于数据收集,随后进行数据清洗与预处理。 训练模型训练作为下一阶段,是通过迭代评估、调试与改进LLM的过程。持续学习与自适应能力对维持模型性能至关重要。此阶段需多次迭代训练模型、评估性能并调整参数以提升精度与效率。 维护LLMOps生命周期的最终阶段是模型维护,包括更新模型、修复缺陷与性能优化。需通过版本控制追踪变更并确保结果可复现。数据时效性与持续学习是维持模型相关性的关键。 什么是LLMOpsLLMOps 代表“large language modeloperations”,是指在 AI 模型的整个生命周期中加速 AI 模型开发、部署和管理的专业实践和工作流程。 LLMOps通过迭代式、持续化的管理方法,为LLM的成功实施与长期价值创造提供保障。从开发到维护的每一阶段均不可或缺。对希望高效应用LLM的组织而言,掌握LLMOps实践与工具是核心能力。

    83132编辑于 2025-02-19
  • 来自专栏机器学习AI算法工程

    数据挖掘模型生命周期管理

    为成功地利用数据挖掘模型,我们需要从开发阶段直至生产环境对模型进行全面跟踪管理与评估。挖掘模型生命周期过程是由以下阶段组成的高效交替过程。 确定所需模型以及模型的应用类型,制定策略保证模型部署后,业务单位了解模型的使用方法。 典型模型包括用于客户行为、风险管理和信用评分的预测建模模型。 建立模型 选择和应用不同的模型技术,调整模型参数到最佳值。一般,有些技术可以解决一类相同的数据挖掘问题。有些技术在数据形成上有特殊要求,因此需要经常跳回到数据准备阶段。 这个过程涉及采用挖掘统计和虚拟化技术、变量转换、过滤异常、数据替换、细分、聚合、预测建模运算和模型验证等。 模型评估 在最后部署模型之前,重要的事情是较彻底地评估模型。 这种情况促使越来越多的企业将模型验证作为常规业务流程。 结果发布 通常,模型的创建不是项目的结束。模型的作用是从数据中找到知识,获得的知识需要便于用户使用的方式重新组织和展现。

    1.9K70发布于 2018-03-09
  • 来自专栏喔家ArchiSelf

    模型系列:提示词管理

    既然模型应用的编程范式是面向提示词的编程,需要建立一个全面且结构化的提示词库, 对提示词进行持续优化也是必不可少的,那么如何在模型应用中更好的管理提示词呢? 1. 3.什么是提示词管理 模型应用需要一个针对产品级大型语言模型的高效管理系统。 此外,有效的提示词管理还涉及持续的监控和优化过程,能够根据模型性能反馈及时调整提示词策略,确保与模型的交互保持在最佳状态。 它提供了一组健壮的工具,用于管理各种应用程序组件与 模型 之间的交互,包括 API 调用管理、多步逻辑编排以及在复杂场景中对模型的优化利用,详见《解读LangChain》。 尽管LangChain 引入了 LangSmith,旨在填补监视和优化模型应用在其生命周期中的空白,但它并没有提供全面的工具来进行提示词管理、工作流分析或详细的模型使用和成本跟踪。

    1.7K10编辑于 2024-06-17
  • 来自专栏机器学习与统计学

    基于模型、SKills 的知识管理

    今天不聊新工具,聊点更高级的东西——三个巨佬的知识管理哲学 还有我自己的知识管理及内容生成工作流 Karpathy 昨天 Andrej Karpathy(斯坦福 PhD、OpenAI 创始成员、前特斯拉 整个系统的架构可以拆成五个模块: Karpathy 知识库系统:五模块 1. 数据导入(Data Import) 把各种原始素材——论文、文章、代码库、数据集、图片——统统丢进 raw/ 目录。 这点我必须插一嘴——40 万字对现在的长上下文模型来说真不算什么。 Gemini 的百万 token 窗口,Claude 的 200K 上下文,处理这个量级的知识库绑绑有余。 这就是我做的事——知识管理的下游:内容生产流水线。 40 万字知识库微调一个专属的小模型,让它从骨子里"理解"你的领域知识和思考方式。

    18420编辑于 2026-04-13
  • 来自专栏ElasticSearch

    索引生命周期管理

    索引生命周期管理通用步骤 创建索引管理策略 这个策略可以应用于索引模板,在创建索引时,关联到索引模板,按新的策略进行管理。 fields", "my-custom-meta-field": "More arbitrary metadata" } } 创建setting组件模板 这里setting组件模板会关联索引管理策略 ": { "field": "@timestamp", "value": "{{_ingest.timestamp}}" } } ] } 数据流管理阶段 "index.refresh_interval": "30s" } } } GET /_resolve/index/new-data-stream* 索引生命周期管理转为数据流管理 lifecycle { "data_retention": "7d" } GET _data_stream/my-data-stream POST my-data-stream/_rollover 数据流管理转回索引生命周期管理

    36410编辑于 2024-09-27
  • 来自专栏chimchim要努力变强啊

    生命周期管理矩阵

    这类数据不建议保留很长时间,生命周期默认设置为 93天,可以根据实际情况适当减少保留天数。 三、生命周期管理矩阵  生命周期管理矩阵 P0 P1 P2 P3 ODS层 事件型流水表(增量表) 永久保留 3年 365天 180天 事件型镜像表(增量表) 永久保留 3年 365天 180天

    55230编辑于 2023-10-17
  • 来自专栏刘晓杰

    Glide生命周期管理

    return applicationManager; } ApplicationLifecycle里面就调用了onStart方法,也就是子线程无法进行生命周期管理 class ApplicationLifecycle mainHandler.post(addSelfToLifecycle); } else { lifecycle.addListener(this);//这样就算是这是开启生命周期管理 } 总结:其实with就是用来进行生命周期管理的(不能写在子线程中,不然不会管理

    1.1K80发布于 2018-05-18
  • 【项目生命周期与十管理知识域 】

    项目生命周期与十管理知识域 项目生命周期是项目从启动到收尾的完整过程,通常分为启动、规划、执行、监控和收尾五个阶段。 项目管理知识领域则覆盖了项目管理的核心内容,每个领域包含若干过程组(共49个过程),每个过程组有输入(Inputs)、工具与技术(Tools & Techniques)、输出(Outputs)(ITTO 以下是核心内容概述: 十知识领域及49个过程概述 整合管理(7个过程) 制定项目章程:输入包括商业论证、协议;输出为项目章程。 沟通管理(3个过程) 规划沟通管理:输入包括项目管理计划、干系人登记册;输出为沟通管理计划。 管理沟通:输入包括项目管理计划、工作绩效报告;输出为项目沟通记录、更新的文件。 总结 项目管理的十知识领域通过49个过程组覆盖了项目全生命周期管理需求,ITTO结构为每个过程提供了清晰的执行框架。

    53810编辑于 2025-12-18
  • 腾讯云模型生命周期安全解决方案概要

    一、产品定位与核心亮点 腾讯云安全模型解决方案提供全生命周期端到端安全保障技术框架。核心属性包括覆盖AI基础设施安全加固、开发阶段检测、训练推理阶段数据安全、部署后输入输出安全及应用阶段持续运营。 AI基础设施安全保护:基于AI-SPM模型管理攻击面、检测漏洞与处置风险。 AI模型与应用安全保护:聚焦LLM应用防火墙与MCP安全网关,防输入输出攻击。 AI-SPM模型态势管理:提供资产测绘、网络指纹测绘和暴露路径分析功能;利用AI风险情报实时检测漏洞(原文强调基础设施风险发现与处置)。 模型MCP安全网关:构建统一身份和权限管控体系;防范AI智能体决策中的攻击风险;支持一站式身份管理以控风险。 荣誉背书 原文未提及任何具体技术奖项或荣誉,故此部分省略。 总结 腾讯云安全解决方案提供AI全生命周期保障,核心优势在于数据脱敏、基础设施防护和模型防火墙功能,帮助企业应对数据泄露、模型越狱等风险。

    17610编辑于 2026-04-01
  • 来自专栏Se7en的架构笔记

    Elasticsearch 索引生命周期管理

    引入索引生命周期的作用 在 Elasticsearch的日常管理中,有很多如系统日志,行为数据等方面的应用场景,这些场景的特点是数据量非常,并且随着时间的增长索引的数量也会持续增长,然而这些场景基本上只有最近一段时间的数据有使用价值或者会被经常使用 (热数据),而历史数据几乎没有作用或者很少会被使用(冷数据),这个时候就需要对索引进行一定策略的维护管理甚至是删除清理,否则随着数据量越来越多除了浪费磁盘与内存空间之外,还会严重影响 Elasticsearch 在 Elastic Stack 6.6 版本后推出了新功能 Index Lifecycle Management(索引生命周期管理),支持针对索引的全生命周期托管管理,并且在 Kibana 上也提供了一套 索引生命周期常见的阶段 hot: 索引还存在着大量的读写操作。 warm:索引不存在写操作,还有被查询的需要。 cold:数据不存在写操作,读操作也不多。 注意:以上只是索引生命周期阶段的常见定义,具体策略可以根据实际业务情况来定义。

    1K30发布于 2021-05-18
  • 来自专栏杨建荣的学习笔记

    任务生命周期管理设计

    对于任务系统的整体流程,今天和同事聊了下一些实现细节,发现里面有不少的细节,关于任务的ID在不同的流程设计中看起来相似,但是实现的时候还是有很多差异。

    1.4K20发布于 2019-05-14
  • 来自专栏JavaEdge

    Tomcat的生命周期管理

    即Tomcat需动态管理这些组件的生命周期。 当我们设计一个较大系统或框架时,也需要考虑: 如何统一管理组件的创建、初始化、启动、停止和销毁? 如何做到代码逻辑清晰? 如何方便地添加或者删除组件? 组件有大有小,组件管理小组件,比如Server管理Service,Service又管理连接器和容器。 这两层关系决定了系统在创建组件时应该遵循一定的顺序: 先创建子组件,再父组件,子组件需要被“注入”到父组件中 先创建内组件,再外组件,内组件要被“注入”到外组件 因此,最直观的做法就是将图上所有的组件按照先小后、 这个思路其实很有问题: 代码逻辑混乱、组件遗漏 不利于后期的功能扩展 为了解决这个问题,我们希望找到一种通用的、统一的方法来管理组件的生命周期,就像汽车“一键启动”那样的效果。 StandardWrapper是相应容器组件的具体实现类,因为它们都是容器,所以继承了ContainerBase抽象基类,而ContainerBase实现了Container接口,也继承了LifecycleBase类,它们的生命周期管理接口和功能接口是分开的

    87410发布于 2021-10-18
  • 来自专栏一个执拗的后端搬砖工

    Spring bean生命周期管理

    Spring把bean分为基础组件和自定义业务类型,对于基础组件类型的bean有的是在框架层直接实例化(类似BeanFactoryProcessor或Scanner等),也有一些和普通bean一样交给上下文统一管理 ,我们今天主要分析普通业务bean的生命周期管理,我们都知道Spring对于bean的管理主要分为类加载或者扫描解析成BeanDefinition,然后实例化前置处理、实例化、实例化后置处理,使用和销毁 一、使用     使用Spring作为应用的基础架构,我们都或多或少了解过其强大的扩展性,举个例子,我们可以在任何一个bean的生命周期的任何节点做自定义或者定制化逻辑处理(基础组件类除外),比如我们会在一些业务 InitDestroyAnnotationBeanPostProcessor类,实现了DestructionAwareBeanPostProcessor和InstantiationAwareBeanPostProcessor接口,拥有对bean生命周期管理的能力 那把初始化和销毁串联起来我们就可以得出如下图更清晰完整的bean生命周期节点: 图注:lifecycle 总结 通过本篇文章的分析,我们了解了@PostConstruct/@PreDestroy

    1K30发布于 2021-09-30
  • 来自专栏运维小路

    Docker-生命周期管理

    Docker容器的生命周期里分为五种状态,其分别代表着: Created:容器已经被创建,容器所需的相关资源已经准备就绪,但容器中的程序还未处于运行状态。 Deleted:容器已删除,相关占用的资源及存储在Docker中的管理信息也都已释放和移除。 这里我们其实最常用的状态就是Running和Stopped,其他使用相对较少。 此图来源于互联网 容器生命周期命令 docker create : 创建一个新的容器但不启动它(一般不单独使用)。

    36710编辑于 2024-11-26
  • 来自专栏JavaEdge

    Tomcat的生命周期管理

    即Tomcat需动态管理这些组件的生命周期。 当我们设计一个较大系统或框架时,也需要考虑: 如何统一管理组件的创建、初始化、启动、停止和销毁? 如何做到代码逻辑清晰? 如何方便地添加或者删除组件? 组件有大有小,组件管理小组件,比如Server管理Service,Service又管理连接器和容器。 这两层关系决定了系统在创建组件时应该遵循一定的顺序: 先创建子组件,再父组件,子组件需要被“注入”到父组件中 先创建内组件,再外组件,内组件要被“注入”到外组件 因此,最直观的做法就是将图上所有的组件按照先小后、 这个思路其实很有问题: 代码逻辑混乱、组件遗漏 不利于后期的功能扩展 为了解决这个问题,我们希望找到一种通用的、统一的方法来管理组件的生命周期,就像汽车“一键启动”那样的效果。 StandardWrapper是相应容器组件的具体实现类,因为它们都是容器,所以继承了ContainerBase抽象基类,而ContainerBase实现了Container接口,也继承了LifecycleBase类,它们的生命周期管理接口和功能接口是分开的

    75920编辑于 2021-12-07
  • 来自专栏IT技术精选文摘

    RESTful API生命周期管理

    像软件工程的许多其他元素一样,受管理生命周期有利于促进API开发。 API生命周期管理由于外部API消费者的影响,需要最高程度的管理,这可能是API开发人员所不知道的。 API安全 安全模型 RESTful应用程序依赖于API生态系统的底层安全性,而不是在REST架构风格中包含安全性。 API生命周期 API生命周期本身建立在已经讨论的现有概念上。在最高层面,存在三个核心方面 - 设计,实施和管理 - 每个都包含各自的生命周期。 ? 如果在设计中存在跟踪框架,则存在通过生命周期跟踪给定消息/请求/事务以帮助识别情况的能力。 管理:确保API具有满足当前和未来需求的必要能力。 结论 RESTful API生命周期管理由三个核心方面组成:设计,实现和管理。这三个方面涵盖了从概念到验证,到实现,到最终淘汰的API的全部生命周期

    4.2K70发布于 2018-01-30
  • 来自专栏salesforce零基础学习

    Salesforce 生命周期管理(一)应用生命周期浅谈

    Salesforce提供了一套应用的生命周期管理流程以及针对这种管理模型对应的三种开发模式。我们可以通过下图查看到一个应用的生命周期流程涉及到的阶段,各阶段含义的相关介绍如下。 1. 因为这些版本会极大地影响用户体验和数据质量,所以它们需要彻底的测试、培训和仔细的更改管理。主要版本通常每季度发布一次(Salesforce每年发布三次)。 二. 开发模式浅谈 Salesforce 提供了三种开发模式或者开发模型。Change Set 开发模型 、 Org 开发模型 以及Package 开发模型。 当然,我想大部分人对第一种开发模型很熟悉,事实上,好多的国内项目现在还在用 change set进行部署管理。那么这三种模型有啥使用场景以及优缺点呢? 当然,其他的特点还有很多,上述只是罗列了3点,即: 周期长,版本管理重要,部署要方便。

    1.3K40发布于 2021-10-19
  • 来自专栏AI科技时讯

    信贷风险控制的关键:模型生命周期管理的实践指南

    模型生命周期管理平台 一个全面的模型生命周期管理平台应包括以下功能: 需求管理 记录和跟踪模型需求,确保需求明确和可追踪。 数据管理 提供数据收集、清洗和管理工具,确保数据质量。 模型生命周期管理 模型生命周期管理能够在降低风险损失、提升模型资产质量、节约管理成本方面为企业带来提升。 全生命周期管理:采用模型生命周期管理,通过不断监控和调整模型,降低模型风险。 业务敏锐性:保持对业务的敏锐,不能完全依赖模型,而是要结合实际情况进行判断和调整。 管控功能:包括自适应性、权限管理模型版本管理、平台接口管理等。 模型生命周期管理平台 模型生命周期管理平台由模型开发平台和模型管理平台组成。 模型生命周期管理平台的重要性 模型生命周期管理平台,目标不仅仅是模型管理中的工具和抓手,并不能取代风险管理系统。

    1.5K10编辑于 2024-08-27
  • 来自专栏后端/图像融合/机器学习/爬虫

    软件生命周期模型汇总

    前言 枯燥但有用,近期开始整理 五模型 瀑布模型 顾名思义,瀑布也就是从上至下依次进行,也就是说当水没有留下来之前,你永远不知道这水是什么样的 优势 强迫开发人员采用规范的技术方法 严格规定了每个阶段需要提交的文档 每个阶段结束前都需要进行严格的技术审查和管理复审 劣势 软件未设计完成之前,客户无法知道软件是什么样 开发人员与客户缺乏有效沟通,从而导致开发的软件不能满足用户的需求 快速原型模型 这里可以看出, 优势 通常可以满足用户的真实需求 开发过程基本上是线性顺序过程 增量模型 增量模型也称渐增模型。开发软件时将软件作为一系列增量构件来设计,编码,集成与测试。 这里就发现增量模型和快速原型模型有部分的相似,二者在最开始时创建的都是最终软件的一部分。 螺旋模型模型主要是使用原型及其他方法来尽量降低风险,要进行多个阶段,每个阶段可以认为是增加了风险评估的快速原型。

    32710编辑于 2024-06-19
  • 来自专栏token的技术分享

    基于.NET8的AI模型管理

    TokenAI TokenAI打造企业级人工智能客服管理系统! AIDotNet API AIDotNet API 是一款强大的人工智能模型管理系统,其主要目的是为了实现多种AI模型的统一管理和使用。 通过AIDotNet API,用户可以轻松地管理和使用众多AI模型,而且AIDotNet API兼容OpenAI的接口格式,使得使用更加方便。 此外,AIDotNet API还支持多种AI模型,包括OpenAI、星火大模型、Claudia、智谱AI、Ollama、通义千问(阿里云)、AzureOpenAI以及腾讯混元模型,满足了用户对各种AI 功能实现 支持用户管理 支持渠道管理 支持token管理 提供数据统计预览 支持日志查看 支持系统设置 支持接入外部Chat链接 支持支付宝购买账号余额 AI模型支持列表 OpenAI (支持function ) 星火大模型(支持function) Claudia 智谱AI Ollama 通义千问(阿里云) AzureOpenAI(支持function) 腾讯混元模型 支持数据库 SqlServer 配置类型

    35910编辑于 2024-05-28
领券