- 综合排序
- 最热优先
- 最新优先
沉没成本模型
沉没成本模型 一、原理 沉没成本模型原理基于经济学中的沉没成本概念，它指的是已经发生且无法回收的成本，如过去的投资、决策或行为所消耗的资源（如时间、金钱、精力等）。 在决策过程中，理性的决策者应当排除沉没成本的干扰，仅基于当前和未来的信息进行决策。 二、出处 沉没成本模型的概念主要源于微观经济学和管理会计，是一个在经济学和商业决策中广泛使用的概念。 三、定义 沉没成本是指由于过去的决策已经发生了的，而不能由现在或将来的任何决策改变的成本。换句话说，它是已经投入且无法回收的成本。 缺点：在实践中，人们往往难以完全摆脱沉没成本的干扰，尤其是当沉没成本较大时，人们可能会因为害怕损失而继续坚持原本不合适的决策。 六、使用场景 投资决策：在评估一个项目的投资价值时，应当排除沉没成本的干扰，仅基于项目未来的收益和成本进行决策。
36700编辑于 2025-04-05机会成本模型
原理 机会成本模型原理基于一个核心概念：在面临多方案择一决策时，被舍弃的选项中的最高价值者是本次决策的机会成本。 出处 机会成本模型最初由奥地利经济学家弗里德里希·冯·维塞尔（Friedrich von Wieser）在其《自然价值》一书中提出。后来，这一概念被广泛应用于经济学和其他学科中。 引伸义 机会成本的引伸义在于提醒我们，在做决策时不仅要考虑当前选择的直接成本和收益，还要考虑因选择当前方案而放弃的其他可能方案的成本和收益。 优缺点 优点： 全面评估：机会成本模型考虑了所有可能的选择方案，从而能够更全面地评估决策的优劣。 理性决策：通过比较不同方案的机会成本，可以帮助决策者做出更理性的选择。 使用场景 机会成本模型适用于各种需要做出选择的场景，包括但不限于： 投资决策：在投资选择中，机会成本可以帮助投资者比较不同投资项目的预期收益和风险，从而选择最优的投资方案。
46700编辑于 2025-04-05- 来自专栏机器之心
XLNet训练成本6万美元，顶5个BERT，大模型「身价」惊人
机器之心从原论文出发统计了大模型的训练成本，下面让我们仔细算一算这笔账。 1. 语言模型 BERT：1.2 万美元 GPT-2：4.3 万美元 XLNet：6.1 万美元 2. 机器之心制图 这几种都是比较有代表性的大模型，如果读者也算过大模型训练成本，欢迎留言对比呀。 计算力到底有多贵？ 不过这样计算也有一丢丢不公平，因为 TPU v3 慢了 47 分钟，时间也是一种成本。 大模型到底有多贵？ 自然语言到视觉，大模型的训练费用越来越高，但具体高到什么程度很少有量化对比。 在看了 XLNet 的算力成本之后，有开发者感叹：「谢天谢地我不在 NLP 领域工作，要是让我去说服老板训练一个模型花 6 万多美元，而且还不能保证这个模型一定好用，我觉得我会哭……」 那么问题来了，NLP 我们拿视觉领域比较有代表性的大模型 BigGAN 和 StyleGAN 来算一笔账。 BigGAN 视觉模型中，常见高成本任务就是训练高分辨率的 GAN 了。
1.6K30发布于 2019-07-12 - 来自专栏云成本管理
云成本管理方法论（一）——云成本管理模型
就目前想到的，作者计划按如下大纲来完成这一系列文章： 一、《云成本管理模型》 —— 建立云成本管理基本分析框架 二、《云成本管理之使用管理模型》 —— 具体化使用管理场景下的云成本管理模型 三、《云成本管理之优化管理模型 》 —— 具体化优化管理场景下的云成本管理模型 四、《云成本优化效果测量模型》 —— 分析云成本优化效果不同测量模型及其优缺点 五、《计算资源云成本管理分析》 —— 根据不同云平台下不同类型计算资源的共性及差异 云成本管理模型 对于云成本的管理，我们的基本思路是，要管理或控制某一因素，必须先制定出相应的规则来判定此因素是否符合期望，如果不符合期望，就需要对此因素实施既定的处理措施。 基于上面的思路，引入我们的云成本管理模型： 在此管理模型中，云成本管理活动由四个维度决定，它们分别是： 管理对象 管理时点 判定规则 管理措施 这样，可以将云成本管理定义为： 云成本管理是预先定义管理对象 这样才可以使云成本管理活动形成一个持续的正向反馈闭环。 云成本管理流程 在云成本管理模型中，我们定义了三个管理时点：事前、事中和事后。
4.1K120发布于 2018-04-11 - 来自专栏云计算D1net
云计算成本管理的6个技巧
许多公司也需要6个月的时间。一旦机架被安装，没有人注意它有多重或不被使用，除非其负载太重以至于不能正常工作，因此推动数据中心中的虚拟机和容器(如Docker)来提高服务器利用率。 对于具有稳定状态或可预测使用的应用程序，与使用按需实例相比，保留实例可以显著地节省成本。 Kubernetes管理部门收取少量费用，6个或更多个节点的集群每小时为0.15美元。 (5)无服务器 无服务器云计算，或者更准确地说是功能即服务，有可能大大降低将负载放入云中所涉及的成本和工作量。 AWS Lambda，Bluemix OpenWhisk，Google Cloud Functions和Azure Functions都提供了一个模型，开发人员定义了一个按需运行的功能，为该功能创建触发器 (6)云支出管理 鉴于云定价的复杂性以及与数据中心管理的差异，许多公司将需要采用新的云计算支出管理工具。
1.7K110发布于 2018-03-28 精调模型削减文档AI成本90%
停止为你不会用到的人工智能付费：精调模型的价值每日通过GPT或Claude处理10,000份文档，年成本为5万美元。精调模型：5千美元。相同准确率。更低延迟。数据永不离开你的控制。 模型能识别出“患者报告持续头痛，药物治疗6周以上无效”支持影像检查的医疗必要性，而“患者请求MRI以求安心”则不支持。何时留在前沿模型，何时切换大多数团队选择前沿模型API是因为市场宣传如此。 混合架构： 将90-95%符合标准模式的文档路由到你基础设施上部署的精调模型。这些模型以低成本和高速处理已知模式。 将5-10%的异常文档（不寻常格式、缺失字段、模糊内容）路由到前沿模型API或人工审核。这既保持了成本效率，又维持了对边缘情况的覆盖。精调一个轻量级的270亿参数模型如今成本低于10美元。 在自有硬件上进行推理，其成本随处理量增加而增加的边际成本仅为电费。一个每日处理10,000份文档的系统，本地部署的年成本约为5千美元，而使用前沿模型推理则为5万美元。最后思考前沿模型将持续改进。
5510编辑于 2026-04-09- 来自专栏张善友的专栏
Semantic Kernel 通过 LocalAI 集成本地模型
本文是基于 LLama 2是由Meta 开源的大语言模型，通过LocalAI 来集成LLama2 来演示Semantic kernel（简称SK） 和 本地大模型的集成示例。 SK 可以支持各种大模型，在官方示例中多是OpenAI 和 Azure OpenAI service 的GPT 3.5+。今天我们就来看一看如何把SK 和 本地部署的开源大模型集成起来。 它允许你在消费级硬件上本地或者在自有服务器上运行 LLM（和其他模型），支持与 ggml 格式兼容的多种模型家族。不需要 GPU。LocalAI 使用 C++ 绑定来优化速度。 可参考官方 Getting Started 进行部署，通过LocalAI我们将本地部署的大模型转换为OpenAI的格式，通过SK 的OpenAI 的Connector 访问，这里需要做的是把openai 我们想使用Azure，OpenAI中使用Microsoft的AI模型，以及我们LocalAI 集成的本地大模型，我们可以将它们包含在我们的内核中。
1.1K10编辑于 2024-01-26 - 来自专栏AI 大数据
DeepSeek 模型的成本效益深度解析：低成本、高性能的AI新选择
摘要在人工智能领域，成本效益分析是开发者在选择模型时的重要考量因素。本文将从模型训练、部署、维护等全生命周期的角度，对DeepSeek模型的成本效益进行详细分析，并与其他模型进行对比。 DeepSeek作为新兴的AI模型，以其高效的性能和低廉的成本引起了广泛关注。然而，开发者在选择使用DeepSeek模型时，需要全面了解其在训练、部署和维护等方面的成本效益，以及可能遇到的实际问题。 DeepSeek模型的成本效益分析模型训练成本DeepSeek模型在训练过程中，通过以下创新实现了成本的显著降低：高效模型架构设计：DeepSeek采用了优化的模型架构，减少了计算资源的消耗。 相比传统模型，DeepSeek的单位token训练成本下降了78%，显著提升了成本效益。 与其他模型的对比与其他主流模型相比，DeepSeek在成本效益方面具有明显优势。例如，OpenAI的模型训练成本高达数百万美元，而DeepSeek通过优化，仅需不到600万美元即可完成训练。
1.3K00编辑于 2025-03-19 - 来自专栏AI分享
GPU实战：低成本运行多模态大模型
随着多模态大模型（如视觉-语言模型、文本-音频生成模型等）的快速发展，企业对高效、低成本的算力需求日益迫切。 无服务器 GPU 服务结合其弹性扩展和按需付费的特性，为开发者提供了部署多模态大模型的理想平台。本文将从实战角度，探讨如何基于 无服务器 GPU 基础设施，低成本运行多模态大模型。 平台还提供自动化的模型蒸馏服务，支持将千亿参数模型压缩至原体积的 1/10 并保持 98% 的精度，显著降低推理成本。 推荐使用NCv3系列虚拟机（建议选择Standard_NC6s_v3型号，搭载NVIDIA Tesla V100 GPU），该配置在计算性能与成本效益间取得平衡，特别适合大模型推理场景。 大规模模型分布式训练体系针对MoE-LLaVA等混合专家模型的高效训练需求， NDv6虚拟机集群提供异构计算解决方案。
4.5K11编辑于 2025-04-14 - 来自专栏AI SPPECH
大模型进入“推理成本时代“
通过OpenAI GPT-5级模型的推理开销分析，本文将指导读者构建个人成本估算模型，对齐一线云厂商招聘中的"成本意识"需求。 1. 技术深度拆解与实现分析 3.1 推理成本的核心构成 推理成本主要由以下几个部分构成： 成本构成 占比 主要影响因素 显存占用 90% 模型规模、上下文长度、Batch Size 计算资源 7% 模型复杂度 实际工程意义、潜在风险与局限性分析 5.1 实际工程意义 成本优化：通过vLLM的PagedAttention技术，云厂商可以将推理成本降低50%以上，对于大规模部署的模型服务，每年可节省数百万美元的成本 6. 未来趋势展望与个人前瞻性预测 6.1 推理成本优化的未来趋势 更高效的显存压缩技术：未来将出现更高效的KVCache压缩技术，如FP4量化、稀疏化等，进一步降低显存占用。 vLLM 0.5+ CUDA 12.0+ 关键词： vLLM, 推理成本, PagedAttention, 大模型推理, 显存管理, Continuous Batching, 混合专家模型
86810编辑于 2026-01-19 任务分解与小模型如何降低AI成本
任务分解与小型语言模型如何让AI更经济生成式AI应用的广泛使用增加了对准确、经济高效的大型语言模型需求。 LLM的成本因其规模差异显著，通常以参数数量衡量：切换到更小规模的模型通常可节省70%-90%成本。 成本与复杂度的思维模型决定是否使用任务分解的一个有用思维模型是考虑应用程序的估计总拥有成本。随着用户群的增长，基础设施成本变得主导，而任务分解等优化方法可以降低TCO，尽管存在前期工程和科学成本。 对于较小的应用程序，选择大型模型等更简单的方法可能更合适且更具成本效益。平衡创新与简化任务分解和使用小型LLM创建代理工作流可能以牺牲更强大模型通常展示的新颖性和创造性为代价。 使用多个、更小、精细调整的LLM进行任务分解为提高复杂AI应用的成本效率提供了一种有前景的方法，与使用单一大型前沿模型相比，可能提供显著的基础设施成本节约。
21710编辑于 2025-10-17- 来自专栏云云众生s
Kubernetes+大模型：Cast AI解决成本难题
Cast AI 利用其在 Kubernetes 自动化方面的专业知识，使 DevOps 和 AIOps 团队能够找到性能和成本最佳的 AI 模型。 该供应商在四月推出了其 AI 优化器服务，该服务通过与任何与 OpenAI 兼容的 API 端点集成并识别 LLM（商业和开源）来自动降低部署大型语言模型 (LLM) 的成本，从而为最低的推理成本提供最佳性能 在一篇博文 中，该公司产品营销总监指出，OpenAI 的 LLM 模型的定价页面 有 10 页长，至少有 20 种不同的模型，用于不同的用例和定价模型。 仪表板和Playground AI Enabler包含一个用于监控成本的仪表板，并创建一个报告，比较使用默认LLM与利用其他模型的支出。 他写道：“LLM代理智能地选择最优的LLM模型来处理用户查询，确保组织以最低的成本获得最佳性能。”“这种方法通过选择和执行具有较低推理成本的优化LLM来实现最大限度的节省。”
30710编辑于 2024-11-28 - 来自专栏Oracle数据库技术
Oracle优化器成本的估算（10053 Trace中基于CPU成本模型的内容解析）
优化器成本的估算（基于CPU成本模型） 对于优化器成本的估算是一个复杂的过程，涉及到大量的的理论和内部操作。 Oracle对于成本的预估模型，也可以分为两种： CPU成本模型 ：参考系统统计信息进行成本估算。 I/O成本模型 ：仅通过I/O的次数进行成本估算。 成本模型的选择通过_optimizer_cost_model隐含参数控制。 - CHOOSE:默认值，这时候如果有系统统计信息的话会使用CPU成本模型 ，如果没有系统统计信息的话会使用I/O成本模型 。 - IO ：使用基于I/O成本模型 。 - CPU ：使用基于CPU成本模型 。 对于我们这个例子，是有系统统计信息的，并且使用的是没有负载的系统统计信息（NOWORKLOAD），所以使用的是基于CPU的成本模型计算访问表的成本。
87520编辑于 2022-08-22 - 来自专栏k8s技术圈
6个优化策略，助你降低K8s成本
因此，Kubernetes 成本管理和优化亟需得到系统管理员的重视。本文我们将了解6个优化 Kubernetes 成本的策略和方法。 无论你是使用托管的 Kubernetes 集群还是自建的集群，监控资源利用率和总体成本都是降低成本的第一步，这能够让用户一目了然地了解计算、存储、网络利用率等情况，以及成本在它们之间的分布情况。 近日发布的应用统一部署与管理平台 Seal AppManager 中也内置了成本管理视图，提供 Kubernetes 的资源开销、共享费用（如空闲费用、管理费用）的成本汇算和分摊，并内置多维度成本分析视图为用户提供成本洞察 6、简化开发 尽管容器化的浪潮愈演愈烈，但并不意味着一切都需要容器化。一些开发团队试图为了容器化而容器化应用程序或工作负载，这可能会导致在 Kubernetes 集群上运行不必要的工作负载。 总 结 成本管理并不总是开发人员的最高优先级，但是确实是必须考虑的方面。正确的解决方案可以使Kubernetes的成本管理变得及时、经济和毫不费力，使企业能够在成本和性能之间实现完美的平衡。
96910编辑于 2023-08-21 多租户模型推理成本追踪方案解析
多租户模型推理成本追踪方案解析技术背景通过AI应用服务多租户的组织面临共同挑战：如何跨客户细分跟踪、分析和优化模型使用。 某机构的基础模型(FMs)通过Converse API提供强大能力，但真正的商业价值在于将模型交互与特定租户、用户和使用场景关联。 管道处理调用日志自动分类失败日志到专用存储桶使用爬虫程序更新数据目录分析层：基于Amazon QuickSight构建可视化仪表盘支持按租户/部门/时间等多维度分析实现token用量、延迟等关键指标监控权限控制：通过IAM实现细粒度数据访问管理确保租户数据隔离关键功能成本分配 ：精确追踪每个租户的模型使用成本性能优化：识别不同租户的使用模式差异异常检测：监控异常使用行为和突发流量实施建议从核心租户标识开始实施元数据跟踪逐步扩展分析维度（部门/项目/地域）建立自动化预算告警机制定期优化数据转换逻辑架构优势无需修改核心应用逻辑即可实现细粒度追踪支持从数十到数百万租户的弹性扩展提供实时和历史数据分析能力该方案已在实际业务场景中验证 ，可帮助组织降低15-30%的AI运营成本，同时提升资源分配效率。
21510编辑于 2025-08-10- 来自专栏存储内核技术交流
redis 6多线程模型
redis 多线程架构 redis6之前的版本一直单线程方式解析命令、处理命令，这样的模式实现起来简单，但是无法使用多核CPU的优势，无法达到性能的极致；到了redis 6，redis6采用多线程模式来来读取和解析命令 ，但是命令的执行依然通过队列由主线程串行执行，多线程的好处是分离了命令的解析和命令执行，命令的解析有独立的IO线程进行，命令执行依旧有main线程执行,多线程增加了代码的复杂度 开启多线程模型 Redis.conf readQueryFromClient->processInputBuffer->processCommandAndResetClient->processCommand->call } } } //多线程模型初始化
59520编辑于 2022-08-17 - 来自专栏AI科技评论
训练成本不到其 6% 的「联邦大模型」，凭什么在会议场景媲美 GPT-4？
近日，黄学东团队经过一系列的研究与实验，验证了 8 月对「联邦大模型」的路线设想，取得重大突破：Zoom 的 AI 技术团队以不到 GPT-4 6% 的成本将多个知名大模型进行整合，训练出来的联邦大模型在会议场景的性能上达到了 其二，坚持低成本落地。 Zoom 能根据具体的场景选择最适合的且成本最低的 LLM。 目前 Zoom 已经实现了以不到6%的成本达到 GPT-4-32k 的性能，效果非常可观。 其三，性能越来越强。 大模型在行业落地时，最为严峻的挑战聚焦在性能、反应速度以及成本三方面，但 Zoom 团队提出的联邦大模型方法较好地解决了这些挑战。 另外，在性能、反应速度以及成本方面，以 Zoom 现在的表现来看，用比 GPT-4 更少的成本实现了媲美 GPT-4 的性能，是目前行业的顶尖水平，但在具体实践中，联邦大模型也并非坦途。
36510编辑于 2023-12-11 - 来自专栏腾讯数据中心
Google对数据中心成本模型的分析——下
（接上文《Google对数据中心成本模型的分析——上》） 三、案例分析 虽然变量繁多，但通过观察不同行业的小部分数据中心案例，仍有助于我们理解这些成本因素的影响大小。 4美分； 6.该数据中心的PUE按行业平均水平1.8来计算（若为谷歌的数据中心则PUE可为1.1）； 7.服务器寿命三年，每年服务器的维保费用约为服务器价格的5%； 8.服务器的平均运行功耗约为峰值功耗的 四、实际数据中心成本分析 实际上，现实世界里的数据中心成本会都比前面模型中的成本更高，因为前面模型中的数据中心负荷都跑到了100%设计功率，服务器的CPU利用率也非常高，但实际情况是现实生活中这些条件很难同时发生 通常预留范围为20%-50%，这意味着现实生活中的数据中心很少运行到其设计的额定功率，可容纳10MW关键负荷的数据中心在较长一段时间内实际运行负荷往往只有4-6MW 。 五、部分负载数据中心的成本模型 对于部分负载数据中心的TCO 建模，我们通过空置率来调整数据中心成本模型中各子项 的占比。
5.8K82发布于 2018-03-16 - 来自专栏为了不折腾而去折腾的那些事
中文版大模型 Token 成本计算器
分享一个轻量的小工具，10MB 左右，能够帮助你直观的了解大模型 Token 的计算方法。希望能够帮助到想了解或者正在规划模型 API 使用成本的你。 写在前面之所以折腾这个小工具，是因为有朋友和我提问，大模型 API 的 Token 到底是怎么计算的。好像是中文字符占 Token 占的多，英文占的少，有没有直观一些的工具，或者更详细一些的资料。 虽然主要是计算 GPT 3.5/4 以及之前的古老模型的，但是在 OpenAI 产品成为事实标准的现在，差不多是通用计算方案了。 关于模型 Token 的计算方式关于 Token，虽然不同的模型有不同的计算（计费）方式，但常见的终归是这么四种：gpt2、p50k_base、p50k_edit、r50k_base、cl100k_base ，Token 的计算方式了，某种程度上来看，也是我们的模型 API 使用成本的计算方式。
2.3K00编辑于 2023-12-28 - 来自专栏云计算D1net
加入云计算成本优化策略的6个长期计划
短期成本管理工具是减少云计算成本的一种方法，但要保持正常运行，企业还需要长期策略来消除不必要的云计算成本。 ? 成本计算器(例如AWS总拥有成本计算器和Microsoft Azure定价计算器)可以对给定工作负载的成本提供相对精确的估计。 这些方法的成本、性能和管理复杂性各不相同。因此，成本优化需要找到在成本和其他需求之间达到最佳平衡的服务类型。 3.选择经济高效的冗余策略 如今，有多种方法可在云中实现冗余。 目标是选择满足企业需求的策略，但不提供额外的、不必要的、成本更高的特性。 4.修复成本低廉的架构 云计算资源或服务交互的方式可能会对企业的长期云计算成本产生重大影响。 6.不要忽视内部基础设施 尽管云计算技术进行了大肆宣传，但企业在规划最具成本效益的策略时，不要忽视内部部署选项。 云计算的功能强大，但对于某些工作负载而言，它并不是一种成本低廉的选择。
83820发布于 2019-11-04
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号