- 综合排序
- 最热优先
- 最新优先
- 来自专栏互联网大杂烩
最优化模型数据挖掘之优化模型
数据挖掘之优化模型 1.1数学规划模型 线性规划、整数线性规划、非线性规划、多目标规划、动态规划。 ---- 1.2微分方程组模型 阻滞增长模型、SARS传播模型。 ---- 1.3图论与网络优化问题 最短路径问题、网络最大流问题、最小费用最大流问题、最小生成树问题(MST)、旅行商问题(TSP)、图的着色问题。 ---- 1.4概率模型 决策模型、随机存储模型、随机人口模型、报童问题、Markov链模型。 ---- 1.5组合优化经典问题 多维背包问题(MKP) 背包问题：n个物品，对物品i，体积为iw，背包容量为W。如何将尽可能多的物品装入背包。 解决这一类经典组合优化问题的方法有： 穷举法，贪心法，动态规划法，分支限界法，回溯法等传统算法以及一些智能算法如蚁群算法和遗传算法。
1.4K20发布于 2018-08-22 - 来自专栏AI工程落地
Mxnet模型性能优化
导语：模型优化有很多方法，比如模型压缩、模型剪纸、转tensorrt等。本文讨论mxnet模型tesorrt优化，主要解决动态batch、Op不支持问题。 1. 3.1 支持动态batch mxnet没有dynamic_axes可以配置，此时转好的模型batch固定为1。 ONNX中对shape的处理，可以为text，所以我们可以直接修改onnx模型去支持动态batch。 ： [不支持动态batch] 修改后模型结构： [支持动态batch] 3.2 PRelu参数修改 报错如下： [TensorRT] ERROR: relu0_1: slope tensor must ： [旧slope模型结构] 修改后模型结构： [新slope模型结构] 4. onnx简化 from onnxsim import simplify model_onnx = onnx.load(onnx_path
71920编辑于 2022-02-25 - 来自专栏AI人工智能
深度学习模型优化
来源商业新知网，原标题：如何优化深度学习模型 看过了各式各样的教程之后，你现在已经了解了神经网络的工作原理，并且也搭建了猫狗识别器。你尝试做了了一个不错的字符级RNN。 如果学习率太小，模型将花费太长时间来收敛，如上所述。 动量 由于本文侧重于超参数优化，我不打算解释动量的概念。但简而言之，动量常数可以被认为是在损失函数表面滚动的球的质量。 球越重，下落越快。 但是，如果你愿意花费时间和精力，那么通过使用贝叶斯优化，你的模型效果将大大提升。 贝叶斯优化 与我们迄今为止看到的其他方法不同，贝叶斯优化使用了算法的先前迭代的知识。 本质上，左侧表示将超参数映射到模型的度量的真实函数（如验证准确性，对数似然，测试错误率等）的概率为Fn(X)，给定一些样本数据Xn等于右侧的式子。 现在我们有了优化函数，就开始进行优化吧。 一旦找到最佳模型，Nanonets就会把它放在云端，以便你使用其Web界面测试模型，或使用两行代码将其集成到你的程序中。 跟不完美模型说拜拜吧。 结论 在本文中，我们讨论了超参数和一些优化它们的方法。
80220发布于 2019-05-06 - 来自专栏量化投资与机器学习
投资组合优化模型
投资组合优化方面的文献已经有数十年的历史了。在今天的推文，我们将介绍一些传统的投资组合优化模型。总体目标是从考虑的所有可能的具有定义的目标功能的投资组合中选择资产的投资组合。 2 比较投资组合优化 全局最小方差投资组合 全局最小方差投资组合 ? 是一种资产组合，它为我们提供尽可能低的收益方差或投资组合波动性。 我们的目标是希望从模型中找到最佳权重，从而使我们的风险最小化。 下面的问题包括我们的Minimisation问题 ? quad_form函数采用 ? 我们可以使用R中的Disciplined Convex Programming(CVXR)包，其中: 分析问题 检验凸性 将问题转化为规范形式 解决问题 我们希望从模型中找到最佳权重，以使我们的风险最小化 4 结果分析 有8种不同的投资组合优化模型。将所有数据汇总在一起，可以更快速地检查结果。 ? ? ? 从图中可以看出，全局最小方差投资组合显示出投资组合收益的最低波动性。
2.2K21发布于 2020-02-20 - 来自专栏Python与算法之美
10，模型的优化
搜索超参数空间以优化超参数需要明确以下方面： 估计器 超参数空间 交叉验证方案 打分函数 搜寻或采样方法（网格搜索法或随机搜索法） 优化模型的常见方法包括 网格搜索法，随机搜索法，模型特定交叉验证， 信息准则优化。 三， 模型特定交叉验证 一些特定的模型，sklearn构建了一些内部含有交叉验证优化机制的估计器。 它们主要是在linear_model模块。 四， 信息准则优化 模型选择主要由两个思路。 解释性框架：好的模型应该是最能解释现有数据的模型。可以用似然函数来度量模型对数据集描述能力。 预测性框架：好的模型应该是最能预测结果的模型。 其中L为似然函数，k为模型参数个数，n为样本数量。 linear_model.LassoLarsIC 采用了信息准则进行优化。
77721发布于 2020-07-17 - 来自专栏学习成长指南
数学建模--简单优化模型之存储模型
1.问题概述 1.1问题介绍 上面这个已经介绍了，这个问题为什么称之为存储模型，因为这个涉及到存储费的问题，如果我们较短的时间就完成，这个时候的存储费就不会很多，但是这个准备费就会多； 1.2优化目标 我们这个模型问题的优化目标就是让这个平均一个周期下来每一天的费用最小，如果周期长的话，这个存储费就会变多，但是这个准备费就会平分到每一天里面，如果周期短的话，这个存储费就会少，但是这个准备费在一天就全部花费 去让这个平均下来的每一天的这个费用是最小的； 2.问题的分析与思考 2.1已知条件的说明 其实这个问题里面涉及到很多的数据和变量，都是使用的字母表示，很不容易记忆和理解，下面我将通过几个案例的说明帮助大家对于这个模型的理解 我们不可以仅仅凭借这三个情况去说这个10天生产一次的效果最好（费用最低），这三个里面是最好的并不代表全部的情况里面他是最小的，下面我们井进行数学里面的演绎推理求解出来这个版本费用最小的周期天数； 3.模型的假设 这个其实也不算是模型的推广，只不过是在原来的基础上面允许每天的供应量不够，进行补货， 这个时候需要在原来的模型的基础上面添加假设c3表示补货时候的每一个的损失费用，这个损失的费用也要添加到这个总的费用里面去
18300编辑于 2025-02-24 - 来自专栏具身小站
SLAM优化的常用模型
蚁群算法，是一种基于蚂蚁觅食行为的启发式优化算法，模拟了蚂蚁在觅食过程中的信息交流行为，通过信息素和启发式信息来引导搜索过程。 遗传算法（GA）是一种模拟生物进化过程的优化算法，模拟了自然界中的生物遗传、交叉和变异等操作，并通过适应度评价和选择策略来进行搜索和优化。 模型 系统框架 激光雷达模型 地图模型 SLAM导航框架 SLAM 位姿估计模型 Gmapping算法流程（2D） Lego-SLAM算法框架（3D） 传统 Lego-loam 算法采用 对该图像进行描述符编码，通过比较描述符编码的相似度来实现回环检测，该方法采用非直方图的全局描述符来实现对当前数据和历史数据进行更快、更有效的搜索与匹配，Scan Context 对Lego_loam 算法的回环检测模块优化如下 ： 马尔可夫决策模型 状态集合 S ，动作集合A ，状态转移概率集合P 以及奖励函数 R Q 学习算法模型 Q 学习算法的核心是使用一个 Q 表格来记录状态动作对之间的对应关系。
21110编辑于 2025-10-28 - 来自专栏书山有路勤为径
相机模型&非线性优化
针孔相机模型与图像 SLAM的运动与观测模型 ? ? 针孔相机模型 相似三角形原理 ? 成像平面到像素坐标： 代入： 得到： ? ?
77630发布于 2019-06-11 - 来自专栏JNing的专栏
深度学习: 模型优化算法
优化算法 类型 优化算法 类型 包括 一阶优化法 和 二阶优化法： 一阶优化法 二阶优化法 具体算法 随机梯度下降法、基于动量的随机梯度下降法、Nesterov型动量随机下降法、Adagrad 法、Adadelta法、RMSProp法、Adam法 牛顿法 计算难度 较易 难 运用程度 主流 少有人用 一阶优化法 对比 随机梯度下降法 基于动量的随机梯度下降法 Nesterov型动量随机下降法 Adagrad法 Adadelta法 RMSProp法 Adam法 运用程度 最广 训练速度 慢 快 快 快 快 模型结果 可靠 可靠 随机梯度下降法、基于动量的随机梯度下降法 一阶优化法 ωω\omega ：待学习参数； ηη\eta ：学习率； ggg ：一阶梯度值； ttt ：第ttt轮训练。
98030发布于 2018-09-27 - 来自专栏AI
AI模型的效率优化
AI模型的效率优化：量化与模型压缩技术随着人工智能（AI）技术的快速发展，AI模型的应用范围不断扩大，尤其是在计算资源有限的设备上，如移动设备、物联网（IoT）设备以及边缘计算环境中，AI模型的计算效率和存储需求变得至关重要 为了确保这些模型能够在资源受限的环境中高效运行，模型的效率优化成为了研究和应用的关键问题。AI模型的效率优化主要集中在两个方面：模型量化和模型压缩。 量化的挑战尽管量化能够显著提高模型的效率，但其也面临着精度损失的问题。为了避免精度损失，研究者提出了一些方法来优化量化过程。 对于想要深入了解AI模型优化的开发者而言，这是一本非常实用的参考书。 总结AI模型的效率优化技术，尤其是量化与模型压缩，是在计算资源有限的环境中部署高效AI应用的核心手段。量化通过减少模型参数的存储位数，能够显著提高推理速度并降低存储需求。
93800编辑于 2025-02-04 - 来自专栏大数据文摘
如何优化深度学习模型
如果学习率太小，模型将花费太长时间来收敛，如上所述。 动量 由于本文侧重于超参数优化，我不打算解释动量的概念。但简而言之，动量常数可以被认为是在损失函数表面滚动的球的质量。 球越重，下落越快。 但是对于我们绝大多数只想在黑色星期五销售之后用经济型机器分类猫狗的人来说，现在是时候该弄清楚如何使这些深度学习模型真正起作用了。 超参数优化算法 网格搜索 这是获得良好超参数的最简单方法。 但是，如果你愿意花费时间和精力，那么通过使用贝叶斯优化，你的模型效果将大大提升。 贝叶斯优化 与我们迄今为止看到的其他方法不同，贝叶斯优化使用了算法的先前迭代的知识。 本质上，左侧表示将超参数映射到模型的度量的真实函数（如验证准确性，对数似然，测试错误率等）的概率为Fn(X)，给定一些样本数据Xn等于右侧的式子。 现在我们有了优化函数，就开始进行优化吧。 一旦找到最佳模型，Nanonets就会把它放在云端，以便你使用其Web界面测试模型，或使用两行代码将其集成到你的程序中。 跟不完美模型说拜拜吧。 结论 在本文中，我们讨论了超参数和一些优化它们的方法。
61720发布于 2019-05-13 - 来自专栏GoCoding
TVM 加速模型，优化推断
它的目标是使得我们能够在任何硬件上优化和运行自己的模型。不同于深度学习框架关注模型生产力，TVM 更关注模型在硬件上的性能和效率。 本文只简单介绍 TVM 的编译流程，及如何自动调优自己的模型。 调优模型 TVM 文档 User Tutorial[2] 从怎么编译优化模型开始，逐步深入到 TE, TensorIR, Relay 等更底层的逻辑结构组件。 llvm 指用 CPU，建议指明架构指令集，可更优化性能。 重编译模型，用调优数据 重新编译出一个优化模型，依据调优数据： with autotvm.apply_history_best(tuning_option["tuning_records"]): 收集优化后的性能数据，与优化前的对比： import timeit timing_number = 10 timing_repeat = 10 optimized = ( np.array(
98320编辑于 2022-05-27 - 来自专栏AI派
如何优化深度学习模型
如果学习率太小，模型将花费太长时间来收敛，如上所述。 动量 由于本文侧重于超参数优化，我不打算解释动量的概念。但简而言之，动量常数可以被认为是在损失函数表面滚动的球的质量。 球越重，下落越快。 但是对于我们绝大多数只想在黑色星期五销售之后用经济型机器分类猫狗的人来说，现在是时候该弄清楚如何使这些深度学习模型真正起作用了。 超参数优化算法 网格搜索 这是获得良好超参数的最简单方法。 但是，如果你愿意花费时间和精力，那么通过使用贝叶斯优化，你的模型效果将大大提升。 贝叶斯优化 与我们迄今为止看到的其他方法不同，贝叶斯优化使用了算法的先前迭代的知识。 本质上，左侧表示将超参数映射到模型的度量的真实函数（如验证准确性，对数似然，测试错误率等）的概率为Fn(X)，给定一些样本数据Xn等于右侧的式子。 现在我们有了优化函数，就开始进行优化吧。 一旦找到最佳模型，Nanonets就会把它放在云端，以便你使用其Web界面测试模型，或使用两行代码将其集成到你的程序中。 跟不完美模型说拜拜吧。 结论 在本文中，我们讨论了超参数和一些优化它们的方法。
83530发布于 2019-05-21 - 来自专栏AI研习社
加速BERT模型：从架构优化、模型压缩到模型蒸馏
对以上的问题，能够想到的最直接的方法就是优化神经网络。这在神经网络中并不陌生，其他领域（例如计算机视觉）以前也有相同的问题，并且已经开发了几种压缩和加速神经网络模型的方法。 大致可以分为几类： 架构优化：将原有的架构改进为更快的架构，例如，将 RNN 替换为 Transformer 或 CNN；使用需要较少计算的层等。 当然也可以采用其他优化，例如从学习率和策略、预热步数，较大的批处理大小等； 模型压缩：通常使用量化和修剪来完成，从而能够在架构不变（或者大部分架构不变）的情况下减少计算总量； 模型蒸馏：训练一个较小的模型 1、架构和优化改进 大规模分布式训练 加速 BERT 训练能够想到的第一件事（甚至是第零件事）是将其分发到更大的集群当中。 还有另外一种更为巧妙优化方案，这是一种被称为 LAMB 的新的分层自适应大批量优化技术 [4]，这种技术可以将 TPUv3 Pod 上的 BERT 训练时间从 3 天降低到 76 分钟（1024 个 TPUv3
3.4K51发布于 2019-11-01 - 来自专栏JAVA
深度学习模型推理优化指南
深度学习模型推理优化指南 摘要 大家好，我是默语，擅长全栈开发、运维和人工智能技术。在这篇博客中，我将分享一些关于如何优化深度学习模型推理速度的技巧和方法。 这些方法不仅能提升模型的运行效率，还能帮助开发者在实际应用中获得更好的性能体验。本文涵盖了模型复杂度、硬件性能优化、以及各种工具和技术的详细介绍。 本文将从多个方面详细探讨如何优化深度学习模型的推理速度，包括模型复杂度的控制、硬件的选择与配置、以及各种优化工具和技术的使用。 具体选择需要根据应用场景和模型复杂度来决定。 小结 通过优化模型复杂度、选择合适的硬件平台，以及使用TensorFlow Lite和ONNX等优化工具，可以显著提升深度学习模型的推理速度。 在实际应用中，合理配置和优化是提升模型性能的关键。
67710编辑于 2024-11-22 - 来自专栏自然语言处理
模型融合与超参数优化
模型之间差异越大，融合所得的结果将会更好。这种特性不会受融合方式的影响。注意这里所指模型之间的差异，并不是指正确率的差异，而是指模型之间相关性的差异。 对于正确率低的模型给予更低的权重，而正确率更高的模型给予更高的权重。 超参数优化 推荐两个工具：Optuna和BayesianOptimization 推荐1：Optuna import numpy as np import optuna import lightgbm application_train) X = application_train.drop('TARGET', axis=1) y = application_train.TARGET # 第一步：设置需要优化的参数 0.1), 'min_child_weight': (5, 50)}, random_state=0) # 第三步：设置优化目标
1.1K10发布于 2021-11-24 - 来自专栏有三AI
模型压缩和优化板块上线
1 模型优化与压缩 模型优化与压缩涉及到紧凑模型的设计，量化与剪枝以及相关的工业界使用技巧共3个大方向。最近会集中上线一些内容，已有内容欢迎大家预览。 一般操作是先训练模型，再进行量化，测试时使用量化后的模型。 如下图，这是一个4×4的权值矩阵，量化权重为4阶，即2bit，分别对应浮点数-1.0，0，1.5，2.0。 ? 在深度学习模型中有许多的非tensor网络层虽然参数很少，但是有较大的计算量，因此模型在最终部署到移动端时经常合并这些网络层从而进一步提高推理速度。 这是非常实用且强大的一个提升模型运行速度的方法，在实际进行模型部署时，常常会对BN等网络层进行合并。 [1] Li D, Wang X, Kong D. 更多紧凑模型设计可见。 ?
83470发布于 2019-08-26 - 来自专栏cwl_Java
性能优化-jvm的内存模型
3、jvm的内存模型 jvm的内存模型在1.7和1.8有较大的区别，虽然本套课程是以1.8为例进行讲解，但是我们 也是需要对1.7的内存模型有所了解，所以接下里，我们将先学习1.7再学习1.8的内存模型 3.1、jdk1.7的堆内存模型 ? 3.2、jdk1.8的堆内存模型 ? 由上图可以看出，jdk1.8的内存模型是由2部分组成，年轻代 + 年老代。
71340发布于 2020-02-13 - 来自专栏日常活动篇
深度学习 —— 模型训练与优化
在训练过程中，TensorFlow会计算损失函数的值，并基于该值来调整模型的参数。2 优化器（Optimizer）：优化器是TensorFlow中用于调整模型参数的算法。 它根据损失函数的梯度信息来更新模型的权重和偏置项，以最小化损失函数的值。常见的优化器包括随机梯度下降（SGD）、Adam等。用户可以根据具体任务选择合适的优化器，并设置相关参数。我们如何进行训练呢？ 构建模型：使用TensorFlow的API构建神经网络模型，包括定义输入层、隐藏层和输出层等。定义损失函数和优化器：根据具体任务选择合适的损失函数和优化器，并设置相关参数。 训练循环：通过迭代更新模型参数来最小化损失函数的值。在每次迭代中，模型会对输入数据进行前向传播，计算损失函数的值，并通过反向传播算法计算梯度，然后使用优化器更新模型参数。 通过多次迭代更新模型参数，我们期望这个模型能够在验证数据集上取得较好结果和性能。当然TensorFlow还提供了丰富的API和工具来支持模型训练与优化。
60300编辑于 2025-03-16 - 来自专栏HyperAI超神经
使用 TVMC 编译和优化模型
* 使用 TVM 在 CPU上调优模型。 * 用 TVM 收集的调优数据，重新编译优化过的模型。 * 通过优化的模型预测图像，并比较输出和模型性能。 自动调优 ResNet 模型 以前的模型被编译到 TVM runtime 上运行，因此不包含特定于平台的优化。本节将介绍如何用 TVMC，针对工作平台构建优化模型。 在这种情况下，可用自动调优器更好地配置模型，从而提高性能。TVM 中的调优是指，在给定 target 上优化模型，使其运行得更快。 模型的调优数据收集到后，可用优化的算子重新编译模型来加快计算速度。 调优后，演示如何比较未优化和优化模型的性能。 本文档展示了一个在本地使用 ResNet-50 v2 的简单示例。然而，TVMC 支持更多功能，包括交叉编译、远程执行和分析/基准测试。
1.1K10编辑于 2023-02-27
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号