- 综合排序
- 最热优先
- 最新优先
- 来自专栏深度学习
9种神经网络优化算法详解
优化器的作用就在于此: 它决定了如何调整神经网络的权重和学习率以减少损失。优化算法通过不断优化损失函数，帮助模型尽可能地输出准确的结果。 9种优化器列举9种不同类型的优化器以及它们是如何精确地工作以最小化损失函数的。 ，它在传统的动量优化算法的基础上引入了“前瞻性”更新机制，从而提高了收敛速度并减少了震荡。 案例以下是一个基于Adaptive Gradient（AdaGrad）优化算法的Python代码示例，并附带了优化过程的可视化效果。 9：Adaptive Moment Estimation（Adam）在机器学习中，Adam（Adaptive Moment Estimation，自适应矩估计）作为一种高效的优化算法脱颖而出。
1.7K10编辑于 2025-02-07 - 来自专栏全栈程序员必看
《算法图解》-9动态规划 背包问题，行程最优化
本文属于《算法图解》系列。学习动态规划，这是一种解决棘手问题的方法，它将问题分成小问题，并先着手解决这些小问题。 就是动态规划算法。动态规划先解决子问题，再逐步解决大问题。 每个动态规划算法都从一个网格开始，背包问题的网格如下。 网格的各行为商品，各列为不同容量（1～4磅）的背包。 但使用贪婪算法可轻松地处理这种情况！首先，尽可能多地拿价值最高的商品；如果拿光了， 再尽可能多地拿价值次高的商品，以此类推。 2.6 旅游行程最优化 假设你要去伦敦度假，假期两天，但你想去游览的地方很多。你没法前往每个地方游览，因此你列个单子。 这也是一个背包问题！ 还有网上有优化算法，二维数组转一维数组，只为了求值优化，但是不能找到最优组合选择的元素。感兴趣的可以试验下。
1.5K41编辑于 2022-09-17 - 来自专栏文武兼修ing——机器学习与IC设计
神经网络优化算法总结优化算法框架优化算法参考
优化算法框架 优化算法的框架如下所示： $$ w_{t+1} = w_t - \eta_t \ \eta_t = \cfrac{\alpha}{\sqrt{V_t}} \cdot m_t $$ ,g_t) \ g_t = \nabla f(w_t) $$ 一阶动量和二阶动量均是历史梯度和当前梯度的函数 优化算法 固定学习率优化算法 学习率固定的优化算法均有一个特点：不考虑二阶动量（即$M _2(g_i) = I$） 随机梯度下降（SGD） 随机梯度下降时最简单的优化算法，有：$m_t = g_t,V_t = I$，带入公式有优化公式为：$\eta_t = \alpha \cdot g_t m_{t-1}) \ m_t = \beta \cdot m_{t-1} + (1-\beta)\cdot g_t \ \eta_t = \alpha \cdot m_t $$ 自适应学习率优化算法 自适应学习率的优化算法考虑二阶动量，一般来说，一阶动量决定优化方向，二阶动量自适应学习率 AdaGrad 二阶动量取梯度平方和：$V_t = \sum\limits^t_{i=1} g^2_i$，此时
1.3K80发布于 2018-04-27 - 来自专栏全栈程序员必看
【优化算法】粒子群优化算法简介
在此基础上，提出了一种基于元启发式（ metaheuristic）的粒子群优化算法来模拟鸟类觅食、鱼群移动等。这种算法能够模拟群体的行为，以便迭代地优化数值问题。 例如，它可以被分类为像蚁群算法、人工蜂群算法和细菌觅食这样的群体智能算法。 J. ）的强大算法，受鸟群中的规则启发，连续优化过程允许多目标和更多的变化。 ---- 粒子群优化算法伪代码： 其中： V i ( k + 1 ) V_i(k+1) Vi(k+1) 是下一个迭代速度； W W W 是惯性参数。 为了测试算法，Rastrigin函数将被用作误差函数，这是优化问题中最具挑战性的函数之一。在平面上有很多余弦振荡会引入无数的局部极小值，在这些极小值中，boid会卡住。
1.9K20编辑于 2022-11-10 9个SQL优化技巧
大多数的接口性能问题，很多情况下都是SQL问题，在工作中，我们也会定期对慢SQL进行优化，以提高接口性能。这里总结一下常见的优化方向和策略。 过度索引：当表中存在过多的索引时，可能会导致数据库优化器在选择使用哪个索引时变得困难。这可能会导致查询性能下降，因为优化器可能选择了不是最优的索引。 为了优化这个查询，我们可以考虑以下几种方法： 索引优化： 确保在 customer_id 字段上创建索引，以加速 GROUP BY 和 WHERE 子句的执行。 条件优化： 使用WHERE条件在分组前，就把多余的数据过滤掉了，这样分组时效率就会更高一些。而不是在分组后使用having过滤数据。 深分页limit优化深分页通常指的是在处理大量数据时，用户需要浏览远离首页的页面，例如第100页、第1000页等。
1.3K10编辑于 2024-05-21- 来自专栏hotarugaliの技术分享
优化算法
简介 深度学习网络中参数更新的优化方法主要分为两种： 调整学习率，使得优化更稳定 梯度估计修正，优化训练速度 2. 常用优化方法汇总 image.png 3. L,⋯,∂Wt∂L) 其中， 是第 步的梯度， 是第 步的学习率（可以进行衰减，也可以不变）； 是学习率缩放函数，可以取 1 或者历史梯度的模的移动平均； 是优化后的参数更新方向
1.7K10编辑于 2022-03-10 - 来自专栏大数据和云计算技术
算法基础9：散列表
算法是基础，小蓝同学准备些总结一系列算法分享给大家，这是第9篇《散列表》，非常赞！希望对大家有帮助，大家会喜欢！ 前面系列文章： 归并排序 #算法基础#选择和插入排序 由快速排序到分治思想 算法基础：优先队列 二分查找 二叉树查找 平衡查找树概述 平衡树之红黑树 散列表是我们比较简单的一种查找算法，是用这种建议方法的扩展并能够处理更加复杂的类型的键 使用散列表的查找算法分为两步 第一步用散列函数将被查找的键转化为数组的一个索引。理想情况下，不同的键都可以变为不同的索引，但有时有特殊情况，这就涉及到我们的第二步处理碰撞冲突的过程。 一、散列函数键值转换 散列算法有很多种实现，在java中没中类型都需要相应的散列函数，例如;在正整数 最常用的是除留余数法（k%M）。 三、应用 散列表的应用是使用最广泛的算法之一 信息安全领域： Hash算法 可用作加密算法。
86120发布于 2018-07-26 - 来自专栏DotNet NB && CloudNative
.NET 9 的 LINQ 优化详解
在 .NET 9 中，微软为 LINQ（Language Integrated Query）引入了三个新的扩展方法，增强了数据查询的灵活性和表达力。 这是对 GroupBy(...).Select(g => new { g.Key, Aggregate = g.Aggregate(...) }) 的优化，性能更高且代码更简洁。 91533 • Index: https://github.com/dotnet/runtime/issues/95563 • 博客文章： • Three new LINQ methods in .NET 9 Three new LINQ methods in .NET 9 • Unlocking New Possibilities: Top LINQ Methods Introduced in .NET 9
26610编辑于 2025-07-26 - 来自专栏乐行僧的博客
9-选择排序算法
注意点： 不稳定的排序算法 代码： #include <stdio.h> typedef int bool; #define true 1 #define false 0 void swap(int swap(&a[minIndex], &a[i]); } } } int main() { int a[] = {3, 1, 2, 4, 7, 0, 5, 8, 6, 9}
14840编辑于 2022-02-25 - 来自专栏算法工程师之路
每日算法题：Day 9
作者：TeddyZhang，公众号：算法工程师之路 Day 9, Python知识点走起~ 1 编程题 【剑指Offer】树的子结构 输入两棵二叉树A，B，判断B是不是A的子结构。 struct TreeNode *right; 6 TreeNode(int x) : 7 val(x), left(NULL), right(NULL) { 8 } 9} 二叉树的镜像定义：源二叉树 8 / \ 6 10 / \ / \ 5 7 9 11 镜像二叉树 8 / \ 10 6 / \ / \ 11 9 7 5 思路： 这个使用递归的思路就很简单，一般二叉树用递归的方法很多，比如二叉树的遍历也可以使用递归的方法。 struct TreeNode *right; 6 TreeNode(int x) : 7 val(x), left(NULL), right(NULL) { 8 } 9}
45720发布于 2019-08-13 - 来自专栏null的专栏
优化算法——遗传算法
，便去学习和研究了粒子群算法，人工蜂群算法等等的群体智能算法。 遗传算法的基本概念 遗传算法(Genetic Algorithm, GA)是由Holland提出来的，是受遗传学中的自然选择和遗传机制启发发展起来的一种优化算法，它的基本思想是模拟生物和人类进化的方法求解复杂的优化问题 基本定义 个体(individual)：在遗传学中表示的是基因编码，在优化问题中指的是每一个解。 适应值(fitness)：评价个体好坏的标准，在优化问题中指的是优化函数。 适应度函数的计算 适应度函数的目的是评价个体的好坏，如上面的优化问题中，即为最终的优化目标函数。 我在这里简单介绍了遗传算法，遗传算法是一个研究较多的算法，还有利用遗传算法求解组合优化问题，带约束的优化问题，还有一些遗传算法的理论知识，如模式定理，积木块假设，在这里就不一一列举了，希望我的博文对你的学习有帮助
4.4K61发布于 2018-03-20 - 来自专栏null的专栏
优化算法——遗传算法
遗传算法的基本概念 遗传算法(Genetic Algorithm, GA)是由Holland提出来的，是受遗传学中的自然选择和遗传机制启发发展起来的一种优化算法，它的基本思想是模拟生物和人类进化的方法求解复杂的优化问题 基本定义 个体(individual)：在遗传学中表示的是基因编码，在优化问题中指的是每一个解。 适应值(fitness)：评价个体好坏的标准，在优化问题中指的是优化函数。 适应度函数的计算 适应度函数的目的是评价个体的好坏，如上面的优化问题中，即为最终的优化目标函数。 ( 1-a_2 \right )x_2,\cdots ,a_ny_n+\left ( 1-a_n \right )x_n \right ) 变异(mutation) 变异操作的目的是使得基因突变，在优化算法中 我在这里简单介绍了遗传算法，遗传算法是一个研究较多的算法，还有利用遗传算法求解组合优化问题，带约束的优化问题，还有一些遗传算法的理论知识，如模式定理，积木块假设，在这里就不一一列举了，希望我的博文对你的学习有帮助
1.7K20发布于 2019-02-13 - 来自专栏测试开发干货
【简历优化平台开发教程-9】目标企业 优化意向
偏向的话更看重你的基础和深度，面试的话一般不会在乎你的过往成果，而是当场考你代码的底层原理和算法。 所以，简历优化的话后期算法上，也会着重偏向检查各位简历的内容是否满足上述目标企业。
28020编辑于 2023-08-14 - 来自专栏从流域到海域
Adam优化算法
Adam优化算法 基本思想是把动量梯度下降和RMSprop放在一起使用。 Adam优化算法计算方法 动量梯度下降部分： vdw=β1vdw+(1−β1)dWv_{dw}=\beta_1 v_{dw}+(1-\beta_1)dWvdw=β1vdw+(1−β1)dW 这是Adam名称的由来，大家一般称之为：Adam Authorization Algorithm(Adam权威算法)。 默认参数值选取 α\alphaα 学习速率是你需要是调参的。 β2=0.999\beta_2=0.999β2=0.999 -> dw2dw^2dw2 -> (dw2)(dw^2)(dw2) RMSprop term. 0.999出自Adam paper，即该算法提出者
1.3K20发布于 2019-05-26 - 来自专栏WD学习记录
kmeans优化算法
k-means算法的优、缺点 1、优点： ①简单、高效、易于理解 ②聚类效果好 2、缺点： ①算法可能找到局部最优的聚类，而不是全局最优的聚类。使用改进的二分k-means算法。 优化方法 二分k-means算法：首先将整个数据集看成一个簇，然后进行一次k-means（k=2）算法将该簇一分为二，并计算每个簇的误差平方和，选择平方和最大的簇迭代上述过程再次一分为二，直至簇数达到用户指定的 算法进行细聚类。 k-means算法的k值自适应优化算法：首先给定一个较大的k值，进行一次k-means算法得到k个簇中心，然后计算每两个簇中心之间的距离，合并簇中心距离最近的两个簇，并将k值减1，迭代上述过程，直至簇类结果 参考： k-means算法、性能及优化
2.3K30发布于 2018-09-04 - 来自专栏美小妮
智能优化算法
智能优化算法神经网络算法利用的是目标函数导数信息去迭代更新参数，选找目标函数最优值。智能优化算法是一种收索算法，也是通过迭代，筛选，选找目标函数最优值（极值）。 一般步骤为：给定一组初始解评价当前这组解的性能从当前这组解中选择一定数量的解作为迭代后的解的基础在对其操作，得到迭代后的解若这些解满足要求则停止，否则将这些迭代得到的解作为当前解重新操作智能优化算法包含有许多 ，比如粒子群优化算法（PSO）,飞蛾火焰算法（MFO）...等一.飞蛾火焰算法(MFO)算法核心思想：飞蛾以螺旋线运动方式不断靠近火焰，痛过对火焰的筛选，不断选出离目标函数极值最接近的位置。 用随机的位置与该鲸鱼位置做差，然后用该随机的位置和做差后的值继续做差，去更新鲸鱼位置三.樽海鞘群优化算法(SSA)算法核心思想：与MFO类似，初始化鱼群后，对其求自适应度，然后进行排序，记录最小位置（也就是最优位置 四.灰太狼优化器(GWO)算法核心思想：与前面几种都是类似初始化狼群（随机初始化）和初始化3只重要程度递减的狼（Alpha、Beta、Delta，求解极小值问题时候初始化为无穷大）判断狼群是否超出边界，
93320编辑于 2023-10-06 - 来自专栏null的专栏
优化算法——凸优化的概述
一、引言 在机器学习问题中，很多的算法归根到底就是在求解一个优化问题，然而我们的现实生活中也存在着很多的优化问题，例如道路上最优路径的选择，商品买卖中的最大利润的获取这些都是最优化的典型例子 ，前面也陆续地有一些具体的最优化的算法，如基本的梯度下降法，牛顿法以及启发式的优化算法(PSO,ABC等)。 三、三类优化问题 主要有三类优化问题： 无约束优化问题 含等式约束的优化问题 含不等式约束的优化问题 针对上述三类优化问题主要有三种不同的处理策略，对于无约束的优化问题，可直接对其求导 四、正则化 在“简单易学的机器学习算法——线性回归(1)”中，在处理局部加权线性回归时，我们碰到了如下的三种情况： ? ? ? ? ? ? 当 ? 时模型是欠拟合的，当 ? 时模型可能会出现过拟合。 正则化主要有两种： L1-Regularization，见“简单易学的机器学习算法——lasso” L2-Regularization，见“简单易学的机器学习算法——岭回归(Ridge Regression
1.5K70发布于 2019-02-13 - 来自专栏全栈程序员必看
粒子群优化算法matlab程序_多目标优化算法
粒子群优化算法概述 2. 粒子群优化算法求解 2.1 连续解空间问题 2.2 构成要素 2.3 算法过程描述 2.4 粒子速度更新公式 2.5 速度更新参数分析 3. 粒子群优化算法小结 4. MATLAB代码 1. 粒子群优化算法概述 粒子群优化算法是一种基于 种群寻优的启发式搜索算法。在1995年由Kennedy和Eberhart首先提出来的。 粒子群优化算法借鉴了这样的思想，每个粒子代表待求解问题搜索解空间中的一一个潜在解，它相当于一只飞行信息”包括粒子当前的 位置和速度两个状态量。 粒子群优化算法求解 粒子群优化算法一般适合解决连续解空间的问题，比如通过粒子群在解空间里进行搜索，找出极大值。 粒子群优化算法改进 随着粒子群算法的广泛使用，人们发现如果加入一个惯性权重的话，优化的效果更好。 引入了一个 w w w 参数，控制先前粒子速度对下一轮粒子速度的影响，以适应不同场景。
1.1K20编辑于 2022-11-10 - 来自专栏全栈程序员必看
神经网络的优化算法_梯度下降优化算法
最近回顾神经网络的知识，简单做一些整理，归档一下神经网络优化算法的知识。关于神经网络的优化，吴恩达的深度学习课程讲解得非常通俗易懂，有需要的可以去学习一下，本人只是对课程知识点做一个总结。 吴恩达的深度学习课程放在了网易云课堂上，链接如下（免费）： https://mooc.study.163.com/smartSpec/detail/1001319001.htm 神经网络最基本的优化算法是反向传播算法加上梯度下降法 Momentum算法 Momentum算法又叫做冲量算法，其迭代更新公式如下： \[\begin{cases} v=\beta v+(1-\beta)dw \\ w=w-\alpha v \end{cases 实验表明，相比于标准梯度下降算法，Momentum算法具有更快的收敛速度。为什么呢？看下面的图，蓝线是标准梯度下降法，可以看到收敛过程中产生了一些震荡。 Adam算法 Adam算法则是以上二者的结合。
1K20编辑于 2022-09-16 - 来自专栏null的专栏
优化算法——凸优化的概述
一、引言 在机器学习问题中，很多的算法归根到底就是在求解一个优化问题，然而我们的现实生活中也存在着很多的优化问题，例如道路上最优路径的选择，商品买卖中的最大利润的获取这些都是最优化的典型例子，前面也陆续地有一些具体的最优化的算法 ，如基本的梯度下降法，牛顿法以及启发式的优化算法(PSO,ABC等)。 三、三类优化问题 主要有三类优化问题： 无约束优化问题 含等式约束的优化问题 含不等式约束的优化问题 针对上述三类优化问题主要有三种不同的处理策略，对于无约束的优化问题，可直接对其求导 四、正则化 在“简单易学的机器学习算法——线性回归(1)”中，在处理局部加权线性回归时，我们碰到了如下的三种情况： ? ? ? ? ? ? 当 ? 时模型是欠拟合的，当 ? 时模型可能会出现过拟合。 正则化主要有两种： L1-Regularization，见“简单易学的机器学习算法——lasso” L2-Regularization，见“简单易学的机器学习算法——岭回归(Ridge Regression
2.8K100发布于 2018-03-19
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号