首页
学习
活动
专区
圈层
工具
发布
    • 综合排序
    • 最热优先
    • 最新优先
    时间不限
  • 来自专栏计算机视觉理论及其实现

    动量(momentum)和Nesterov动量

    一、动量虽然随机梯度下降仍然是非常受欢迎的优化方法,但其学习过程有时会很慢。动量方法旨在加速学习,特别是处理高曲率、小但一致的梯度,或是带噪声的梯度。 动量算法积累了之前梯度指数级衰减的移动平均,并且继续沿该方向移动。从形式上看,动量算法引入了变量v充当速度角色------它代表参数在参数空间移动的方向和速率。速度被设为负梯度的指数衰减平均。 名称动量来自物理类比,根据牛顿运动定律,负梯度是移动参数空间中粒子的力。动量在物理学上定义为质量乘以速度。在动量学习算法中,我们假设是单位质量,因此速度向量v也可以看作粒子的动量。 二、Nesterov动量受Nesterov加速度算法提出了动量算法的一个变种。 Nesterov动量和标准动量之间的区别体现在梯度计算上。Nesterov动量中,梯度计算在施加当前速度后。因此,Nesterov动量可以解释为往标准动量方法中添加了校正因子。

    6.1K30编辑于 2022-09-04
  • 来自专栏量化投资与机器学习

    动量因子30年

    如果获取动量收益:截面动量、时序动量及残差动量 我们首先回顾一下Jegadeesh和Titman(1993)构建的动量策略。 在所有资产上的等加权时间序列动量收益对各种风险调整和横截面股票动量策略的收益都是稳健的。其收益不仅高于横截面动量策略,而且能够完全解释横截面动量收益。 与基于原始股票回报率的动量策略的0.43%相比,由此产生的动量策略每月只产生0.13%的收益率。这些结果提供了证据,表明股市的动量至少在一定程度上是由行业动量推动的。 Arnott等人(2021)将股票动量、因子动量和行业动量结合起来。 然而,动量的起源仍然存在争议。基于风险的模型和基于行为的模型都为企业特定动量的存在提供了合理的论证,而关于行业动量和因子动量存在的新发现缺乏理论基础。

    1.8K31编辑于 2023-04-20
  • 来自专栏量化投资与机器学习

    动量扩散比MSR:有效的动量因子收益预测指标

    作者:Siyuan Ma 股价动量仍然是迄今为止最显著、最神秘的异象,在股票和投资组合层面都普遍存在。在动量相关的研究方向上,大多数研究集中在动量的截面特征上,而动量的时间序列特性却很少被提及。 本文提出一个指标动量扩散比指标MSR,来研究该指标对未来动量收益的预测作用! MSR比较低,说明还有很多动量利润并没有被聪明投资者挖掘,可以在t月使用动量因子获利。 除此之外,文中还探讨了MSR对残差动量及行业动量收益的预测性。 我们或许可以进一步探索,基于A股,使用MSR在动量因子进行择时上的效果。 总结 1994年之后动量异象就开始减轻,我们怀疑动量的大部分利润已经被吃掉了。但是1994年之后风险调整后的动量收益还是非常显著,这可能说明被消化掉的那部分动量收益是由于行为偏差导致的那部分。

    78330编辑于 2022-07-19
  • 来自专栏量化投资与机器学习

    多任务时序动量策略

    这种方法可以同时学习影响资产风险和收益的共同因素,权衡不同窗口期的风险和收益,并能提高了时间序列动量策略的表现。 传统时序动量策略 根据Moskowits(2012),传统的时间序列动量策略的收益可以有以下等式表示,及每一期买入或卖出的股票根据该股票过去252天的收益确定,并使用目标波动率确定每只股票的权重。 主要任务是多标的时间序列动量组合的构建。辅助任务是为了增强模型的共享表示,并允许模型更好地泛化,这反过来又有助于主任务。 主要任务:构建时序动量组合 从上文的基于目标波动率的传统时序动量策略可以看出,确定每只股票权重有两个因素:动量的方向和股票的波动率。 波动率预测的有效性会显著影响时间序列动量策略的表现。

    70130编辑于 2023-09-06
  • 来自专栏python pytorch AI机器学习实践

    Pytorch基础知识-动量

    上节课讲了Regularization的原理和使用,它作为一个有效的减少over-fitting的手段使用十分广泛,本节课补充介绍一些小技巧(动量)。 动量(Tricks)的概念来源于物理学,可理解为惯性(momentum)。 动量的概念来源于我们所使用的梯度信息 ? 其物理意义如下图所示 ? 此时若加入不同的参数值也会使其方向发生改变。

    91920发布于 2019-11-17
  • 来自专栏数说工作室

    量化投资之动量反转

    动量效应与反转效应 动量效应是指前段时间收益率较高的股票,在接下来的表现仍会超过早期收益率低的股票,即,前段时间强势的股票,在未来一段时间继续保持强势。 动量效应也成惯性效应,它来源于物理学的动量定理,该定理反映了力对时间的累计效应(见图1)。 ? 动量(反转)策略模型 如果能从股票市场上千只股票的大海中筛选出有动量效应的股票,即:当它的超额收益为正(负)时,之后的超额收益也会为正(负)。 动量策略模型的目的在于判断出有动量效应和反转效应的股票,以便进行相应的投资。本图结合两个例子,简单介绍测试动量效应和反转效应的两种方法: 1. 动量检验法 Jegadeesh和Titman(1993)首次发现并系统论证了动量现象,他们用统计检验来检验股票的动量效应。

    2.7K100发布于 2018-04-08
  • 来自专栏量化投资与机器学习

    动量因子:行为金融角度新解

    核心观点 Robeco最近有一篇不错的文章,公众号进行脱水整理,分享给大家: 长期来看,动量因子带来了强劲的收益 动量溢价是由行为而不是风险来解释的 人类犯错的倾向是决定因子持久性的基础 动量投资的概念很简单 由于缺乏足够的基于风险的解释,即使是有效市场假说之父尤金 · 法玛也认为动量是对他的理论的最大挑战。 行为偏差导致动量溢价 相对于新古典主义理论的解释,行为金融学更成功地解释了动量因子的存在。 其次,虽然动量溢价与行为偏差而非风险有关,但如何更好的利用动量因子却并没有那么容易。动量策略已经被证明易于发生罕见但严重的崩盘。因此,动量投资者还需要能够在较长时期内投入资本,并做好面对挑战的准备。 第三,定义动量没有一个唯一正确的方法。即使是简单的价格动量,也经常使用不同的回溯窗口来定义,从3个月到12个月不等。 此外,投资者也可以选择仅使用一种动量因子,也可以选择结合多种动量因子,如剩余动量或结合相关的分析师动量。 最后,我们不应该低估人类心理和我们犯认知错误的倾向。

    1.2K20发布于 2021-10-12
  • 来自专栏从流域到海域

    使用动量的梯度下降法

    update your weights instead 指数加权平均参考前一篇博客:https://blog.csdn.net/Solo95/article/details/84837217 使用动量的梯度下降法 使用动量的梯度下降法,“动量”,来自对它的物理上的解释,相当于在一个碗里丢一个小球,通过赋予小球动量,使其减少在碗壁上的左右摆动,让它更快到达碗底,。 使用动量的梯度下降法计算方法 ?

    90020发布于 2019-05-26
  • 来自专栏智能大数据分析

    【深度学习优化算法】06:动量

    诚然,即使是对于无噪声凸问题,加速度这方面也是动量如此起效的关键原因之一。   正如人们所期望的,由于其功效,动量是深度学习及其后优化中一个深入研究的主题。 让我们看看当降低动量参数时会发生什么。将其减半至 \beta = 0.25 会导致一条几乎没有收敛的轨迹。尽管如此,它比没有动量时解将会发散要好得多。 这在动量法中也适用。 小结 动量法用过去梯度的平均值来替换梯度,这大大加快了收敛速度。 对于无噪声梯度下降和嘈杂随机梯度下降,动量法都是可取的。 动量法可以防止在随机梯度下降的优化过程停滞的问题。 在凸二次问题中,可以对动量法进行明确而详细的分析。 动量法的实现非常简单,但它需要我们存储额外的状态向量(动量 \mathbf{v} )。

    35600编辑于 2025-07-19
  • 来自专栏MixLab科技+设计实验室

    机器学习VS动量、反转效应,量化交易1

    基于这些机器学习方法来预测中国股市的动量、反转效应。 01 / 什么是动量效应 Momentum effect 一般又称“惯性效应”,动量效应是由Jegadeesh和Titman(1993)提出的,是指股票的收益率有延续原来的运动方向的趋势,即过去一段时间收益率较高的股票在未来获得的收益率仍会高于过去收益率较低的股票 总的来说,动量和逆转效应是股票市场中常见且有趣的现象。动量效应意味着过去表现良好的股票可能继续优于过去表现不佳的股票。相反,逆转效应表明过去的输家可能会在未来转变为赢家。

    96421发布于 2019-09-16
  • 来自专栏量化投资与机器学习

    因子投资:价值和动量是否已死?

    3、动量并未死亡。 含义:没有迹象表明动量应当被遗弃。 下图是来自Ken French’s网站的一些投资组合的历史收益,包括:大盘价值/大盘成长(代表价值)和大盘高动量/大盘低动量(代表动量) ? 从长远来看(1963年至今),大盘价值略微优于大盘成长,大盘高动量显著超过大盘低动量 小市值因子表现怎么样? 然后,按市值大小五等分划分的高动量/低动量投资组合图: ? 结论:大市值全面战胜小市值,动量在所有市值上都能发挥作用。 以下是Ken French对5×5动量组合的详细解释,这是我们获得大盘高动量数据的地方(价值也类似): ?

    1.3K30发布于 2019-05-09
  • 来自专栏机器学习算法与理论

    深度学习—带动量的SGD相关参数

    动量的sgd如下图所示: ? image.png 一、weight decay(权值衰减)的使用既不是为了提高你所说的收敛精确度也不是为了提高收敛速度,其最终目的是防止过拟合。

    1.4K50发布于 2018-08-02
  • 来自专栏深度学习自然语言处理

    深度学习优化算法入门:二、动量、RMSProp、Adam

    动量 搭配SGD使用的一个非常流行的技术是动量(Momentum)。动量法不仅使用当前的梯度,同时还利用之前的梯度提供的信息。 ? 上面的第一个等式就是动量动量等式由两部分组成,第一项是上一次迭代的动量,乘以“动量系数”。 ? 比如,假设我们将初始动量v设为0,系数定为0.9,那么后续的更新等式为: ? 也就是说,基于动量法的更新,积累了w2方向上的分量,清空了w1方向上的分量,从而帮助我们更快地通往最小值。从这个意义上说,动量法也有助于抑制振荡。 动量法同时提供了加速度,从而加快收敛。 为了得出学习步幅,等式3在学习率上乘以梯度的平均(类似动量),除以梯度平方平均的均方根(类似RMSProp)。等式4是权重更新步骤。 在这三种方法之中,也许动量法用得更普遍,尽管从论文上看Adam更吸引人。经验表明这三种算法都能收敛到给定损失曲面的不同的最优局部极小值。

    3K10发布于 2019-11-19
  • 来自专栏站长的编程笔记

    【说站】python中使用动量交易策略

    python中使用动量交易策略 说明 动量交易策略,动量是物体质量和速度的乘积,动量一方面描述了物体的运动状态,另一方面也描述了惯性的大小。 这种动量可能会继续保持上升或下降,动量可能会越来越小,直到运动状态发生变化。 1、股票资产组合的中期收益存在持续性,即中期价格具有向某个方向持续波动的动量效应。 2、python作差法求动量,即用今天的价格减去一段时间间隔(m期)以前的价格。 以上就是python中使用动量交易策略的方法,希望对大家有所帮助。

    74620编辑于 2022-11-23
  • 来自专栏菩提树下的杨过

    FlashFlex学习笔记(43):动量守恒与能量守恒

    动能公式: 动量公式: 动量守恒: 能量守恒: 根据这些规律可以得到下列方程组: 解该方程组,得到下面的公式: 把这二个公式相减,可以得到: 即: 我们也经常利用这个公式简化运算 基本的动量守恒演示:

    61370发布于 2018-01-22
  • 来自专栏智能制造预测性维护与大数据应用

    研华振动量测公开课视频(上)

    研华振动量测公开课视频,讲述振动量测解决方案,硬件构成、软件特性和应用实例。

    24320编辑于 2022-05-30
  • 来自专栏量化投资与机器学习

    价值因子的改进:结合动量的思想

    基于指标变动比率(指标的动量)也比使用指标当期值更能筛选出有价值的股票。 价值因子结合动量因子后模型的表现也有进一步的提升。 价值因子 价值投资一直是投资策略的重要基石之一。 在本篇论文提出的改进的价值因子的方法中,为了避免数据挖掘带来的不可解释性,作者基于以上6个有经济学含义及逻辑、且有学术文献支撑的指标,通过采用指标的动量(即指标的变动,而不是指标的当期值)及结合收益动量的思想来改进价值因子的表现 结合动量因子 过去有很多研究表明,当价值因子与动量因子结合后,会提高组合的收益,一个主要的原因是价值因子与动量因子的负相关性(在前面的研究中,也证实了这一现象)。 Moskowitz, Ooi, and Pedersen (2012)中提到,时序动量和截面动量的不同,且时序动量的收益要大于截面动量。 所以,在本篇论文中,结合时序动量,作者提出了三种结合动量的方式: 个股层面的动量与价值因子等权组合:Equal-Weighted Momentum and Composite Trend Value Score

    1.1K30发布于 2021-07-29
  • 来自专栏NFT链游的应用

    动量化交易系统如何设计开发?

    一个交易系统,假设胜率是P,赢亏比是R=W/L,系统期望值为M。 M=P*W-(1-P)*L

    1.7K40编辑于 2022-06-17
  • 来自专栏量化投资与机器学习

    基于决策树的动态时序动量策略

    在本文中,我们选取N=1作为短周期动量信号,N=12作为长周期动量信号。下图1、2给出了2000年1月到2020年12月,标普500指数的长短周期动量信号。 长短周期动量在过去20年,平均占了63.5%的时间。 下图3-4给出了按照基本动量策略交易的策略收益曲线及绩效指标,可以看出长短周期的策略都有正收益,说明市场是有动量效应的。 不同市场波动下的动量表现 当市场相对平稳的时候,长周期的动量策略更能适合市场的走势,相比短周期的动量信号,能获得更高的收益。而在市场波动较大时 ,短周期的动量策略更占优势。 也就是说,在标注训练数据时,预测目标是下一时间段该采用的动量策略类型。在时间 t,如果 ,那下一时间段使用短周期(Fast)的动量策略;如果 ,那下一时间段使用长周期(Slow)的动量策略。 训练时,只使用长短周期动量不一致的数据,所使用的模型只是简单的决策树模型。经过训练后,决策树模型给出了一个阈值17%。当月度波动大于17%时,短周期的动量策略效果优于长周期的动量策略;反之亦然。

    1.2K40编辑于 2023-07-08
  • 来自专栏量化投资与机器学习

    利用深度神经网络增强时间序列动量策略

    第1篇 20190716 利用深度神经网络增强时间序列动量策略 ▍作者 Bryan Lim、Stefan Zohren、Stephen Roberts Abstract 虽然时间序列动量在金融领域是一个被广泛研究的现象 在本文中,我们引入了深度动量网络(Deep Momentum Networks),一种基于深度学习的交易信号与时间序列动量策略中使用的波动率缩放框架相结合的方法。 这一点尤其重要,因为在市场恐慌期间,没有足够风险调整的原始动量策略(如波动性扩大)很容易发生大规模崩盘。 在这篇paper中,引入了一种新的混合模型,它将基于深度学习的交易信号与时间序列动量策略中使用的波动率缩放框架相结合 ——我们把它称之为深度动量网络(DMNs)。从多个角度改进了现有的方法。 最后,与其他动量策略保持一致的框架还允许我们保留以前工作中需要的属性——特别是波动率缩放,这对时间序列动量策略的积极表现起着至关重要的作用。

    1.7K31发布于 2019-07-17
领券