您的当前位置:首页 >> 期刊文献 >> 正文
基于Polyak步长的方差缩减算法
摘 要:
方差缩减算法的主要问题之一是如何选取一个合适的步长。在实践中,手动调整一个最佳的固定步长是很耗时的,所以该文提出将Polyak步长用于随机方差缩减梯度算法(SVRG),得到了一种新的SVRG-Polyak算法。对于光滑强凸的目标函数我们证明了SVRG-Polyak算法的线性收敛性。数值实验对比了SVRG-Polyak、SVRG和带有BB步长的SVRG(SVRG-BB)3种算法,结果表明SVRG-Polyak算法的有效性。
作 者:
  • 李蝶
单 位:
    河北工业大学理学院
关键字:
  • Polyak步长;方差缩减;强凸;线性收敛;
页 码:
    174-177
出 处:
HTML阅读PDF文献下载您还没有登陆会员账号,请先登陆,在进行阅读或下载!
返回顶部 关注公众号