基于Polyak步长的随机递归梯度算法
Mathematica Applicata（2024）
太原师范学院数学与统计学院
摘要
针对机器学习中一类有限光滑凸函数和的最小化问题,将随机递归梯度算法和Polyak步长结合,提出基于Polyak步长的随机递归梯度算法(SARAH-Polyak).分别在强凸和一般凸条件下证明了算法的线性收敛性.实验结果表明SARAH-Polyak算法的有效性.
更多关键词
Polyak step size,Random recursion,Gradient descent
原文链接
分享
引用
