随机并行梯度下降算法为什么不能误一直下降下去

2025-04-01 17:17:37
推荐回答(1个)
回答1:

梯度下降和随机梯度下降之间的关键区别: 1、标准梯度下降是在权值更新前对所有样例汇总误差,而随机梯度下降的权值是通过考查某个训练样例来更新的。 2、在标准梯度下降中,权值更新的每一步对多个样例求和,需要更多的计算。 3、标准梯度下降