目录 引 主要内容 算法 ADADELTA 代码 引 这篇论文比较短，先看了这篇，本来应该先把ADAGRAD看了的。普通的基于梯度下降的方法，普遍依赖于步长，起始点的选择，所以，受ADAGRAD的启发，作者提出了一种ADADELTA的方法。 [Delta x_t = -frac{mathrm{RMS}[Delta x]_{t-1}}{math...
TSS: Total Sum of Squares（总离差平方和） --- 因变量的方差 RSS: Residual Sum of Squares （残差平方和） --- 由误差导致的真实值和估计值之间的偏差平方和(Sum Of Squares Due To Error) ESS: Explained Sum of Squares （回归平方和） -...