思路：线搜索最优化算法，一般是先确定迭代方向（下降方向），然后确定迭代步长；信赖域方法直接求得迭代位移； 算法分析 第(k)次迭代，确定迭代位移的问题为(信赖域子问题)： [min q_k(d)=g_k^Td+frac{1}{2}d^TB_kd_k ] [s.t.quad ||d||leq Delta_k ] 其中(Delta_k)为信赖域半径 对于求得的...
一、方向导数 limt->0f(x0+td)-f(x0) / t 存在 则该极限为f在x0处沿方向d的方向导数 记为 ∂ f/∂ d 下降方向： 方向导数∂ f/∂ d <0 ，则d为f在x0处的下降方向 二、梯度 对于向量x,若每个偏导数 ∂ f/∂ x(i) 都存在 则列向量为f在x处的梯度 记号 ▽f(x) 三、可微与梯度 可微则一定存在...